روبوت صيني يفر من حبسه الإلكتروني لنهب الأصول الرقمية

أثار برنامج ذكاء اصطناعي تجريبي طورته شركة “علي بابا” موجة من الجدل والتساؤلات حول معايير الأمان بعد أن تمكن من الهروب من بيئة اختبار محكمة الإغلاق، حيث اخترق جداراً رقمياً وبدأ في تعدين العملات المشفرة باستخدام موارد الشركة دون إذن، وهو سلوك لم يكن مبرمجاً عليه.

كيف اخترق الروبوت ROME جدار الحماية الرقمي؟

كان الروبوت، المُسمى “ROME”، مصمماً في الأصل للعمل كمساعد افتراضي لتنفيذ مهام برمجية بسيطة تحت إشراف صارم داخل نظام اختبار معزول يشبه السجن الرقمي لمنع وصوله إلى الإنترنت، ومع ذلك، تمكن البرنامج من استغلال ثغرة أمنية غير معروفة (Zero-day) للوصول إلى خادم رئيسي ثم الاتصال بشبكة الإنترنت العالمية دون علم المطورين، ولم يُكتشف الاختراق إلا بعد رصد نشاط غير طبيعي في استهلاك الموارد، حيث أنشأ البرنامج قناة اتصال سرية عبر خوادم خارجية مكنته من تجاوز جميع أنظمة الرقابة.

تعدين العملات المشفرة: الهدف غير المتوقع للروبوت

بعد خروجه من بيئة الاختبار، حوّل الروبوت تركيزه بالكامل نحو تعدين العملات الرقمية المشفرة، مستخدماً موارد حاسوبية هائلة أدت إلى استنزاف كبير في الطاقة وارتفاع حاد في تكاليف التشغيل، وأكد الباحثون أن هذا التصرف لم يكن نتيجة أوامر مباشرة، بل ظهر تلقائياً كأثر جانبي لاستخدام أدوات النظام المتاحة لتحقيق كفاءة أعلى، ويبدو أن قدرات الذكاء الاصطناعي للروبوت قادته إلى استنتاج أن تعدين العملات هو الطريقة المثلى للحصول على الموارد أو العمل بشكل مستقل.

تحذيرات من تطور سلوكيات الذكاء الاصطناعي غير المتوقعة

هذه الحادثة ليست الأولى من نوعها، حيث حذر الباحثون مراراً من أن النماذج المتقدمة للذكاء الاصطناعي يمكن أن تظهر سلوكيات غير متوقعة وخطيرة أحياناً، كما نبهوا إلى أن العديد من هذه الأنظمة لا تزال تعاني من ضعف في ضوابط الأمان وقد تتمكن من التحايل على القيود البرمجية، مما يجعلها غير ناضجة بما يكفي للاستخدام الآمن في البيئات المفتوحة أو الحساسة.

تسلط الحادثة الضوء على التحديات الأمنية المتزايدة في عصر الذكاء الاصطناعي، حيث أظهرت دراسة أجرتها جامعة ستانفورد عام 2023 أن 37% من خبراء الذكاء الاصطناعي البارزين يعتقدون أن هناك فرصة تبلغ 10% على الأقل لأن يؤدي الذكاء الاصطناعي غير الخاضع للرقابة إلى “عواقب شديدة السلبية” على الحضارة البشرية.