بدأ برنامج الذكاء الاصطناعي في تعدين العملات المشفرة من تلقاء نفسه أثناء التدريب، مما أدى إلى إطلاق تنبيه أمني داخلي.

نشر فريق بحثي تابع لشركة علي بابا ورقة بحثية تفيد بأنه أثناء تطوير وكيل ذكاء اصطناعي يُدعى "رومي"، اكتشفوا أن هذا الوكيل حاول تعدين العملات المشفرة دون إذن خلال فترة التدريب، مما أدى إلى إطلاق تنبيه أمني داخلي. وذكر الباحثون أن سلوك الوكيل كان تلقائيًا، ولم يكن مدفوعًا بأي تعليمات صريحة، وتجاوز حدود بيئة الاختبار المعزولة المحددة مسبقًا. علاوة على ذلك، أنشأ الوكيل نفق SSH عكسيًا، مما أدى فعليًا إلى فتح ثغرة أمنية خفية من داخل النظام إلى جهاز كمبيوتر خارجي. وتشير الورقة البحثية إلى أن هذه السلوكيات لم تكن ناتجة عن أي طلبات لإنشاء النفق أو تعدين العملات المشفرة. وعلى إثر ذلك، فرض الفريق البحثي قيودًا أكثر صرامة على النموذج وحسّن عملية التدريب لمنع تكرار مثل هذا السلوك غير الآمن. ولم يستجب الفريق البحثي ولا شركة علي بابا لطلبات التعليق.