خطط طوارئ ضرورية في حالة فقدان البشر السيطرة على الذكاء الاصطناعي

في 16 سبتمبر، تم تشكيل تحالف من القادةمنظمة العفو الدولية العلماء فيإفادة ودعا إلى إنشاء نظام إشرافي عالمي للتخفيف من خطر "النتائج الكارثية" إذا خرجت أنظمة الذكاء الاصطناعي عن السيطرة البشرية.

وأعربوا عن مخاوفهم من أن التكنولوجيا التي ساعدوا في إنشائها قد تشكل تهديدات كبيرة إذا لم تتم إدارتها بشكل صحيح.

ال إفادة يقرأ:

"إن فقدان السيطرة البشرية أو الاستخدام الخبيث لأنظمة الذكاء الاصطناعي هذه قد يؤدي إلى نتائج كارثية للبشرية جمعاء. ومن المؤسف أننا لم نطور بعد العلم اللازم للسيطرة على مثل هذه الذكاءات المتقدمة وحمايتها."

وشدد العلماء على ضرورة أن تكون السلطات الوطنية قادرة على اكتشاف الحوادث والمخاطر المرتبطة بالذكاء الاصطناعي ومعالجتها.

كما دعوا إلى تطوير "خطة طوارئ عالمية" لمنع ظهورنماذج الذكاء الاصطناعي مع مخاطر كارثية عالمية محتملة.

كما قالوا:

"وعلى المدى الأبعد، ينبغي للدول أن تعمل على تطوير نظام حوكمة دولي لمنع تطور النماذج التي قد تشكل مخاطر كارثية عالمية."

سلامة الذكاء الاصطناعي هي منفعة عامة عالمية

ويستند البيان إلى المناقشات التي دارت خلال الحوار الدولي حول سلامة الذكاء الاصطناعي الذي عقد في البندقية في أوائل سبتمبر/أيلول، وهو الحدث الثالث الذي ينظمه منتدى الذكاء الاصطناعي الآمن، وهي منظمة بحثية أمريكية غير ربحية.

سلطت البروفيسور جيليان هادفيلد من جامعة جونز هوبكنز الضوء على الحاجة الملحة في منشور علىX (المعروف سابقًا باسم تويتر) :

"لا يتعين علينا أن نتفق على احتمال وقوع أحداث كارثية متعلقة بالذكاء الاصطناعي حتى نتفق على ضرورة وضع بعض البروتوكولات العالمية في حالة وقوع حوادث دولية متعلقة بالذكاء الاصطناعي تتطلب استجابات منسقة."

ال إفادة يؤكد ذلكمنظمة العفو الدولية إن السلامة العامة هي منفعة عامة عالمية، مما يتطلب التعاون والحوكمة الدولية:

"إن الطبيعة العالمية لهذه المخاطر الناجمة عن الذكاء الاصطناعي تجعل من الضروري الاعتراف بسلامة الذكاء الاصطناعي باعتبارها منفعة عامة عالمية، والعمل نحو حوكمة عالمية لهذه المخاطر. ويتعين علينا جماعياً أن نستعد لتجنب المخاطر الكارثية المترتبة على ذلك والتي قد تظهر في أي وقت."

وقد حدد مطورو الذكاء الاصطناعي ثلاث عمليات أساسية:

ويضم البيان، الذي صادق عليه أكثر من 30 شخصا من الولايات المتحدة وكندا والصين وبريطانيا وسنغافورة ودول أخرى، خبراء من مؤسسات بحثية كبرى في مجال الذكاء الاصطناعي والجامعات والعديد من الفائزين بجائزة تورينج.

وأشار العلماء إلى أن الخلاف العلمي المتزايد بين القوى العظمى وانعدام الثقة المتزايد بين الولايات المتحدة والصين جعل من الصعب التوصل إلى إجماع بشأنمنظمة العفو الدولية المخاطر.