التحالف العالمي لرفع مستوى الأمن السيبراني
أصدر تحالف من الدول، يضم الولايات المتحدة والمملكة المتحدة وأستراليا و15 دولة إضافية، مبادئ توجيهية واسعة النطاق لتعزيز نماذج الذكاء الاصطناعي ضد التلاعب.
التأكيد على "آمن حسب التصميم" نهجتم الكشف عن وثيقة التحالف المكونة من 20 صفحة في 26 نوفمبر ، يتناول ضرورة رفع مستوى الأمن السيبراني باعتباره مصدر قلق رئيسي في صناعة الذكاء الاصطناعي سريعة التطور.
وهذا الجهد المشترك يؤكد من جديد إرادة الأمم. مهمة حماية البنية التحتية الحيوية وتعزيز أهمية الشراكة الدولية في تأمين المستقبل الرقمي.
وقالت مديرة وكالة الأمن السيبراني وأمن البنية التحتية (CISA)، جين إيسترلي:
"يمثل إصدار المبادئ التوجيهية لتطوير نظام الذكاء الاصطناعي الآمن علامة بارزة في التزامنا الجماعي - من قبل الحكومات في جميع أنحاء العالم - لضمان تطوير ونشر قدرات الذكاء الاصطناعي الآمنة حسب التصميم. وبينما تتبنى الدول والمنظمات القوة التحويلية للذكاء الاصطناعي، فإن هذا التعاون الدولي، بقيادة CISA وNCSC، يؤكد التفاني العالمي لتعزيز الشفافية والمساءلة والممارسات الآمنة. إن الوحدة المحلية والدولية في تعزيز مبادئ التصميم الآمن وبناء أساس مرن للتطوير الآمن لأنظمة الذكاء الاصطناعي في جميع أنحاء العالم لا يمكن أن تأتي في وقت أكثر أهمية من ثورتنا التكنولوجية المشتركة.
المبادئ التوجيهية للأمن العملي
توفر المبادئ التوجيهية توصيات عملية، تحث على فرض رقابة صارمة على البنية التحتية لنموذج الذكاء الاصطناعي، والمراقبة المستمرة للتلاعب المحتمل، وتعزيز تدريب الموظفين على الأمن السيبراني.
تغيب بشكل ملحوظ عن المبادئ التوجيهية المناقشات حول قضايا الذكاء الاصطناعي المثيرة للجدل، مثل الضوابط على نماذج توليد الصور، والتزييف العميق، وطرق جمع البيانات المستخدمة في التدريب النموذجي.
يدرك التحالف التحديات المتعددة الأوجه التي يفرضها الذكاء الاصطناعي وأهمية ضمان الأمن دون خنق الابتكار.
محاذاة سلامة الذكاء الاصطناعي العالمية
نحن. وزير الأمن الداخلي ألكسندر مايوركاس يؤكد على دور الأمن السيبراني في بناء أنظمة الذكاء الاصطناعي:
"نحن عند نقطة انعطاف في تطور الذكاء الاصطناعي، والذي قد يكون التكنولوجيا الأكثر أهمية في عصرنا. يعد الأمن السيبراني أمرًا أساسيًا لبناء أنظمة الذكاء الاصطناعي التي تكون آمنة ومأمونة وجديرة بالثقة.
تتوافق هذه المبادئ التوجيهية مع الجهود الحكومية الأخيرة لمعالجة سلامة الذكاء الاصطناعي، بما في ذلك قمة سلامة الذكاء الاصطناعي في لندن والتطوير المستمر للاتحاد الأوروبي لقانون الذكاء الاصطناعي.
فيفي أكتوبر، أصدر الرئيس الأمريكي جو بايدن أمرًا تنفيذيًا يحدد معايير سلامة وأمن الذكاء الاصطناعي ، مما أثار مناقشات الصناعة حول التأثيرات المحتملة على الابتكار.
ويضم التحالف العالمي كندا وفرنسا وألمانيا وإسرائيل وإيطاليا واليابان ونيوزيلندا ونيجيريا والنرويج وكوريا الجنوبية وسنغافورة.
وقد ساهمت شركات الذكاء الاصطناعي الرائدة، بما في ذلك OpenAI، وMicrosoft، وGoogle، وAnthropic، وScale AI، بنشاط في صياغة هذه المبادئ التوجيهية.
ويؤكدون على التعاون بين الحكومات والجهات الفاعلة في الصناعة لضمان التطوير المسؤول ونشر تقنيات الذكاء الاصطناعي.