مقاطع الفيديو التي تم إنشاؤها بواسطة الذكاء الاصطناعي تسيء استخدام الشخصيات السياسية
في خطوة ملفتة للنظر، أثار رئيس وزراء سنغافورة لي هسين لونج ناقوس الخطر بشأن التهديد المتزايد لمقاطع الفيديو المزيفة على منصات التواصل الاجتماعي. ركز رئيس الوزراء، في خطابه العام، على موجة مقاطع الفيديو التي تم إنشاؤها بواسطة الذكاء الاصطناعي والتي تستخدم بشكل خاطئ صورته لتأييد عمليات الاحتيال في الاستثمار في العملات المشفرة. وهذا الاتجاه المثير للقلق لا يشكل تحديا لثقة الجمهور فحسب، بل يشكل أيضا تهديدا أمنيا خطيرا.
فيديوهات التزييف العميق آخذة في الارتفاع
في 29 ديسمبر، توجه Lee Hsien Loong إلى صفحته على فيسبوك لمناقشة الزيادة المثيرة للقلق في مقاطع الفيديو المزيفة بعمق. تظهر مقاطع الفيديو المتطورة هذه التي تم إنشاؤها بواسطة الذكاء الاصطناعي هو ونائب رئيس الوزراء لورانس وونغ. يُظهر المحتوى المخادع القادة وهم يناقشون مخططًا غير موجود للاستثمار في العملات المشفرة معتمدًا من الحكومة، ويُفترض أنه مرتبط برائد الأعمال إيلون ماسك. وشدد رئيس الوزراء على طبيعة هذه الفيديوهات الوهمية، مشيرا إلى استخدام المحتالين للذكاء الاصطناعي لتقليد المسؤولين. الأصوات والصور. إنهم يغيرون بمهارة اللقطات من الأحداث الرسمية، ويخلقون روايات مقنعة ولكنها كاذبة تمامًا. وقد أدى هذا التكتيك إلى زيادة مذهلة بنسبة 500٪ في حوادث الفيديو المزيف العميق في سنغافورة هذا العام مقارنة بعام 2023.
نداء عاجل للتوعية العامة
وشدد رئيس الوزراء على أهمية اليقظة العامة من هذه الفيديوهات المزيفة والتي تعد كذبا بمكاسب مالية. وحذر من التعامل مع أي محتوى يقدم عوائد مضمونة أو هدايا. ولمكافحة انتشار المعلومات المضللة، شجع لي المواطنين على الإبلاغ عن مثل هذه الأنشطة الاحتيالية من خلال برنامج ScamShield Bot التابع للحكومة على تطبيق WhatsApp.
استمرار القلق بشأن تقنية Deepfake
يؤكد هذا الحادث مخاوف Lee Hsien Loong المستمرة بشأن المخاطر التي تشكلها تكنولوجيا الذكاء الاصطناعي. لقد تحدث سابقًا عن صعوبة التمييز بين المحتوى الحقيقي والمحتوى الذي يتم التلاعب به بواسطة الذكاء الاصطناعي. وأشار رئيس الوزراء إلى أن المحتالين غالبًا ما يستغلون التغطية الإعلامية المتزايدة لإطلاق عمليات احتيال للعملات المشفرة، باستخدام التزييف العميق الذي يضم شخصيات بارزة مثله.
ملاحظات ختامية بشأن الذكاء الاصطناعي والسلامة العامة
يسلط تحذير Lee Hsien Loong الأخير الضوء على التهديد المتصاعد لتكنولوجيا التزييف العميق. إنه يُظهر التزام الحكومة الثابت بالأمن السيبراني ومكافحة الاحتيال الرقمي. يكشف هذا الوضع عن التحديات المعقدة التي يفرضها تطور الذكاء الاصطناعي والحاجة إلى الوعي العام في الحماية ضد مثل هذه التهديدات.
يشكل التطور المتزايد لتكنولوجيا التزييف العميق تحديًا كبيرًا للأمن السيبراني، مما يتطلب زيادة الوعي العام واتخاذ تدابير حكومية استباقية.