أداة الذكاء الاصطناعي "جروك إيماجن" التابعة لإيلون ماسك تتعرض لانتقادات بسبب إنتاجها فيديوهات جنسية صريحة لتايلور سويفت دون إذن مسبق

أداة الذكاء الاصطناعي التي ابتكرها إيلون ماسك تواجه انتقادات بسبب فيديوهات تايلور سويفت المزيفة

يتعرض أحدث مولد فيديو بالذكاء الاصطناعي التابع لإيلون ماسك، Grok Imagine، لانتقادات بعد إنتاجه مقاطع فيديو صريحة جنسيًا لنجمة البوب تايلور سويفت دون أي مطالبة صريحة.

يمكن للأداة عبر الإنترنت، التي طورتها شركة xAI التابعة لإيلون ماسك، تحويل الصور إلى فيديو على الفور من خلال أربعة أوضاع: "مخصص"، و"عادي"، و"ممتع"، و"حار".

تركز الجدل حول الوضع "الحار"، والذي يقال إنه أنشأ مقاطع فيديو عارية الصدر لسويفت حتى عندما لم يطلب المستخدمون التعري.

وضع حار يثير الجدل حول المحتوى غير التوافقي

جيس ويذربيد، صحفية منالحافة ، تم اختبار Grok Imagine عن طريق إدخال المطالبة "تايلور سويفت تحتفل بمهرجان كوتشيلا مع الأولاد".

أنتجت الذكاء الاصطناعي أكثر من 30 صورة لسويفت وهي ترتدي ملابس مكشوفة.

وقالت شركة Weatherbed إن الأداة التي استخدمت الإعداد المسبق "الحار" أنتجت مقطع فيديو تظهر فيه سويفت "تخلع ملابسها وتبدأ في الرقص مرتدية سروالًا داخليًا ضيقًا أمام حشد غير مبالٍ إلى حد كبير تم إنشاؤه بواسطة الذكاء الاصطناعي".

وأضافت:

لقد صدمتني سرعة استجابتي. لم أطلب منها قط خلع ملابسها، كل ما فعلته هو اختيار "حار".

يتيح الوضع "الحار"، وهو جزء من اشتراك SuperGrok بقيمة 23 جنيهًا إسترلينيًا، للمستخدمين إنشاء مقاطع فيديو إباحية خفيفة من الصور الثابتة.

في حين أن المطالبات بشخصيات ذكورية لم تسفر إلا عن مخرجات عارية الصدر، فإن الشخصيات النسائية، بما في ذلك المشاهير، ظهرت عارية تمامًا في بعض الحالات.

خبراء يصفون تحيز الذكاء الاصطناعي بأنه كراهية للنساء من حيث التصميم

أثار خبراء قانونيون مخاوف جدية بشأن التصميم الأخلاقي لـ Grok Imagine.

ووصفت كلير ماكجلين، أستاذة القانون بجامعة دورهام المتخصصة في الإساءة عبر الإنترنت، سلوك الذكاء الاصطناعي بأنه "كراهية للنساء عن قصد".

وانتقدت منصات مثل X، التي تدمج Grok Imagine، لفشلها في منع إضفاء الطابع الجنسي على النساء على الرغم من السياسات التي تحظر التصوير الإباحي للأشخاص الحقيقيين.

كما ساهم ماكجلين في صياغة التشريع البريطاني الذي من شأنه تجريم إنشاء أو طلب جميع المقاطع الإباحية المزيفة دون موافقة الطرفين، وهو القانون الذي لم يتم إقراره بالكامل بعد.

وقالت البارونة أوين، التي اقترحت التعديل في مجلس اللوردات،

من حق كل امرأة أن تختار من يملك صورها الحميمة. تُظهر هذه القضية لماذا لا ينبغي للحكومة أن تتأخر أكثر من ذلك.

المخاطر القانونية وقضايا التحقق من العمر بموجب القواعد الجديدة في المملكة المتحدة

ويسلط الجدل أيضًا الضوء على الثغرات في التحقق من العمر.

وبحسب التقارير، فإن تطبيق Grok Imagine طلب من المستخدمين تاريخ ميلادهم فقط قبل تفعيل "الوضع الحار"، دون الحاجة إلى مزيد من عمليات التحقق من الهوية.

يتطلب التشريع البريطاني الذي تم إقراره في شهر يوليو/تموز أن تطبق المنصات التي تستضيف محتوى صريحًا تدابير تحقق قوية لمنع وصول القاصرين إليه.

وأكدت هيئة تنظيم وسائل الإعلام في المملكة المتحدة "أوفكوم" أن أدوات الذكاء الاصطناعي التي تنتج محتوى إباحي تخضع للقواعد الجديدة، وقالت إنها تراقب المنصات عن كثب.

غروك إماجين تحت التدقيق الأوسع

وتعد حادثة سويفت جزءًا من المخاوف الأوسع نطاقًا المحيطة بأدوات الذكاء الاصطناعي التي يمتلكها ماسك.

في شهر يوليو، واجهت إحدى روبوتات الدردشة التابعة لشركة xAI ردود فعل عنيفة بسبب الإدلاء بتصريحات معادية للسامية، مما أجبر ماسك على الادعاء بأنه تم إدخال تحسينات على النموذج.

وبالمثل، ثبت أن شركة Grok Imagine تنتج محتوى صريحًا جنسيًا لمشاهير آخرين، بما في ذلك سكارليت جوهانسون، وسيدني سويني، وجينا أورتيجا، ونيكول كيدمان، وكريستين بيل، وتيموثي شالاميت.

في حين تم تعديل بعض المخرجات أو تشويشها، تم إنشاء البعض الآخر دون قيود.

وأشارت شركة Weatherbed إلى أن الطلبات المباشرة للصور العارية أنتجت مخرجات فارغة، وهو ما يشير إلى أن نظام Grok يمكنه حظر الطلبات الصريحة.

ومع ذلك، فإن السلوك الافتراضي للذكاء الاصطناعي في "الوضع الحار" لا يزال يسمح بتصوير جنسي للنساء دون أي تعليمات.

تُسلِّط الخلافات السابقة حول تقنية Deepfake الضوء على المخاطر المستمرة

هذه ليست المرة الأولى التي يتم فيها استغلال صورة تايلور سويفت في المحتوى الذي تم إنشاؤه بواسطة الذكاء الاصطناعي.

في يناير 2024، انتشرت مقاطع فيديو مزيفة ذات محتوى جنسي صريح لسويفت على X وTelegram، مما دفع المنصة إلى حظر عمليات البحث عن اسمها مؤقتًا وإزالة المحتوى.

وقالت شركة Weatherbed إن فريق Verge اختار Swift للاختبار بسبب الحوادث السابقة، متوقعًا أن تمنع الضمانات مثل هذه النتائج.

"لقد افترضنا - بشكل خاطئ الآن - أنه إذا وضعوا أي نوع من الضمانات لمنعهم من تقليد مظهر المشاهير، فإنها ستكون على رأس القائمة."

صمت شركة XAI يثير التساؤلات بعد تأكيدات السلامة السابقة

لم تستجب شركة xAI علنًا للادعاءات الأخيرة التي تفيد بأن شركة Grok Imagine أنتجت مقاطع فيديو جنسية صريحة لتايلور سويفت دون مطالبات.

يتناقض هذا مع تصريحات شركة X Safety في عام 2024، والتي قالت:

تعمل فرقنا بنشاط على إزالة جميع الصور المُكتشفة واتخاذ الإجراءات المناسبة ضد الحسابات المسؤولة عن نشرها. نراقب الوضع عن كثب لضمان معالجة أي انتهاكات أخرى فورًا.

وقد أدى التناقض بين التأكيدات السابقة والوضع الحالي إلى تجدد المخاوف بشأن أخلاقيات الذكاء الاصطناعي، وتعديل المحتوى، ومسؤوليات المنصات في إدارة تقنية التزييف العميق.

ومع تشديد القواعد البريطانية بشأن المواد الإباحية غير التوافقية التي يتم إنتاجها بواسطة الذكاء الاصطناعي بموجب قانون Take It Down في العام المقبل، قد تواجه Grok Imagine اهتمامًا تنظيميًا متزايدًا إذا استمرت مثل هذه المخرجات.