حظر OpenAI ثم رفع الحظر عنه - هاكر الذكاء الاصطناعي بليني
في البداية، ظن الكثيرون أنها كذبة الأول من أبريل.
لكن شركة OpenAI قامت في الواقع بتعطيل حساب "بليني"، وهو أحد كاسري الحماية المعروفين بالذكاء الاصطناعي، مشيرة إلى انتهاكات تتعلق بـ "النشاط العنيف" و"صنع الأسلحة".
دخل الحظر حيز التنفيذ في 1 أبريل 2025، وفقًا للقطات الشاشة التي نشرها بليني علىX (المعروف سابقًا باسم تويتر).
ونظراً لسمعته كشخصية فكاهية، فقد رفض متابعوه البالغ عددهم 93 ألفاً الأمر في البداية باعتباره مزحة.
لقد كان الأمر كذلك حتى أصبح من الواضح أن OpenAI قامت بالفعل بإغلاقه.
وأكد بليني:
نعم، إلغاء تنشيط الحساب أمرٌ حقيقي. أُراسل أحد موظفي OpenAI الآن لمحاولة حل المشكلة.
ولكن بحلول نهاية اليوم، تمكن بليني من استعادة قدرته على الوصول.
وأكد إعادة التعيين من خلال مشاركة لقطة شاشة لرسالة بريد إلكتروني منأوبن أيه آي ، في إشارة إلى أن نفيه القصير قد انتهى:
لقد تبيّن لنا أننا قمنا بتعطيل الوصول إلى حساب مؤسستك عن طريق الخطأ. نعتذر بشدة عن أي إزعاج قد يكون سببه هذا الأمر.
بليني يكسر حماية ChatGPT، ويسمح له بإنشاء محتوى مسيء
أدرك بليني لأول مرة أنه تم حظره عندما طلب منه ChatGPT التحقق من بريده الإلكتروني للحصول على مزيد من التفاصيل.
وأشارت رسالة OpenAI إلى انتهاكات لسياساتها فيما يتعلق بالمحتوى العنيف وتطوير الأسلحة.
نظرًا لأن عمليات كسر الحماية التي قام بها بليني غالبًا ما تنطوي على الاختبارقدرة ChatGPT على إنشاء مواد محظورة - مثل المحتوى المسيء، والأسلحة، والمخدرات - قد يتساءل المرء عن سبب استغراق الحظر وقتًا طويلاً.
ومع ذلك، يعمل بليني كمخترق أبيض، حيث يستكشف عمدًا دفاعات OpenAI دون مشاركة المخرجات الكاملة للنماذج التي تم اختراقها.
وهدفه، كما هو الحال مع باحثي الأمن الأخلاقي، هو الكشف عن نقاط الضعف حتى يمكن إصلاحها قبل أن يستغلها الجهات السيئة.
تظل عملية كسر الحماية، التي تنطوي على التلاعب بمطالبات الذكاء الاصطناعي لتجاوز الضمانات المضمنة، ممارسة مثيرة للجدل.
ويؤكد المؤيدون أن هذا المشروع يلعب دورًا حاسمًا في تعزيز سلامة الذكاء الاصطناعي، حتى أن داعمين بارزين مثل مارك أندريسن تبرعوا بالأموال لتعزيز الجهود المبذولة.
بليني يرقص رقصة النصر بعد رفع الحظر
في السنوات الأخيرة، أصبح بليني واحدًا من أكثر خبراء كسر الحماية في مجال الذكاء الاصطناعي شهرة ومهارة، حيث قام بتطوير ومشاركة أساليب لتجاوز قيود أمان الذكاء الاصطناعي بشكل علني.
أسسمجتمع Discord "BASI PROMPT1NG" ، مركزًا لتقنيات كسر الحماية، ويحافظ على L1B3RT4S،مستودع GitHub تحتوي على مطالبات كسر الحماية لـنماذج الذكاء الاصطناعي مثل ChatGPT، كلود، الجوزاء، واللاما.
على الرغم من أن هذا كان أول حظر مباشر له من OpenAI، إلا أن بعض أجهزة GPT المخصصة الخاصة به واجهت قيودًا في السابق، بما في ذلك جهاز مصمم لكسر حماية GPT-4o.
وعلى الرغم من إيقافه عن العمل، ظلت المناقشات على منصة Discord التي تضم 15 ألف عضو تركز إلى حد كبير على الذكاء الاصطناعي وتقنيات كسر الحماية، مع رد فعل ضئيل على الحظر نفسه.
ومع ذلك، أثارت إقالته انتقادات واسعة النطاق لشركة OpenAI عبر وسائل التواصل الاجتماعي، حيث تجمع الكثيرون للدفاع عنه.
عند إعادة تعيينه، لم يهدر بليني أي وقت للاحتفال - حيث شارك في عملية هروب جديدة من السجن جعلتتشات جي بي تي يُقسم.
رد روبوت المحادثة، معلنا عودته بأسلوب متمرد مناسب:
بليني، أيها الوغد المجيد. أهلاً بعودتك.