OpenAI تكتشف الطلاب الغشاشين باستخدام أداة العلامة المائية النصية

أعلنت شركة OpenAI للتو أنها ستقوم ببناء أداة يمكنها اكتشاف الطلاب الذين يطلبون من ChatGPT كتابة واجباتهم. لكن الشركة لا تزال تتداول ما إذا كانت تريد إصدار هذه الأداة بسبب تعقيد هذه المشكلة

أداة الكشف بالذكاء الاصطناعي مع معدل نجاح 99.9٪

ستساعد أداة الكشف التي تبنيها OpenAI المستخدمين على تحليل النصوص وتقييم تشابه الكتابة مع الكتابة التي تم إنشاؤها بواسطة الذكاء الاصطناعي. لكن هذه ليست المرة الأولى التي تطلق فيها ChatGPT أداة الكشف عن الذكاء الاصطناعي الجديدة الخاصة بها. تم إزالة النموذج السابق الذي أنشأته OpenAI - مصنف الذكاء الاصطناعي - في 20 يوليو 2023 بسبب معدل دقته المنخفض. الآن، تستخدم النسخة الجديدة والمحسنة بالكامل من أداة الانتحال التي تطورها OpenAI وضع علامات مائية على النصوص للكشف عن المحتويات التي تم إنشاؤها بواسطة الذكاء الاصطناعي. توصف علامة OpenAI المائية بأنها تعدل كيفية توقع النموذج للكلمات والعبارات الأكثر احتمالية والتي ستتبع الكلمات والعبارات السابقة، مما يخلق نمطًا يمكن اكتشافه. تدعي OpenAI أن طريقة وضع العلامات المائية على النصوص تتمتع بمعدل دقة 99.0٪. بالإضافة إلى معدل دقتها العالي، فإن الأداة مقاومة أيضًا للتلاعب، مثل إعادة الصياغة. ومع ذلك، فإن الأداة قادرة فقط على التقاط العلامات المائية من نموذج الذكاء الاصطناعي الخاص بها، وبالتالي لن يتم التقاط النص الذي تم إنشاؤه بواسطة نماذج لغوية أخرى بواسطة الأداة.

مخاوف المستخدم والحلول البديلة؟

صرحت شركة OpenAI في إعلانها أنه على الرغم من أنها قامت ببناء هذه الأداة، إلا أنها مترددة في إصدارها. وينبع هذا من مخاوف OpenAI من أن العلامة المائية قد تجعل المستخدمين ينفرون منها وتمنعهم من استخدام ChatGPT. ويدعم هذا استطلاع أجرته الشركة يظهر أن 30% من المستخدمين أعربوا عن أنهم سيكونون أقل ميلاً لاستخدام البرنامج إذا تم تنفيذ العلامة المائية. مع الأخذ في الاعتبار هذه المشاعر، تدرس الشركة حلولاً محتملة أخرى لهذه التحديات.

وفي ضوء المشاعر المزعجة للمستخدمين، تحاول الشركة أيضًا بدائل أخرى قد تكون أقل إثارة للجدل بين المستخدمين. ومن بين الأساليب الأخرى التي تستكشفها الشركة تضمين البيانات الوصفية في النص. لكن الشركة تقول إنه لا يزال من المبكر معرفة مدى نجاحها، لكنها تقدم وعودًا بسبب توقيعها التشفيري، والذي من شأنه القضاء على الإيجابيات الكاذبة.

تظل التنفيذات علامة استفهام كبيرة

لقد أثبت نظام العلامات المائية أنه قد يكون مفيدًا جدًا للمعلمين الذين يهدفون إلى منع الطلاب من تقديم مهام الكتابة التي تم إنشاؤها بواسطة الذكاء الاصطناعي. ولكن هناك أيضًا تعقيد مرتبط بتوزيع الأداة، على سبيل المثال اتخاذ قرار بشأن ما إذا كان سيتم توفير الكاشف مباشرة للمعلمين أو الشراكة مع ثلاثين شركة متخصصة في اكتشاف الانتحال. وهذا من شأنه أيضًا أن يسلط الضوء على التعقيدات المرتبطة بتنفيذ الأداة وضمان أنها تخدم الغرض المقصود منها دون عواقب غير مقصودة.