تقوم شركة AI Anthropic بتطوير نموذج اللغة المضبوط بدقة من أجل أحكام القيمة

وفقًا لكوينتيليغراف، قامت شركة الذكاء الاصطناعي (AI) Anthropic بتطوير نموذج لغة كبير (LLM) تم ضبطه بدقة من أجل أحكام القيمة من قبل مجتمع المستخدمين. يهدف هذا التطوير إلى جعل الذكاء الاصطناعي أكثر ديمقراطية والسماح للمستخدمين بإملاء توافق القيمة لنماذج الذكاء الاصطناعي. بالتعاون مع بوليس ومشروع الذكاء الجماعي، أجرت أنثروبيك تجربة تسمى "الذكاء الاصطناعي الدستوري الجماعي" شملت 1000 مستخدم من مختلف الفئات السكانية الذين أجابوا على سلسلة من الأسئلة عبر الاقتراع. وكان التحدي المتمثل في هذه التجربة هو السماح لمستخدمي الوكالة بتحديد ما هو المناسبة دون تعريضهم لمخرجات غير مناسبة. تستخدم Anthropic طريقة تسمى "الذكاء الاصطناعي الدستوري" لتوجيه جهودها نحو ضبط LLMs من أجل السلامة والفائدة. يتضمن ذلك إعطاء النموذج قائمة من القواعد التي يجب عليه الالتزام بها ثم تدريبه على تنفيذ تلك القواعد طوال العملية، على غرار الطريقة التي يعمل بها الدستور كوثيقة أساسية للحكم في العديد من الدول. في تجربة الذكاء الاصطناعي الدستوري الجماعي، حاولت الأنثروبيك لدمج ردود الفعل على أساس المجموعة في دستور النموذج. يبدو أن النتائج، وفقًا لمنشور مدونة من Anthropic، قد حققت نجاحًا علميًا لأنها سلطت الضوء على المزيد من التحديات نحو تحقيق هدف السماح لمستخدمي منتج LLM بتحديد قيمهم الجماعية. كانت إحدى الصعوبات التي كان على الفريق التغلب عليها هي التوصل إلى طريقة جديدة لعملية قياس الأداء، حيث لا يوجد اختبار ثابت لمقارنة النماذج الأساسية بتلك التي تم ضبطها مع القيم ذات المصادر الجماعية. لقد تفوق النموذج الذي نفذ البيانات الناتجة عن تعليقات استطلاعات المستخدمين على النموذج الأساسي قليلاً في مجال المخرجات المتحيزة.