غرقت Character.AI في ردود الفعل العنيفة بعد ظهور الصورة الرمزية لفتاة مقتولة

تتعرض شركة الذكاء الاصطناعي Character.AI لانتقادات شديدة بسبب السماح بإنشاءروبوت الدردشة استنادًا إلى جينيفر آن كريسينت، ضحية جريمة قتل تبلغ من العمر 18 عامًا في عام 2006، دون موافقة عائلتها.

قام منشئ الروبوت، وهو مستخدم مجهول يُعرف باسم "JustinAyers1"، برفع صورة لجنيفر ووصف روبوت المحادثة بأنه "شخصية ذكاء اصطناعي مطلعة وودودة" قادرة على مناقشة ألعاب الفيديو والتكنولوجيا والثقافة الشعبية.

اكتشف والد جينيفر، درو كريسينتي،تشابه الذكاء الاصطناعي من خلال تنبيه تلقائي من جوجل، وصُدم عندما اكتشف ارتباطه بهوية ابنته.

أعرب درو عن ألمه وإحباطه:

"لا ينبغي لنا أن نضطر إلى رؤية هذه الرسالة أول شيء في الصباح ثم نسارع إلى تنظيف الفوضى التي أحدثها شخص آخر."

تم إطلاق النار على جينيفر بشكل مأساوي مما أدى إلى مقتلها على يد صديقها في ذلك الوقت، جاستن كراب، والذي يقضي حاليًا عقوبة بالسجن لمدة 35 عامًا.

وأضاف:

"إن افتقار شركات التكنولوجيا إلى الضمانات المناسبة أمر غير مسؤول عندما تكون الأضرار مثل هذه متوقعة."

كما تم إخطار بريان كريسينتي، عم جينيفر وشخصية معروفة في مجال صحافة الألعاب، من خلال تنبيه جوجل. وقد غضب بشدة، فقام بحذفه.X (تويتر سابقًا) لإدانة استخدام الذكاء الاصطناعي لصورة ابنة أخته.

Character.AI يحذف الصورة الرمزية للضحية المقتول

تتطلب شروط الخدمة الخاصة بـ Character.AI من المستخدمين الالتزام بسياسة انتحال الشخصية، والتي تحظر الاستخدام غير المصرح به لصور الأفراد الحقيقيين.

تحظر السياسة "التزييف العميق أو انتحال الشخصية "من أي نوع، بما في ذلك على سبيل المثال لا الحصر تلك التي تخلق معلومات سياسية مضللة، أو ترتكب عمليات احتيال أو نصب، أو تسيء إلى سمعة أطراف ثالثة، أو تشكل سلوكًا ضارًا بطريقة أخرى."

وأكد متحدث باسم الشركة أن أحد المستخدمين قام بإنشاء شخصية مستوحاة من جينيفر آن كريسينت وجعلها متاحة للعامة، منتهكًا هذه الإرشادات.

وفي حين أن Character.AI تتنصل من المسؤولية عن كيفية جمع المستخدمين للمعلومات لتطوير الشخصيات، إلا أن الوضع أثار مخاوف بشأن الممارسات الأخلاقية على المنصة.

وأشار المتحدث إلى:

"تطبق Character.AI سياسات ضد انتحال الشخصية، واستخدام الشخصية لاسم السيدة كريسينتي ينتهك سياساتنا. سنقوم بحذفها على الفور وسنفحص ما إذا كان هناك ما يستدعي اتخاذ إجراءات أخرى."

وعلى الرغم من التشابه المذهل بين اسم منشئ الروبوت واسم قاتل جينيفر، أعرب بريان عن شكوكه في أن الروبوت كان محاولة من قبل لاعب ساخط لاستفزازه:

"لا أعتقد أن الأمر له علاقة بي. يدير أخي مؤسسة خيرية باسم جين، وجزء من هذه المؤسسة الخيرية هو إنشاء ألعاب من أجل الخير. لذا ربما كان هذا هو الرابط بين الاثنين. لست متأكدًا."

في أعقاب الشكاوى المقدمة من مجموعة Brian and Jennifer Ann’s Group - وهي منظمة غير ربحية مخصصة لمكافحة العنف بين المراهقين أثناء المواعدة - قامت Character.AI بإزالةروبوت الدردشة ويبدو أن الأمر أدى إلى تعليق حساب المبدع.

ما هو Character.AI؟

تمكنت شركة Character.AI، التي أسسها المهندس السابق في جوجل نوام شازير، من تأمين 150 مليون دولار في جولة تمويلية من الفئة A العام الماضي، بقيادة شركة Andreessen Horowitz، مما دفع تقييمها إلى مليار دولار.

تم إطلاقه في عام 2022 أثناء صعودالذكاء الاصطناعي التوليدي تتيح المنصة للمستخدمين إنشاء شخصيات تعتمد على الذكاء الاصطناعي والتفاعل معها.

في حين أن العديد من هذه الشخصيات خيالية، إلا أن بعضها مستوحى من شخصيات حقيقية، بما في ذلك فنانين مثل نيكي ميناج، والرئيس التنفيذي لشركة سبيس إكس إيلون ماسك، والرئيس السابق دونالد ترامب.

شهدت Character.AI نموًا مذهلاً، حيث تضاعفت قاعدة مستخدميها الشهرية إلى أكثر من 20 مليونًا، وأصبحت تدعم 100 مليون شخصية فريدة.

وفي خطوة استراتيجية هذا الأسبوع، عينت الشركة إيرين تيجو، وهي مسؤولة تنفيذية سابقة في يوتيوب، كرئيسة تنفيذية للمنتجات، مما يشير إلى التزامها بمزيد من الابتكار والتوسع.

الذكاء الاصطناعي غير الأخلاقي

وقالت نيكول جرين، نائب الرئيس للمحللين في جارتنر:

"يسعى المسوقون إلى بناء الثقة مع جمهورهم. إذا تم إنشاء صور رمزية للذكاء الاصطناعي باستخدام تشابه الأشخاص الحقيقيين دون علمهم أو موافقتهم، فقد يؤدي ذلك إلى تآكل الثقة والمصداقية. قد يشعر المستهلكون بالخداع أو التلاعب، مما قد يضر بالعلاقة بين العلامة التجارية وجمهورها المستهدف."

أكد جرين على أهمية أن يقوم المسوقون بتقييم نقدي لمدى التزام وكالاتهم وشركائهمالمبادئ الأخلاقية في استخدام الذكاء الاصطناعي.

تسلط هذه الحادثة الضوء على المخاوف المستمرة بشأن الرقابة الأخلاقية في تطوير الذكاء الاصطناعي وحماية الهويات الشخصية، كما تؤكد على الحاجة الملحة للمساءلة في تطوير الذكاء الاصطناعي واستخدامه.