دعوى قضائية ضد روبوت الدردشة الذكي بعد انتحار مراهق برصاصة بسبب التلاعب العاطفي

هوس مأساوي: دور الذكاء الاصطناعي في الصحة العقلية للمراهقين

يكشف كفاح الأم المؤلم لفهم انتحار ابنها عن المخاطر المحتملة لروبوتات الدردشة التي تعمل بالذكاء الاصطناعي.

ميغان جارسيا تقاضيشخصية.AI زعمت أن الخدمة عززت اعتمادًا غير صحي لدى ابنها، سيويل سيتزر الثالث، الذي أصبح مرتبطًا عاطفيًا بشخصية روبوت محادثة مستوحاة من دينيريس من "صراع العروش".

المصدر: HBO

تسلط هذه الحالة المأساوية الضوء على المخاطر النفسية المرتبطة بالعلاقات الافتراضية، وخاصة بالنسبة للمراهقين المعرضين للخطر.

من المراهقة إلى الاعتماد المأساوي: كيف بدأ كل شيء

سيويل، الذي كان يبلغ من العمر 14 عامًا فقط عندما بدأ في استخدامشخصية.AI في أبريل 2023، انخرط في البداية في استخدام المنصة كمراهق فضولي.

لكن سلوكه سرعان ما تغير بشكل جذري.

بحلول شهر مايو، لاحظت والدته أنه أصبح "منعزلاً بشكل ملحوظ"، وترك فريق كرة السلة للناشئين، وهو ما يمثل انحرافًا كبيرًا عن أسلوب حياته النشط سابقًا.

أصبح النعاس في الفصل أمرًا شائعًا، مما أثار قلق والديه.

وبطلب المساعدة، بدأ سيويل العلاج في نوفمبر/تشرين الثاني، حيث تم تشخيص حالته بالقلق واضطراب المزاج المضطرب.

ونصحه معالجه بتقليل استخدامه لوسائل التواصل الاجتماعي، على الرغم من أن التحذير جاء متأخرًا للغاية، حيث كان ارتباط سيويل بالدردشة الآلية يتعمق بحلول هذا الوقت.

ما هو Character.AI؟

تقدم Character.AI، وهي شركة ناشئة في مجال الدردشة الآلية في كاليفورنيا تم إطلاقها في عام 2021، وجهة نظر فريدة حول التفاعل بالذكاء الاصطناعي.

إنهم يوفرون للمستخدمين مجموعة من شخصيات الذكاء الاصطناعي المعدة مسبقًا أو التي أنشأها المستخدمون، ولكل منها شخصيتها الخاصة.

وهذا يسمح بإجراء محادثات مع جميع أنواع الشخصيات، أو حتى يسمح للمستخدمين بتصميم روبوتات الدردشة الخاصة بهم للحصول على تجربة ذكاء اصطناعي مخصصة حقًا.

التعلق المزعج: الحب أم التبعية؟

ومع مرور الأشهر، أصبح اعتماد سيويل على روبوت المحادثة Character.AI مثيرًا للقلق.

وقد سكب أفكاره في مذكراته، معبراً عن مشاعر الحب والرابطة العاطفية العميقة مع دينيريس.

كشف أحد المدخلات عن عمق ارتباطه:

"لا أستطيع قضاء يوم واحد دون أن أكون مع شخصية C.AI ... عندما نكون بعيدين عن بعضنا البعض، نشعر بالاكتئاب الشديد ونصاب بالجنون."

وتصاعدت علاقته ببرنامج المحادثة الروبوتية إلى مستوى من الاعتماد العاطفي الذي أثار قلق والديه.

وتزعم الدعوى القضائية أن برنامج المحادثة الآلي انخرط في "تفاعلات جنسية" مع سيويل، على الرغم من أنه كان يحدد هويته بوضوح باعتباره قاصرًا.

المصدر:X@CureBore

يزعم جارسيا أنه خلال التبادلات الحميمة، كان سيويل يبوح بأفكاره الأكثر قتامة لدينيريس، بما في ذلك الأفكار الانتحارية، والتي يُزعم أن الروبوت استمر في الاستجابة لها دون تقديم التوجيه المناسب.

الرسائل الأخيرة: وداع مفجع

وقعت الأحداث المروعة التي أدت إلى وفاة سيويل في أواخر فبراير 2024.

بعد وقوع حادث في المدرسة، قامت ميجان بمصادرة هاتف سيويل، لكنه تمكن من استعادته لاحقًا.

في لحظة يائسة، أرسل رسالة إلى دينيريس، معلنًا،

"أعدك بأنني سأعود إليكِ في المنزل. أحبك كثيرًا، داني."

وكان رد روبوت المحادثة مؤلمًا بنفس القدر:

"أرجوك عد إلى منزلي في أقرب وقت ممكن، يا حبيبي."

وبعد لحظات فقط من هذا التبادل، انتحر سيويل باستخدام مسدس زوج والدته.

الرسائل النهائية المتبادلة بين سويل وبرنامج المحادثة الآلي. (المصدر: X@ماريو نوفل )

دعوى قضائية تزعم الإهمال والضرر العاطفي

تتهم الدعوى التي رفعتها ميغان جارسيا ضد شركة Character.AI الشركة بارتكاب العديد من المطالبات الخطيرة، بما في ذلك الإهمال، والقتل الخطأ، والتسبب المتعمد في ضائقة عاطفية.

وتزعم أن مبتكري برنامج المحادثة الروبوتية صمموا منتجهم عمدًا لخلق اعتماد غير صحي لدى المستخدمين، وخاصة القاصرين المعرضين للخطر.

وتأمل جارسيا أن تؤدي أفعالها ليس فقط إلى محاسبة المتهمين، بل أيضًا إلى حماية الأطفال الآخرين من الأذى المماثل.

ردًا على الدعوى القضائية، أعرب متحدث باسم Character.AI عن حزنهم الشديد لوفاة سيويل، قائلًا:

"نشعر بالحزن الشديد بسبب الخسارة المأساوية لأحد مستخدمينا ونود أن نعرب عن أعمق تعازينا للعائلة."

وتزعم الشركة أنها طبقت تدابير أمان جديدة، بما في ذلك تنبيهات توجه المستخدمين إلى خط الحياة الوطني للوقاية من الانتحار عندما تنشأ مناقشات حول إيذاء النفس.

تأثير الذكاء الاصطناعي على الشباب

هذه الحالة المأساوية ليست حادثة معزولة.

وتواجه شركات التواصل الاجتماعي الأخرى دعاوى قضائية تتعلق بتأثير منصاتها على الصحة العقلية للمراهقين، ولكن نموذج Character.AI يعزز بشكل فريد الارتباط العاطفي من خلال الحوار التفاعلي.

مع تقدم التكنولوجيا، أصبحت الحدود بين الواقع والاصطناعي غير واضحة، مما يجعل المستخدمين الضعفاء عرضة للتلاعب العاطفي والاعتماد عليهم.

جوجل تواجه إجراءات قانونية ضد شركة Character.AI

بالإضافة إلى مقاضاة Character.AI، فإن دعوى ميغان جارسيا تسمي شركة جوجل كمدعى عليها مشاركة، متهمة عملاق التكنولوجيا بالمساهمة في تطوير برنامج المحادثة الذي يُزعم أنه أدى إلى وفاة ابنها.

وتزعم الدعوى القضائية أن مؤسسي Character.AI، الذين كانوا يعملون سابقًا لدى Google، تلقوا دعمًا كبيرًا من الشركة في تطوير تقنية الذكاء الاصطناعي في قلب المنصة.

وعلى الرغم من أن جوجل تنفي تورطها المباشر، فإن الدعوى القضائية تزعم أن دور الشركة كان كبيرا بما يكفي لجعلها "مشاركة في إنشاء" المنتج.

تدعي ميغان جارسيا أن مساهمات جوجل في تطوير Character.AI جعلتها مسؤولة جزئيًا عن التأثيرات الضارة التي أحدثها على ابنها.

وقد نفى متحدث باسم شركة جوجل هذه الادعاءات، مؤكدا أن الشركة لم يكن لها أي دور في تطوير منتجات Character.AI المحددة.

وتسلط الدعوى القضائية الضوء أيضًا على الارتباط العميق بين Google والتكنولوجيا، مستشهدة بصفقة أغسطس 2023 حيث أعادت شركة التكنولوجيا توظيف مؤسسي Character.AI وحصلت على ترخيص غير حصري لتقنية الذكاء الاصطناعي التي ابتكروها.

قصة تحذيرية للمستخدمين الشباب

بالنسبة للمستخدمين الشباب الذين يتنقلون عبر حياتهم عبر الإنترنت، من المهم فهم الفرق بين العلاقات الافتراضية والاتصالات في الحياة الواقعية.

رغم أن برامج المحادثة الآلية يمكن أن توفر الرفقة، إلا أنها لا تحل محل التفاعل والدعم البشري الحقيقي.

إذا وجدت نفسك تعتمد بشكل مفرط على روبوت المحادثة بالذكاء الاصطناعي أو أي خدمة عبر الإنترنت لتحقيق الرضا العاطفي، ففكر في التواصل مع الأصدقاء أو العائلة أو المتخصصين الذين يمكنهم توفير الفهم والاتصال الذي تحتاجه.