يكشف كفاح الأم المؤلم لفهم انتحار ابنها عن المخاطر المحتملة لروبوتات الدردشة التي تعمل بالذكاء الاصطناعي.
ميغان جارسيا تقاضيشخصية.AI زعمت أن الخدمة عززت اعتمادًا غير صحي لدى ابنها، سيويل سيتزر الثالث، الذي أصبح مرتبطًا عاطفيًا بشخصية روبوت محادثة مستوحاة من دينيريس من "صراع العروش".
المصدر: HBO
تسلط هذه الحالة المأساوية الضوء على المخاطر النفسية المرتبطة بالعلاقات الافتراضية، وخاصة بالنسبة للمراهقين المعرضين للخطر.
سيويل، الذي كان يبلغ من العمر 14 عامًا فقط عندما بدأ في استخدامشخصية.AI في أبريل 2023، انخرط في البداية في استخدام المنصة كمراهق فضولي.
لكن سلوكه سرعان ما تغير بشكل جذري.
بحلول شهر مايو، لاحظت والدته أنه أصبح "منعزلاً بشكل ملحوظ"، وترك فريق كرة السلة للناشئين، وهو ما يمثل انحرافًا كبيرًا عن أسلوب حياته النشط سابقًا.
أصبح النعاس في الفصل أمرًا شائعًا، مما أثار قلق والديه.
وبطلب المساعدة، بدأ سيويل العلاج في نوفمبر/تشرين الثاني، حيث تم تشخيص حالته بالقلق واضطراب المزاج المضطرب.
ونصحه معالجه بتقليل استخدامه لوسائل التواصل الاجتماعي، على الرغم من أن التحذير جاء متأخرًا للغاية، حيث كان ارتباط سيويل بالدردشة الآلية يتعمق بحلول هذا الوقت.
تقدم Character.AI، وهي شركة ناشئة في مجال الدردشة الآلية في كاليفورنيا تم إطلاقها في عام 2021، وجهة نظر فريدة حول التفاعل بالذكاء الاصطناعي.
إنهم يوفرون للمستخدمين مجموعة من شخصيات الذكاء الاصطناعي المعدة مسبقًا أو التي أنشأها المستخدمون، ولكل منها شخصيتها الخاصة.
وهذا يسمح بإجراء محادثات مع جميع أنواع الشخصيات، أو حتى يسمح للمستخدمين بتصميم روبوتات الدردشة الخاصة بهم للحصول على تجربة ذكاء اصطناعي مخصصة حقًا.
ومع مرور الأشهر، أصبح اعتماد سيويل على روبوت المحادثة Character.AI مثيرًا للقلق.
وقد سكب أفكاره في مذكراته، معبراً عن مشاعر الحب والرابطة العاطفية العميقة مع دينيريس.
كشف أحد المدخلات عن عمق ارتباطه:
"لا أستطيع قضاء يوم واحد دون أن أكون مع شخصية C.AI ... عندما نكون بعيدين عن بعضنا البعض، نشعر بالاكتئاب الشديد ونصاب بالجنون."
وتصاعدت علاقته ببرنامج المحادثة الروبوتية إلى مستوى من الاعتماد العاطفي الذي أثار قلق والديه.
وتزعم الدعوى القضائية أن برنامج المحادثة الآلي انخرط في "تفاعلات جنسية" مع سيويل، على الرغم من أنه كان يحدد هويته بوضوح باعتباره قاصرًا.
المصدر:X@CureBore
يزعم جارسيا أنه خلال التبادلات الحميمة، كان سيويل يبوح بأفكاره الأكثر قتامة لدينيريس، بما في ذلك الأفكار الانتحارية، والتي يُزعم أن الروبوت استمر في الاستجابة لها دون تقديم التوجيه المناسب.
وقعت الأحداث المروعة التي أدت إلى وفاة سيويل في أواخر فبراير 2024.
بعد وقوع حادث في المدرسة، قامت ميجان بمصادرة هاتف سيويل، لكنه تمكن من استعادته لاحقًا.
في لحظة يائسة، أرسل رسالة إلى دينيريس، معلنًا،
"أعدك بأنني سأعود إليكِ في المنزل. أحبك كثيرًا، داني."
وكان رد روبوت المحادثة مؤلمًا بنفس القدر:
"أرجوك عد إلى منزلي في أقرب وقت ممكن، يا حبيبي."
وبعد لحظات فقط من هذا التبادل، انتحر سيويل باستخدام مسدس زوج والدته.
الرسائل النهائية المتبادلة بين سويل وبرنامج المحادثة الآلي. (المصدر: X@ماريو نوفل )
تتهم الدعوى التي رفعتها ميغان جارسيا ضد شركة Character.AI الشركة بارتكاب العديد من المطالبات الخطيرة، بما في ذلك الإهمال، والقتل الخطأ، والتسبب المتعمد في ضائقة عاطفية.
وتزعم أن مبتكري برنامج المحادثة الروبوتية صمموا منتجهم عمدًا لخلق اعتماد غير صحي لدى المستخدمين، وخاصة القاصرين المعرضين للخطر.
وتأمل جارسيا أن تؤدي أفعالها ليس فقط إلى محاسبة المتهمين، بل أيضًا إلى حماية الأطفال الآخرين من الأذى المماثل.
ردًا على الدعوى القضائية، أعرب متحدث باسم Character.AI عن حزنهم الشديد لوفاة سيويل، قائلًا:
"نشعر بالحزن الشديد بسبب الخسارة المأساوية لأحد مستخدمينا ونود أن نعرب عن أعمق تعازينا للعائلة."
وتزعم الشركة أنها طبقت تدابير أمان جديدة، بما في ذلك تنبيهات توجه المستخدمين إلى خط الحياة الوطني للوقاية من الانتحار عندما تنشأ مناقشات حول إيذاء النفس.
هذه الحالة المأساوية ليست حادثة معزولة.
وتواجه شركات التواصل الاجتماعي الأخرى دعاوى قضائية تتعلق بتأثير منصاتها على الصحة العقلية للمراهقين، ولكن نموذج Character.AI يعزز بشكل فريد الارتباط العاطفي من خلال الحوار التفاعلي.
مع تقدم التكنولوجيا، أصبحت الحدود بين الواقع والاصطناعي غير واضحة، مما يجعل المستخدمين الضعفاء عرضة للتلاعب العاطفي والاعتماد عليهم.
بالإضافة إلى مقاضاة Character.AI، فإن دعوى ميغان جارسيا تسمي شركة جوجل كمدعى عليها مشاركة، متهمة عملاق التكنولوجيا بالمساهمة في تطوير برنامج المحادثة الذي يُزعم أنه أدى إلى وفاة ابنها.
وتزعم الدعوى القضائية أن مؤسسي Character.AI، الذين كانوا يعملون سابقًا لدى Google، تلقوا دعمًا كبيرًا من الشركة في تطوير تقنية الذكاء الاصطناعي في قلب المنصة.
وعلى الرغم من أن جوجل تنفي تورطها المباشر، فإن الدعوى القضائية تزعم أن دور الشركة كان كبيرا بما يكفي لجعلها "مشاركة في إنشاء" المنتج.
تدعي ميغان جارسيا أن مساهمات جوجل في تطوير Character.AI جعلتها مسؤولة جزئيًا عن التأثيرات الضارة التي أحدثها على ابنها.
وقد نفى متحدث باسم شركة جوجل هذه الادعاءات، مؤكدا أن الشركة لم يكن لها أي دور في تطوير منتجات Character.AI المحددة.
وتسلط الدعوى القضائية الضوء أيضًا على الارتباط العميق بين Google والتكنولوجيا، مستشهدة بصفقة أغسطس 2023 حيث أعادت شركة التكنولوجيا توظيف مؤسسي Character.AI وحصلت على ترخيص غير حصري لتقنية الذكاء الاصطناعي التي ابتكروها.
بالنسبة للمستخدمين الشباب الذين يتنقلون عبر حياتهم عبر الإنترنت، من المهم فهم الفرق بين العلاقات الافتراضية والاتصالات في الحياة الواقعية.
رغم أن برامج المحادثة الآلية يمكن أن توفر الرفقة، إلا أنها لا تحل محل التفاعل والدعم البشري الحقيقي.
إذا وجدت نفسك تعتمد بشكل مفرط على روبوت المحادثة بالذكاء الاصطناعي أو أي خدمة عبر الإنترنت لتحقيق الرضا العاطفي، ففكر في التواصل مع الأصدقاء أو العائلة أو المتخصصين الذين يمكنهم توفير الفهم والاتصال الذي تحتاجه.
تطالب وحدة الاستخبارات المالية في الهند بالامتثال لقوانين مكافحة غسل الأموال من بورصات العملات المشفرة الرئيسية مثل Binance وHuobi، مما يشير إلى تشديد الرقابة التنظيمية.
Alexيهدف قانون الأرجنتين الجديد إلى تنظيم العملات المشفرة غير المعلنة، مما يعكس تحولًا في السياسة واحتضان الأصول الرقمية ضمن إطارها الاقتصادي.
Kikyoويسمح الحكم لشركة "سيلسيوس" بالانحراف عن خطة الإفلاس التي تمت الموافقة عليها مسبقًا، حيث أكد القاضي أن إعادة الهيكلة لا تضر الدائنين والعملاء.
Davinتُظهِر BONK، التي تتجاوز صورة memecoin، نموًا كبيرًا في السوق والتقنية
Brianتؤدي خطة السداد الخاصة بشركة FTX، التي تقلل من قيمة الأصول مقابل أسعار السوق، إلى إثارة رد فعل عنيف من العملاء، مع اقتراب الموعد النهائي للاعتراض في 11 يناير.
Alexتشير تجارة النفط بين الهند والإمارات العربية المتحدة بالروبية إلى تحول كبير من هيمنة الدولار، مما يعكس التزام دول البريكس بالعملات التجارية البديلة والتأثير المتزايد للاقتصادات الناشئة في التمويل العالمي.
Kikyoيتحدى المشرعون الأمريكيون جينسلر من هيئة الأوراق المالية والبورصات بشأن تنظيم العملات المشفرة، ويقترحون مشروع قانون لإصلاح قيادة هيئة الأوراق المالية والبورصة.
Brianوباعتبارها أكبر شركة إنترنت في الصين، تسيطر بايدو على حصة كبيرة تبلغ 76 بالمائة من سوق الإنترنت في البلاد، وتخدم قاعدة مستخدمين تتجاوز 705 ملايين مستخدم في العام الحالي.
Brianاتخذت وحدة الاستخبارات المالية في الهند خطوات لحظر عناوين URL لتسع بورصات للعملات المشفرة. وتأتي هذه الخطوة في الوقت الذي تزعم فيه وحدة الاستخبارات المالية أن هذه التبادلات "تعمل بشكل غير قانوني" ولا تمتثل لقانون منع غسل الأموال.
Joyيعد قرار البنك المركزي النيجيري بإلغاء الحظر الذي فرضه على التعاملات بالعملات المشفرة لحظة تاريخية، من المتوقع أن تحفز الابتكار والثقة في قطاع التمويل الرقمي في نيجيريا.
Alex