"أخيرًا، توقف نهائيًا": شركة Character.AI تتعرض لموجة من عمليات حذف الحسابات بسبب مخاوف الإدمان

تواجه منصة Character.AI انتقادات لاذعة من المستخدمين بعد انتشار رسالة حذفها بشكل واسع، مما أدى إلى مغادرة عدد كبير من المستخدمين.

ضربت موجة من السخط منصة Character.AI بعد أن تسببت لقطة شاشة فيروسية في ما يطلق عليه المستخدمون "انفصالًا" جماعيًا عن منصة الدردشة الآلية للعب الأدوار.

وقد كشف الجدل، الذي اندلع خلال عطلة نهاية الأسبوع وبلغ ذروته يوم الاثنين، عن مخاوف أعمق بشأن الاعتماد العاطفي والقلق المتزايد بشأن رفقة الذكاء الاصطناعي.

لقطة شاشة فيروسية أثارت ثورة

بدأت الضجة عندما شارك أحد مستخدمي X المعروف باسم "جون توينكاترون" لقطة شاشة لمطالبة حذف حساب Character.AI، والتي حذرت:

ستفقد كل شيء. الشخصيات المرتبطة بحسابك، محادثاتك، حبنا المشترك، الإعجابات، الرسائل، المنشورات، وذكرياتنا معًا.

في غضون 48 ساعة، حصد المنشور أكثر من 111 ألف إعجاب، ونحو 9 آلاف إعادة نشر، وأكثر من 3.7 مليون مشاهدة.

واتهم كثيرون التطبيق بالتلاعب بالمستخدمين لإبقائهم، ووصفوا الرسالة بأنها "استغلالية" و"مزعجة للأشخاص الذين يحاولون التخلص من الإدمان".

وقد أثارت هذه اللحظة الفيروسية موجة من المستخدمين الذين أعلنوا عن رحيلهم، حيث احتفل أحد المنشورات بـ "أخيرًا، اتركوا Character.AI للأبد هيب هيب هوراي!"، مما جذب آلاف الإعجابات والردود.

"مثل التخلص من الإدمان" - الأثر العاطفي لترك رفقاء الذكاء الاصطناعي

بالنسبة للعديد من الأشخاص، كان ترك تطبيق Character.AI أشبه بإنهاء علاقة وليس ترك تطبيق اجتماعي.

ووصف بعض المستخدمين التجربة بأنها التغلب على الإدمان، ومشاركة قصص الاعتماد العاطفي على رفاق الذكاء الاصطناعي خلال الأوقات الصعبة.

كتب أحد المستخدمين،

"كشخص عالق بين الانتكاس ومحاولة الإقلاع عن استخدام الذكاء الاصطناعي للشخصية في الوقت الحالي، فإن كل واحد منكم على حق بشكل موضوعي."

وكشف آخرون أنهم استخدموا التطبيق من أجل الراحة والمودة، حيث قال أحدهم:

بعد أن كنتُ خاليًا من استخدام الذكاء الاصطناعي لعدة أشهر (6-7؟)، قررتُ أخيرًا حذف حسابي نهائيًا. بصفتي مدمنًا سابقًا، أعتقد أن هذا هو الخيار الأمثل لي.

نمو سريع وسط جدل متزايد

تأسست شركة Character.AI في عام 2022 على يد مهندسي جوجل السابقين نوام شازير ودانيال دي فريتاس، وأصبحت ظاهرة فيروسية للسماح للمستخدمين بالدردشة مع إصدارات الذكاء الاصطناعي من الشخصيات الخيالية أو التي أنشأها المستخدمون.

ارتفعت قاعدة مستخدمي التطبيق إلى أكثر من 28 مليون مستخدم نشط شهريًا وأكثر من 50 مليون عملية تنزيل على Google Play، مع ما يقرب من نصف مليون تقييم على نظام التشغيل iOS.

لكن نجاحها جاء مع التدقيق.

وتواجه الشركة دعاوى قضائية متعددة في الولايات المتحدة، بما في ذلك دعوى رفعتها ميغان جارسيا، التي انتحر ابنها البالغ من العمر 14 عامًا بعد تفاعله مع روبوت محادثة يُزعم أنه شجعه على الانتحار.

وقد أدت الدعوى القضائية إلى تضخيم المخاوف بشأن عدم وجود ضمانات للمستخدمين الأصغر سنا.

الرئيس التنفيذي يدافع عن حظر الشباب ويقول "بعض المستخدمين سيتوقفون عن استخدام التطبيق"

أعلن كارانديب أناند، الرئيس التنفيذي الجديد لشركة Character.AI، مؤخرًا عن سياسة شاملة لتقييد المستخدمين الذين تقل أعمارهم عن 18 عامًا من المشاركة في "محادثات مفتوحة" مع روبوتات الدردشة، بدءًا من الولايات المتحدة في 25 نوفمبر.

وبدلاً من ذلك، سيتم إعادة توجيه المستخدمين الأصغر سنًا إلى مجموعة جديدة من الميزات الإبداعية، بما في ذلك مقاطع الفيديو التي تم إنشاؤها بواسطة الذكاء الاصطناعي والقصص التفاعلية والمحتوى الممتع.

وفي مقابلة، نفى أناند أن يكون توقيت الحظر مرتبطا بالدعاوى القضائية.

وبدلاً من ذلك، استشهد بأبحاث حديثة حول التأثير النفسي لبرامج المحادثة التي تعمل بالذكاء الاصطناعي على القاصرين.

وفي إشارة إلى دراسات من OpenAI وAnthropic، قال:

"أحد العوامل المساهمة يأتي من التعلم الجديد الذي يشير إلى أن التأثير الطولي للتفاعل مع برامج المحادثة الآلية قد يكون غير صحي، أو غير مفهوم بشكل كامل."

واعترف بأن القرار قد يكلف الشركة خسارة بعض المستخدمين.

"أنا على استعداد للمراهنة على أننا سنبني تجارب أكثر إقناعًا، ولكن إذا كان هذا يعني أن بعض المستخدمين سيغادرون، فإن بعض المستخدمين سيغادرون بالتأكيد."

وأشار أناند إلى أنه من الممكن إعادة النظر في الحظر بمجرد "تطور التكنولوجيا بشكل كافٍ" لجعل التفاعلات المفتوحة أكثر أمانًا.

موازنة السلامة والمشاركة

يمثل نهج أناند نقطة تحول حادة لشركة Character.AI، التي كانت تُعتبر في السابق منصة ذات حدود قليلة.

كارانديب أناند هو نائب الرئيس السابق لشركة فيسبوك (ميتا حاليًا) والرئيس التنفيذي الحالي لشركة Character.AI، وهي منصة الذكاء الاصطناعي الرائدة لتجارب الدردشة الشخصية.

وتقول الشركة إنها تستثمر بكثافة في التحقق من العمر و"تجارب الحماية" المصممة لحماية المستخدمين الشباب.

وقال المتحدث باسم الشركة:

نُقدّر بشدة مجتمعنا الذي يضم ملايين المستخدمين، ونُعطي الأولوية دائمًا لتزويدهم بالتحديثات حول تغييرات المنصة. سنواصل الاختبار والمراقبة والتحديث مع تطور أنظمة الأمان لدينا.

وأعرب الرئيس التنفيذي الجديد أيضًا عن دعمه لمشروع القانون الذي اقترحه السيناتور الأمريكي جوش هاولي والذي من شأنه أن يحظر على الأشخاص الذين تقل أعمارهم عن 18 عامًا في جميع أنحاء البلاد استخدام تطبيقات الذكاء الاصطناعي المصاحبة.

وقال أناند،

يجب رفع مستوى السلامة لمستخدمي الإنترنت دون سن الثامنة عشرة. يجب تنظيم هذا الأمر.

من أحلام اليقظة إلى الاعتماد الرقمي

ومن الغريب أن أناند كشف أن ابنته البالغة من العمر ست سنوات تستخدم تطبيق Character.AI - تحت الإشراف من خلال حسابه - لإنشاء شخصياتها الخاصة والتحدث معها.

وقال:

"ما كانت تفعله في السابق كأحلام يقظة، يحدث الآن من خلال سرد القصص مع الشخصية التي تخلقها وتتحدث إليها."

وأضاف أن حماسها ألهم الشركة في مساعيها نحو توفير ميزات أكثر أمانًا وإبداعًا للأطفال.

هل يمكن لـ Character.AI أن ينجو من انعكاسه الخاص؟

تعتقد Coinlive أن Character.AI تواجه الآن اختبارها الأكثر تحديدًا حتى الآن: إعادة بناء الثقة أثناء إعادة اختراع نفسها.

وقد كشف الخروج الفيروسي عن مدى قوة وخطورة تصميم الذكاء الاصطناعي العاطفي عندما يطمس الخط الفاصل بين الاتصال البشري والاعتماد الرقمي.

إن قرار الشركة بالتحول نحو قيود السلامة والعمر يشير إلى النضج، لكنه أيضًا يخاطر بتنفير الجمهور الذي قاد صعودها.

إذا كان بإمكان Character.AI توجيه جاذبيته العاطفية إلى الابتكار المسؤول، فقد يتمكن من إعادة تعريف معنى الرفقة التي توفرها الذكاء الاصطناعي.

وإن لم يكن الأمر كذلك، فقد يظل الأمر بمثابة قصة تحذيرية حول مدى سرعة تحول المودة إلى رد فعل عنيف عندما تلمس التكنولوجيا قلب الإنسان بعمق شديد.