تجربة خادعة مدعومة بالذكاء الاصطناعي على موقع Reddit الشهيرr/changemyview لقد تم تسليط الضوء مؤخرًا على subreddit، حيث كشف عن محاولة مزعجة للتلاعب بالمستخدمين من خلال روبوتات مقنعة.
من أواخر عام 2024 حتى أوائل عام 2025، استخدم باحثون من جامعة زيورخ سراً نماذج لغوية كبيرة لتمثيل مستخدمين بشريين، والتأثير على الآراء دون موافقة المستخدمين، وجمع آلاف الأصوات الإيجابية.
وشهدت التجربة قيام الروبوتات بنشر أكثر من 1700 تعليق تحت ستار شخصيات حساسة مختلفة، بما في ذلك الناجين من الصدمات والمتطرفين السياسيين.
ولمعالجة هذه المشكلة، أعلن موقع Reddit عن خطط لتشديد نظام التحقق من المستخدمين في محاولة لمنع وقوع حوادث مماثلة في المستقبل.
وأصدر بن لي، كبير المسؤولين القانونيين في موقع ريديت، ردًا رسميًا أدان فيه التجربة ووصفها بأنها "خاطئة للغاية على المستويين الأخلاقي والقانوني".
كتب لي في منشور مجتمعي،
"إنه ينتهك البحث الأكاديمي ومعايير حقوق الإنسان، وهو محظور بموجب اتفاقية المستخدم وقواعد Reddit، بالإضافة إلى قواعد subreddit."
وأكد أيضًا أنه تم حظر جميع الحسابات المرتبطة، وتم إزالة أي محتوى مرتبط تم إنشاؤه بواسطة الذكاء الاصطناعي.
لقد حظرنا جميع الحسابات المرتبطة بجهود جامعة زيورخ البحثية. بالإضافة إلى ذلك، وبينما تمكنّا من كشف العديد من هذه الحسابات المزيفة، سنواصل تعزيز قدراتنا على كشف المحتوى غير الأصلي، وقد تواصلنا مع فريق الإشراف لضمان إزالة أي محتوى مُنشأ بواسطة الذكاء الاصطناعي ومرتبط بهذا البحث.
مصدر: ريديت
صرح ستيف هوفمان، الرئيس التنفيذي لشركة ريديت، أن الحفاظ على سلامة المنصة أمر بالغ الأهمية.
في تحديث تم نشره منذ أربعة أيام، كتب هوفمان،
"يعمل ريديت لأنه منصة إنسانية. إنه من المنصات القليلة على الإنترنت التي يتشارك فيها أشخاص حقيقيون آراءً حقيقية. هذه الأصالة هي ما يمنح ريديت قيمته."
وأكد أن الثقة والتفاعل الإنساني الحقيقي هو أساس المنصة، وأضاف:
"إذا فقدنا الثقة في ذلك، فإننا نفقد ما يجعل ريديت... ريديت."
مصدر: ريديت
ولمنع وقوع حوادث مماثلة، تعمل Reddit الآن على تنفيذ تدابير أكثر قوة للتحقق من هوية المستخدمين، على الرغم من أن هوفمان أكد لقاعدة مستخدمي المنصة المخلصين أن الخصوصية لن تكون معرضة للخطر.
وأوضح هوفمان،
"للحفاظ على إنسانية موقع Reddit وتلبية المتطلبات التنظيمية المتطورة، سوف نحتاج إلى المزيد من المعلومات."
وأوضح أن Reddit سوف يتحقق فقط من كون المستخدمين بشرًا، وفي بعض المناطق، من كونهم بالغين، لكنه لن يجمع التفاصيل الشخصية مثل الأسماء.
مصدر: ريديت
وتخطط الشركة للشراكة مع خدمات التحقق التابعة لجهات خارجية لتنفيذ هذه الفحوصات.
ومع ذلك، لا تزال هناك تساؤلات حول كيفية تأثير هذه التغييرات على المبدأ الأساسي للمنصة، وهو عدم الكشف عن الهوية.
لطالما افتخرت شركة Reddit بتوفير مساحة للمستخدمين لمشاركة أفكارهم دون الكشف عن هوياتهم، لكن الحادث الأخير أجبر الشركة على إعادة النظر في نهجها.
وتثير هذه التجربة مخاوف أخلاقية بالغة الأهمية، وخاصة فيما يتصل بموافقة المستخدم.
ومن خلال استخدام روبوتات الذكاء الاصطناعي لإشراك المستخدمين في مناقشات حساسة - دون إعلامهم بأنهم كانوا يتفاعلون مع الآلات - انتهك الباحثون اتفاقية المستخدم الخاصة بموقع Reddit وأخلاقيات البحث الراسخة.
وسارع المشرفون على r/changemyview إلى تقديم شكوى إلى لجنة الأخلاقيات في الجامعة، ولكن على الرغم من ردود الفعل العنيفة، فإن نشر نتائج الباحثين لا يزال مستمرا.
كانت روبوتات الذكاء الاصطناعي فعالة بشكل ملحوظ، حيث جمعت أكثر من 20 ألف تصويت إيجابي و137 "دلتا" - وهي جوائز تُمنح للنجاح في تغيير رأي شخص ما.
ولكن نجاحهم لم يظهر للعلن إلا بعد أن كشف الباحثون عن أفعالهم، مما دفع Reddit إلى تسريع الإجراءات للتحقق من هوية المستخدم والحماية من المزيد من التلاعب بالذكاء الاصطناعي.
وتشكل هذه الحادثة جزءًا من التحدي المتزايد المتمثل في التمييز بين المحتوى الذي ينتجه الإنسان والمحتوى الذي تنتجه الذكاء الاصطناعي.
مع استمرار تطور الذكاء الاصطناعي، تواجه منصات مثل Reddit ضغوطًا متزايدة لتحقيق التوازن بين الخصوصية والحاجة إلى منع الاستغلال.
مع تزايد تعقيد الروبوتات، أصبح من الواضح أن المجتمعات عبر الإنترنت معرضة لخطر التحول إلى أرض خصبة للتلاعب إذا لم يتم التحكم فيها.
ويأتي قرار Reddit بتعزيز عمليات التحقق مع الوعد بأنه لن يؤدي إلى المساس بإخفاء هوية المستخدم.
طمأن هوفمان المستخدمين قائلاً:
"سنبذل قصارى جهدنا للحفاظ على إنسانية Reddit وخصوصيته."
وعلى الرغم من ذلك، فإن الافتقار إلى الوضوح بشأن خدمات الطرف الثالث والظروف التي قد يتطلب فيها التحقق أمر مثير للقلق بين بعض المستخدمين، الذين يخشون أن يؤدي ذلك إلى تآكل القيمة الأساسية للخصوصية في Reddit.
إن النقاش حول التحقق من المستخدم والتداعيات الأخلاقية للتلاعب الذي يقوده الذكاء الاصطناعي يمثل لحظة حاسمة للمجتمعات عبر الإنترنت.
أصدرت محكمة في تكساس حكمًا ضد التعريف الموسع الذي قدمته هيئة الأوراق المالية والبورصات لمصطلح "التاجر"، وهو ما يمثل انتكاسة كبيرة لجهود الهيئة في تنظيم شركات العملات المشفرة. ويُنظر إلى القرار باعتباره انتصارًا لصناعة العملات المشفرة، التي ترى فيه رفضًا لتجاوزات هيئة الأوراق المالية والبورصات في السيطرة على الأصول الرقمية.
Weatherlyيتصور سام ألتمان الذكاء الاصطناعي الذي "يحب الإنسانية"، معتقدًا أن جهود التوافق تتقدم بشكل جيد. ولكن هل هذا طموح أم أنه مثال بعيد المنال؟
Kikyoتعاونت ماستركارد وجي بي مورجان لتبسيط وتسريع المدفوعات التجارية عبر الحدود باستخدام تقنية البلوك تشين. ستتصل أنظمتهما لتقديم تسويات أسرع وشفافية أفضل وإدارة أسهل للمعاملات الدولية.
Weatherlyردت شركة Upbit مبلغ 8.5 مليار وون إلى 380 ضحية من ضحايا التصيد الصوتي، مما يعزز التزامها بأمن المستخدمين. كما ربطت السلطات مجموعة Lazarus Group في كوريا الشمالية بسرقة Ethereum في عام 2019 بقيمة 1.4 مليار دولار. واستجابة لجرائم التشفير المتزايدة، تعمل شركة Upbit ووكالات إنفاذ القانون على تكثيف تعاونهما لحماية مجال التمويل الرقمي.
Catherineتقترب عملة البيتكوين من حاجز 100 ألف دولار، مدفوعة بالتفاؤل المتزايد بشأن سياسات ترامب المؤيدة للعملات المشفرة والاهتمام المؤسسي المتزايد. تشهد سوق العملات المشفرة ارتفاعًا، مع اكتساب العملات البديلة أيضًا القوة، مما يشير إلى اتجاه صعودي عبر القطاع.
Anaisيستخدم أول دراما كورية مدعومة بالذكاء الاصطناعي، "Kiss Lighting – Ghost Cupid"، أدوات الذكاء الاصطناعي مثل ChatGPT وMidjourney لكتابة السيناريوهات والمرئيات، مما يوفر نهجًا فعالاً من حيث التكلفة ومبتكرًا للإنتاج. يجعل الذكاء الاصطناعي إنشاء المحتوى أكثر سهولة، على الرغم من أن التحديات لا تزال قائمة في الحفاظ على مشاركة الجمهور ومعالجة المخاوف القانونية بشأن الملكية وحقوق النشر.
Weatherlyتحث الهيئة التنظيمية المالية في كوريا الجنوبية على تشديد الرقابة على سوق العملات المشفرة المتقلبة، والتي تجاوزت مؤخرًا سوق الأسهم من حيث حجم المعاملات. كما أكدت السلطات أن قراصنة من كوريا الشمالية سرقوا كميات كبيرة من العملات المشفرة في عام 2019، مما أدى إلى تكثيف المخاوف بشأن الأمن والتلاعب بالسوق.
Weatherlyوتعمل بريطانيا على تعزيز دفاعاتها السيبرانية ردًا على التهديد المتزايد للهجمات التي تقودها الذكاء الاصطناعي من روسيا، وذلك من خلال إنشاء مختبر جديد لأمن الذكاء الاصطناعي واستثمار 8.22 مليون جنيه إسترليني. وأكد ماكفادن على الحاجة الملحة لحماية الأنظمة الرقمية، حيث تستمر الهجمات السيبرانية الروسية في استهداف أوكرانيا وأنصارها.
Anaisتستخدم شركة Niantic بيانات لاعبي لعبة Pokémon GO لتدريب نموذج ذكاء اصطناعي يرسم خرائط ويتنبأ بالبيئات الحقيقية بدقة متناهية. وقد تعمل هذه التكنولوجيا على إحداث تحول في عالم الألعاب والتخطيط الحضري والواقع المعزز مع إثارة مخاوف الخصوصية بشأن استخدام البيانات.
Joyوتضغط وزارة العدل الأميركية على جوجل لبيع متصفحها كروم للحد من هيمنتها في مجال البحث والإعلان عبر الإنترنت. وقد تؤدي هذه الخطوة إلى تعطيل نموذج أعمال جوجل، حيث يواجه المشترون المحتملون التدقيق التنظيمي وعدم اليقين بشأن التأثير على المنافسة.
Anais