اتخذت منصة التواصل الاجتماعي الصينية WeChat إجراءات حاسمة لمعالجة المشكلة المتزايدة المتمثلة في استخدام صور المشاهير المولدة بواسطة الذكاء الاصطناعي في ممارسات تسويقية ضارة.
في إعلان حديث عبر حسابها الرسمي "WeChat Coral Security" في 15 ديسمبر 2024، كشفت المنصة أنها أغلقت 209 حسابات متورطة في تكتيكات تسويقية غير أخلاقية تعتمد على الذكاء الاصطناعي، تهدف إلى التلاعب بثقة المستهلك والحصول على حركة مرور احتيالية.
وقد عالجت بسرعة سلسلة من الانتهاكات التي تم فيها استخدام الذكاء الاصطناعي لانتحال شخصيات المشاهير لأغراض ترويجية غير لائقة.
وذكرت المنصة أنها تلقت تقارير متعددة من المستخدمين وأجرت عمليات فحص منتظمة، مما سمح بالتعرف السريع على هذه الأنشطة الخادعة وإزالتها.
وقالت شركة WeChat في بيانها:
"لحماية حقوق المستخدمين ومنع الاحتيال على المستهلكين، اتخذنا إجراءات حاسمة لمكافحة إساءة استخدام تقنية الذكاء الاصطناعي في التسويق الاحتيالي."
اكتسب استخدام تكنولوجيا الذكاء الاصطناعي لمحاكاة الشخصيات العامة المعروفة زخمًا متزايدًا، وخاصة للأغراض التجارية.
يمكن لهذه الأدوات التي تعمل بالذكاء الاصطناعي إنشاء مقاطع فيديو مزيفة وتسجيلات صوتية مقنعة من خلال استنساخ صور شخصيات مشهورة، مما يؤدي إلى انتشار التضليل على نطاق واسع عبر الإنترنت.
تم إطلاق حملة القمع على تطبيق WeChat نتيجة لتقارير متعددة من المستخدمين والمراقبة الروتينية، مما أدى إلى تحديد الحسابات التي تسيء استخدام هذه التكنولوجيا.
أزال تطبيق WeChat الآن 532 قطعة من المحتوى الضار كجزء من مبادرته الأوسع لمكافحة أنشطة التسويق الاحتيالية هذه.
ومن الواضح أن التزام المنصة بتحسين حماية المستهلك واضح، حيث ذكرت الشركة أنها ستواصل التركيز على الحد من مثل هذه الممارسات الخادعة.
وقد أثار التطور المتزايد للمحتوى الذي يتم إنشاؤه بواسطة الذكاء الاصطناعي المخاوف، لأنه يسمح بالتلاعب بالمستهلكين من خلال التأييدات الملفقة.
وقد ظهرت بالفعل حالات بارزة من انتحال شخصيات الذكاء الاصطناعي، بما في ذلك حالات تم فيها استخدام أصوات وصور المشاهير للترويج للمنتجات دون موافقتهم.
وتتعلق إحدى هذه الحالات بالممثل الهونغ كونغي ريموند وونغ، الذي ندد علناً بالاستخدام الاحتيالي لصورته وصوته في إعلان تم إنشاؤه بواسطة الذكاء الاصطناعي.
وقال وونغ في بيان نشر على وسائل التواصل الاجتماعي:
"إن هذا السلوك هو مجرد احتيال، ويهدف إلى تضليل الجمهور والاستفادة منه".
يكشف هذا الوضع عن مخاطر انتحال الهوية باستخدام الذكاء الاصطناعي، حيث يتم التلاعب بالثقة لخداع المستهلكين لحملهم على شراء المنتجات من خلال التأييدات المزيفة.
يحذر الخبراء من أن انتحال شخصيات الذكاء الاصطناعي قد ينتهك حقوق الأفراد.
وأشار المحامي شو وي من شركة جينجدو للمحاماة في بكين إلى أن استخدام الذكاء الاصطناعي لتغيير صورة شخص ما لأغراض تجارية دون موافقته ينتهك حقوق صورته.
إذا كانت المنتجات التي يتم الترويج لها من خلال هذه التوصيات التي تم إنشاؤها بواسطة الذكاء الاصطناعي مبالغ فيها أو باهظة الثمن، فقد يشكل ذلك احتيالاً، حيث قد يتم تضليل المستهلكين لإجراء عمليات شراء بناءً على هذه التوصيات الكاذبة.
وسلط شو الضوء أيضًا على إمكانية الإضرار بالسمعة، مشيرًا إلى أن الاستخدامات الخبيثة للذكاء الاصطناعي، مثل إنشاء محتوى مسيء أو وضع وجه شخص ما في سياق غير مناسب، يمكن أن تؤدي إلى انتهاكات لحقوق الإنسان الشخصية.
ويجري أيضًا التدقيق في دور مقدمي المنصات مثل WeChat.
وحثت المنصات على تحمل المسؤولية عن المحتوى الموجود على مواقعها، والتأكد من وضع علامات واضحة على مقاطع الفيديو التي تم إنشاؤها بواسطة الذكاء الاصطناعي لتجنب ارتباك المستخدم.
تفرض هذه اللائحة على مقدمي الخدمات وضع علامة واضحة على المحتوى الذي تم إنشاؤه بواسطة الذكاء الاصطناعي باستخدام مؤشرات مرئية في نقاط رئيسية، مثل البداية أو النهاية أو مناطق بارزة أخرى، عبر تنسيقات مختلفة مثل النصوص والصوت والصور ومقاطع الفيديو.
وقد بدأت المنصات الرئيسية بالفعل في إضافة إخلاءات للمسؤولية، مثل "المحتوى الذي تم إنشاؤه بواسطة الذكاء الاصطناعي" أو "إنشاء الذكاء الاصطناعي المشتبه به"، لمساعدة المشاهدين على التمييز بين الوسائط الحقيقية والاصطناعية.
ومع ذلك، في الحالات التي تفشل فيها المنصات في تصنيف المحتوى المضلِّل أو إزالته بشكل مناسب، فقد تتحمل المسؤولية عن تسهيل انتشار المواد الاحتيالية.
وأعلنت شركة "وي تشات" أنها ستكثف جهودها لمنع وصول مثل هذا المحتوى إلى المستخدمين، مما يزيد من تشديد ممارساتها التنظيمية.
وفقًا للمبادئ التوجيهية الأخيرة التي أصدرتها السلطات الصينية، يجب على خدمات الذكاء الاصطناعي التي تولد محتوى مزيفًا عميقًا أن تشير بوضوح إلى متى يمكن أن يؤدي المحتوى إلى الارتباك.
تلتزم WeChat بمواصلة تعزيز حوكمتها، وضمان بقاء كل من المستخدمين ومقدمي الخدمة مسؤولين عن المحتوى الذي تم إنشاؤه باستخدام تقنيات الذكاء الاصطناعي.
إن دور الجمهور في المساعدة في تحديد محتوى الذكاء الاصطناعي الاحتيالي والإبلاغ عنه أمر محوري أيضًا في الحفاظ على بيئة آمنة وموثوقة عبر الإنترنت.
مع تزايد إمكانية الوصول إلى أدوات الذكاء الاصطناعي على نطاق واسع، يقع العبء على عاتق كل من مقدمي المنصات والمستخدمين لمنع الاستغلال والخداع في العالم الرقمي.
سرق تطبيق احتيالي متخفي تحت اسم WalletConnect أكثر من 70 ألف دولار من أكثر من 150 مستخدمًا للعملات المشفرة من خلال خداعهم لربط محافظهم. تم إصدار التطبيق باسم "Mestox Calculator"، وحصل على أكثر من 10 آلاف عملية تنزيل واستخدم مراجعات مزيفة لتحقيق الرؤية على متجر Google Play، مما سمح له بالتهرب من الاكتشاف وتنفيذ مخططه.
Weatherlyأبلغ مستخدمو Polymarket عن استنزاف محافظهم بعد تسجيل الدخول باستخدام حسابات Google، على الرغم من أن أولئك الذين يستخدمون امتدادات MetaMask أو TrustWallet لم يتأثروا. تزعم Polymarket أن المشكلة معزولة، لكن المستخدمين المتأثرين ما زالوا قلقين.
Catherineقال أحد المدونين الماليين المعروفين إن التنظيم غير الرسمي لإدارة بايدن الذي يتطلب من البنوك الحد من ودائع العملات المشفرة بما لا يزيد عن 15٪ قد يؤدي إلى موجة من الذعر بين العملاء.
Alexاقترح فيتاليك بوتيرين إنشاء مقاييس لتقييم مدى توافق المشاريع مع القيم الأساسية لإيثريوم. وأكد أن تحقيق "توافق إيثريوم" يشكل تحديًا اجتماعيًا كبيرًا داخل النظام البيئي، لكنه أقر بأن هذا المسعى لن يكون سهلاً.
Kikyoأعادت شركة مايكروسوفت إطلاق برنامجها Recall الذي يعمل بالذكاء الاصطناعي مع ميزات خصوصية محسنة بعد أن أدت المخاوف الأولية بشأن مراقبة المستخدم إلى تأخير إطلاقه. سيتيح الإصدار الجديد للمستخدمين تصفية المعلومات الحساسة، وطلب مصادقة Windows Hello، والعمل على أساس اختياري، مما يضمن سيطرة أكبر على بياناتهم.
Anaisلقد قامت شركة FTX بتغيير خططها للسداد بشكل غير متوقع، حيث خصصت 10-25% فقط من الأصول المستردة لحاملي العملات المشفرة بينما خصصت 230 مليون دولار للمساهمين المفضلين. وقد شعر العديد من الدائنين بالغضب الشديد بسبب هذه التعديلات والإحباط لأن عمليات السداد تستند إلى أسعار أصول أقل بكثير من وقت الإفلاس.
Joyتعاونت شركة Tether مؤخرًا مع وزارة العدل الأمريكية لاستعادة 6 ملايين دولار من الأصول المشفرة المرتبطة بعمليات احتيال في جنوب شرق آسيا، حيث انتحل المحتالون صفة البورصات المشروعة لخداع الضحايا.
Catherineالتزمت شركة Telegram بسياسة عدم التسامح مطلقًا مع المواد الإباحية المزيفة والمحتوى غير القانوني في كوريا الجنوبية بعد المخاوف بشأن الصور المعدلة للنساء. تهدف هذه الشراكة مع لجنة معايير الاتصالات الكورية إلى إزالة المواد الضارة بسرعة وحماية الضحايا، حيث تأثر أكثر من 800 شخص بالفعل هذا العام.
Weatherlyاستحوذت شركة Matrixport على قسم إدارة الأصول التابع لشركة Crypto Finance، وأطلقت عليه اسم Matrixport Asset Management AG لتعزيز خدماتها وتوسيع حضورها التنظيمي في أوروبا. يسمح هذا الاستحواذ لشركة Matrixport بتقديم حلول استثمارية مبتكرة ومتوافقة مع القواعد التنظيمية للعملات المشفرة، مما يعزز مكانتها في سوق الأصول الرقمية.
Anaisأطلقت شركة World Liberty Financial، بدعم من عائلة ترامب، عملية KYC لرموز WLFI الخاصة بها. يمكن للمستثمرين المعتمدين في الولايات المتحدة والمشاركين من خارج الولايات المتحدة الانضمام، بينما يتم استبعاد المستثمرين الأفراد في الولايات المتحدة بسبب اللوائح. يأمل المشروع في توسيع نطاق الوصول إلى جميع المستخدمين في الولايات المتحدة في المستقبل.
Catherine