WeChat تتخذ إجراءات صارمة ضد عمليات الاحتيال الإعلانية التي تستخدم التزييف العميق لانتحال شخصيات عامة

تعهدت منصة التواصل الاجتماعي واسعة الاستخدام WeChat التابعة لشركة Tencent بتكثيف حملتها الصارمة على موجة متزايدة من عمليات الاحتيال الإعلانية التي تستغل الذكاء الاصطناعي التوليدي لإنشاء مقاطع فيديو مزيفة.

في إعلان صدر يوم الأحد، حددت شركة WeChat تدابير مستهدفة ضد المحتوى الذي يستغل الذكاء الاصطناعي لانتحال شخصيات عامة من أجل حملات تسويقية مضللة وتوليد حركة مرور. وأفادت المنصة بإزالة 532 حالة من هذا المحتوى وتعليق 209 حسابات متورطة في إنشاء مقاطع فيديو ترويجية مزيفة.

أكدت شركة WeChat التزامها بتعزيز الرقابة التكنولوجية لحماية سلامة المنصة، وحثت منشئي المحتوى على الالتزام باللوائح وسياسات المنصة المعمول بها. ووعدت المنصة بمواصلة تعزيز قدراتها الإدارية والحفاظ على نظام بيئي صحي.

استخدام Deepfake لانتحال شخصيات بارزة

وتأتي هذه الحملة وسط تدقيق متزايد في محتوى الفيديو المزيف، وخاصة استخدامه لانتحال هوية الشخصيات العامة لأغراض الترويج الاحتيالي.

شوهد خبير الأمراض المعدية الصيني تشانغ وين هونغ، وهو شخصية موثوقة أثناء الوباء، على تطبيق WeChat وهو يروج لأشرطة البروتين. نفى تشانغ لاحقًا تورطه، معربًا عن قلقه بشأن مثل هذا المحتوى المضلِّل والخبيث، وقد قدم شكاوى متعددة ضد الشركة.

وعلى نحو مماثل، وجد ريموند وونغ باك مينغ، الممثل وصانع الأفلام البارز في هونج كونج، نفسه في موقف مماثل. فقد انتشر على تطبيق WeChat مقطع فيديو مزيف له وهو يروج لمرهم مجهول.

وكتب وونغ على حسابه على موقع ويبو: "هذا السلوك احتيالي بحت ويهدف إلى خداع الجمهور لتحقيق الربح".

تشديد القيود على التزييف العميق

وقد دفع الانتشار المتزايد لتقنية التزييف العميق الجهات التنظيمية الصينية إلى فرض تدابير أكثر صرامة. وتنص الأحكام الإدارية بشأن التوليف العميق لخدمة معلومات الإنترنت، التي تم تنفيذها في عام 2023، على وضع علامات واضحة وإمكانية تتبع المحتوى المعدل بواسطة الذكاء الاصطناعي.

وبناءً على هذه اللوائح، تقترح المبادئ التوجيهية الجديدة لعام 2024 رقابة أكثر صرامة، مما يتطلب من المنصات تحديد وتنظيم كل المحتوى الذي يتم إنشاؤه بواسطة الذكاء الاصطناعي الذي تقوم بتوزيعه.

في وقت سابق من هذا الشهر، وجهت هيئة البث الحكومية الصينية منصات الفيديو القصيرة، بما في ذلك Douyin التابعة لشركة ByteDance (المعادل الصيني لـ TikTok) وKuaishou، لإزالة "التعديلات الغريبة" للأفلام الكلاسيكية أو البرامج التلفزيونية المنتجة باستخدام تقنية التزييف العميق.

مع تكثيف منصات مثل WeChat لجهودها في إنفاذ القانون، تسلط المعركة ضد التلاعب بالمحتوى المدعوم بالذكاء الاصطناعي الضوء على التحديات الأوسع التي يفرضها الذكاء الاصطناعي التوليدي في الحفاظ على الثقة وحماية النظم البيئية الرقمية.