وفقًا لـ CryptoPotato، تم تحديد مقطع فيديو تم التلاعب به لقطب التعدين ورجل الأعمال الأسترالي أندرو "Twiggy" Forrest على فيسبوك، باعتباره الأحدث في سلسلة من التزييف العميق المستخدم في الإعلانات الخادعة، مما يقوض الثقة في وسائل الإعلام. قامت شركة الأمن السيبراني Cybertrace بوضع علامة على الفيديو، الذي يبدو أنه يروج لمنصة تداول عملات مشفرة مزيفة.
ظهرت اللقطات على فيسبوك، وحثت المشاهدين على الاشتراك في منصة احتيالية تسمى "Quantum AI"، والتي تقول Cybertrace إنها سيئة السمعة بسبب عمليات الاحتيال والخداع المالي. غيّر الفيديو تصرفات فورست وسلوكياته من "دردشة جانبية" استضافتها Rhodes Trust في أكتوبر 2023. اكتشف Cybertrace التزييف العميق على فيسبوك في 27 يناير، حيث تظهر نسخة معدلة بالذكاء الاصطناعي من الملياردير وهي تدعم منصة تداول العملات المشفرة الاحتيالية.
على الرغم من قيام شركة Meta، الشركة الأم لفيسبوك وInstagram، بتطبيق حظر على التزييف العميق في أوائل عام 2020، إلا أن المقاطع التي تم التلاعب بها لا تزال تسبب مشاكل للمستخدمين المطمئنين على منصات التواصل الاجتماعي. انتقد فورست عملاق وسائل التواصل الاجتماعي لعدم قيامه بما يكفي لمنع عمليات الاحتيال، وأمامه تهم جنائية معلقة ضد فيسبوك بسبب عملية احتيال إعلانية أخرى للعملات المشفرة يُزعم أنها أساءت استخدام صورته. وأعرب فورست عن إحباطه قائلاً: "إن فيسبوك لا يفعل شيئًا - وهذا ما آمل أن تعالجه الإجراءات القانونية التي بدأتها، لجعل شركات وسائل التواصل الاجتماعي مسؤولة عن الطريقة المهملة التي تدير بها منصاتها الإعلانية". لقد بدأت الإجراءات القانونية منذ عامين تقريبًا بسبب القلق من تعرض الأستراليين الأبرياء للاحتيال على فيسبوك.
يتزايد محتالو التزييف العميق، حيث كشف مؤسس MicroStrategy مايكل سايلور مؤخرًا أن فريقه يعمل على إزالة حوالي 80 مقطع فيديو مزيفًا كل يوم، والعديد منها مصمم لتأييد عمليات احتيال البيتكوين المختلفة. بالإضافة إلى ذلك، ظهرت أيضًا على وسائل التواصل الاجتماعي مقاطع فيديو معدلة تضم شخصيات معروفة مثل الملياردير إيلون ماسك. تحتوي بعض مقاطع الفيديو هذه على روابط لبرامج استثمار أو منتجات غير مصرح بها أو مواقع تجارة إلكترونية غير ذات صلة والتي تختفي بعد بضعة أيام. أصبحت مقاطع الفيديو المزيفة بواسطة الذكاء الاصطناعي (AI) بشكل متزايد واحدة من أكبر التهديدات الأمنية في جميع أنحاء العالم. أشارت بيانات من Sumsub إلى أن نسبة التزييف العميق في أمريكا الشمالية شهدت زيادة كبيرة من عام 2022 إلى الربع الأول من عام 2023. وفي الولايات المتحدة، ارتفعت النسبة من 0.2% إلى 2.6%، بينما ارتفعت في كندا من 0.1% إلى 4.6%. في الوقت نفسه، انخفضت حالات التزوير المطبوع، التي تمثل 4% إلى 5% من إجمالي عمليات الاحتيال في عام 2022، إلى 0% في الربع الأخير.