أدوات الذكاء الاصطناعي تغمر أمازون وييلب بتقييمات مزيفة – هل يتم خداعك؟

المراجعات التي تم إنشاؤها بواسطة الذكاء الاصطناعي والتي تغمر المنصات عبر الإنترنت تشكل مصدر قلق متزايد

لقد أدى ظهور أدوات الذكاء الاصطناعي القادرة على إنشاء مراجعات مفصلة على نطاق واسع إلى خلق موجة جديدة من التحديات للشركات والمستهلكين والمنصات عبر الإنترنت على حد سواء.

في حين كانت التقييمات المزيفة مشكلة قائمة منذ فترة طويلة عبر مواقع مثل Amazon وYelp وTrustpilot، فقد أدت تقنية الذكاء الاصطناعي إلى تسريع إنشاء وتوزيع التقييمات الاحتيالية بشكل كبير.

كيف يغير الذكاء الاصطناعي مشهد المراجعات المزيفة

أصبحت أدوات الكتابة بالذكاء الاصطناعي، مثل ChatGPT من OpenAI، أداة قوية في أيدي المحتالين.

وتسمح هذه التقنيات للمستخدمين بإنشاء كميات كبيرة من المراجعات بسرعة والتي قد تبدو حقيقية، مما يجعل من الصعب على كل من المستهلكين والمنصات التمييز بين المراجعات المشروعة والمزيفة.

في منتصف عام 2023، بدأت شركة Transparency، وهي مجموعة حماية عامة تتعقب الأنشطة الاحتيالية عبر الإنترنت، في ملاحظة زيادة كبيرة في المراجعات التي تم إنشاؤها بواسطة الذكاء الاصطناعي.

ال نتائج الشركة، التي صدرت في أواخر عام 2024 كشفت دراسة جديدة أن ما يقرب من 14% من 73 مليون مراجعة فحصتها عبر الخدمات المنزلية والقانونية والطبية كانت مزيفة على الأرجح، مع اشتباه في أن 2.3 مليون من تلك المراجعات تم إنتاجها بالكامل أو جزئيًا بواسطة الذكاء الاصطناعي.

المصدر: شركة الشفافية

علق موري بلاكمان، وهو مستثمر في الشركات الناشئة في مجال التكنولوجيا، على ارتفاع حالات الاحتيال بمساعدة الذكاء الاصطناعي، قائلاً:

"إنها مجرد أداة جيدة جدًا جدًا لمحتالي المراجعة هؤلاء."

الذكاء الاصطناعي وأثره على ثقة المستهلك

يعد ارتفاع عدد التقييمات التي يتم إنشاؤها بواسطة الذكاء الاصطناعي أمرًا مثيرًا للقلق بشكل خاص بالنسبة للمستهلكين، وخاصة خلال مواسم التسوق الذروة مثل العطلات عندما تلعب التقييمات دورًا حاسمًا في قرارات الشراء.

وشهدت منصات التجارة الإلكترونية الكبرى، بما في ذلك أمازون، زيادة في التقييمات الاحتيالية، والتي ينتهي بعضها في أعلى نتائج البحث، على الرغم من صحتها المشكوك فيها.

قال ماكس سبيرو، الرئيس التنفيذي لشركة Pangram Labs، وهي شركة تركز على اكتشاف التقييمات المزيفة، إن بعض التقييمات التي تم إنشاؤها بواسطة الذكاء الاصطناعي على أمازون بدت "مفصلة للغاية ومدروسة جيدًا" بحيث يمكنها خداع المتسوقين بسهولة.

وفي الوقت نفسه، على موقع Yelp، غالبًا ما يتم نشر المراجعات التي تم إنشاؤها بواسطة الذكاء الاصطناعي من قبل المستخدمين الذين يحاولون تجميع ما يكفي من المراجعات لكسب شارة "Elite"، والتي تمنحهم حق الوصول إلى الأحداث الحصرية وتجعل ملفاتهم الشخصية تبدو أكثر مصداقية.

ماذا تفعل الشركات لمكافحة هذه المشكلة؟

تتخذ الشركات خطوات لمعالجة المشكلة المتزايدة المتمثلة في التقييمات المزيفة التي يتم إنشاؤها بواسطة الذكاء الاصطناعي.

تسمح المنصات الإلكترونية الكبرى مثل أمازون وترست بايلوت للمستخدمين بنشر تقييمات بمساعدة الذكاء الاصطناعي، طالما أنها تعكس تجاربهم الشخصية بصدق.

ومع ذلك، اتخذ موقع Yelp موقفا أكثر حذرا، حيث طالب بأن تتم كتابة المراجعات بشكل شخصي من قبل المستخدمين.

يعترف تحالف المراجعات الموثوقة، الذي يضم شركات مثل أمازون، وترست بايلوت، وجلاس دور، وتريب أدفايزر، بالاستغلال المحتمل للذكاء الاصطناعي، ولكنه يرى فيه أيضًا فرصة لمواجهة الأنشطة الاحتيالية.

وتدعو المجموعة إلى تطوير أنظمة اكتشاف الذكاء الاصطناعي بشكل أفضل لضمان بقاء المراجعات عبر الإنترنت جديرة بالثقة.

ورغم هذه الجهود، يعتقد الخبراء أن شركات التكنولوجيا لا تبذل جهودا كافية لمعالجة حجم التقييمات المزيفة.

وأشارت كاي دين، المحققة الجنائية الفيدرالية السابقة ومؤسسة منظمة Fake Review Watch، إلى:

"إذا كانت شركات التكنولوجيا هذه ملتزمة جدًا بالقضاء على الاحتيال في المراجعات على منصاتها، فلماذا يمكنني، كفرد واحد يعمل بدون أي أتمتة، العثور على مئات أو حتى آلاف المراجعات المزيفة في أي يوم؟"

تدخلت لجنة التجارة الفيدرالية

اتخذت لجنة التجارة الفيدرالية الأمريكية (FTC) إجراءات هامة ضد الشركات التي تسهل إنشاء تقييمات مزيفة.

في عام 2024، حظرت لجنة التجارة الفيدرالية بيع أو شراء التقييمات المزيفة ورفعت دعوى قضائية ضد الشركة التي تقف وراء Rytr، وهي أداة كتابة الذكاء الاصطناعي، بزعم تمكينها من إنشاء تقييمات احتيالية على نطاق واسع.

وأشارت اللجنة إلى أن بعض مستخدمي موقع Rytr كانوا ينتجون مئات أو حتى آلاف التقييمات للشركات التي تتراوح من خدمات إصلاح أبواب المرآب إلى بائعي السلع المصممة المقلدة.

وعلى الرغم من أن إجراءات لجنة التجارة الفيدرالية قد أدت إلى رفع مستوى الوعي، فإن المنصات التقنية التي تستضيف هذه المراجعات المزيفة محمية من العواقب القانونية.

لا يحمل القانون الأمريكي شركات مثل أمازون أو جوجل المسؤولية عن المحتوى الذي ينشره أطراف ثالثة على منصاتها.

اكتشاف التقييمات المزيفة: ما ينبغي للمستهلكين معرفته

يمكن للمستهلكين حماية أنفسهم من خلال الانتباه إلى العديد من علامات التحذير عند قراءة المراجعات.

إن المراجعات المبالغ فيها في الحماسة أو السلبية قد تثير الشكوك، كما هو الحال مع المراجعات التي تستخدم مصطلحات مكررة، مثل الاسم الكامل للمنتج أو رقم الطراز.

غالبًا ما تظهر المراجعات التي يتم إنشاؤها بواسطة الذكاء الاصطناعي، على وجه الخصوص، سمات معينة.

وفقًا لبحث أجرته شركة Panagram Labs، تميل هذه المراجعات إلى أن تكون أطول وأكثر هيكلة ومليئة بـ "الوصف الفارغ" - مصطلحات غامضة مثل "مغير قواعد اللعبة" أو "أول شيء لفت انتباهي".

أجرى بالاز كوفاكس، الأستاذ بجامعة ييل، بحثًا أظهر أن الناس غالبًا ما يكونون غير قادرين على التمييز بين المراجعات التي يولدها الذكاء الاصطناعي وتلك التي يكتبها الإنسان.

يمكن للنصوص الأقصر، والتي تعد شائعة في المراجعات عبر الإنترنت، أن تخدع أيضًا أدوات اكتشاف الذكاء الاصطناعي، مما يجعل من الصعب اكتشاف المحتوى الاحتيالي.

المعركة المتنامية ضد التقييمات المزيفة

ومع استمرار ارتفاع استخدام الذكاء الاصطناعي لتوليد التقييمات المزيفة، فإن المسؤولية لا تقع على عاتق شركات التكنولوجيا فقط لتحسين أنظمة الكشف ولكن أيضًا على عاتق المستهلكين للبقاء يقظين.

وفي حين تتكيف بعض المنصات مع الواقع الجديد من خلال تحسين سياساتها، يزعم الخبراء أن هناك حاجة إلى بذل المزيد من الجهود لحماية المستهلكين من الوقوع ضحية للمحتوى الخادع عبر الإنترنت.

كما قال كاي دين باختصار:

"إن جهودهم حتى الآن ليست كافية على الإطلاق."