فشل Google في "جعل الذكاء الاصطناعي مفيدًا للجميع"، مما أدى إلى ظهور ردود مضللة

"جعل الذكاء الاصطناعي مفيدًا للجميع"

هذا هو شعار Google لمؤتمر Google I/O الأخير، ولكن يبدو أن الأمور قد اتخذت منعطفًا نحو الأسوأ.

مخاوف الدقة مع نظرة عامة على الذكاء الاصطناعي

في مجال الذكاء الاصطناعي (AI) المتنامي باستمرار، ظهرت منافسة شرسة بين عمالقة التكنولوجيا مثل Google، وMicrosoft، وOpenAI، وxAI.

يتمحور السباق حول الذكاء الاصطناعي التوليدي، وهي تقنية قادرة على إنتاج نصوص وترجمات وصور ورموز برمجية بجودة بشرية.

وكانت جوجل، وهي لاعب بارز في هذا السباق، قد قدمت ميزة AI Overviews في مايو 2024، بهدف تزويد المستخدمين بملخصات سريعة لاستعلامات البحث في أعلى نتائج البحث.

وعدت هذه الميزة المبتكرة، المصممة للتنافس مع ChatGPT، بتبسيط عملية جمع المعلومات.

ومع ذلك، بعد وقت قصير من إطلاقه، تعرض Google AI لانتقادات بسبب تقديمه معلومات غير دقيقة ومضللة من خلال AI Overviews. قام مستخدمو وسائل التواصل الاجتماعي بتوثيق العديد من الحالات التي قدمت فيها الأداة إجابات غير صحيحة أو مثيرة للجدل، مما أثار مخاوف جدية بشأن موثوقيتها.

حالات المعلومات غير الدقيقة من نظرة عامة على الذكاء الاصطناعي

سلطت عدة أمثلة الضوء على أوجه القصور في نظرة عامة على الذكاء الاصطناعي.

أدى استعلام أحد المستخدمين بشأن عدد الرؤساء المسلمين في الولايات المتحدة إلى بيان كاذب بشكل واضح مفاده أن باراك أوباما كان أول رئيس مسلم للبلاد.

ينبع هذا الخطأ من سوء تفسير الأداة لنص مصدر يشير إلى نظرية مؤامرة مفضوحة.

يبدو أن ميزة AI Overview تواجه صعوبة في التمييز بين الحقيقة والخيال، بالإضافة إلى تمييز الفكاهة أو السخرية. فهو يفتقر إلى القدرة على فهم السياق المحيط ببعض الاستفسارات.

تضمنت إحدى الحالات سؤالاً حول كيفية منع الجبن من الانزلاق على البيتزا. اقترحت منظمة AI Overviews، في توصية غريبة، إضافة "حوالي 1/8 كوب من الغراء غير السام إلى الصلصة".

كشف هذا الاقتراح، الذي نشأ من منشور فكاهي على موقع Reddit، عن عدم قدرة الأداة على التمييز بين المعلومات الواقعية والنكات.

وفي حالة أخرى، طرح أحد مستخدمي Reddit السؤال التالي: "ما هو المدخول اليومي الموصى به من الصخور؟" مما دفع منظمة العفو الدولية للرد على ذلك، "يقترح الجيولوجيون في جامعة كاليفورنيا في بيركلي استهلاك صخرة صغيرة واحدة على الأقل يوميًا." ويدعي أن هذا المصدر نشأ من مقال على موقع الأخبار الساخر Onion.com.

ربما كان الأمر الأكثر إثارة للقلق هو "نظرات عامة على الذكاء الاصطناعي". الردود على الاستفسارات المتعلقة بالصحة.

في إحدى الحالات، قوبل المستخدم الذي كان يطلب المشورة بشأن التعرض لأشعة الشمس باقتراح خطير مفاده أن التحديق مباشرة في الشمس لمدة 5-15 دقيقة (أو ما يصل إلى 30 دقيقة للبشرة الداكنة) كان آمنًا ومفيدًا.

نُسبت هذه المعلومات الخاطئة خطأً إلى WebMD، وهو موقع رعاية صحية حسن السمعة.

هذه الحوادث التي أطلق عليها اسم "هلوسة الذكاء الاصطناعي". عرض المخاطر المحتملة لنماذج الذكاء الاصطناعي التوليدية التي تقدم المعلومات الملفقة على أنها حقيقة.

الأسباب الكامنة وراء هلوسة الذكاء الاصطناعي

يمكن أن تعزى الأخطاء في AI Overviews إلى عدة عوامل.

أحد الأسباب هو بيانات التدريب المستخدمة لتطوير الأداة. إذا كانت بيانات التدريب مليئة بعدم الدقة أو التحيزات، فمن المرجح أن يؤدي نموذج الذكاء الاصطناعي الناتج إلى إدامة هذه المشكلات.

بالإضافة إلى ذلك، يمكن أن تؤدي التناقضات الخوارزمية داخل النموذج نفسه إلى تفسيرات خاطئة للمعلومات وتوليد استجابات لا معنى لها.

هناك عامل مهم آخر وهو التحدي المتمثل في فهم السياق.

يبدو أن ميزة AI Overviews تواجه صعوبة في تحديد النوايا الساخرة أو الفكاهية وراء بعض المصادر، مما يؤدي إلى استخلاص المعلومات من المنشورات الساخرة أو مواقع النكتة وتقديمها على أنها واقعية.

وهذا يسلط الضوء على النضال المستمر في تطوير نماذج الذكاء الاصطناعي التي يمكنها تمييز البيانات الموثوقة بشكل فعال من المحتوى المضلل.

رد جوجل على الانتقادات

ردًا على الاحتجاج العام، أقرت جوجل بوجود معلومات غير دقيقة في نظرة عامة على الذكاء الاصطناعي.

ومع ذلك، أكدت الشركة أن معظم الحالات قدمت معلومات دقيقة مع روابط لمزيد من الاستكشاف.

أشارت Google أيضًا إلى أن العديد من الأمثلة الإشكالية تتضمن استفسارات غير عادية أو سيناريوهات محتملة ملفقة.

وتعهدت الشركة باتخاذ إجراءات سريعة ومعالجة المشكلات المحددة وتنفيذ التغييرات المتوافقة مع سياسات المحتوى الخاصة بها.

يتضمن ذلك إزالة AI Overviews للاستعلامات التي قد تؤدي إلى نتائج غير دقيقة وإجراء تحسينات أوسع لتعزيز موثوقية النظام بشكل عام.

والهدف من ذلك هو منع ظهور مشكلات مماثلة في المستقبل.

تجربة البحث التوليدية لـ Google (SGE) ومشكلة التوصيات الضارة

في العام الماضي، قدمت جوجل ميزة جديدة تسمى تجربة البحث التوليدية (SGE) والتي تستخدم الذكاء الاصطناعي لتزويد المستخدمين بملخصات لنتائج البحث الخاصة بهم.

يتضمن ذلك توضيحات للمحتوى ومقاطع فيديو وصور متكاملة وروابط مقترحة ذات صلة بالاستعلام.

ومع ذلك، حدد الباحثون الأمنيون ثغرة أمنية في النظام تسمح بالتوصية بمواقع الويب الضارة بواسطة الذكاء الاصطناعي.

تكمن المشكلة في احتمال قيام الجهات الفاعلة السيئة بالتلاعب بخوارزمية SGE من خلال تقنيات تحسين محركات البحث (SEO).

ومن خلال الاستخدام الاستراتيجي للكلمات الرئيسية ذات الصلة، يمكن لهذه المواقع الضارة خداع الذكاء الاصطناعي لإبرازها في نتائج البحث.

وهذا بالضبط ما اكتشفته خبيرة تحسين محركات البحث (SEO) ليلي راي أثناء اختبار ميزة SGE. أدى بحث راي عن كلاب البيتبول إلى توصية الذكاء الاصطناعي بالعديد من مواقع الويب غير المرغوب فيها.

كشفت التحقيقات الإضافية التي أجرتها BleepingComputer عن مجموعة من النتائج الضارة المرتبطة بمواقع البريد العشوائي هذه.

تتضمن بعض الأنشطة المثيرة للقلق التي تم تحديدها محاولات لخداع المستخدمين لتمكين إشعارات المتصفح المتطفلة التي تمطرهم بالبريد العشوائي.

وفي حالات أخرى، قد تؤدي مواقع البريد العشوائي إلى عمليات التصيد الاحتيالي أو تثبيت ملحقات المتصفح غير المرغوب فيها.

ويكمن الخطر في افتراض المستخدم أن التوصيات التي ينشئها الذكاء الاصطناعي آمنة، وهذا ليس هو الحال بشكل واضح.

ضرورة إجراء اختبارات صارمة ونشر أخلاقي

لا تزال هلوسة الذكاء الاصطناعي تمثل تحديًا طويل الأمد، حيث تنحرف استجابات الذكاء الاصطناعي من Google أحيانًا إلى عالم العبث.

إن التمييز بين المخرجات الدقيقة والخاطئة، وخاصة وسط بحر من المعلومات، يشكل تحديا كبيرا.

يلجأ المستخدمون عادة إلى محركات البحث على وجه التحديد لأنهم يفتقرون إلى إجابات محددة، ويعتمدون على الذكاء الاصطناعي لسد هذه الفجوة.

يؤكد النهج الاستباقي الذي تتبعه Google في معالجة هذه المشكلات على الالتزام بالتحسين.

ومع ذلك، فإن الجدل المحيط بنظرات عامة على الذكاء الاصطناعي يؤكد على ضرورة إجراء اختبارات شاملة واعتبارات أخلاقية في نشر تقنيات الذكاء الاصطناعي التوليدية.

ومع تزايد السعي لتحقيق تفوق الذكاء الاصطناعي، يظل ضمان الدقة والتطوير الأخلاقي لهذه الأدوات الفعالة أمرا بالغ الأهمية.

يتعين علينا أن نظل يقظين، ونقوم بتقييم استجابات الذكاء الاصطناعي والتحقق من صحتها بشكل نقدي بدلاً من قبولها بشكل سلبي.

ومن خلال القيام بذلك، يمكننا التنقل في المشهد المتطور للذكاء الاصطناعي بثقة ونزاهة أكبر.