عمالقة وول ستريت يثيرون مخاوف بشأن هلوسات الذكاء الاصطناعي والاستخدام غير المشروع

رئيسي وول ستريت أعربت شركات التكنولوجيا المالية، بما في ذلك جولدمان ساكس وسيتي جروب وجيه بي مورجان تشيس، عن مخاوفها بشأن المخاطر الناشئة المرتبطة بالاعتماد المتزايد على الذكاء الاصطناعي.

في تقاريرها السنوية لعام 2024، تسلط البنوك الضوء على التهديدات مثل نماذج الذكاء الاصطناعي المعيبة، وعدم اليقين التنظيمي، والاستغلال المحتمل من قبل مجرمي الإنترنت.

تحذر شركة جي بي مورجان من أن استبدال القوى العاملة بسبب الذكاء الاصطناعي قد يؤثر على معنويات الموظفين، واحتفاظهم بهم، والمنافسة على أفضل المواهب التقنية.

وفي الوقت نفسه، تعترف مجموعة سيتي جروب بالمخاطر التي قد تترتب على الذكاء الاصطناعي التوليدي في إنتاج بيانات غير دقيقة أو متحيزة أو غير كاملة، وهو ما قد يضر بسمعتها وأدائها المالي.

وقال بن شورتن، رئيس قسم التمويل والمخاطر والامتثال للخدمات المصرفية وأسواق رأس المال في شركة أكسنتشر بي إل سي في أميركا الشمالية، في مقابلة:

إن وجود آليات حوكمة سليمة تضمن نشر الذكاء الاصطناعي بطريقة آمنة وعادلة ومأمونة أمرٌ لا يمكن إغفاله. فهذه ليست تقنية جاهزة للاستخدام فورًا.

وفي حين كانت البنوك تحذر من المخاطر المرتبطة بالذكاء الاصطناعي في السنوات الأخيرة، فإن الاعتماد المتزايد على حلول الذكاء الاصطناعي الخاصة والتابعة لجهات خارجية يعمل على تضخيم هذه المخاوف.

وتواجه الشركات ضغوطًا متزايدة لمواكبةالذكاء الاصطناعي التقدم أو المخاطرة بفقدان العملاء والأعمال.

ومع ذلك، فإن زيادة اعتماد الذكاء الاصطناعي يعرضهم أيضًا لتهديدات الأمن السيبراني والاستخدام المحتمل للبيانات المالية القديمة أو المتحيزة.

ومع تزايد تكامل القطاع المالي مع الذكاء الاصطناعي، فإن التعامل مع هذه المخاطر سيكون أمرا بالغ الأهمية للحفاظ على الاستقرار والثقة.

دمج الذكاء الاصطناعي

تعترف شركة جولدمان ساكس أنه على الرغم من زيادة استثماراتها في الأصول الرقمية والبلوك تشين والذكاء الاصطناعي، فإن دمج هذه التقنيات بسرعة كافية لتعزيز الإنتاجية وخفض التكاليف وتحسين خدمات العملاء لا يزال يشكل تحديًا.

وأشارت الشركة في تقريرها السنوي الأخير إلى أن زيادة المنافسة في تبني الذكاء الاصطناعي قد تؤثر على اكتساب العملاء والاحتفاظ بهم.

وتواجه المؤسسات المالية أيضًا مخاطر متزايدة تتعلق بخصوصية البيانات والامتثال التنظيمي في ظل بيئة متطورة.

يقدم قانون الذكاء الاصطناعي للاتحاد الأوروبي، الذي دخل حيز التنفيذ في عام 2024، قواعد جديدة لاستخدام الذكاء الاصطناعي فيأوروبا حيث تعمل العديد من البنوك الأمريكية.

تم اختصار الملاحظة:

يُرسي هذا القانون قواعدَ طرح العديد من أنظمة الذكاء الاصطناعي في السوق وتشغيلها واستخدامها في الاتحاد الأوروبي. أما التوقعات بالنسبة للولايات المتحدة والسوق الأمريكية فهي أقل وضوحًا.

ونتيجة لذلك، تقوم البنوك بنشر أدوات الذكاء الاصطناعي الخاصة بها وحلول الطرف الثالث.

وتستخدم مجموعة سيتي جروب الذكاء الاصطناعي لتجميع البيانات الرئيسية من الملفات العامة، وتقوم أداة AI Debrief التابعة لشركة مورجان ستانلي بأتمتة المهام الروتينية باستخدام واجهة تشبه ChatGPT، وتستخدم إدارة الثروات الخاصة في جولدمان ساكس الذكاء الاصطناعي لتقييم المحفظة وتحليلها، وفقًا لمدير تكنولوجيا المعلومات ماركو أرجنتي.

وقال الأسبوع الماضي في مؤتمر بلومبرج للاستثمار في نيويورك:

"من المهم جدًا اتباع نهج مسؤول وتطبيق الضوابط بشكل حقيقي حتى تحمي نفسك من الأخطاء والهلوسة المحتملة."

وصف جيمي ديمون الرئيس التنفيذي لبنك جي بي مورجان الذكاء الاصطناعي بأنه القضية الأكثر أهمية التي تواجه البنك، وقارن إمكاناته التحويلية بإمكانيات المحرك البخاري.

ويعتقد أن الذكاء الاصطناعي قادر على تعزيز كل وظيفة تقريبًا.

ومع ذلك، مع تسارع البنوك في تبني الذكاء الاصطناعي، يفعل مجرمو الإنترنت الشيء نفسه.

أظهر استطلاع حديث أجرته شركة أكسنتشر وشمل 600 مسؤول تنفيذي في مجال الأمن السيبراني في القطاع المصرفي أن 80% يعتقدون أن الذكاء الاصطناعي التوليدي يعمل على تعزيز التكتيكات الإجرامية بشكل أسرع من قدرة المؤسسات المالية على الاستجابة.

تحذر شركة مورجان ستانلي من أن الذكاء الاصطناعي التوليدي والعمل عن بعد والتكامل مع جهات خارجية تشكل مخاطر متزايدة تتعلق بخصوصية البيانات.

مع الذكاء الاصطناعي في بيئات العمل اللامركزية، يتعين على الشركات إنشاء ضمانات للتخفيف من نقاط الضعف الناشئة.

مع إعادة تشكيل الذكاء الاصطناعي للقطاع المالي، يتعين على البنوك تحقيق التوازن بين الابتكار والأمن والامتثال والثقة.

وقال:

"إن هذه الخطوات سوف تزداد خطورة مع تمكين المهاجمين من خلال هذه التكنولوجيا بشكل أسرع من قدرة البنوك على الاستجابة."