Wall Street Giants nêu lên mối lo ngại về ảo giác AI và việc sử dụng bất hợp pháp

Lớn lao Phố Wall các công ty, bao gồm Goldman Sachs, Citigroup và JPMorgan Chase, đang nêu lên mối lo ngại về những rủi ro mới nổi liên quan đến việc áp dụng ngày càng nhiều trí tuệ nhân tạo (AI).

Trong báo cáo thường niên năm 2024, các ngân hàng nêu bật các mối đe dọa như mô hình AI bị lỗi, sự không chắc chắn về mặt quy định và khả năng bị tội phạm mạng sử dụng sai mục đích.

JPMorgan cảnh báo rằng việc thay thế lực lượng lao động do AI gây ra có thể ảnh hưởng đến tinh thần làm việc, khả năng giữ chân nhân viên và sự cạnh tranh để giành được những nhân tài công nghệ hàng đầu.

Trong khi đó, Citigroup thừa nhận rủi ro của AI tạo ra dữ liệu không chính xác, thiên vị hoặc không đầy đủ, điều này có thể gây tổn hại đến danh tiếng và hiệu quả tài chính của Citigroup.

Ben Shorten, người đứng đầu mảng tài chính, rủi ro và tuân thủ của Accenture Plc cho thị trường ngân hàng và vốn tại Bắc Mỹ, cho biết trong một cuộc phỏng vấn:

"Có những cơ chế quản lý phù hợp để đảm bảo rằng AI được triển khai theo cách an toàn, công bằng và bảo mật - điều đó không thể bị bỏ qua. Đây không phải là công nghệ cắm và chạy."

Trong khi các ngân hàng đang cảnh báo về những rủi ro liên quan đến AI trong những năm gần đây, thì việc ngày càng phụ thuộc vào các giải pháp AI độc quyền và của bên thứ ba đang làm trầm trọng thêm những lo ngại này.

Các công ty phải đối mặt với áp lực ngày càng tăng để theo kịpTrí tuệ nhân tạo tiến bộ hoặc có nguy cơ mất khách hàng và kinh doanh.

Tuy nhiên, việc áp dụng AI ngày càng nhiều cũng khiến họ phải đối mặt với các mối đe dọa an ninh mạng và nguy cơ sử dụng dữ liệu tài chính lỗi thời hoặc không chính xác.

Khi ngành tài chính ngày càng tích hợp AI sâu hơn, việc giải quyết những rủi ro này sẽ rất quan trọng để duy trì sự ổn định và lòng tin.

Sự tích hợp của AI

Goldman Sachs thừa nhận rằng mặc dù đã tăng cường đầu tư vào tài sản kỹ thuật số, blockchain và AI, nhưng việc tích hợp các công nghệ này đủ nhanh để nâng cao năng suất, giảm chi phí và cải thiện dịch vụ khách hàng vẫn là một thách thức.

Công ty lưu ý trong báo cáo thường niên mới nhất rằng sự cạnh tranh gia tăng trong việc áp dụng AI có thể ảnh hưởng đến việc thu hút và giữ chân khách hàng.

Các tổ chức tài chính cũng phải đối mặt với rủi ro ngày càng tăng về quyền riêng tư dữ liệu và tuân thủ quy định trong bối cảnh đang thay đổi.

Đạo luật Trí tuệ nhân tạo của EU, có hiệu lực vào năm 2024, đưa ra các quy tắc mới cho việc sử dụng AI trongChâu Âu , nơi có nhiều ngân hàng Hoa Kỳ hoạt động.

Ghi chú rút gọn:

"Đạo luật này thiết lập các quy tắc để đưa ra thị trường, đưa vào sử dụng và sử dụng nhiều hệ thống trí tuệ nhân tạo tại EU. Triển vọng cho Hoa Kỳ và thị trường Hoa Kỳ không rõ ràng."

Do đó, các ngân hàng đang triển khai cả các công cụ AI độc quyền và các giải pháp của bên thứ ba.

Theo CIO Marco Argenti, Citigroup đang tận dụng AI để tổng hợp dữ liệu quan trọng từ các hồ sơ công khai, AI Debrief của Morgan Stanley tự động hóa các tác vụ thường xuyên bằng giao diện giống ChatGPT và bộ phận quản lý tài sản tư nhân của Goldman Sachs sử dụng AI để đánh giá và phân tích danh mục đầu tư.

Tuần trước, ông đã phát biểu tại hội nghị Bloomberg Invest ở New York:

"Điều quan trọng là phải có cách tiếp cận có trách nhiệm và thực sự áp dụng các biện pháp kiểm soát để bảo vệ bản thân khỏi những sai sót tiềm ẩn và ảo giác."

Tổng giám đốc điều hành JPMorgan Jamie Dimon đã mô tả AI là vấn đề quan trọng nhất mà ngân hàng phải đối mặt, so sánh tiềm năng chuyển đổi của nó với động cơ hơi nước.

Ông tin rằng AI có thể hỗ trợ hầu hết mọi công việc.

Tuy nhiên, khi các ngân hàng đẩy nhanh việc áp dụng AI thì tội phạm mạng cũng đang làm như vậy.

Một cuộc khảo sát gần đây của Accenture đối với 600 giám đốc an ninh mạng ngân hàng cho thấy 80% tin rằng AI tạo ra đang thúc đẩy các chiến thuật phạm tội nhanh hơn khả năng phản ứng của các tổ chức tài chính.

Morgan Stanley cảnh báo rằng AI tạo ra, làm việc từ xa và tích hợp của bên thứ ba gây ra rủi ro cao về quyền riêng tư dữ liệu.

Với Trí tuệ nhân tạo được sử dụng trong môi trường làm việc phi tập trung, các công ty phải thiết lập các biện pháp bảo vệ để giảm thiểu các lỗ hổng mới nổi.

Khi AI định hình lại lĩnh vực tài chính, các ngân hàng phải cân bằng giữa đổi mới với bảo mật, tuân thủ và tin cậy.

Ông phát biểu:

"Những bước này sẽ ngày càng trở nên quan trọng hơn vì những kẻ tấn công có thể lợi dụng công nghệ này nhanh hơn khả năng phản ứng của các ngân hàng."