Trách nhiệm giải trình của AI được thúc đẩy với dịch vụ bảo hiểm mới

Lloyd’s of London, thông qua công ty khởi nghiệp Armilla có trụ sở tại Toronto, đã tung ra một chính sách bảo hiểm tiên phong được thiết kế dành riêng cho kỷ nguyên AI.

Phạm vi bảo hiểm này nhằm mục đích bảo vệ các công ty khỏi những tổn thất tài chính phát sinh từ các lỗi hoặc trục trặc liên quan đến AI.

Trong khi Lloyd’s và Armilla đang khai thác vào sự bùng nổTrí tuệ nhân tạo thị trường để phát triển doanh nghiệp của họ—giống như những gì họ đã làm với các rủi ro mới nổi trước đây—động thái này làm nổi bật một thực tế quan trọng: AI, mặc dù có tiềm năng chuyển đổi, vẫn là một rủi ro kinh doanh đáng kể.

Đối với các công ty hy vọng AI sẽ giúp giảm chi phí hoạt động, loại bảo hiểm mới này là một lời cảnh báo.

Trên thực tế, việc tích hợp AI có thể làm tăng các chi phí như phí bảo hiểm.

Chính sách của Armilla được xây dựng để chi trả chi phí pháp lý và thiệt hại tiềm ẩn nếu một công ty phải đối mặt với các vụ kiện liên quan đến tác hại do sản phẩm AI của công ty gây ra.

Tổng giám đốc điều hành Karthik Ramakrishnan cho rằng ngoài việc giảm thiểu rủi ro, bảo hiểm này có thể khuyến khích áp dụng AI rộng rãi hơn bằng cách xoa dịu nỗi lo về các lỗi công nghệ.

Ví dụ, vào năm 2024, Air Canada đã phải đối mặt với hậu quả tốn kém sau khi chatbot AI của hãng vô tình đưa ra mức giảm giá trái phép, một phán quyết của tòa án đã buộc hãng hàng không này phải chấp nhận những ưu đãi đó.

Nếu Air Canada được bảo hiểm theo chính sách của Armilla, một số tổn thất đó có thể được giảm thiểu.

Tuy nhiên, phạm vi bảo hiểm có tính chọn lọc—Armilla chỉ bảo hiểm các hệ thống AI sau khi đánh giá kỹ lưỡng để đảm bảo hồ sơ rủi ro có thể chấp nhận được, từ chối bảo hiểm các mô hình “lành tính” dễ bị lỗi.

Điều này trái ngược với một số công ty bảo hiểm hiện tại chỉ cung cấp bảo vệ hạn chế liên quan đến AI như một phần của các chính sách lỗi công nghệ rộng hơn.

Cuối cùng, sản phẩm mới này phản ánh bối cảnh đang thay đổi, trong đó sức mạnh của AI được cân bằng với những rủi ro thực tế mà nó gây ra—và nhu cầu ngày càng tăng của các doanh nghiệp trong việc chủ động quản lý những rủi ro đó.

Rủi ro khi tin tưởng vào dữ liệu do AI tạo ra trong quá trình ra quyết định

Tác động của các công ty dựa vàodo AI tạo ra Theo trang tin tức ngành PYMNTS, sự dối trá - được gọi là ảo giác - có thể rất nghiêm trọng, dẫn đến các quyết định sai lầm, thất bại về tài chính và tổn hại đến danh tiếng.

Bài báo này cũng đặt ra những câu hỏi quan trọng về trách nhiệm giải trình khi hệ thống AI tạo ra những lỗi như vậy.

Mối quan ngại này phù hợp với hiểu biết sâu sắc của MJ Jiang, Giám đốc Chiến lược tại Credibly, người gần đây đã chia sẻ với Inc rằng mặc dù ảo giác trong AI không thể bị loại bỏ hoàn toàn nhưng chúng chỉ có thể được giảm thiểu.

Jiang cảnh báo rằng các công ty phải đối mặt với rủi ro pháp lý đáng kể từ những sai lầm do AI gây ra và nên chủ động xem xét ai sẽ chịu trách nhiệm nếu lỗi AI gây ra thiệt hại.

Bà nhấn mạnh tầm quan trọng của việc thiết lập các chiến lược giảm thiểu mạnh mẽ để giảm thiểu những rủi ro này.

Trên thực tế, cô ấy nghĩ rằng:

“…vì GenAI không thể giải thích cho bạn cách tạo ra kết quả đầu ra, nên sự quản lý của con người sẽ rất cần thiết trong các doanh nghiệp có trường hợp sử dụng có rủi ro cao hơn đối với doanh nghiệp.”

Các nhà lãnh đạo doanh nghiệp và các chuyên gia đều cảnh báo rằng việc áp dụngTrí tuệ nhân tạo không hề không có rủi ro và cần phải chuẩn bị kỹ lưỡng để đảm bảo tuân thủ và quản lý các thách thức pháp lý tiềm ẩn.

Việc kết hợp những cân nhắc này vào chiến lược và ngân sách AI của bạn là điều cần thiết để giải quyết những rủi ro phức tạp khi triển khai AI.