새로운 보험 상품으로 AI 책임성 강화

로이드 오브 런던은 토론토에 본사를 둔 스타트업 Armilla를 통해 AI 시대를 위해 특별히 설계된 선구적인 보험 정책을 출시했습니다.

이 보험은 AI 관련 오류나 오작동으로 인한 재정적 손실로부터 기업을 보호하는 것을 목표로 합니다.

로이드와 아밀라는 호황을 누리고 있지만AI 시장을 통해 비즈니스를 성장시키려는 움직임은 이전의 새로운 리스크에 대해 그랬던 것처럼 중요한 현실을 강조합니다: AI는 그 혁신적 잠재력에도 불구하고 여전히 중대한 비즈니스 리스크로 남아있다는 사실입니다.

AI를 통해 운영 비용을 절감할 수 있기를 기대하는 기업에게 이 새로운 보험은 주의할 점을 알려줍니다.

실제로 AI를 통합하면 보험료 등의 비용이 증가할 수 있습니다.

Armilla의 정책은 회사가 AI 제품으로 인한 피해와 관련된 소송에 직면할 경우 법적 비용과 잠재적 손해를 보상하도록 구성되어 있습니다.

CEO 카틱 라마크리슈난은 이 보험이 위험 완화를 넘어 기술 실패에 대한 두려움을 완화함으로써 더 많은 AI 도입을 촉진할 수 있다고 말합니다.

예를 들어, 2024년 에어캐나다는 AI 챗봇이 실수로 무단 할인을 제공한 후 비용이 많이 드는 문제에 직면했고, 법원의 판결에 따라 항공사는 이러한 제안을 이행해야 했습니다.

에어캐나다가 아밀라의 보험에 가입되어 있었다면 이러한 손실 중 일부를 줄일 수 있었을 것입니다.

그러나 보장 범위는 선택적입니다. Armilla는 허용 가능한 위험 프로필을 보장하기 위해 철저한 평가를 거친 후 AI 시스템만 보험에 가입하며, 실패하기 쉬운 '레몬' 모델은 보험 적용을 거부합니다.

이는 광범위한 기술 오류 정책의 일부로 제한적인 AI 관련 보호를 제공하는 일부 기존 보험사와는 대조적입니다.

궁극적으로 이 신제품은 AI의 힘과 이로 인해 발생하는 실제 위험이 균형을 이루는 진화하는 환경과 이러한 위험을 선제적으로 관리해야 하는 기업의 필요성을 반영합니다.

의사 결정 시 AI가 만들어낸 데이터를 신뢰할 때의 위험성

기업이 다음에 의존하는 영향AI 생성 환각으로 알려진 허위사실은 잘못된 결정, 재정적 손실, 평판 손상으로 이어질 수 있다고 업계 뉴스 사이트 PYMNTS는 지적합니다.

이 매체는 또한 AI 시스템이 이러한 오류를 발생시킬 때 책임에 대한 중요한 질문을 제기합니다.

이러한 우려는 최근 Inc와의 인터뷰에서 AI의 환각을 완전히 제거할 수는 없지만 완화할 수는 있다고 말한 Credibly의 최고 전략 책임자 MJ Jiang의 인사이트와 일치합니다.

Jiang은 기업이 이러한 AI로 인한 실수로 인해 심각한 법적 위험에 직면할 수 있으며, AI 오류로 인해 피해가 발생할 경우 누가 책임을 질 것인지에 대해 적극적으로 고려해야 한다고 경고합니다.

그녀는 이러한 위험을 최소화하기 위해 강력한 완화 전략을 수립하는 것이 중요하다고 강조합니다.

실제로 그녀는 그렇게 생각합니다:

"... GenAI가 어떻게 결과를 도출했는지 설명할 수 없기 때문에, 사용 사례의 위험도가 높은 비즈니스에서는 인적 거버넌스가 필수적입니다."

비즈니스 리더와 전문가들은 모두 다음과 같이 주의해야 한다고 조언합니다.AI 는 위험이 전혀 없는 것은 아니며 규정 준수를 보장하고 잠재적인 법적 문제를 관리하기 위해 철저한 준비가 필요하다고 강조합니다.

이러한 고려 사항을 AI 전략과 예산에 통합하는 것은 AI 구현의 복잡한 위험을 헤쳐나가는 데 필수적입니다.