월스트리트 거인, AI 환각과 불법 사용에 대한 우려 제기

전공월스트리트 골드만 삭스, 씨티그룹, JP모건 체이스 등 기업들은 인공지능(AI) 도입 증가와 관련된 새로운 위험에 대한 우려를 제기하고 있습니다.

은행들은 2024년 연례 보고서에서 결함이 있는 AI 모델, 규제 불확실성, 사이버 범죄자의 잠재적 오용 등의 위협을 강조합니다.

JPMorgan은 AI로 인한 인력 이동이 직원의 사기, 유지율, 최고 기술 인재 확보 경쟁에 영향을 미칠 수 있다고 경고합니다.

한편, 씨티그룹은 부정확하거나 편향되거나 불완전한 데이터를 생성하는 생성형 AI의 위험성을 인지하고 있으며, 이는 회사의 평판과 재무 성과에 해를 끼칠 수 있습니다.

북미 은행 및 자본 시장의 재무, 리스크 및 규정 준수 부문 책임자인 벤 쇼튼은 인터뷰에서 다음과 같이 말했습니다:

"AI가 안전하고 공정하며 보안이 유지되는 방식으로 배포될 수 있도록 올바른 관리 메커니즘을 마련하는 것은 간과할 수 없는 중요한 문제입니다. 이는 플러그 앤 플레이 기술이 아닙니다."

최근 몇 년 동안 은행들이 AI 관련 리스크를 지적해 왔지만, 자체 및 타사 AI 솔루션에 대한 의존도가 높아지면서 이러한 우려가 증폭되고 있습니다.

기업들은 다음과 같은 추세에 발맞춰야 한다는 압박에 직면해 있습니다.AI 발전하지 않으면 고객과 비즈니스를 잃을 위험이 있습니다.

그러나 AI 도입이 증가함에 따라 사이버 보안 위협과 오래되거나 편향된 금융 데이터의 잠재적 사용 가능성에도 노출될 수 있습니다.

금융 부문이 AI 통합을 심화함에 따라 이러한 위험을 탐색하는 것이 안정성과 신뢰를 유지하는 데 매우 중요해질 것입니다.

AI의 통합

골드만삭스는 디지털 자산, 블록체인, AI에 대한 투자를 늘리고 있지만 이러한 기술을 신속하게 통합하여 생산성을 높이고 비용을 절감하며 고객 서비스를 개선하는 것이 여전히 어려운 과제임을 인정하고 있습니다.

AI 도입 경쟁이 치열해지면 고객 확보와 유지에 영향을 미칠 수 있다고 최근 연례 보고서에서 지적했습니다.

금융 기관은 또한 진화하는 환경에서 증가하는 데이터 프라이버시 및 규제 준수 위험에 직면해 있습니다.

2024년에 발효된 EU 인공 지능 법은 다음 분야에서 AI 사용에 대한 새로운 규칙을 도입합니다.유럽 많은 미국 은행이 운영되고 있습니다.

단축 표시:

이 법은 EU에서 많은 인공지능 시스템을 시장에 출시하고, 서비스하고, 사용하기 위한 규칙을 정하고 있습니다. 미국과 미국 시장에 대한 전망은 불투명합니다."

그 결과, 은행들은 독점적인 AI 도구와 타사 솔루션을 모두 배포하고 있습니다.

CIO 마르코 아르젠티에 따르면 씨티그룹은 AI를 활용하여 공개 서류의 주요 데이터를 합성하고, 모건 스탠리의 AI 디브리프는 ChatGPT와 유사한 인터페이스로 일상적인 작업을 자동화하며, 골드만 삭스의 개인 자산 부서는 포트폴리오 평가 및 분석에 AI를 활용하고 있습니다.

그는 지난 주 뉴욕에서 열린 블룸버그 인베스트 컨퍼런스에서 이렇게 말했습니다:

"잠재적인 부정확성과 환각으로부터 자신을 보호할 수 있도록 책임감 있는 접근 방식을 취하고 실제로 통제 장치를 적용하는 것이 매우 중요합니다."

JP모건의 CEO인 제이미 다이먼은 AI의 혁신적 잠재력을 증기기관에 비유하며 은행이 직면한 가장 중요한 이슈로 AI를 설명했습니다.

그는 AI가 거의 모든 직업을 증강할 수 있다고 믿습니다.

하지만 은행이 AI 도입을 가속화함에 따라 사이버 범죄자들도 같은 방식으로 공격하고 있습니다.

최근 600명의 은행 사이버 보안 임원을 대상으로 실시한 Accenture 설문조사에 따르면 80%가 제너레이티브 AI가 금융 기관의 대응 속도보다 더 빠르게 범죄 수법을 발전시키고 있다고 생각하는 것으로 나타났습니다.

Morgan Stanley는 생성형 AI, 원격 근무, 타사 통합으로 인해 데이터 프라이버시 위험이 높아질 수 있다고 경고합니다.

함께AI 가 분산된 업무 환경에서 사용됨에 따라 기업은 새로운 취약점을 완화할 수 있는 안전장치를 마련해야 합니다.

AI가 금융 부문을 재편함에 따라 은행은 혁신과 보안, 규정 준수, 신뢰의 균형을 유지해야 합니다.

그는 이렇게 말했습니다:

공격자들이 은행이 대응할 수 있는 속도보다 더 빠르게 이 기술을 활용하고 있기 때문에 이러한 단계의 중요성은 점점 더 커질 것입니다."