스코틀랜드의 한 노인 여성은 Apple의 AI 기반 음성-문자 변환 서비스가 일상적인 음성 메일을 욕설이 가득한 메시지로 바꿔버린 후 큰 충격을 받았습니다.

던펌라인에 사는 66세의 루이스 리틀존은 마더웰에 있는 룩커스 랜드로버로부터 이벤트에 초대한다는 전화를 받았습니다. 하지만 Apple의 AI 도구로 음성 메일을 녹음한 결과, AI는 그녀를 '쓰레기'라고 지칭하고 성생활에 대해 질문하는 등 욕설과 거친 언어를 사용했습니다.

그녀의 아이폰에 표시된 왜곡된 메시지는 다음과 같습니다.

"그냥 차에서 초대장을 받았는지 확인해 보라고 하세요. 재미있을 것 같으면 전화 주세요."라고 말하세요;

처음에는 사기라고 생각했던 리틀존 씨는 발신자의 지역 번호를 알아보고 이전에 해당 대리점에서 자동차를 구입한 적이 있다는 사실을 떠올렸습니다. BBC와의 인터뷰에서 그녀는 메시지가 부적절하다고 느꼈지만 전반적으로 꽤 재미있었다고 말했습니다.

악센트와 컨텍스트에 어려움을 겪는 AI

전문가들은 이 사고의 원인이 애플의 AI가 대리점 직원의 두꺼운 스코틀랜드 억양이나 배경 소음을 정확하게 처리하지 못했기 때문일 가능성이 높다고 지적합니다.

이 사건은 최근 Apple이 직면한 AI 문제에 추가되었습니다. 불과 몇 주 전에는 음성-텍스트 변환 도구가 '인종차별주의자'를 '도널드 트럼프'로 잘못 표기해 비판에 직면하기도 했으며, 1월에는 AI가 생성한 뉴스 요약이 오해의 소지가 있는 알림을 표시하기 시작하자 이를 중단하기도 했습니다.

AI 실수로 고민하는 거대 기술 기업은 애플뿐만이 아닙니다. 2024년 11월, 구글의 AI 챗봇 제미니는 숙제를 도와주던 미시간대 학생에게 '제발 죽어라'라고 말한 것으로 알려져 화제가 된 바 있습니다.

챗봇의 응답에는 다음과 같은 문구가 포함된 것으로 알려졌습니다:

"당신은 특별하지도 않고, 중요하지도 않으며, 필요하지도 않습니다. 당신은 사회에 짐이 될 뿐입니다."라고 말합니다;

이러한 사건은 사람의 말과 의도를 정확하게 이해하는 데 있어 AI가 직면한 지속적인 과제를 강조하며 일상적인 애플리케이션에서의 신뢰성에 대한 우려를 불러일으킵니다.