미국에서 도어대시 주문을 허위로 완료하는 데 사용된 AI가 운전자 계정 금지로 이어집니다.

미국 오스틴에서 AI 이미지로 가짜 배달을 한 도어대시 운전자, 계정 영구 삭제

미국 텍사스주 오스틴의 한 도어대시 운전자가 AI가 생성한 사진을 이용해 배달 완료를 허위로 표시한 혐의로 계정을 영구 삭제당했습니다.

운전자와 고객을 연결하는 미국 기반 음식 배달 서비스인 도어대시는 의심스러운 활동에 대한 여러 신고에 따라 조치를 확인했습니다.

가짜 배달이 어떻게 전개되었는가

오스틴에 거주하는 번 호바트는 DoorDash 기사가 자신의 주문을 수락하고 즉시 배달 완료로 표시한 후 현관문에 배달된 이미지를 업로드했다고 X에 공유했습니다.

호바트는 기사도 없었고 음식이 밖에 방치되지 않았다고 말했습니다.

그는

"놀랍습니다. DoorDash 기사가 드라이브를 수락하고 즉시 배달된 것으로 표시한 다음, 우리 정문(오른쪽)에서 DoorDash 주문(왼쪽)의 AI 생성 이미지를 제출했습니다."

그가 DoorDash 지원팀에 연락하자 회사는 환불을 해주고, 계정 크레딧을 추가한 다음, 원래 배송 시간 내에 도착한 두 번째 드라이버를 파견했습니다.

호바트는 이후 이 사건을 공개적으로 공유하여 지역 주민들 사이에서 추가 논의를 촉발시켰습니다.

Dave라는 아이디를 사용하는 한 트위터 사용자는 오스틴에서 같은 아이디를 사용하는 운전자와 비슷한 경험을 했다고 주장했습니다.

운전자 방법에 대한 추측

호바트는 운전자가 탈옥된 휴대폰의 해킹된 계정을 악용하여 DoorDash 기능을 통해 이전 배송 이미지에 액세스했을 가능성이 있다고 추정했습니다.

이를 통해 운전기사는 새로운 사진을 찍지 않고도 실제와 같은 이미지를 생성할 수 있었을 것입니다.

DoorDash 운전자 앱은 일반적으로 배송 시 실시간 사진을 요구하지만, 네트워크 상태가 좋지 않거나 장치가 변경되면 이미지가 인증을 우회할 수 있습니다.

DoorDash 대변인은

"이 사건을 신속하게 조사한 후 우리 팀은 Dasher의 계정을 영구 삭제하고 고객에게 완전한 보상을 해드렸습니다. 저희는 사기에 대해 무관용 원칙을 가지고 있으며, 기술과 사람의 검토를 결합하여 악의적인 행위자가 플랫폼을 악용하는 것을 탐지하고 방지합니다."

배달 사기의 AI 조작, 미국을 넘어 세계로 확대

영국에서도 비슷한 유형의 사기가 보고되었는데, 배달 음식 사진을 조작하여 환불을 요구하는 데 AI가 사용되었습니다.

2015년 1월 5일 영국 언론 보도에 따르면, 음식을 상했거나 덜 익힌 것처럼 보이도록 이미지를 조작하는 사례가 발생했습니다.

예를 들면, 익힌 햄버거를 분홍색으로 보이도록 편집하거나 가짜 곰팡이를 추가하거나 디저트가 녹은 것처럼 만들거나 파리 이미지를 삽입하는 등의 수법이 사용되었습니다.

우버 이츠, 딜리버루, 저스트잇 등의 배달 앱은 이러한 조작된 이미지를 근거로 소송을 당한 것으로 알려졌습니다.

전문가들은 AI 도구가 기존의 사진 조작보다 사기 증거를 더 설득력 있게 만든다고 경고합니다.

영국 로펌 브라운 제이콥슨의 AI 전문 변호사 사라 레이노는

"AI를 사용하여 실제 이미지를 조작하는 고객 사례를 보고하는 기업이 점점 더 많아지고 있습니다."

플랫폼이 자동으로 환불을 승인하여 비용을 사업주에게 전가하는 경우가 많아 레스토랑들은 불만을 표출하고 있습니다.

일부 앱에서는 고객에게 문제의 실시간 사진을 제출하도록 요구하는 방안을 고려하고 있지만, 이러한 조치는 운영 비용을 증가시키고 실제 고객에게 불편을 줄 수 있습니다.

법률 및 플랫폼 대응

영국의 2006년 사기법에 따라 환불을 위한 AI의 부정 사용은 불법으로 규정하고 있습니다.

영국 소매업 컨소시엄은 사기가 감지되면 소매업체가 조치를 취할 것이라고 강조하며

"우리는 환불 요청의 진위를 확인하기 위해 강력한 도구를 사용하고 있으며, 검증 시스템을 지속적으로 업데이트하고 있습니다."

오스틴에서 도어대시의 대응은 전 세계 배송 플랫폼이 서비스 안정성을 유지하면서 AI 기반 사기를 탐지하고 방지하는 데 직면한 문제를 잘 보여줍니다.

이 회사는 기술과 인적 감독을 모두 사용하여 가짜 배송을 식별하고 고객에게 보상하고 위반한 드라이버를 영구적으로 제거할 수 있었습니다.