AI 혁명은 거짓말이었다: 필리핀 콜센터 직원을 가짜 이커머스 기술에 이용한 스타트업 창업자 적발

인공지능 혁명? 기술 앱 사기의 배후에 있는 인간을 이용한 속임수

최근 몇 년 동안 인공지능(AI)의 가능성은 전에는 상상할 수 없었던 방식으로 자동화와 효율성을 제공하면서 산업 전반을 휩쓸고 있습니다.

그러나 이러한 주장 이면에는 AI에 대한 신뢰를 조작하여 자신의 주머니를 채우는 사기꾼들이 숨어 있습니다.

한때 AI를 기반으로 한 전자상거래 앱으로 촉망받았던 네이트의 전 CEO인 앨버트 사니거의 사례도 그러한 사례 중 하나입니다.

마치 기술 산업 박람회에서나 나올 법한 이 앱의 배후에는 필리핀에서 일하는 사람들의 네트워크가 있는 것으로 밝혀졌습니다.

전자상거래를 위한 AI 자동화의 잘못된 약속

2020년에 출시된 Nate는 온라인 구매를 간소화하도록 설계된 범용 쇼핑 도구로 판매되었습니다.

알버트 사니거는 자신의 앱이 인공지능으로 구동된다고 거짓으로 홍보했지만, 실제로는 필리핀의 한 팀이 수동으로 운영하여 투자자와 대중 모두를 속였습니다. (출처: PCN)

사용자들은 사람의 개입 없이 자동으로 배송 세부 정보를 입력하고, 사이즈를 선택하고, 결제를 완료하는 원터치 결제를 약속받았습니다.

Saniger에 따르면, 이는 쇼핑 경험에 혁신을 가져올 정교한 AI 기술의 결과물이라고 합니다.

네이트 앱은 원터치 결제와 AI 기반의 개인화된 상품 큐레이션을 제공하여 온라인 쇼핑을 간소화한다고 주장했습니다. (출처: COOL HUNTING)

하지만 곧 이것이 사실이 아니라는 것이 분명해졌습니다.

'AI'는 앱이 자동화한다고 주장한 작업을 수동으로 수행하기 위해 고용된 수백 명의 인간 작업자의 개입을 가리는 외피에 불과했습니다.

필리핀의 콜센터에 근무하는 직원들은 사용자가 앱과 상호작용할 때 구매를 완료하는 임무를 맡았고, 이는 앱의 핵심 기술을 훼손하는 일이었습니다.

거짓으로 모금한 4,000만 달러

Saniger는 혁신적인 AI 기반 기술을 약속하며 벤처 캐피탈 회사를 끌어들여 투자자들에게 4,000만 달러 이상을 Nate에 투자하도록 설득했습니다.

하지만 앱의 실제 운영은 광고와는 거리가 멀었습니다.

매튜 포돌스키 뉴욕주 검찰총장 대행은 사니거가 'AI 기술의 약속과 매력을 악용해 존재하지도 않는 혁신에 대한 거짓 이야기를 만들어냈다'고 말했습니다;

포돌스키는 이렇게 말했습니다,

이러한 유형의 속임수는 무고한 투자자만 피해를 입는 것이 아닙니다. 합법적인 스타트업의 자본을 빼돌리고 투자자들이 진정한 혁신에 회의적인 태도를 취하게 만들어 궁극적으로 AI 개발의 진전을 저해합니다;

네이트의 실패한 AI와 그 숨은 일꾼들

타사 공급업체로부터 AI 기술을 도입하고 데이터 과학자 팀을 구성했음에도 불구하고 네이트의 앱은 야심찬 목표를 달성하지 못했습니다.

법원 문서에 따르면 이 앱에는 일부 AI 구성 요소가 있었지만 거래를 일관되게 완료하지 못했습니다.

실제로 자동화 수준은 사실상 제로에 가까웠습니다.

2021년 바쁜 연말연시 시즌에 사니거는 엔지니어링 팀에 몇 가지 거래를 자동화하는 봇을 개발하라고 지시한 것으로 알려졌습니다.

하지만 봇을 사용하더라도 대부분의 구매를 처리하는 데는 여전히 사람이 핵심적인 역할을 담당했습니다.

출처: Freepik

미국 증권거래위원회(SEC)에 따르면, 앱의 기능에 대한 의문이 제기되기 시작하자 사니거는 2023년 1월 Nate를 폐쇄하고 나머지 직원들을 해고했습니다.

증권 및 송금 사기 사례

이 속임수는 눈에 띄지 않게 사라지지 않았습니다.

Saniger는 증권 사기 1건과 전신 사기 1건으로 기소되었습니다.

각 혐의는 최대 징역 20년형에 처해질 수 있습니다.

또한 SEC는 Saniger를 상대로 민사 소송을 제기하여 향후 유사한 회사에서 직책을 맡는 것을 금지하고 투자자 자금의 반환을 요구했습니다.

당국은 수개월에 걸친 면밀한 조사와 수사 끝에 네이트의 이른바 '자동화'의 진짜 원인은 배후에서 일하는 인력이라고 주장했습니다.

익숙한 속임수 패턴

이 사건은 혁신적인 기술에 대한 약속이 신기루에 불과한 것으로 드러난 테라노스 사건과 같은 다른 유명 기술 스캔들과 놀라울 정도로 유사합니다.

테라노스의 설립자인 엘리자베스 홈즈처럼, 사니거도 신흥 기술을 둘러싼 과대광고를 악용하여 투자자와 대중을 속였습니다.

그렇다면 AI의 힘을 활용하면서 기존의 인간 중심 방식에 의존하여 결과를 제공한다고 주장하는 다른 기술 스타트업은 얼마나 많을까요?

그리고 더 중요한 것은 얼마나 더 많은 사람들이 개인적인 이익을 위해 AI 붐을 활용하고자 하는가 하는 점입니다.