편견에 대한 우려로 AI 얼굴 인식 서비스를 중단하는 Rite Aid

정산 불꽃 변화

Rite Aid는 미국 연방거래위원회(FTC)와 합의에 도달하여 AI 얼굴 인식 기술을 중단하기로 했습니다. 2012년부터 도난 방지를 위해 사용되어 온 이 기술은 인종 프로파일링이라는 비판에 직면해 왔습니다. 이 기술은 백인보다 흑인, 라틴계, 아시아계 쇼핑객을 더 많이 표적으로 삼은 것으로 알려졌습니다.

AI의 편향성: 소매업 인종차별 사례 연구

특히 유색인종 고객을 대상으로 한 인종 프로파일링에 대한 의혹이 제기되었습니다. 이러한 고객들은 더 자주 도난 가능성이 있는 고객으로 분류되었는데, 이는 광범위한 소매업 인종차별 문제와 관련이 있습니다. 이러한 차별은 역사적으로 다양한 소매업 관행에서 나타나고 있으며, 흑인 고객을 부당하게 표적으로 삼고 있습니다.

문제가 많은 기술 실적

Rite Aid와 같은 리테일 환경에서 AI를 사용하면서 인종적 편견이 지속되는 불안한 추세가 나타나고 있습니다. 브루킹스 연구소의 라숀 레이에 따르면 이러한 편견은 사회적 고정관념을 반영한다고 합니다. 다양성이 없는 환경에서 설계된 AI는 이러한 편견을 인코딩하고 증폭시킬 수 있습니다.

잘못된 조치와 그 영향

Rite Aid의 AI 시스템은 인종 프로파일링에 기여했을 뿐만 아니라 재정적으로도 영향을 미쳤습니다. 주로 소수집단에 속하는 잘못된 표적이 된 고객들은 공개적인 망신을 당했고, 이는 결국 매장 매출에 영향을 미쳤습니다. 일부 지역에서는 이러한 고객들에게 다른 쇼핑 옵션이 없었기 때문에 차별적인 환경을 견뎌야 했습니다.

리테일 그 이상: 더 폭넓은 AI 관심사

편향된 AI의 문제는 리테일에만 국한된 것이 아닙니다. 치안과 같은 다른 분야에서도 AI의 부정확한 판단으로 인해 부당하게 체포된 사례가 있었습니다. 퓨 리서치 센터의 데이터에 따르면 흑인 커뮤니티에서는 특히 법 집행에 AI를 사용하는 것과 관련하여 AI에 대한 신뢰가 현저히 부족한 것으로 나타났습니다.

책임 및 테스트 요청

이러한 우려에 대해 일부 미국 상원의원들은 유색인종에 대한 높은 오류율을 이유로 공항에서의 안면 인식 사용에 이의를 제기했습니다. FTC와의 합의의 일환으로 Rite Aid는 5년 동안 AI 감시를 중단할 예정입니다. 전문가들은 다른 소매업체들도 AI 기술의 편향성을 파악하고 수정하기 위해 철저한 테스트를 실시해야 한다고 주장합니다.

Rite Aid의 AI 얼굴 인식 기술 중단은 리테일 업계와 그 밖의 분야에서 AI의 윤리적 사용에 대한 근본적인 의문을 제기합니다. 이는 기술의 인종적 편견을 해결하기 위한 한 걸음을 내딛는 것이기도 하지만, 모두에게 공정하고 정의로운 AI 시스템을 보장하기 위한 지속적인 과제를 강조하는 것이기도 합니다.