OpenAI: 위스퍼 환각 문제를 줄이기 위해 모델 정확도 개선 중

소프트웨어 엔지니어, 개발자, 학계 연구자들은 OpenAI의 위스퍼 트랜스크립션 도구가 미칠 잠재적 영향에 대해 우려를 표명하고 있습니다. 연구자들은 위스퍼가 인종 차별적 발언부터 상상 속의 의료 치료법까지 모든 것을 트랜스크립션으로 가져온다고 말합니다. 위스퍼는 병원과 기타 의료 환경에서 사용되기 때문에 이는 특히 심각한 결과를 초래할 수 있습니다. 공개 회의를 연구하는 미시간 대학교의 한 연구원은 10개의 오디오 필사본 중 8개가 환각을 일으킨다는 사실을 발견했습니다. 한 머신러닝 엔지니어는 100시간 이상의 위스퍼 녹취록을 연구한 결과 절반 이상에서 환청이 들린다는 사실을 발견했습니다. 한 개발자는 자신이 위스퍼로 만든 26,000개의 트랜스크립트 중 거의 모든 트랜스크립트에서 환각을 발견했다고 보고했습니다. OpenAI의 대변인은 "환각을 줄이는 등 모델의 정확성을 개선하기 위해 지속적으로 노력하고 있다"고 말하며, 사용 정책에 따라 "특정 고위험 의사결정 환경"에서는 위스퍼 사용을 금지하고 있다고 언급했습니다(AP).