OpenAI：ウィスパーの幻覚問題を軽減するため、モデルの精度を改善中

ソフトウェア・エンジニア、開発者、学術研究者は、OpenAIの文字起こしツール「Whisper」の潜在的な影響について懸念を表明している。 研究者によれば、Whisperは人種差別的な発言から想像上の医療行為まで、あらゆるものを文字起こしに持ち込むという。Whisperは病院やその他の医療現場で使用されているため、これは特に深刻な結果をもたらす可能性がある。 ミシガン大学の研究者が公開会議を調査したところ、10件中8件が幻聴であった。ある機械学習エンジニアが100時間以上のウィスパー音声を調査したところ、半数以上が幻聴であることが判明した。ある開発者は、Whisperで作成した26,000件のトランスクリプトのほぼ全てに幻覚を発見したと報告している。 OpenAIの広報担当者は、同社は「幻覚を減らすことを含め、モデルの精度を向上させるために継続的に取り組んでいる」と述べ、同社の使用ポリシーでは「特定のリスクの高い意思決定環境」でのWhisperの使用を禁止していると指摘した(AP)。