OpenAI: Cải thiện độ chính xác của mô hình để giảm vấn đề ảo giác Whisper

Các kỹ sư phần mềm, nhà phát triển và nhà nghiên cứu học thuật đã bày tỏ lo ngại về tác động có thể có của công cụ sao chép Whisper của OpenAI. Các nhà nghiên cứu cho biết Whisper đã đưa mọi thứ từ bình luận về chủng tộc đến các phương pháp điều trị y tế tưởng tượng vào bản ghi. Điều này có thể gây ra hậu quả đặc biệt nghiêm trọng vì Whisper được sử dụng trong bệnh viện và các cơ sở y tế khác. Một nhà nghiên cứu của Đại học Michigan nghiên cứu các cuộc họp công cộng đã phát hiện ra rằng ảo giác xảy ra ở 8 trên 10 bản ghi âm. Một kỹ sư học máy đã nghiên cứu hơn 100 giờ phiên âm Whisper và phát hiện ra rằng ảo giác xảy ra ở hơn một nửa trong số đó. Một nhà phát triển đã báo cáo việc tìm thấy ảo giác trong gần như tất cả 26.000 bản ghi mà anh ấy tạo bằng Whisper. Người phát ngôn của OpenAI cho biết công ty đang "liên tục làm việc để cải thiện độ chính xác của các mô hình của mình, bao gồm cả việc giảm ảo giác", lưu ý rằng chính sách sử dụng của họ cấm sử dụng Whisper trong "một số môi trường ra quyết định có tính rủi ro cao nhất định". (Báo chí liên kết)