OpenAI phát hiện học sinh gian lận bằng công cụ đóng dấu văn bản

OpenAI vừa thông báo rằng họ sẽ xây dựng một công cụ có khả năng bắt được những sinh viên yêu cầu ChatGPT viết bài tập của họ. Nhưng công ty vẫn đang cân nhắc liệu họ có muốn phát hành công cụ này hay không do tính phức tạp của vấn đề này

Công cụ phát hiện AI với tỷ lệ thành công 99,9%

Công cụ phát hiện mà OpenAI đang xây dựng sẽ giúp người dùng phân tích văn bản và đánh giá mức độ tương đồng của văn bản với bài viết do AI tạo ra. Nhưng đây không phải là lần đầu tiên ChatGPT phát hành công cụ phát hiện AI mới của mình. Mô hình trước đó mà OpenAI tạo ra - trình phân loại AI - đã bị gỡ xuống vào ngày 20 tháng 7 năm 2023 do tỷ lệ chính xác thấp. Giờ đây, toàn bộ phiên bản mới và cải tiến của công cụ phát hiện đạo văn mà OpenAI đang phát triển đang sử dụng hình mờ văn bản để phát hiện nội dung do AI tạo ra. Hình mờ của OpenAI được mô tả là điều chỉnh cách mô hình dự đoán các từ và cụm từ có khả năng xuất hiện nhiều nhất theo sau các từ và cụm từ trước đó, tạo ra một mẫu có thể phát hiện được. OpenAI tuyên bố rằng phương pháp hình mờ văn bản có tỷ lệ chính xác là 99,0%. Ngoài tỷ lệ chính xác cao, công cụ này còn có khả năng chống lại sự giả mạo, chẳng hạn như diễn đạt lại. Tuy nhiên, công cụ này chỉ có khả năng bắt được hình mờ từ mô hình AI của riêng nó, vì vậy văn bản do các mô hình ngôn ngữ khác tạo ra sẽ không được công cụ này chọn.

Sự lo ngại của người dùng và giải pháp thay thế?

OpenAI đã nói trong thông báo của họ rằng mặc dù họ đã xây dựng công cụ này, họ vẫn còn do dự khi phát hành công cụ này. Điều này xuất phát từ nỗi lo ngại của OpenAI rằng việc đóng dấu bản quyền có thể khiến người dùng tắt và ngừng sử dụng ChatGPT. Điều này được hỗ trợ bởi một cuộc khảo sát do công ty thực hiện cho thấy 30% người dùng bày tỏ rằng họ sẽ ít có khả năng sử dụng phần mềm hơn nếu việc đóng dấu bản quyền được triển khai. Xem xét những ý kiến ​​này, công ty đang cân nhắc các giải pháp tiềm năng khác cho những thách thức này.

Trước những ý kiến ​​khó chịu của người dùng, công ty cũng đang thử các giải pháp thay thế khác có khả năng ít gây tranh cãi hơn giữa những người dùng. Một trong những phương pháp khác mà công ty đang khám phá là nhúng siêu dữ liệu vào văn bản. Nhưng công ty cho biết vẫn còn sớm để biết nó sẽ hoạt động tốt như thế nào, nhưng họ giữ lời hứa nhờ chữ ký mật mã của mình, có thể loại bỏ các kết quả dương tính giả.

Việc triển khai vẫn là một dấu hỏi lớn

Hệ thống đóng dấu bản quyền đã chứng minh rằng nó có thể rất có lợi cho các nhà giáo dục muốn ngăn học sinh nộp bài tập viết do AI tạo ra. Nhưng cũng có sự phức tạp liên quan đến việc phân phối công cụ, ví dụ như quyết định có nên cung cấp máy dò trực tiếp cho các nhà giáo dục hay hợp tác với ba mươi công ty bên chuyên phát hiện đạo văn. Điều này cũng sẽ làm nổi bật sự phức tạp liên quan đến việc triển khai công cụ và đảm bảo nó phục vụ mục đích dự định mà không có hậu quả ngoài ý muốn.