OpenAI Có Công Cụ Phát Hiện Nội Dung AI "Rất Chính Xác", Nhưng Chưa Có Kế Hoạch Phát Hành
OpenAI dường như đang giữ lại một công cụ “rất chính xác” có khả năng phát hiện nội dung được tạo ra bởi ChatGPT vì lo ngại rằng công cụ này có thể bị can thiệp hoặc gây ra sự e ngại cho người dùng không nói tiếng Anh khi sử dụng các mô hình trí tuệ nhân tạo.
Trong một bài viết trên blog vào tháng Năm, công ty đã đề cập đến việc họ đang làm việc trên các phương pháp phát hiện nội dung do chính sản phẩm của họ tạo ra. Vào ngày 4 tháng 8, Wall Street Journal đã công bố một báo cáo độc quyền cho biết các kế hoạch phát hành công cụ đã bị đình trệ do các cuộc tranh luận nội bộ về hệ quả của việc phát hành chúng.
Sau báo cáo của WSJ, OpenAI đã cập nhật bài viết trên blog tháng Năm của mình với thông tin mới liên quan đến các công cụ phát hiện. Điều quan trọng là vẫn chưa có lịch trình cụ thể cho việc phát hành, dù công ty đã cảnh báo rằng ít nhất một công cụ xác định nguồn gốc văn bản là “rất chính xác và thậm chí hiệu quả đối với việc can thiệp cục bộ.”
Thật không may, công ty cho biết vẫn tồn tại các phương pháp mà các tác nhân xấu có thể vượt qua được phát hiện, vì vậy họ không muốn phát hành công cụ này ra công chúng.
Trong một phần khác, công ty dường như ngụ ý rằng người nói tiếng Anh không phải là ngôn ngữ chính có thể bị “kỳ thị” khi sử dụng sản phẩm AI để viết vì một lỗ hổng liên quan đến việc dịch văn bản tiếng Anh sang ngôn ngữ khác để tránh bị phát hiện.
“Một rủi ro quan trọng khác mà chúng tôi đang cân nhắc là nghiên cứu của chúng tôi cho thấy phương pháp đánh dấu văn bản có khả năng tác động không tương xứng đến một số nhóm. Ví dụ, nó có thể kỳ thị việc sử dụng AI như một công cụ viết hữu ích cho những người không nói tiếng Anh như ngôn ngữ chính.”
Hiện tại, có nhiều sản phẩm và dịch vụ được cho là có khả năng phát hiện nội dung do AI tạo ra, nhưng theo hiểu biết của chúng tôi, chưa có sản phẩm nào chứng minh được độ chính xác cao trong các nhiệm vụ tổng quát qua nghiên cứu được đánh giá ngang hàng.
Hệ thống của OpenAI sẽ là hệ thống đầu tiên được phát triển nội bộ dựa trên phương pháp đánh dấu vô hình và các phương pháp phát hiện độc quyền dành cho nội dung do các mô hình của công ty tạo ra.
