Cha đẻ ChatGPT phát hành công cụ phát hiện văn bản do AI tạo ra

Wed Feb 15, 2023 4:20 pm

Trước mối lo ngại về hành vi gian lận cũng như lạm dụng “chất xám” từ trí tuệ nhân tạo, OpenAI mới đây đã phát hành một bộ phân loại nhằm xác định xem một đoạn văn bản có được tạo bởi các nền tảng trí tuệ nhân tạo (AI), chẳng như ChatGPT, hay không.
Công ty đã phát hành công cụ này sau khi nhiều tổ chức giáo dục ban hành lệnh cấm học sinh, sinh viên sử dụng ChatGPT để làm bài tập hay tệ hơn là gian lận trong thi cử. Tại Hoa Kỳ, ChatGPT đã bị cấm sử dụng ở các cơ sở giáo dục thuộc Thành phố New York, Seattle, Los Angeles và Baltimore. Nhiều tiểu bang ở Úc đã chặn học sinh truy cập ChatGPT trên mạng internet nội bộ. Một số trường đại học ở Pháp và Ấn Độ cũng đã hạn chế quyền truy cập vào công cụ AI này.
OpenAI mô tả trình phân loại văn bản của mình là "một mô hình GPT được tinh chỉnh để dự đoán khả năng một đoạn văn bản được tạo ra bởi AI từ nhiều nguồn khác nhau, chẳng hạn như ChatGPT". Tuy nhiên, bất chấp tuyên bố trên, bản thân công ty thừa nhận rằng công cụ này hiện chưa thực sự cho kết quả đáng tin cậy và sẽ cần phải được cải thiện theo thời gian.
Trong đánh giá nội bộ của OpenAI về các văn bản tiếng Anh, công cụ phân loại chỉ xác định chính xác 26% văn bản do có khả năng được viết bởi AI, đồng thời xác định nhầm khoảng 9% văn bản của con người là do AI viết. Đây rõ ràng là những con số không thực sự ấn tượng. Ngoài ra, OpenAI cũng lưu ý rằng công cụ phân loại còn có thể hoạt động tệ hơn đối với các đoạn văn bản dưới 1.000 ký tự và được viết bằng những ngôn ngữ khác ngoài tiếng Anh.

Trước sự phát triển và phổ biến của các mô hình AI hỗ trợ tạo nội dung như ChatGPT, mối lo về viễn cảnh con người lạm dụng máy móc để gian lận trong lĩnh vực học thuật ngày càng hiện hữu hơn bao giờ hết. Do đó, việc sử dụng chính các công cụ AI giúp phát hiện nội dung được khởi tạo bằng AI có thể là một phương án “lấy độc trị độc” khả dĩ, đặc biệt là khi khả năng sáng tạo nội dung của AI sẽ được cải thiện đáng kể theo thời gian, dẫn đến việc chúng có thể cho ra những đoạn văn bản hệt như được viết bởi con người, cả về nội dung cũng như ngữ pháp.
Các nhà nghiên cứu đến từ Đại học Stanford gần đây đã giới thiệu DetectGPT, một công cụ giúp các nhà giáo dục phát hiện các bài báo do AI tạo ra. Ngoài ra, một sinh viên khoa học máy tính tại Đại học Princeton cũng đã phát triển một công cụ tương tự có thể "nhanh chóng và hiệu quả" xác định xem một bài luận có phải do ChatGPT tạo ra hay không.

Mon	Tue	Wed	Thu	Fri	Sat	Sun
				1	2	3
4	5	6	7	8	9	10
11	12	13	14	15	16	17
18	19	20	21	22	23	24
25	26	27	28	29	30