Coi chừng 'đổ nợ' vì nhờ AI kiểm chứng thông tin

Trong bối cảnh các nền tảng công nghệ giảm số lượng nhân viên xác minh dữ kiện, người dùng mạng xã hội đang ngày càng phụ thuộc vào các chatbot, trợ lý ảo dựa trên trí tuệ nhân tạo (AI) để kiểm chứng thông tin, theo AFP.

Chẳng hạn vào thời điểm thông tin sai lệch bùng nổ xung quanh diễn tiến cuộc xung đột giữa Ấn Độ và Pakistan từ ngày 7 - 10.5, nhiều người dùng mạng xã hội đã đặt câu hỏi cho một chatbot: "Này @Grok, điều đó có thật không?". Tuy nhiên, nhiều kết quả nhận được lại không chính xác. Grok chính là chatbot do xAI thuộc sở hữu của tỉ phú Elon Musk phát triển.

Điển hình, Grok nhận diện nhầm một đoạn video cũ được ghi hình ở sân bay Khartoum của Sudan là vụ tấn công tên lửa vào căn cứ không quân Nur Khan của Pakistan trong cuộc xung đột gần đây giữa nước này với láng giềng Ấn Độ. Còn một hình ảnh không liên quan chụp một khu nhà đang cháy ở Nepal lại bị Grok gán là phản ứng quân sự của Pakistan trả đũa Ấn Độ.

"Việc người dùng ngày càng dựa vào Grok để xác minh dữ kiện diễn ra trong lúc X và các hãng công nghệ lớn giảm sự đầu tư vào các nhân viên cho hoạt động này", AFP dẫn lời bà McKenzie Sadeghi, nhà nghiên cứu của tổ chức giám sát tin giả NewsGuard (trụ sở TP.New York, bang New York, Mỹ). "Nghiên cứu của chúng tôi nhiều lần phát hiện các chatbot AI không phải nguồn đáng tin cậy cho tin tức và thông tin, đặc biệt trong trường hợp tin nóng", bà cảnh báo.

Kết quả nghiên cứu của NewsGuard phát hiện 10 chatbot hàng đầu hiện nay có xu hướng lặp lại thông tin giả, ví dụ như những tin tức sai lệch về cuộc bầu cử vừa qua ở Úc. Trong báo cáo về 8 công cụ tìm kiếm AI, Trung tâm Tow về báo chí kỹ thuật số của Đại học Columbia (Mỹ) phát hiện các chatbot "về tổng quan khá kém trong việc từ chối trả lời những câu hỏi mà những công cụ này không thể đưa ra đáp án chính xác, mà thay vào đó lại cung cấp các câu trả lời không đúng hoặc chỉ mang tính suy đoán".

Khi các nhân viên xác minh dữ liệu của AFP ở Uruguay đặt câu hỏi cho Gemini (của Google) về một hình ảnh phụ nữ do AI tạo ra, câu trả lời mà họ nhận được không chỉ công nhận hình ảnh đó là người thật, mà còn tạo dựng những chi tiết về danh tính lẫn địa điểm bức ảnh có thể được chụp. Còn Grok gần đây đã "mạnh dạn" xác minh một đoạn video quay cảnh một con trăn khổng lồ ở sông Amazon là đúng sự thật, trong khi đây chỉ là sản phẩm của AI. Thậm chí Grok còn đi xa hơn khi dẫn chứng những chuyến thám hiểm khoa học có thật nhằm chứng minh kết luận đó, nhưng nhiều người dùng lại tin thật.

Những phát hiện trên làm dấy lên quan ngại sau khi các cuộc khảo sát cho thấy nhiều người dùng mạng xã hội giờ đây đã hình thành thói quen sử dụng chatbot AI cho hoạt động thu thập và kiểm chứng thông tin. AFP cảnh báo chất lượng và độ chính xác của chatbot AI có thể dao động, phụ thuộc vào cách thức công cụ được huấn luyện và lập trình.