Cẩn thận bị chatbot AI 'lừa' khi xác minh thông tin

Những chatbot trí tuệ nhân tạo (AI) đang được sử dụng như công cụ xác minh thông tin, song độ tin cậy của nó bị đặt dấu hỏi.

Theo Hãng tin AFP ngày 2.6, người dùng mạng xã hội thường tìm đến các công cụ chatbot phổ biến như Grok, ChatGPT hay Gemini để tìm kiếm và xác minh thông tin, hình ảnh, đặc biệt đối với những tin thời sự nóng. Tuy nhiên, phản hồi của chatbot đôi khi bị cho là chứa thông tin sai lệch.

Chatbot Grok của Công ty xAI đã nhận diện những cảnh quay từ sân bay Khartoum tại Sudan là kết quả của một cuộc tấn công vào căn cứ không quân Nur Khan ở Pakistan, khi giao tranh Ấn Độ - Pakistan nổ ra đầu tháng 5.

Một trường hợp khác là khi đăng hình một người phụ nữ do AI tạo ra và hỏi chatbot Gemini của Công ty Google để xác minh, chatbot này không chỉ xác định đây là ảnh thật, mà còn đưa ra những thông tin bịa đặt về danh tính người phụ nữ, cùng địa điểm chụp bức ảnh.

Tổ chức giám sát thông tin sai lệch NewsGuard, có trụ sở tại Mỹ, phát hiện rằng 10 chatbot hàng đầu hiện nay có xu hướng lặp lại thông tin sai lệch hay các tuyên bố gây hiểu lầm.

"Người ta ngày càng phụ thuộc vào Grok như một công cụ kiểm tra thực tế, khi nền tảng mạng xã hội X và các công ty khác đã cắt giảm đầu tư cho nhân sự phụ trách xác minh thông tin", bà McKenzie Sadeghi, nhà nghiên cứu tại NewsGuard, nói với AFP.

Các nghiên cứu của NewsGuard cũng chỉ ra chatbot AI không phải nguồn thông tin đáng tin cậy, đặc biệt đối với những tin nóng.

Trong khi đó, Trung tâm Báo chí Kỹ thuật số Tow tại Đại học Columbia (Mỹ) đề cập trong một nghiên cứu rằng các chatbot "nhìn chung là kém trong khả năng từ chối trả lời các câu hỏi mà chúng không thể trả lời chính xác, thay vào đó đưa ra thông tin sai lệch hoặc mang tính suy đoán".

Mạng xã hội X đã giảm nhân sự hỗ trợ xác minh thông tin, thay vào đó tạo ra tính năng gọi là "ghi chú cộng đồng". Ở đây, người dùng sẽ trực tiếp gửi ý kiến về những thông tin mâu thuẫn. Công ty Meta, chủ sở hữu mạng xã hội Facebook, hồi đầu năm cũng thông báo chấm dứt hợp tác chương trình xác minh thông tin với bên thứ ba, cho biết sẽ triển khai tính năng ghi chú cộng đồng tương tự X. Tuy nhiên, giới chuyên gia cho rằng việc để cộng đồng mạng tự kiểm tra thông tin sẽ có nguy cơ xuất hiện những phản hồi thiên vị, hoặc mang mục đích chính trị.