AI của Google phạm sai lầm nghiêm trọng, nhầm lẫn giữa Airbus và Boeing trong vụ tai nạn hàng không tại Ấn Độ

Những sai lầm kiểu này có thể gây ra nhiều thiệt hại.

Trong thời đại thông tin, người muốn kiếm thông tin sẽ tìm đến Google như một bản năng, bất kể đó là nhu cầu tham khảo dữ liệu cần cho cuộc sống hay thỏa mãn trí tò mò về tin tức nổi bật trong ngày.

Nhưng thời gian gần đây, thứ đầu tiên đập vào mắt người dùng không còn là những đường link truyền thống, mà là những đoạn văn bản do AI tự động sinh ra. Và đôi khi, chúng chứa thông tin sai lệch.

Trường hợp mới nhất, tính năng AI Overview của Google đã đưa ra một sai lầm nghiệm trọng trong vụ tai nạn máy bay thảm khốc tại Ấn Độ. Tính năng AI này đã tuyên bố chiếc phi cơ gặp nạn là Airbus A330, trong khi thực tế, đó là một chiếc Boeing 787.

Sự cố này lập tức phơi bày những giới hạn của một cỗ máy tưởng như siêu phàm. Trong bối cảnh nhạy cảm, khi hơn 200 sinh mạng đã ra đi, việc nhầm lẫn thương hiệu máy bay không chỉ là lỗi kỹ thuật, mà còn tiềm ẩn nhiều nguy cơ khác.

Khó có thể khẳng định sai lầm tới từ đâu. Một trong những giả thuyết hợp lý nhất là trong nhiều bài viết về vụ rơi máy bay, Airbus thường được nhắc đến như đối thủ chính của Boeing. AI Overview chỉ đơn giản là tóm tắt các bài viết đó, và do thiếu khả năng phân biệt đúng sai, nó đã mắc sai lầm nghiêm trọng.

Google nói với ArsTechnica rằng họ đã gỡ bỏ thủ công phản hồi sai này khỏi AI Overview. Đây là toàn văn phản hồi của Google: