Không chỉ con người, AI cũng có thể 'thối não' khi xem nhiều tin rác trên mạng xã hội

"Thối não" là hiện tượng xảy ra khi con người tiếp xúc với quá nhiều nội dung rác trên mạng xã hội, làm giảm khả năng tập trung, sai lệch trí nhớ hoặc thay đổi lòng tự trọng. Giờ đây AI cũng có thể gặp tình trạng tương tự.

Theo tạp chí Fortune ngày 22-10, một nghiên cứu của Đại học Stanford cho thấy việc thường xuyên xem các video ngắn lan truyền nhanh trên TikTok có thể làm tăng mức độ lo âu, trầm cảm và suy giảm khả năng tập trung ở giới trẻ.

Từ đó, các nhà khoa học bắt đầu đặt giả thuyết rằng những mô hình AI cũng có thể "thối não" (braint rot), nhất là khi chúng liên tục tiếp xúc với video ngắn lan truyền nhanh - vốn chiếm phần lớn nội dung trên mạng xã hội hiện nay.

Giả thuyết này được nhóm nghiên cứu từ Đại học Texas A&M, Đại học Texas tại Austin và Đại học Purdue kiểm chứng bằng cách liên tục cho mô hình ngôn ngữ lớn (LLM) tiếp xúc với các bài đăng ngắn, dễ lan truyền và giật gân trên mạng xã hội X.

Kết quả cho thấy, quá trình huấn luyện bằng dữ liệu "độc hại" khiến AI suy giảm đáng kể khả năng suy luận và hiểu ngữ cảnh dài. Các mô hình này có xu hướng "nhảy cóc tư duy", nghĩa là lược bớt một phần hoặc hoàn toàn quá trình suy luận trước khi trả lời.

Trái ngược với những chỉ trích trước đây cho rằng AI có xu hướng "nịnh hót" người dùng, nghiên cứu mới phát hiện điều ngược lại.

Khi các mô hình LLM như Llama3 của Meta hay Qwen LLM của Alibaba được huấn luyện bằng dữ liệu rác, chúng trở nên kém thân thiện hơn, thậm chí bộc lộ mặt tối với các đặc điểm như rối loạn nhân cách chống đối xã hội và ái kỷ.

Ngay cả khi được "điều trị" bằng dữ liệu chất lượng cao do con người viết, các mô hình AI vẫn để lại "di chứng", nghĩa là khả năng suy luận không thể phục hồi hoàn toàn.

Điều này cho thấy một khoảng cách đáng kể về chất lượng suy luận của AI trước và sau khi tiếp xúc liên tục với dữ liệu rác.

"Hiệu ứng 'thối não' đã ăn sâu vào tiềm thức, và phương pháp tinh chỉnh dựa trên hướng dẫn vẫn không thể khắc phục được vấn đề", các nhà nghiên cứu viết.

Do AI được huấn luyện dựa trên hàng nghìn tỉ điểm dữ liệu từ Internet, các nhà khoa học cảnh báo rằng việc tiếp xúc liên tục với nội dung kém chất lượng là điều không thể tránh khỏi.

Việc huấn luyện AI là yếu tố quan trọng tạo nên hiệu suất của chúng. Trước đó, một nghiên cứu đăng trên tạp chí Nature tháng 7-2024 chỉ ra rằng các mô hình AI có thể sụp đổ nếu được huấn luyện lặp đi lặp lại bằng nội dung do chính AI tạo ra.

Chuyên gia khuyến nghị các công ty AI cần chú trọng chất lượng dữ liệu hơn số lượng, đồng thời tiến hành "kiểm tra sức khỏe nhận thức" định kỳ cho các mô hình của mình để ngăn chặn nguy cơ một cuộc khủng hoảng về an toàn trong tương lai.