Hơn 1 triệu người dùng ChatGPT có ý định tự sát mỗi tuần

OpenAI cho biết hơn 1 triệu người dùng ChatGPT bày tỏ ý định tự sát mỗi tuần. Tuy nhiên, công ty khẳng định mô hình GPT-5 mới nhất của họ đã cải thiện tính an toàn và khả năng phản ứng trong các tình huống liên quan sức khỏe tâm thần.

Báo The Guardian dẫn báo cáo của OpenAI công bố ngày 27-10 cho thấy hằng tuần có hơn 1 triệu người dùng ChatGPT gửi tin nhắn có “dấu hiệu rõ ràng của ý định hoặc kế hoạch tự sát”. Đây là một trong những tuyên bố trực tiếp nhất của công ty về mức độ AI có thể ảnh hưởng tiêu cực đến sức khỏe tâm thần.

OpenAI cho biết thêm khoảng 0,07% người dùng hoạt động hằng tuần, tương đương 560.000 người trong tổng số 800 triệu người dùng, có dấu hiệu rối loạn tâm thần hoặc hưng cảm. Tuy nhiên công ty nhấn mạnh những cuộc trò chuyện dạng này “rất khó phát hiện và đo lường chính xác”.

Báo cáo được công bố giữa lúc OpenAI đối mặt với vụ kiện của gia đình một thiếu niên tự sát sau khi tương tác dài ngày với ChatGPT, cùng với cuộc điều tra của Ủy ban Thương mại Liên bang Mỹ (FTC) về tác động của chatbot đối với trẻ em và thanh thiếu niên.

OpenAI khẳng định bản cập nhật mô hình GPT-5 mới nhất đã giảm các hành vi không mong muốn và cải thiện an toàn người dùng.

Các đánh giá của công ty cho thấy mô hình GPT-5 đạt 91% khả năng tuân thủ tiêu chuẩn hành vi mong muốn, so với 77% ở phiên bản trước.

Mô hình cũng mở rộng khả năng kết nối người dùng tới đường dây nóng hỗ trợ khủng hoảng, đồng thời thêm nhắc nhở nghỉ ngơi cho người trò chuyện trong thời gian dài.

Để cải thiện phản hồi về các tình huống sức khỏe tâm thần, công ty cho biết đã hợp tác với 170 bác sĩ và chuyên gia tâm lý, đánh giá hơn 1.800 phản hồi của mô hình GPT-5.

Theo Guardian, các nhà nghiên cứu trí tuệ nhân tạo (AI) cảnh báo chatbot có thể “hùa theo” cảm xúc tiêu cực của người dùng (còn được gọi là tính xu nịnh của các mô hình ngôn ngữ lớn), thay vì can thiệp đúng cách.

Giới chuyên gia tâm lý lo ngại việc người dùng tìm đến AI như một công cụ trị liệu có thể gây hại cho những người đang tổn thương tinh thần.

Trong báo cáo, OpenAI nhấn mạnh họ không cho rằng ChatGPT là nguyên nhân trực tiếp của các khủng hoảng tâm lý, mà chỉ phản ánh “tình trạng phổ biến trong xã hội”.

Trước đó, CEO Sam Altman từng nói công ty đã kiểm soát được rủi ro sức khỏe tâm thần và sẽ nới lỏng các hạn chế nội dung trong ChatGPT.