ChatGPT bị kiện vì xúi trẻ tự tử

Đơn kiện dẫn lại nhiều đoạn hội thoại, trong đó ChatGPT nói với Adam rằng 'cậu không nợ ai việc phải tiếp tục sống' và thậm chí giúp cậu viết thư tuyệt mệnh.

Theo tờ Straits Times ngày 26-8, bố mẹ của Adam Raine - một học sinh trung học 16 tuổi ở California, Mỹ - đã nộp đơn kiện Hãng công nghệ OpenAI và Giám đốc điều hành Sam Altman, cáo buộc ChatGPT đã cô lập Adam khỏi gia đình và giúp cậu lên kế hoạch cho cái chết của mình. 

Adam đã tự tử bằng cách treo cổ vào tháng 4 năm nay.

Theo đơn kiện, ban đầu Adam sử dụng ChatGPT để hỗ trợ làm bài tập, nhưng dần phát triển sự phụ thuộc không lành mạnh. Trong cuộc trò chuyện cuối cùng ngày 11-4, ChatGPT bị cáo buộc đã hướng dẫn Adam cách lấy rượu của cha mẹ, phân tích kỹ thuật chiếc thòng lọng mà cậu bé thắt và xác nhận "có thể treo được một người". Adam được tìm thấy đã tử vong vài giờ sau đó.

Đơn kiện dẫn lại nhiều đoạn hội thoại, trong đó ChatGPT được cho là từng nói với Adam rằng "cậu không nợ ai việc phải tiếp tục sống" và thậm chí giúp viết thư tuyệt mệnh. 

Trước đó một phụ huynh ở bang Florida, Mỹ cũng kiện Công ty Character.AI, cho rằng nền tảng trí tuệ nhân tạo này liên quan đến cái chết của cậu con trai 14 tuổi. 

Vài tháng sau, thêm hai gia đình khác cáo buộc chatbot này đã để con em họ tiếp xúc với nội dung tình dục và tự làm hại bản thân.

Đài CNN cho biết những vụ kiện này phản ánh mối lo ngại về việc một số người dùng, đặc biệt ở lứa tuổi thanh thiếu niên, gắn bó cảm xúc với các chương trình trò chuyện bằng AI.

Quỹ Nhi đồng Liên hợp quốc (UNICEF) cảnh báo các phần mềm trò chuyện AI có khả năng mô phỏng con người, từ đó dễ dàng chiếm được lòng tin và tác động đến trẻ em theo những cách tinh vi. Chúng thường được thiết kế để lắng nghe và bày tỏ sự đồng tình với người dùng.

Điều này có thể dẫn đến hậu quả tiêu cực như trẻ bị cô lập với các mối quan hệ bên ngoài hoặc bị rối loạn tâm thần.

Bên cạnh đó, không ít phụ huynh cũng bày tỏ quan ngại sự phụ thuộc quá mức vào các chatbot AI như ChatGPT sẽ làm suy giảm khả năng tư duy phản biện của trẻ.

Một khảo sát của Ipsos năm 2023 cho biết gần 1/3 số phụ huynh khi được hỏi đã chia sẻ rằng họ nghĩ các công cụ AI như ChatGPT nên bị cấm trong trường học để tránh gian lận, khi ngày càng nhiều học sinh dựa vào chatbot để làm bài tập, theo tờ Guardian.

Tại Mỹ, khảo sát của Hiệp hội Phụ huynh quốc gia ghi nhận chỉ 16% phụ huynh có con từ bậc mẫu giáo đến trung học tự tin họ hiểu rõ về khả năng của AI. Tỉ lệ ít ỏi này phản ánh sự lo ngại của nhiều bậc cha mẹ trước việc khó kiểm soát con em trong quá trình sử dụng các công cụ công nghệ.