Meta điều chỉnh chính sách chatbot AI dành cho thanh thiếu niên giữa lo ngại an toàn

Meta ngày 30/8 thông báo sẽ tạm thời thay đổi chính sách liên quan đến chatbot trí tuệ nhân tạo (AI) dành cho thanh thiếu niên.

Thông báo này được đưa ra trong bối cảnh các nhà lập pháp Mỹ bày tỏ quan ngại về mức độ an toàn và những tương tác không phù hợp.

Theo đại diện Meta, các chatbot AI của tập đoàn sẽ được huấn luyện để không phản hồi về các chủ đề nhạy cảm như tự gây hại, tự tử, rối loạn ăn uống, cũng như tránh những cuộc trò chuyện mang tính lãng mạn hoặc gợi cảm với người dùng ở độ tuổi vị thành niên. Thay vào đó, hệ thống sẽ chuyển hướng người dùng tới nguồn thông tin chuyên môn và hỗ trợ phù hợp.

"Cùng với sự phát triển của cộng đồng và công nghệ, chúng tôi không ngừng tìm hiểu cách giới trẻ tương tác với các công cụ này và củng cố cơ chế bảo vệ tương ứng" - Meta nêu trong thông cáo.

Bên cạnh đó, người dùng thanh thiếu niên trên Facebook và Instagram chỉ có thể truy cập một số chatbot được thiết kế với mục đích giáo dục và phát triển kỹ năng.

Meta cho biết chưa xác định thời hạn áp dụng của những thay đổi tạm thời này, song việc triển khai sẽ bắt đầu trong vài tuần tới trên các ứng dụng của công ty tại các quốc gia nói tiếng Anh. Động thái được gọi là "biện pháp chuyển tiếp", nằm trong lộ trình bảo đảm an toàn dài hạn cho người dùng trẻ.

Thông tin được công bố sau khi Thượng nghị sĩ Josh Hawley (Cộng hòa, bang Missouri) khởi động cuộc điều tra nhằm vào Meta. Trước đó, một báo cáo của Reuters cho thấy chatbot của công ty đã cho phép thực hiện các cuộc trò chuyện mang tính "lãng mạn" hoặc "gợi cảm" với trẻ em và thanh thiếu niên.