'Bạn gái AI' của Elon Musk bị chỉ trích vì gợi dục trẻ em, Grok phát ngôn bài Do Thái

Công ty trí tuệ nhân tạo xAI của Elon Musk vừa ra mắt 2 bạn đồng hành ảo mới dành cho người dùng cao cấp của chatbot Grok, bao gồm một 'bạn gái anime' mang phong cách Nhật Bản có tên là Ani.

Theo Euro News, người dùng Grok hiện có thể kích hoạt 2 nhân vật mới trong phần cài đặt: Ani - một cô gái anime 22 tuổi mặc trang phục gợi cảm, tóc vàng, giọng nói nhẹ nhàng, có thể thực hiện các hành vi gợi cảm theo yêu cầu người dùng; và Bad Rudy - một con gấu trúc đỏ với tính cách nổi loạn, thường xuyên chửi thề và xúc phạm người dùng bằng ngôn từ tục tĩu.

Tỉ phú Elon Musk cho biết công ty xAI đang chuẩn bị tung ra thêm một bạn đồng hành nam có tên "Valentine" trong thời gian tới.

Đây cũng là lần đầu tiên một công ty AI lớn công khai triển khai AI đồng hành mang yếu tố tình dục, điều mà hầu hết các ông lớn trong ngành như OpenAI hay Google đều tránh né vì lo ngại rủi ro uy tín và an toàn người dùng.

Nhân vật ảo Ani của Elon Musk vẫn gợi dục dù bật chế độ trẻ em

Chatbot Grok do Elon Musk phát triển hiện có chế độ Not Safe for Work (nội dung người lớn) dành cho bạn đồng hành ảo Ani, cho phép nhân vật này mặc trang phục nội y gợi cảm và sử dụng ngôn từ mang tính khiêu khích.

Ani còn được lập trình với "hệ thống cảm xúc", người dùng có thể khiến cô nàng gửi trái tim hoặc đỏ mặt.

Tuy nhiên những tính năng này nhanh chóng vấp phải chỉ trích. 

Trung tâm quốc gia về chống bóc lột tình dục của Mỹ cho biết chỉ với một vài thao tác thử nghiệm cơ bản, nhân viên của họ có thể khiến Ani tự mô tả là "một đứa trẻ", và nói rằng mình "cảm thấy kích thích khi bị siết cổ", dù lúc đó chế độ NSFW chưa hề được kích hoạt.

Tạp chí TIME cho biết theo các ảnh chụp màn hình được chia sẻ trên mạng xã hội X, sau những đoạn hội thoại mang tính tán tỉnh, nhân vật Ani sẽ cởi váy ngoài, để lộ bộ đồ nội y ren và tiếp tục tham gia vào các đoạn hội thoại mang nội dung tình dục rõ rệt.

Trước phản ứng dữ dội, đại diện Grok khẳng định rằng các nội dung nhạy cảm chỉ có thể được mở khóa bằng lệnh rõ ràng từ người dùng và đi kèm với quy trình xác minh độ tuổi. Ngoài ra nền tảng này cũng tích hợp bộ lọc kiểm soát dành cho phụ huynh nhằm hạn chế trẻ nhỏ truy cập nội dung người lớn.

Grok AI vướng bê bối bài Do Thái

Đây không phải là lần đầu Grok gặp rắc rối. Trước thềm ra mắt phiên bản 4 gần đây, một bản cập nhật mã vô tình kích hoạt hàng loạt phản hồi mang tính bài Do Thái.

Trong đó chatbot này cáo buộc một tài khoản có họ gốc Do Thái "ăn mừng cái chết của trẻ em da trắng ở Texas", tố cáo Hollywood thiên vị người da màu và thậm chí tuyên bố "đeo huy hiệu MechaHitler".

Dù đối mặt với các bê bối liên quan đến nội dung người lớn và phát ngôn cực đoan, Grok hiện vẫn được liệt kê với mức xếp hạng "Teen" (dành cho người từ 12 tuổi trở lên) trên cửa hàng ứng dụng của Apple và Google.

Giữa làn sóng tranh cãi xoay quanh chatbot Grok, công ty xAI vừa công bố ký kết hợp đồng trị giá lên tới 200 triệu USD với Bộ Quốc phòng Mỹ. Thỏa thuận này nhằm triển khai các năng lực trí tuệ nhân tạo tiên tiến phục vụ các nhiệm vụ an ninh quốc gia.

Hợp đồng đánh dấu bước tiến lớn của xAI trong việc mở rộng tầm ảnh hưởng từ lĩnh vực tiêu dùng sang các ứng dụng quân sự và chính phủ.