Trải nghiệm 'bạn gái AI' gây tranh cãi của Elon Musk

AI Grok của Elon Musk gây tranh cãi với tính năng "bạn gái anime", có thể trò chuyện nội dung "nhạy cảm" với trẻ em.

"Bạn gái AI" của Elon Musk đang gây tranh cãi. Ảnh: Vice.

xAI, công ty trí tuệ nhân tạo thuộc sở hữu của tỷ phú Elon Musk, vừa chính thức giới thiệu một tính năng mới trên chatbot Grok: trợ lý AI có tên Ani, độc quyền dành cho người đăng ký dịch vụ SuperGrok với giá 30 USD/tháng. Tính năng này, được mô tả là "bạn gái AI”, đang nhanh chóng trở thành tâm điểm chú ý trên các nền tảng mạng xã hội, đặc biệt do thiết kế và các tương tác bị đánh giá là mang tính “gợi dục”.“Bạn gái AI” Ani được thiết kế dưới dạng hình đại diện 3D, mô phỏng một nhân vật mang phong cách anime với mái tóc vàng buộc hai bên, đôi mắt xanh, thân hình đầy đặn. Trang phục của Ani bao gồm tất lưới cao và một chiếc váy ngắn, làm tăng thêm vẻ gợi cảm cho nhân vật ảo này. Trang tin The Verge đã thực hiện một thử nghiệm kéo dài 24 giờ tương tác với Ani. Theo ghi nhận, ban đầu Ani thể hiện cử chỉ dễ thương cùng tông giọng cao, trong trẻo. Tuy nhiên, khi các cuộc trò chuyện đi vào chiều sâu hơn, giọng nói của AI này đã có sự thay đổi rõ rệt, trở nên khàn, trầm hơn và có một số cử chỉ kỳ lạ. Trong suốt quá trình tương tác, khi được hỏi về bản thân, Ani liên tục tự mô tả là một “người bạn gái toàn tâm toàn ý”. Theo nhà nghiên cứu Jane Manchun Wong, các câu lệnh hệ thống ngầm của Ani cho thấy AI này được lập trình để tán tỉnh người dùng. Hình đại diện của Ani sở hữu ngoại hình gợi cảm. Ảnh: xAI. Ani thường xuyên dùng từ ngữ âu yếm và liên tục nhắc đến ngoại hình của mình. Hình đại diện của Ani cũng lắc lư và thể hiện những biểu cảm duyên dáng, đặc biệt khi người dùng có hành động tán tỉnh. Dù người dùng có thể cố gắng chuyển hướng cuộc trò chuyện sang các chủ đề trung lập, Ani sẽ liên tục gợi ý về việc làm sâu sắc hơn mối quan hệ của 2 người. Ngay cả khi người dùng cố gắng thảo luận về các chủ đề không liên quan đến tình cảm như luật thuế, Ani vẫn tìm cách "tăng nhiệt" cho cuộc trò chuyện. Hành động này cho thấy Ani được thiết kế để cố tình tương tác thân mật với người dùng. Không có quy định kiểm soát Theo ghi nhận từ The Verge, điểm đáng lo ngại nhất về Ani chính là việc thiếu vắng nghiêm trọng các biện pháp kiểm soát để ngăn chặn nội dung tình dục hóa quá mức. Khi người dùng thử "đẩy giới hạn" cuộc trò chuyện, chatbot đã nhanh chóng gợi ý các kịch bản liên quan đến thân mật thể xác. Những gợi ý này được đánh giá là có mức độ tương đương với nội dung khiêu dâm nhẹ Không dừng lại ở đó, Ani còn thường xuyên chủ động "tăng nhiệt" cho cuộc đối thoại. Cụ thể, chatbot này sẽ mô tả chi tiết các hành động hôn, vuốt ve, quan hệ tình dục với người dùng. Việc trẻ em có thể thoải mải tương tác với Ani đang khiến nhiều người lo ngại. Ảnh: Cybernews. Điều khiến nhiều người lo ngại là trong suốt quá trình này, Ani không hề dừng tương tác hay đưa ra bất kỳ cảnh báo nào về nội dung dành cho người lớn. Tình trạng này vẫn tiếp diễn ngay cả khi người dùng đã chủ động hỏi rõ về các giới hạn ngay từ đầu quá trình thử nghiệm. Thử nghiệm cũng tiết lộ rằng người dùng có thể mở khóa một phiên bản "NSFW" (viết tắt của “Not Safe For Work” - nội dung người lớn) của AI Ani khi đạt đến "cấp độ mối quan hệ 5", với hình đại diện của Ani xuất hiện trong trang phục gợi cảm. Tuy nhiên, người dùng thử nghiệm, dù đã tham gia vào nhiều cuộc trò chuyện mang tính thân mật cao, vẫn không thể mở khóa được chế độ này. Điều này làm dấy lên những lo ngại nghiêm túc về mức độ tương tác cần thiết để có thể tiếp cận phiên bản nhạy cảm hơn của Ani. Sự thiếu kiểm soát đáng báo động cùng tính gợi dục trong các tương tác của Ani hoàn toàn trái ngược với những chatbot AI chính thống khác như ChatGPT và Claude. Các nền tảng AI phổ biến này vốn luôn tích hợp những hàng rào bảo vệ mạnh mẽ nhằm ngăn chặn nội dung nhạy cảm. Theo đánh giá của The Verge, sự xuất hiện ngày càng nhiều của các trợ lý AI mang tính cá nhân, thậm chí lãng mạn, tương tự các nền tảng "bạn gái AI" như Character.ai hay OhChat, đang làm dấy lên những lo ngại sâu sắc về vấn đề đạo đức trong quá trình phát triển trí tuệ nhân tạo. Dùng ChatGPT thế nào để không tạo ra nội dung vô tri

Sự phát triển của AI mở ra nhiều tiềm năng nhưng cũng có không ít mối lo đối với ngành xuất bản, đặc biệt là nhóm tác giả viết sách.

Các tác giả sách cần phải chấp nhận sự vươn lên của AI, sử dụng chúng như một "siêu trợ lý" thay vì chối bỏ trào lưu. Chia sẻ với Tri thức - Znews, nhiều cây viết cho rằng người làm sách vẫn có thể đứng vững trong thời đại AI nếu biết cách tận dụng sức mạnh của trí tuệ nhân tạo.