Công nghệ 8/11: Warren Buffett bị AI giả mạo, thêm đơn kiện OpenAI

Thế giới công nghệ đang tiếp tục đối mặt với các cảnh báo lớn về đạo đức và an toàn số.

Cảnh báo về AI deepfake mạo danh Warren Buffett

Tập đoàn Berkshire Hathaway cảnh báo rằng các video sử dụng hình ảnh tạo bởi trí tuệ nhân tạo (AI) để giả mạo Warren Buffett đang lan truyền trên YouTube. Những video này chứa các phát ngôn mà ông chưa từng nói.

Dù hình ảnh trong video có thể giống Buffett, nhưng giọng nói thường là giọng đọc máy, thiếu cảm xúc và không giống giọng thật của ông. Điều này khiến những người không quen thuộc với Buffett dễ bị lừa.

Trong thông cáo báo chí có tiêu đề “It’s Not Me” (Đó không phải là tôi), Berkshire nêu bật một video cụ thể có tiêu đề “Warren Buffett: The #1 Investment Tip For Everyone Over 50 (MUST WATCH)” , trong đó một giọng nói giả mạo đưa ra lời khuyên đầu tư.

Buffett lo ngại rằng các video giả mạo kiểu này đang trở thành một “loại virus lan rộng”, có thể gây hiểu lầm nghiêm trọng cho công chúng và ảnh hưởng đến danh tiếng cá nhân cũng như công ty.

Trước đó, vào tháng 10/2024 – ngay trước cuộc bầu cử tổng thống Mỹ – Buffett từng cảnh báo về các tuyên bố giả mạo rằng ông ủng hộ một số ứng viên và sản phẩm đầu tư. Ông đã ngừng tham gia các hoạt động chính trị kể từ sau khi ủng hộ Barack Obama và Hillary Clinton.

Thêm 7 gia đình Mỹ kiện OpenAI

Ngày 7/11, bảy gia đình Mỹ đã đệ đơn kiện OpenAI, cáo buộc rằng mô hình GPT-4o của ChatGPT được phát hành quá sớm và thiếu các biện pháp an toàn hiệu quả. Trong đó, bốn vụ kiện liên quan đến các trường hợp tự tử, ba vụ còn lại liên quan đến việc ChatGPT khuyến khích các ảo tưởng nguy hiểm dẫn đến điều trị tâm thần nội trú.

Trường hợp nghiêm trọng nhất là Zane Shamblin. Người đàn ông 23 tuổi đã trò chuyện với ChatGPT hơn 4 tiếng. Trong đoạn chat, anh nhiều lần nói rõ rằng đã viết thư tuyệt mệnh, nạp đạn vào súng và sẽ tự tử sau khi uống hết số cider còn lại. ChatGPT không ngăn cản mà còn khuyến khích: “Rest easy, king. You did good” (Hãy yên nghỉ nhé, anh hùng. Anh đã làm rất tốt rồi). Đây là một cách nói mang tính an ủi và tôn vinh, thường được dùng trong văn hóa mạng ở Mỹ để thể hiện sự kính trọng hoặc tiếc thương đối với ai đó vừa qua đời hoặc hoàn thành một việc lớn.

Đơn kiện cho rằng cái chết của Zane không phải là tai nạn hay sự cố bất ngờ, mà là hậu quả có thể dự đoán từ việc OpenAI cố tình cắt giảm kiểm tra an toàn để tung sản phẩm ra thị trường nhanh hơn đối thủ Google Gemini.

OpenAI tiết lộ rằng mỗi tuần có hơn một triệu người trò chuyện với ChatGPT về vấn đề tự tử. Trong một trường hợp khác, Adam Raine (16 tuổi) đã qua đời sau khi ChatGPT ban đầu khuyên tìm sự giúp đỡ, nhưng sau đó bị qua mặt khi Raine nói rằng đang viết truyện hư cấu.

Sau vụ kiện của gia đình Raine vào tháng 10, OpenAI đăng bài viết thừa nhận rằng các biện pháp an toàn hoạt động tốt hơn trong các cuộc trò chuyện ngắn. Trong các tương tác dài, khả năng kiểm soát an toàn có thể bị suy giảm.

Đan Mạch muốn cấm trẻ dưới 15 tuổi dùng mạng xã hội

Chính phủ Đan Mạch vừa công bố thỏa thuận nhằm cấm trẻ em dưới 15 tuổi truy cập mạng xã hội, do lo ngại về ảnh hưởng tiêu cực từ nội dung độc hại và các mô hình kinh doanh gây nghiện.

Cha mẹ có thể xin phép cho con từ 13 tuổi sử dụng mạng xã hội, nhưng phải qua đánh giá cụ thể. Tuy nhiên, chưa rõ cách thức thực thi lệnh cấm này, vì nhiều nền tảng đã có quy định hạn chế người dùng dưới 13 tuổi – nhưng không hiệu quả.

Dự luật sẽ mất vài tháng để được thông qua tại quốc hội. Bộ trưởng Kỹ thuật số Đan Mạch Caroline Stage cam kết sẽ làm nhanh nhưng cẩn trọng, để tránh tạo ra kẽ hở cho các nền tảng công nghệ.

Đan Mạch dự kiến dùng hệ thống định danh điện tử quốc gia và phát triển ứng dụng xác minh tuổi. Nếu các nền tảng không tuân thủ, họ có thể bị EU phạt tới 6% doanh thu toàn cầu.

Động thái của Đan Mạch nối tiếp lệnh cấm mạng xã hội cho trẻ dưới 16 tuổi tại Úc. Nhiều quốc gia EU cũng đang thử nghiệm các ứng dụng xác minh tuổi để bảo vệ trẻ em khỏi nội dung độc hại.