Từ hình ảnh, video đến ca khúc AI: Cẩn trọng 'cơn lốc' nội dung AI trên mạng xã hội

Trí tuệ nhân tạo (AI) đang bị lợi dụng trong các hoạt động thương mại trực tuyến, từ bán hàng đến lừa đảo từ thiện, khiến cơ quan quản lý và doanh nghiệp phải nhanh chóng tìm giải pháp nhận diện và kiểm soát rủi ro trong kỷ nguyên nội dung nhân tạo.

Nếu trước đây để tạo một ảnh giả mạo, người dùng bình thường phải thuê các chuyên gia Photoshop thì với AI hiện nay, chưa đầy 5 phút cùng một số kỹ năng cơ bản, một bộ ảnh giả có thể xuất hiện khắp nơi.

Khi AI tạo hình ảnh, video, ca khúc... thật đến mức khó tin

Lướt mạng xã hội Facebook thường xuyên mỗi ngày, chị Hoàn Mỹ (TP.HCM) - nhân viên truyền thông - cho biết ngày càng có rất nhiều nội dung có sự can thiệp của các công cụ AI được người dùng đưa lên. 

"Có nhiều bức ảnh của bạn bè, hoặc từ thành viên các hội nhóm đưa lên thật đến mức tôi không thể nào nhận ra có dùng AI nếu họ không nói ra. Thậm chí, ngày càng nhiều video, từ hoạt hình, tưởng tượng cho đến những đoạn phim ngắn, hay video liên quan đến một sự kiện đang diễn ra ngoài đời thật được công cụ AI tạo ra nhưng mình không thể nào biết được", chị Mỹ chia sẻ.

Không chỉ hình ảnh, video, ngay cả trên mạng xã hội YouTube cũng đang có rất nhiều bài hát do "ca sĩ AI" thể hiện lại hoặc sáng tác mới. Nhiều người dùng thích thú với trải nghiệm mới và đua nhau chia sẻ lại trên mạng xã hội cho bạn bè mình. 

"Tôi nghe qua không thể nào phân biệt được đó là ca sĩ AI nếu không được công bố. Giờ nội dung AI ngày càng tràn lan trên không gian mạng Việt Nam. Người dùng bình thường như tôi chắc sẽ sớm không còn biết nội dung nào là của người thật, nội dung nào là do AI hoặc có sự can thiệp của AI", anh Khánh Hà (TP.HCM) nhận định.

Thời gian gần đây, nhiều nền tảng mạng xã hội tại Việt Nam xuất hiện những đoạn video, livestream bán hàng từ những người khuyết tật khiến cộng đồng mạng thông cảm và chia sẻ nhiều hơn. 

Tuy nhiên, nhiều vụ việc sau đó đã được cộng đồng mạng vạch trần ra thủ đoạn dùng AI để biến người bình thường thành người khuyết tật. Mục đích của chiêu trò này là nhằm lợi dụng lòng trắc ẩn của người xem để bán được hàng hóa hoặc phục vụ các hành vi lừa đảo.

Nhiều chuyên gia công nghệ cho biết thời gian gần đây, mạng xã hội xuất hiện ngày càng nhiều tài khoản đăng tải video bán hàng kèm hình ảnh người khuyết tật, ốm đau hoặc có hoàn cảnh khó khăn nhằm kêu gọi lòng thương cảm. Tuy nhiên, thực tế cho thấy không ít nội dung trong số này được tạo hoặc chỉnh sửa bằng công cụ AI, biến người bình thường thành người khuyết tật để phục vụ mục đích trục lợi hoặc lừa đảo.

Chia sẻ với Tuổi Trẻ, ông Milko Radotic, Phó chủ tịch phụ trách khu vực châu Á - Thái Bình Dương của iProov - nhà cung cấp công nghệ xác thực sinh trắc học hàng đầu thế giới, cảnh báo: "Nghiên cứu của chúng tôi cho thấy 99,9% người tham gia không thể nhận ra deepfake. Ngay cả những công cụ phát hiện tiên tiến hiện nay cũng gặp nhiều khó khăn".

Tăng khả năng đề kháng cho người dùng số

Ông Đặng Hữu Sơn - Phó viện trưởng Viện nghiên cứu ứng dụng và phát triển nguồn nhân lực AIOV, nhà sáng lập kiêm CEO Công ty LovinBot AI - cho biết từ khi Google ra mắt công nghệ AI Nano Banana, Veo 3; ByteDance ra mắt Seedream 4, và trước đó OpenAI ra mắt GPT Image, thị trường AI vô cùng nhộn nhịp và cũng kéo theo nhiều hệ lụy.

"Chưa bao giờ công nghệ dễ dàng tiếp cận như hiện nay. Đây đều là những model AI cực kỳ mạnh mẽ trong việc "sao chép khuôn mặt" gần như 90%, thậm chí 99% so với ảnh gốc", ông Sơn nhận xét.

Nếu trước đây để tạo một ảnh giả mạo, người dùng bình thường phải thuê các chuyên gia Photoshop để làm giả thì với AI hiện nay, chưa đầy 5 phút với một số kỹ năng cơ bản, một bộ ảnh giả, một video giả được cắt ghép, lồng thêm hiệu ứng dạng bản tin có thể lan truyền tốc độ chóng mặt.

"Tin giả được lặp lại nhiều lần, với mật độ dày đặc, dễ tiếp cận thì một đại bộ phận tiếp xúc nó hằng ngày sẽ tin đó là sự thật. Do đó, rất cần những giải pháp để hạn chế những vấn đề trên", ông Sơn lưu ý.

Theo ông Trịnh Nguyễn Thiên Phước - giám đốc công nghệ Công ty Gianty Việt Nam, để có thể phân biệt nội dung do AI tạo ra cần ba lớp: (1) kỹ năng kiểm chứng của người dùng (cùng với các nguyên tắc vàng); (2) công cụ kỹ thuật như Content Credentials (C2PA, tạm dịch: thông tin xác thực và nguồn gốc nội dung), dấu hiệu nhận biết watermarking (SynthID, AudioSeal) và bộ dò deepfake; (3) quy trình phối hợp giữa các bên liên quan như: nền tảng, nhà mạng, ngân hàng...

Trong đó, nguyên tắc vàng phải được thực hiện rất nhanh trong khoảng thời gian từ 30 - 60 giây, bao gồm: không bấm link lạ, đồng thời vào app/website chính thức để kiểm chứng; dừng lại ngay khi gặp từ khóa ép hành động (OTP/chuyển tiền/khẩn cấp). 

Đồng thời, người dùng nên xác thực lại bằng hai nguồn độc lập trước khi tin; kiểm tra ngày, giờ và bối cảnh (tin cũ đội lốt mới); gọi lại số chính thức do bạn tự tìm, không dùng số người khác đưa; với hình ảnh và video, người dùng có thể tìm kiếm ngược lại về kết quả liên quan...

Nhiều chuyên gia cho rằng giải pháp căn cơ nhất để đối phó với làn sóng nội dung giả mạo do AI tạo ra chính là nâng cao nhận thức cộng đồng. Thay vì chỉ tập trung vào các biện pháp kỹ thuật, cần xây dựng những chương trình đào tạo, cuộc thi hay mô phỏng tình huống thực tế giúp người dân thay đổi thói quen tiếp nhận thông tin.

Với giới trẻ, đặc biệt là sinh viên, việc kết hợp các cuộc thi trực tuyến, chiến dịch truyền thông cùng người nổi tiếng hoặc KOL có thể tạo sức hút tự nhiên, giúp họ vừa học, vừa trải nghiệm nhưng vẫn nắm được kỹ năng nhận diện tin giả, video giả. Trong khi đó, người cao tuổi, nhất là ở vùng nông thôn, lại cần các hình thức gần gũi và trực quan hơn như tờ rơi minh họa, video hướng dẫn hoặc buổi chiếu tại nhà văn hóa, sinh hoạt cộng đồng.

"Cách tiếp cận phù hợp với từng nhóm người sẽ giúp tạo ra một nền tảng nhận thức vững chắc, lâu dài, thay vì chỉ dừng lại ở các hoạt động ngắn hạn. Ví dụ một số đơn vị đã phát triển các tiện ích mở rộng (extension) có thể cài đặt trên trình duyệt Chrome nhằm hỗ trợ người dùng xác thực tin tức khi lướt web hoặc mạng xã hội...", ông Đặng Hữu Sơn chia sẻ.