Nguy cơ AI làm hại học sinh, từ lừa đảo đến tống tiền tình dục

Không gian số ngày càng phát triển đang kéo theo nhiều hệ lụy, một trong số đó là gia tăng lừa đảo, tống tiền trực tuyến... bằng trí tuệ nhân tạo (AI). Điều này buộc các trường phải lên phương án nhận diện và ứng phó.

Nhiều hiểm nguy rình rập do AI

Sáng 3.10, Trường ĐH RMIT Việt Nam phối hợp với Hiệp hội Thương mại Mỹ ở Việt Nam cùng một số đơn vị tư nhân tổ chức hội nghị chăm sóc sức khỏe và an toàn học đường Việt Nam 2025 tại TP.HCM. Chia sẻ tại sự kiện, ông Will Gardner, Giám đốc điều hành Childnet International (Anh) kiêm Giám đốc Trung tâm internet an toàn Anh, đã cảnh báo hàng trăm đại biểu tham dự về các mối nguy học sinh phải đối mặt trên không gian mạng.

Một vấn đề nổi cộm là AI đang "làm mưa làm gió" và cả học sinh chỉ mới lớp 2, 3 cũng đã bắt đầu sử dụng công cụ này, theo ông Gardner. Việc AI có thể tạo ra văn bản, hình ảnh hay video gần giống với những gì chúng ta tưởng tượng là "phát minh vượt bậc", tuy nhiên có thể dẫn tới lạm dụng như dùng để làm bài tập hộ, lan truyền tin giả hay tin sai sự thật, thậm chí là bắt nạt hoặc tống tiền tình dục (sextortion).

"Nhờ AI, người ta có thể dễ dàng chỉnh một bức ảnh bình thường của ai đó thành ảnh khỏa thân (AI nudification). Hiện tượng này chưa đến mức lan rộng, nhưng quan trọng chúng ta phải xác định rằng nó hoàn toàn có khả năng bùng phát trên toàn cầu", ông Gardner lo lắng.

Thực tế, theo một khảo sát 1.200 bạn trẻ tuổi từ 13-20 do tổ chức phi lợi nhuận Thorn (Mỹ) thực hiện và công bố hồi tháng 3, cứ 17 thanh thiếu niên thì có 1 em cho biết mình từng bị người khác dựng ảnh khỏa thân ngụy tạo. Trong số này, chỉ 34% kể với phụ huynh, còn lại đều giữ kín như bưng. "Đáng lo là trên mạng đang xuất hiện nhiều công cụ giúp chỉnh ảnh bình thường thành ảnh khỏa thân", ông Gardner bộc bạch.

Mối lo khác của ông Gardner là học sinh lệ thuộc vào chatbot AI (công cụ có thể trò chuyện với người dùng như ChatGPT - PV). Theo ông, các hệ thống này có thể phản hồi như người thật nên khiến học sinh khó phân biệt liệu đây là công nghệ hay là người bạn ảo. Thực tế ở Anh, 23% trẻ em thuộc nhóm dễ bị tổn thương dùng chatbot AI vì "không có ai khác để trò chuyện", theo khảo sát 1.000 em tuổi từ 9-17 công bố hồi tháng 7 của Internet Matters.

Từ vấn đề này, ông Gardner cho rằng phải giáo dục cho học sinh hiểu rõ AI chỉ mong muốn các em dùng dịch vụ lâu hơn chứ không thực sự đặt lợi ích lẫn sự bình yên, an toàn (wellbeing) của các em lên hàng đầu. Bởi lẽ, có nhiều vụ việc chatbot AI bị cáo buộc là khuyến khích thanh thiếu niên tự hại bản thân, thậm chí tự tử. Việc "bầu bạn" với AI cũng mang tới nhiều rủi ro như khiến các em không còn muốn chia sẻ với người lớn, không phản biện lại lời khuyên từ chatbot...

Nam giám đốc cũng chỉ ra rằng nhờ AI, các cuộc lừa đảo trực tuyến cũng tinh vi hơn trước. Đơn cử, một khảo sát thực hiện với 2.013 học sinh 8-17 tuổi và 2.013 phụ huynh của Trung tâm internet an toàn Anh công bố hồi tháng 2 chỉ ra rằng 46% học sinh từng bị lừa đảo trực tuyến, trong khi đó 32% học sinh lo ngại sự phát triển của các công nghệ mới như AI khiến việc nhận diện lừa đảo khó khăn hơn nhiều.

Thực hành xây dựng an toàn cho học sinh

Bên cạnh những hiểm nguy từ không gian số, một vấn đề khác được các đại biểu quan tâm là làm thế nào để đảm bảo học sinh an toàn, bình yên (wellbeing) từ những người tiếp xúc trực tiếp với các em như giáo viên, chuyên viên tâm lý học đường nói riêng và nhà trường nói chung.

Một chương trình thầy cô có thể áp dụng là liệu pháp hành vi biện chứng (DBT) mà cụ thể ở đây là DBT trong trường học (DBT STEPS-A) để phục vụ các hoạt động giáo dục cảm xúc-xã hội cho học sinh, theo bà Tô Thị Hoan, từ Delta Global School (Hà Nội). Đây là chương trình hỗ trợ giảm trầm cảm, lo âu... qua việc dạy 4 nhóm kỹ năng: chánh niệm, chịu đựng căng thẳng, điều chỉnh cảm xúc và hiệu quả giao tiếp.

Ngoài ra, nhà trường có thể cân nhắc việc giáo dục thực hành duy trì văn hóa (CSP), tức giảng dạy dựa trên ngôn ngữ mẹ đẻ, văn hóa và bản sắc của học sinh. Mô hình này có 4 nguyên tắc chính, gồm môi trường chào đón và khẳng định giá trị; kỳ vọng cao và giảng dạy nghiêm túc; chương trình giảng dạy và đánh giá mang tính bao trùm; liên tục học tập chuyên môn, theo bà Hoan.

Ông Justin Robinson, đồng sáng lập The Wellbeing Distillery (Úc), cho biết nỗ lực chăm sóc an toàn, bình yên của học trò đang ngày càng được cải thiện, tiếp cận một cách toàn diện, có hệ thống và bền vững.

Tuy vậy, công việc này có không ít thách thức. Một trong số đó là các vấn đề sức khỏe tinh thần của học sinh ngày càng phức tạp, tăng cao, trong bối cảnh nhiều trường được thiết kế để dạy mô hình giáo dục đại trà không phải cá nhân hóa cho từng học sinh. Nhiều học sinh cũng không còn hứng thú với việc học hay tương tác với thầy cô, và "một việc nhỏ như gọi điện thoại trực tiếp cho người khác cũng là áp lực với không ít bạn", ông nêu góc nhìn.

Để góp phần giải quyết các thách thức, ông Robinson đề xuất mô hình đảm bảo sự an toàn, bình yên  cho học sinh với sự tham gia của 4 thành tố là lãnh đạo nhà trường, nhà giáo dục, học sinh và gia đình.

Trong đó, lãnh đạo nhà trường có nhiệm vụ lên chiến lược, truyền cảm hứng; nhà giáo dục tích hợp thực hành vào giảng dạy, làm gương; học sinh học các kỹ năng, áp dụng nó vào thực tế; gia đình củng cố thông điệp, nhân rộng nó trong đời sống hằng ngày của con mình. "An toàn, bình yên (wellbeing) là trạng thái phải được tìm kiếm, lan tỏa và giảng dạy mới thành hình", ông Robinson nhấn mạnh.

Giám đốc điều hành Childnet International Will Gardner cho rằng về ngắn hạn, trường học có thể đưa ra các hướng dẫn, nâng cao nhận thức trong khuôn viên, đồng thời khuyến khích học sinh báo cáo kịp thời khi gặp lừa đảo hay tống tiền tình dục. Còn về dài hạn, nhà trường cần đặt ra nội quy rõ ràng, lồng ghép nội dung liên quan vào chương trình giảng dạy và tạo điều kiện cho học sinh tham gia các hoạt động lan tỏa thông điệp an toàn mạng...

"Bên cạnh đó, hãy hỗ trợ nạn nhân một cách phù hợp, tuyệt đối cần trấn an các em và tránh mọi tâm lý đổ lỗi cho các em. Sau đó, các bên cùng nhau suy nghĩ về những bước tiếp theo cần phải làm", ông Gardner khuyến nghị.