Cấm lợi dụng trí tuệ nhân tạo gây hại trẻ em

Chiều 10/12, Quốc hội thông qua Luật Trí tuệ nhân tạo, tạo khung pháp lý thống nhất cho phát triển, ứng dụng và quản lý AI tại Việt Nam. Luật xác định nguyên tắc quản lý theo mức độ rủi ro, khuyến khích đổi mới sáng tạo nhưng phải bảo đảm an toàn, an ninh, quyền con người và lợi ích hợp pháp của tổ chức, cá nhân.

Luật quy định nhóm hành vi bị cấm tuyệt đối, trong đó có sử dụng trí tuệ nhân tạo để thao túng hành vi, nhận thức của con người; tạo nội dung giả mạo nhằm lừa đảo, xâm phạm danh dự, nhân phẩm, quyền và lợi ích hợp pháp của tổ chức, cá nhân; lợi dụng trẻ em, người khuyết tật, người cao tuổi và các nhóm yếu thế. Các hành vi sử dụng AI gây phương hại đến quốc phòng, an ninh, trật tự, an toàn xã hội cũng thuộc nhóm bị cấm.

Với nội dung do trí tuệ nhân tạo tạo ra, luật yêu cầu phải gán nhãn khi sử dụng trong môi trường công cộng. Các sản phẩm deepfake có tính giả mạo bắt buộc phải gán nhãn rõ ràng để phòng ngừa việc lợi dụng công nghệ nhằm lừa đảo, bôi nhọ, thao túng dư luận và xâm phạm quyền con người.

Cơ chế quản lý được thiết kế theo hướng tiền kiểm tối thiểu, hậu kiểm chặt chẽ. Tổ chức, doanh nghiệp triển khai hệ thống trí tuệ nhân tạo có trách nhiệm tự đánh giá an toàn trước khi đưa vào sử dụng, lập và lưu giữ hồ sơ kỹ thuật để phục vụ công tác hậu kiểm của cơ quan quản lý. Một số hệ thống AI rủi ro cao bắt buộc phải được đánh giá bởi tổ chức độc lập.

Với các hệ thống trí tuệ nhân tạo rủi ro cao khi gây thiệt hại đến quyền, lợi ích hợp pháp của tổ chức, cá nhân, luật quy định nghĩa vụ bồi thường toàn bộ thiệt hại, kể cả trong trường hợp không có lỗi, nhằm tăng cường bảo vệ người bị ảnh hưởng bởi công nghệ.

AI để hỗ trợ cơ quan nhà nước ra quyết định

Trong khu vực nhà nước, trí tuệ nhân tạo chỉ được sử dụng để hỗ trợ ra quyết định, không thay thế thẩm quyền của con người. Người có thẩm quyền vẫn chịu trách nhiệm cuối cùng đối với quyết định hành chính, tư pháp và các quyết định quản lý nhà nước khác. Các hệ thống AI có tác động lớn đến quyền con người phải được đánh giá tác động trước khi triển khai.

Nhà nước khuyến khích ứng dụng AI rộng rãi trong các ngành, lĩnh vực kinh tế - xã hội nhằm nâng cao năng suất, chất lượng dịch vụ và hiệu quả quản lý; coi trí tuệ nhân tạo là động lực quan trọng cho tăng trưởng, đổi mới sáng tạo và phát triển bền vững. Việc thử nghiệm công nghệ mới được thực hiện theo cơ chế có kiểm soát, gắn với quản lý rủi ro tương xứng.

Luật bảo đảm quyền tiếp cận, học tập và thụ hưởng lợi ích từ trí tuệ nhân tạo của tổ chức, cá nhân; khuyến khích phát triển và ứng dụng AI phục vụ an sinh xã hội, hỗ trợ người khuyết tật, người nghèo, người dân tộc thiểu số để thu hẹp khoảng cách số, đồng thời bảo tồn và phát huy bản sắc văn hóa dân tộc.

Quỹ Phát triển Trí tuệ nhân tạo quốc gia sẽ được thành lập để hỗ trợ nghiên cứu, phát triển hạ tầng tính toán, mô hình nền tảng, công nghệ lõi và hệ sinh thái AI, với cơ chế tài chính linh hoạt, phục vụ các nhiệm vụ chiến lược dài hạn. Nhà nước ưu tiên nguồn lực phát triển các sản phẩm, nền tảng trí tuệ nhân tạo do Việt Nam làm chủ, trong đó có mô hình ngôn ngữ lớn tiếng Việt và các công nghệ xử lý tri thức Việt, nhằm bảo đảm chủ quyền số.

Đối với các lĩnh vực thiết yếu có tác động trực tiếp đến tính mạng, sức khỏe và quyền con người, luật đặt ra yêu cầu quản lý rủi ro chặt chẽ hơn. Trong y tế, việc ứng dụng AI phải bảo đảm an toàn cho người bệnh, độ tin cậy trong sử dụng thực tế và bảo vệ dữ liệu sức khỏe. Trong giáo dục, AI phải phù hợp với đặc điểm lứa tuổi, bảo đảm an toàn dữ liệu, quyền riêng tư và phòng ngừa rủi ro trong đánh giá, phân loại người học.

Bộ trưởng Bộ Khoa học và Công nghệ Nguyễn Mạnh Hùng cho biết trí tuệ nhân tạo là lĩnh vực mới, phát triển rất nhanh, tác động sâu rộng đến kinh tế, văn hóa, xã hội, an ninh và công tác quản trị quốc gia. Việc sớm ban hành Luật Trí tuệ nhân tạo là cần thiết để tạo khuôn khổ pháp lý cho phát triển, chủ động nắm bắt cơ hội và quản trị rủi ro.

Theo Bộ trưởng, trong quá trình xây dựng luật, Chính phủ đã nghiên cứu kỹ kinh nghiệm quốc tế, lựa chọn cách tiếp cận kết hợp, có chọn lọc, bảo đảm hài hòa giữa an toàn và phát triển. Các nội dung kỹ thuật sẽ được quy định chi tiết tại nghị định để phù hợp với lĩnh vực công nghệ có tốc độ thay đổi nhanh.

Về quản lý theo mức độ rủi ro, luật giảm từ 4 xuống còn 3 mức rủi ro gồm thấp, trung bình và cao, kèm theo điều khoản về các hành vi bị cấm, bảo đảm phân tầng quản lý rõ ràng, minh bạch. Doanh nghiệp phải tự chuẩn bị hồ sơ đánh giá an toàn trước khi triển khai, không phải xin phép, nhưng phải xuất trình khi cơ quan quản lý thực hiện hậu kiểm.

Hồ sơ đánh giá an toàn phải xuất trình khi cơ quan quản lý thực hiện hậu kiểm. Một số hệ thống đặc biệt phải được đánh giá bởi bên thứ ba để bảo đảm tính khách quan. Chính phủ sẽ sớm ban hành văn bản hướng dẫn thi hành, triển khai Chiến lược quốc gia về Trí tuệ nhân tạo, phát triển hạ tầng, nguồn nhân lực, hỗ trợ doanh nghiệp Việt Nam làm chủ các nền tảng AI và tăng cường hội nhập quốc tế.

Luật Trí tuệ nhân tạo có hiệu lực từ ngày 1/3/2026.

Sơn Hà