Lý do Chủ tịch tỉnh Cao Bằng chỉ đạo siết chặt cán bộ sử dụng AI

Chủ tịch UBND tỉnh Cao Bằng yêu cầu người đứng đầu các cơ quan, đơn vị, địa phương chịu trách nhiệm cuối cùng về tính chính xác, an toàn và hợp pháp của mọi sản phẩm, dịch vụ có sử dụng AI.

Trước sự phát triển nhanh chóng của trí tuệ nhân tạo (AI) và những rủi ro tiềm ẩn trong quá trình sử dụng, Chủ tịch UBND tỉnh Cao Bằng Lê Hải Hòa đã ban hành văn bản yêu cầu các sở, ngành, địa phương tăng cường quản lý, kiểm soát toàn diện việc sử dụng AI, bảo đảm an toàn, minh bạch và hiệu quả trong hoạt động công vụ.

Theo đánh giá của UBND tỉnh Cao Bằng, thời gian qua, việc ứng dụng trí tuệ nhân tạo đã mang lại những kết quả tích cực trong nhiều lĩnh vực như hành chính, kỹ thuật, tài chính, y tế, giáo dục và quản lý đô thị, góp phần nâng cao năng suất lao động và chất lượng dịch vụ công.

Tuy nhiên, việc sử dụng AI cũng bộc lộ những rủi ro nếu không được kiểm soát chặt chẽ, như hiện tượng “ảo giác AI”, sai lệch dữ liệu, thiếu minh bạch trong quy trình ra quyết định và tiềm ẩn nguy cơ xâm phạm quyền sở hữu trí tuệ của tổ chức, cá nhân khi không ghi nguồn trích dẫn thông tin. Việc này làm gia tăng tính dựa dẫm vào công nghệ ở một số cá nhân.

Trước tình hình trên, Chủ tịch UBND tỉnh Cao Bằng Lê Hải Hòa yêu cầu các cơ quan, đơn vị phát huy mặt tích cực, đồng thời kiểm soát rủi ro khi triển khai các ứng dụng trí tuệ nhân tạo. Trong đó, người đứng đầu các cơ quan, đơn vị, địa phương chịu trách nhiệm cuối cùng về tính chính xác, an toàn và hợp pháp của mọi sản phẩm, dịch vụ có sử dụng AI.

Văn bản nêu rõ, các cơ quan cần bố trí nhân sự có đủ năng lực, chuyên môn để kiểm tra, xác nhận kết quả đầu ra từ AI trước khi trình cấp có thẩm quyền phê duyệt hoặc ban hành chính thức. Các đơn vị cũng phải lồng ghép nguyên tắc sử dụng AI vào quy chế làm việc, quy trình nghiệp vụ, nhằm đảm bảo tính minh bạch, hiệu quả và đúng quy định.