Theo dự thảo do Cục Quản lý Không gian mạng Trung Quốc (CAC) ban hành và lấy ý kiến đến ngày 6/5, toàn bộ nội dung liên quan đến "người ảo" phải được gắn nhãn rõ ràng. Đồng thời, các dịch vụ có khả năng gây hiểu lầm hoặc dẫn đến hành vi sử dụng quá mức, đặc biệt ở trẻ em, sẽ bị hạn chế.

Một nội dung đáng chú ý là quy định cấm các nhân vật ảo cung cấp các hình thức tương tác mang tính gắn kết tình cảm hoặc gần gũi cá nhân đối với người dưới 18 tuổi. Động thái này nhằm giảm thiểu những tác động tiêu cực có thể phát sinh từ việc sử dụng AI trong giao tiếp và giải trí.

Ảnh minh hoạ

Dự thảo cũng quy định nghiêm ngặt về việc sử dụng dữ liệu cá nhân, cấm tạo nhân vật ảo từ thông tin của người khác khi chưa được sự đồng ý, đồng thời không cho phép sử dụng công nghệ này để vượt qua các hệ thống xác minh danh tính. Đây được xem là một phần trong nỗ lực tăng cường kiểm soát trước sự phát triển nhanh của AI.

Ngoài ra, nhân vật ảo không được phép phát tán các nội dung gây phương hại đến an ninh quốc gia, kích động lật đổ chính quyền, chia rẽ lãnh thổ hoặc làm suy yếu sự thống nhất quốc gia. Các nhà cung cấp dịch vụ cũng được khuyến nghị hạn chế nội dung mang tính gợi dục, bạo lực, kinh dị hoặc phân biệt đối xử theo vùng miền và dân tộc.

Dự thảo còn yêu cầu các nền tảng chủ động can thiệp khi phát hiện người dùng có dấu hiệu tự gây hại hoặc có xu hướng tiêu cực, đồng thời cung cấp hỗ trợ phù hợp trong những trường hợp cần thiết.

Động thái này diễn ra trong bối cảnh Trung Quốc đang thúc đẩy ứng dụng AI trên nhiều lĩnh vực kinh tế, song song với việc tăng cường khung pháp lý nhằm đảm bảo công nghệ phát triển theo định hướng an toàn và phù hợp với các chuẩn mực xã hội.

Theo cơ quan quản lý, các quy định mới nhằm lấp khoảng trống trong quản trị lĩnh vực nhân vật ảo, thiết lập các giới hạn rõ ràng để đảm bảo sự phát triển bền vững của ngành. Đồng thời, việc quản lý này cũng liên quan trực tiếp đến an ninh không gian mạng, lợi ích công cộng và chất lượng phát triển của nền kinh tế số.

Thúy Hằng (theo Reuters)