Ảnh chụp màn hình video tạo dựng từ AI có nội dung giả mạo, sai sự thật.

Theo thông tin từ cơ quan công an, thời gian gần đây xuất hiện tình trạng một số cá nhân sử dụng công nghệ AI để tạo ra các video có nội dung giả mạo phát ngôn, hình ảnh của người nổi tiếng, cán bộ, đại biểu hoặc cơ quan Nhà nước rồi lan truyền trên mạng xã hội nhằm thu hút lượt xem, tương tác. Nhiều video được dàn dựng tinh vi, khó phân biệt thật - giả, khiến không ít người tin tưởng và chia sẻ lại, gây hiểu lầm trong dư luận.

Mới đây, lực lượng chức năng đã phát hiện và xử lý một trường hợp đăng tải video do AI tạo dựng với nội dung sai sự thật. Quá trình làm việc, cơ quan chức năng xác định đoạn video đã sử dụng công nghệ trí tuệ nhân tạo để giả mạo hình ảnh, lời nói, xuyên tạc thông tin, gây ảnh hưởng tiêu cực đến nhận thức của người xem. Cá nhân vi phạm đã bị lập biên bản, xử phạt theo quy định và buộc gỡ bỏ toàn bộ nội dung sai phạm.

Cơ quan công an cho biết, việc sử dụng AI để sáng tạo nội dung không bị cấm, tuy nhiên nếu lợi dụng công nghệ này để làm giả, bóp méo sự thật, bôi nhọ uy tín cá nhân, tổ chức hoặc gây hoang mang dư luận thì sẽ bị xử lý nghiêm. Tùy theo tính chất, mức độ vi phạm, người thực hiện có thể bị xử phạt hành chính, thậm chí xem xét trách nhiệm hình sự nếu gây hậu quả nghiêm trọng.

Thực tế cho thấy, AI ngày càng phổ biến và dễ tiếp cận, kéo theo nguy cơ bị lạm dụng để tạo ra các sản phẩm “deepfake” với mục đích xấu. Nếu không được kiểm soát, những nội dung này có thể làm suy giảm niềm tin xã hội, ảnh hưởng đến an ninh thông tin và trật tự an toàn xã hội.

Trước tình hình đó, cơ quan chức năng khuyến cáo người dân cần nâng cao cảnh giác khi tiếp cận thông tin trên mạng xã hội, đặc biệt là các video có nội dung nhạy cảm, gây sốc hoặc mang tính kích động. Người dùng cần kiểm chứng nguồn tin, không chia sẻ, bình luận các nội dung chưa được xác thực; đồng thời chủ động phản ánh tới cơ quan chức năng khi phát hiện dấu hiệu vi phạm.

Việc xử lý nghiêm các trường hợp đăng tải video AI giả mạo không chỉ nhằm răn đe, phòng ngừa vi phạm mà còn góp phần xây dựng môi trường mạng lành mạnh, an toàn, bảo đảm quyền và lợi ích hợp pháp của tổ chức, cá nhân trong kỷ nguyên số.

Thanh Huyền (tổng hợp)