Trong kỷ nguyên số hóa mạnh mẽ, chỉ một sơ hở nhỏ để lộ thông tin cá nhân cũng đủ khiến người dân trở thành mục tiêu tấn công của tội phạm mạng. Từ đánh cắp dữ liệu, lừa đảo giao hàng đến bôi nhọ bằng hình ảnh, video giả mạo… các thủ đoạn ngày càng tinh vi, đặt ra thách thức lớn cho công tác bảo đảm an ninh mạng.

Sự phát triển mạnh mẽ của trí tuệ nhân tạo (AI) đang đem lại nhiều lợi ích nhưng đồng thời cũng trở thành công cụ để kẻ xấu tạo ra video giả mạo, phát tán tin sai sự thật trên mạng xã hội. Những nội dung này được ngụy tạo tinh vi, đánh lừa thị giác và thính giác người xem, tiềm ẩn nguy cơ lừa đảo, gây hoang mang dư luận và ảnh hưởng nghiêm trọng đến an ninh mạng.

Thời gian gần đây, cơ quan chức năng liên tục cảnh báo về hiện tượng lạm dụng trí tuệ nhân tạo cho các mục đích phi pháp. Một trong những hình thức phổ biến là tạo hình ảnh và video giả mạo (deepfake) nhằm lừa đảo, tống tiền hoặc xâm phạm danh dự cá nhân.

YouTuber Khoai Lang Thang vừa lên tiếng cảnh báo cộng đồng mạng rằng hình ảnh, gương mặt và giọng nói của anh đang bị kẻ xấu lợi dụng để tạo video lừa đảo - dùng công nghệ AI để trục lợi, với mục tiêu dụ dỗ người xem tham gia kinh doanh kiếm tiền nhanh.

Việc sử dụng ngân hàng điện tử, thanh toán qua mã QR, chuyển tiền qua ứng dụng, mua sắm trực tuyến… đã mang lại nhiều lợi ích trong cuộc sống hằng ngày của người dân, nhưng đi kèm với đó là các mối nguy hiểm tiềm ẩn về an toàn thông tin và lừa đảo chiếm đoạt tài sản.

Sự xuất hiện của Sora AI cho phép bất cứ ai tạo ra các video giả lập siêu thực, biến việc phân biệt đâu là nội dung gốc, đâu là deepfake thành kỹ năng quan trọng để sống an toàn trên môi trường số.

Các đối tượng đã sử dụng công nghệ deepfake nhằm mục đích lừa đảo, chiếm đoạt tài sản. Đặc biệt, phần lớn nạn nhân là người lớn tuổi, phụ huynh có con đi xa, hoặc doanh nhân thường xuyên giao dịch trực tuyến.

null

Ngày 5/11, Ủy ban châu Âu (EC) chính thức khởi động quá trình xây dựng bộ quy tắc thực hành về đánh dấu và gắn nhãn nội dung do trí tuệ nhân tạo (AI) tạo ra, nhằm tăng cường tính minh bạch và giúp người dùng dễ dàng nhận biết các sản phẩm do AI sinh ra.

null

Công an tỉnh Quảng Trị vừa phát đi cảnh báo về việc xuất hiện trang Facebook giả mạo cơ quan Bộ Công an, lợi dụng hình ảnh lãnh đạo công an địa phương để thực hiện hành vi lừa đảo trực tuyến.

Bộ Khoa học và Công nghệ vừa đề xuất thành lập Ủy ban Quốc gia về Trí tuệ nhân tạo, nhằm khắc phục khoảng trống trong quản lý và định hướng phát triển AI tại Việt Nam.

Trí tuệ nhân tạo (AI) đang bị khai thác ngày càng tinh vi trong thương mại trực tuyến, từ làm giả hình ảnh, video đến dựng hoàn cảnh thương tâm để bán hàng hoặc kêu gọi từ thiện. Tốc độ lan truyền nhanh và độ chân thực cao khiến cơ quan quản lý, doanh nghiệp và người dùng đứng trước bài toán cấp bách: nhận diện và kiểm soát rủi ro của “nội dung nhân tạo”.

Trong bối cảnh trí tuệ nhân tạo (AI) ngày càng phát triển và lan rộng vào đời sống từ giáo dục, y tế, văn hóa đến thương mại thì nguy cơ AI bị lợi dụng cho các hành vi lừa đảo, tội phạm mạng cũng gia tăng rõ rệt.

null