Deepfake - công nghệ giả mạo hình ảnh và âm thanh bằng trí tuệ nhân tạo (AI) - đang trở thành mối đe dọa lớn đối với xã hội. Từ những đoạn video giải trí ban đầu, deepfake giờ đây đã bị biến thành công cụ lừa đảo, phá hoại uy tín và làm lung lay niềm tin cộng đồng.

Các đối tượng đã sử dụng công nghệ deepfake nhằm mục đích lừa đảo, chiếm đoạt tài sản. Đặc biệt, phần lớn nạn nhân là người lớn tuổi, phụ huynh có con đi xa, hoặc doanh nhân thường xuyên giao dịch trực tuyến.

Báo cáo năm 2024 từ Global Initiative chỉ ra rằng khu vực Châu Á – Thái Bình Dương chứng kiến sự gia tăng các vụ việc liên quan đến deepfake chỉ sau Bắc Mỹ trong thời gian từ giữa năm 2022 đến năm 2023.

Sự xuất hiện của Sora AI cho phép bất cứ ai tạo ra các video giả lập siêu thực, biến việc phân biệt đâu là nội dung gốc, đâu là deepfake thành kỹ năng quan trọng để sống an toàn trên môi trường số.

YouTube giới thiệu công cụ nhận diện deepfake, giúp người sáng tạo bảo vệ hình ảnh và giọng nói trước nguy cơ giả mạo lan rộng trên môi trường số.

Sự phát triển của công nghệ trí tuệ nhân tạo (AI) đang đưa hình thức giả mạo khuôn mặt bằng Deepfake lên một cấp độ tinh vi hơn, khó phát hiện hơn, gây ra nhiều hệ lụy trong lĩnh vực tài chính, ngân hàng và an ninh mạng.

Thượng tá Nguyễn Đình Đỗ Thi - Phó Cục trưởng Phòng An ninh thông tin mạng, Cục An ninh mạng và phòng, chống tội phạm sử dụng công nghệ cao (A05 - Bộ Công an), cảnh báo các chiêu trò lừa đảo trực tuyến hiện nay ngày càng tinh vi, lợi dụng công nghệ mới như deepfake, VOIP hay các nền tảng mạng xã hội để đánh cắp thông tin, chiếm đoạt tài sản của người dân.

Cảnh sát Brazil vừa triệt phá một đường dây lừa đảo quy mô lớn sử dụng công nghệ deepfake để giả mạo người mẫu Gisele Bündchen trong các quảng cáo trên Instagram, chiếm đoạt hàng triệu đô la chỉ trong vài tháng từ người dùng.

Công nghệ deepfake đang bùng nổ, kết hợp với hệ thống xác thực sinh trắc học (vân tay, khuôn mặt, giọng nói), đặt ra thách thức lớn cho an ninh số khi giới tội phạm AI tận dụng để giả mạo danh tính và tiến hành lừa đảo.

Một nghiên cứu mới của LevelBlue cảnh báo các doanh nghiệp sản xuất sẽ phải đối mặt với sự gia tăng các cuộc tấn công sử dụng trí tuệ nhân tạo (AI), deepfake và giả mạo danh tính tổng hợp trong năm 2025. Tuy nhiên, phần lớn các tổ chức vẫn chưa có sự chuẩn bị đầy đủ.

Công nghệ AI và Deepfake đang mở ra kỷ nguyên mới cho tội phạm mạng tại Việt Nam, biến mọi hình ảnh, giọng nói thành công cụ lừa đảo, tống tiền và thao túng dư luận. Khi ranh giới giữa thật - giả ngày càng mờ nhạt, xã hội đối mặt với thách thức chưa từng có về bảo mật, niềm tin và an ninh thông tin.

Công nghệ deepfake đang bùng nổ tại Mỹ Latinh, từ quảng cáo đầu tư giả mạo đến video chính trị tinh vi, gây thiệt hại lớn và làm xói mòn niềm tin xã hội. Các quốc gia trong khu vực buộc phải siết luật, tăng kiểm soát nền tảng số và hợp tác quốc tế để đối phó làn sóng “khuôn mặt giả thật hơn cả thật” này.

Deepfake đang bị biến thành công cụ tinh vi của tội phạm mạng: từ việc giả mạo hình ảnh và giọng nói của người nổi tiếng tới việc dụ dỗ, lừa đảo người dùng tham gia đầu tư ảo. Một cú nhấp chuột thiếu cảnh giác có thể khiến bạn trở thành nạn nhân.

Một người dân ở xã Sông Đốc, tỉnh Cà Mau vừa bị kẻ gian lừa đảo chiếm đoạt hơn 350 triệu. Đáng chú ý, nhóm đối tượng không chỉ tiếp cận trực tiếp để tạo lòng tin mà còn sử dụng công nghệ deepfake chiếm quyền điều khiển điện thoại và rút sạch tiền trong tài khoản nạn nhân.

Từ công cụ giải trí cho đến vũ khí thao túng, deepfake đang xóa nhòa ranh giới giữa thật và giả trong thế giới số. Ở Mỹ Latinh – khu vực có tốc độ sử dụng mạng xã hội thuộc hàng cao nhất thế giới, làn sóng deepfake đang lan rộng với tốc độ chóng mặt, kéo theo hàng loạt vụ lừa đảo, chiếm đoạt tài sản và khủng hoảng niềm tin.