Cơn bão deepfake lan khắp Mỹ Latinh

Khi Brazil đấu tranh với vụ quảng cáo giả mạo mang tên Gisele Bündchen, các quốc gia Mỹ Latinh khác cũng không đứng ngoài “vòng xoáy” deepfake. Từ quảng cáo đầu tư giả mạo đến video chính trị giả, những chiêu trò AI giả mạo đang lan nhanh qua các mạng xã hội, làm lung lay niềm tin và gây tổn thất đáng kể.

Theo báo cáo gần đây, gian lận danh tính (identity fraud) tại Mỹ Latinh và vùng Caribe bùng nổ trong năm 2024, tăng 137% so với năm trước, phần lớn được gia tốc bởi công nghệ deepfake và việc lạm dụng mạng xã hội làm kênh tấn công. Sumsub — nền tảng xác minh danh tính đã ghi nhận gian lận bằng deepfake đối với khu vực Latin America tăng tới 410% từ năm 2022 đến 2023. Còn theo bài báo trên Ventas de Seguridad, Brazil dẫn đầu về số vụ deepfake được phát hiện trong khu vực, với mức tăng 822% so với năm trước.  Một trong những ví dụ nổi bật là chiến dịch quảng cáo tiếng Tây Ban Nha được lan truyền trên Facebook/Instagram/Meta, sử dụng băng ghi âm giọng nói của các nhân vật công chúng nhằm củng cố tính giả mạo của các dự án đầu tư hoặc gọi mời tham gia sàn tiền ảo. 

Trước đây, giấy tờ tùy thân ở Mỹ Latinh rất dễ bị làm giả.

Tại Peru, các nhóm lừa đảo đã bắt đầu dùng deepfake để “nâng cấp” chiêu thức mạo danh, khiến các chiến dịch lừa đảo vốn đã tồn tại, trở nên tinh vi và khó phát hiện hơn. Công ty bảo mật Palo Alto Networks cũng chỉ ra rằng nhiều chiến dịch lừa đảo đa ngôn ngữ, tức là sử dụng khuôn mặt của các nhân vật nổi tiếng, mỗi lần nhắm tới công chúng ở một quốc gia cụ thể, với quảng cáo giả mạo đầu tư hoặc quà tặng miễn phí.

Những cái giá thật của thế giới giả

Deepfake không chỉ là trò lừa nhỏ; nó đã trở thành phương tiện kiếm tiền chuyên nghiệp. Theo báo cáo mang tên “How Latin American Banks Can Safeguard Against Deepfakes”, các ngân hàng trong khu vực đang bị tấn công bằng kỹ thuật chèn nội dung giả để vượt qua xác thực khuôn mặt — tức là giả mạo khuôn mặt khi mở tài khoản hoặc trong quy trình nhận biết khách hàng. (know your customer). Báo cáo mang tên “Identity Fraud Soars 137% in Latin America” cho hay, chi phí trung bình mỗi vụ gian lận vài khoảng 300.000 USD, nhưng con số này phản ánh các vụ lớn hoặc tổ chức lừa đảo chuyên nghiệp, không phải mỗi cá nhân nhỏ lẻ (khoảng vài chục hoặc vài trăm USD).

Ngày nay, các cơ quan chức năng phát hiện rằng sinh trắc học và gian lận trong ngành tài chính của Mỹ Latinh ngày càng gia tăng.

Trên quy mô toàn khu vực, sâu hơn vào báo cáo của Sumsub, lừa đảo bằng deepfake chiếm phần lớn trong tăng trưởng của các vụ gian lận sử dụng AI, đặc biệt ở các nền tảng trực tuyến, mạng xã hội và xác minh danh tính. Về tâm lý người dùng: theo khảo sát của Jumio, có đến 72% người dùng lo ngại rằng họ có thể bị lừa bởi deepfake và phải cung cấp thông tin nhạy cảm hoặc tiền bạc.  Sự mâu thuẫn giữa cảm giác bất an và việc tiếp tục tin tưởng vào mạng xã hội/quảng cáo tạo nên lớp hoài nghi tiềm ẩn — điều này làm giảm hiệu quả của quảng cáo chính hãng và thương mại điện tử trong khu vực lâu dài.

Đáng chú ý, thiệt hại do lừa đảo deepfake gây ra không chỉ là tiền bạc. Ở Mỹ Latinh, chúng tác động lan rộng trên nhiều mặt. Thứ nhất là suy giảm niềm tin công chúng và báo chí. Khi video giả mạo nhà báo hoặc phát biểu giả mạo lan tràn, niềm tin vào thông tin báo chí bị xói mòn. Các nhà báo bị mạo danh chịu tổn thất nghề nghiệp và cá nhân; độc giả hoang mang không biết đâu là tin thật. DFRLab và các tổ chức truyền thông cảnh báo điều này đặc biệt nguy hiểm trước bầu cử hoặc khủng hoảng chính trị.

Thứ hai là mất dữ liệu và rủi ro danh tính. Nạn nhân cung cấp thẻ, địa chỉ, số điện thoại cho các “chi phí vận chuyển” hay “phí xử lý” — dữ liệu này sau đó bị buôn bán hoặc dùng cho các vụ lừa đảo tiếp theo. Hệ quả: chuỗi tấn công đa tầng, ảnh hưởng lâu dài tới nạn nhân.

Điều này cũng gây áp lực lớn lên hệ thống pháp luật và ngân hàng. Hệ thống giám sát giao dịch phải làm việc nhiều hơn để phát hiện luồng tiền nhỏ lặp lại; ngân hàng, ví điện tử và các dịch vụ thanh toán phải nâng cấp quy trình giám sát… tạo chi phí bổ sung cho doanh nghiệp và ngân sách quốc gia.

Đặc biệt, deepfake dùng trong chính trị như giả mạo lời phát biểu, tuyên bố giả… có thể làm sai lệch nhận thức cử tri và gây hỗn loạn trong bầu cử địa phương. Brazil, vốn đã trải qua các vụ nội dung AI trong bầu cử, là cảnh báo sớm cho khu vực. 

Công nghệ Deepfake đang làm tăng rủi ro cho tất cả mọi người.

Cuộc đua pháp lý giữa con người và máy học

Khi công nghệ tiến nhanh, luật pháp và hệ thống giám sát của các quốc gia Mỹ Latinh đang đuổi theo từng bước. Hiện Brazil đã bắt đầu đưa deepfake và nội dung AI vào các văn bản luật bầu cử: ví dụ, luật bầu cử Brazil gần đây đã xét trách nhiệm của mạng xã hội trong việc xử lý nội dung giả mạo, và chiến dịch deepfake trong bầu cử được xem là một mối đe dọa mới. 

Nhiều quốc gia khác trong khu vực cũng đang thảo luận quy định buộc gắn nhãn nội dung AI để người xem biết đâu là giả, đâu là thật. Các tổ chức báo chí ở Mỹ Latinh thì cảnh báo rằng hệ thống kiểm duyệt đang chịu áp lực lớn do sự kết hợp giữa thiếu tài nguyên và khối lượng nội dung deepfake lan truyền nhanh. Mạng lưới Latam Chequea kêu gọi hành động khẩn cấp để bảo vệ hệ sinh thái thông tin khỏi “cuồng phong thông tin sai lệch và AI”. Một bài viết trên “Banking Risk and Regulation” thì nhận xét rằng các cơ quan giám sát tài chính ở Mỹ Latinh đang tích cực khuyến khích ngân hàng và fintech áp dụng công cụ chống deepfake sớm hơn so với các vùng khác do áp lực cao từ các vụ gian lận.

Công nghệ Deepfake đang làm tăng rủi ro cho tất cả mọi người.

Trên phạm vi quốc tế, các nhóm hợp tác xuyên biên giới đang được xây dựng để chia sẻ thông tin về dòng tiền, chủ thể quảng cáo và kỹ thuật deepfake. Vì hoạt động lừa đảo thường vượt biên, việc bắt giữ riêng ở quốc gia đơn lẻ không đủ để xử lý gốc rễ. Ở mặt kỹ thuật, các giải pháp watermarking cho âm thanh / video, kỹ thuật xác thực provenance (nguồn gốc nội dung số), và phát triển các mô hình phát hiện deepfake đang được nghiên cứu: ví dụ WaveVerify là một khung watermarking âm thanh mới để xác thực nội dung giọng nói tổng hợp. Các ngân hàng và tổ chức tài chính cũng đang triển khai nhiều bước phòng thủ nội bộ: xác minh đa lớp, hệ thống giám sát giao dịch bất thường, và yêu cầu xác minh trực tiếp khi phát hiện hành vi đáng ngờ thay vì hoàn toàn dựa vào tự động.

Rõ ràng, deepfake ở Mỹ Latinh đang chuyển từ mũi nhọn thử nghiệm sang công cụ kiếm tiền chuyên nghiệp cho tội phạm. Dù mỗi vụ có quy mô khác nhau, từ chiến dịch lẻ tẻ dụ vài chục nạn nhân cho tới đường dây đạt triệu USD nhưng điểm chung là: công nghệ cho phép kẻ xấu mở rộng phạm vi tấn công với chi phí thấp. Để bảo vệ công dân, nền dân chủ và thị trường, các quốc gia Mỹ Latinh cần phối hợp nhanh: hoàn thiện luật, buộc trách nhiệm nền tảng, nâng cấp năng lực điều tra tài chính và phổ cập giáo dục truyền thông số. Nếu không, lớp “bằng chứng” mà xã hội vốn tin tưởng (video, âm thanh) sẽ ngày càng mất giá trị và đó là mất mát lớn nhất của một xã hội.

Chu Nguyễn