Người mẫu Gisele Bundchen tạo dáng trong buổi chụp ảnh với giới truyền thông tại hội chợ Watches and Wonders ở Geneva, Thụy Sĩ, ngày 9 tháng 4 năm 2024. Reuters/Pierre Albouy

Theo tin từ Reuters, nhóm tội phạm đã tạo ra hàng loạt video và hình ảnh deepfake, trong đó siêu mẫu Gisele Bündchen xuất hiện “giới thiệu” các sản phẩm làm đẹp và chương trình tặng quà hấp dẫn.

Những video và ảnh quảng cáo giả mạo này được lan truyền rộng rãi trên Instagram, khiến hàng nghìn người dùng tin tưởng và tham gia. Khi truy cập đường link trong bài đăng, người dùng được dẫn đến các trang web giả mạo và được yêu cầu thanh toán một khoản phí nhỏ như “phí vận chuyển” để nhận quà tặng. Tuy nhiên, sau khi chuyển tiền, người dùng không nhận được bất kỳ sản phẩm quà tặng nào, đồng thời bị chiếm đoạt cả tiền và dữ liệu cá nhân.

Cảnh sát liên bang Brazil cho biết đã bắt giữ bốn nghi phạm tại năm bang khác nhau, đồng thời phong tỏa hơn 20 triệu real (tương đương gần 4 triệu USD) trong các tài khoản liên quan. Cuộc điều tra bắt đầu từ tháng 8/2024 sau khi một người dùng bị hại phát hiện video quảng cáo giả mạo Gisele Bündchen quảng bá mỹ phẩm. Các đối tượng còn sử dụng hình ảnh của nhiều nhân vật nổi tiếng khác trong các chiến dịch quảng cáo tương tự để dụ người dùng vào các nền tảng cá cược và ví điện tử giả mạo.

Theo các quan chức cảnh sát, đây là một trong những vụ lừa đảo trực tuyến tinh vi nhất từng bị phát hiện tại Brazil. Nhóm tội phạm cố tình áp dụng chiến thuật “phân tán rủi ro” - mỗi nạn nhân chỉ mất một khoản tiền nhỏ, thường dưới 100 real, khiến ít người trình báo. Nhờ đó, đường dây có thể hoạt động âm thầm trong thời gian dài nhưng vẫn thu lợi khổng lồ, ước tính lên tới hàng triệu đô la.

Tòa án Tối cao Brazil mới đây đã ra phán quyết yêu cầu các nền tảng phải chịu trách nhiệm pháp lý nếu không kịp thời gỡ bỏ nội dung có dấu hiệu vi phạm, ngay cả khi chưa có lệnh của tòa án.

Meta - công ty mẹ của Instagram, khẳng định nền tảng cấm mọi hình thức sử dụng deepfake cho mục đích vụ lợi và đang tăng cường hệ thống phát hiện quảng cáo giả mạo “người nổi tiếng”. Nhưng đến nay, những công cụ kiểm duyệt vẫn chưa đủ mạnh để ngăn chặn triệt để các chiến dịch gian lận sử dụng trí tuệ nhân tạo.

Các chuyên gia an ninh mạng cảnh báo, công nghệ deepfake đang trở thành “vũ khí mới” của tội phạm công nghệ cao, đặc biệt khi được kết hợp với thuật toán quảng cáo tự động trên mạng xã hội. Các sản phẩm deepfake giả mạo “người nổi tiếng” ngày càng khiến người dùng khó phân biệt thật giả. Vụ việc tại Brazil là lời cảnh báo rõ ràng về mối đe dọa an ninh mạng ngày càng gia tăng của deepfake trong mọi lĩnh vực, khi người dùng không thể phân biệt thực và ảo trên không gian mạng.

An Lâm (Theo Reuters)