Ca sĩ Mỹ Tâm đăng tải thông báo khẩn trên trang cá nhân, cho biết nhiều video và quảng cáo đang sử dụng hình ảnh, giọng nói AI giả mạo cô để quảng bá các sản phẩm kém chất lượng và có dấu hiệu bất hợp pháp.

Cục Điều tra Liên bang Mỹ (FBI) vừa phát đi cảnh báo về một chiến dịch lừa đảo mạng quy mô lớn, trong đó các đối tượng tội phạm mạo danh quan chức cấp cao của chính phủ Mỹ, từ Nhà Trắng đến các nghị sĩ Quốc hội, nhằm tiếp cận và lừa đảo nạn nhân thông qua tin nhắn văn bản và cuộc gọi sử dụng giọng nói hình ảnh do AI tạo ra.

YouTube giới thiệu công cụ nhận diện deepfake, giúp người sáng tạo bảo vệ hình ảnh và giọng nói trước nguy cơ giả mạo lan rộng trên môi trường số.

Deepfake đang bị biến thành công cụ tinh vi của tội phạm mạng: từ việc giả mạo hình ảnh và giọng nói của người nổi tiếng tới việc dụ dỗ, lừa đảo người dùng tham gia đầu tư ảo. Một cú nhấp chuột thiếu cảnh giác có thể khiến bạn trở thành nạn nhân.

Sự phát triển nhanh chóng của trí tuệ nhân tạo (AI) đã khiến việc lợi dụng hình ảnh người nổi tiếng để tạo ra các video, gương mặt và giọng nói giả mạo trở nên dễ dàng hơn bao giờ hết, dẫn đến nhiều hệ lụy đáng lo ngại.

Tại phiên thảo luận tổ sáng 21/10, Đại biểu Quốc hội Trần Quốc Tuấn (Vĩnh Long) bày tỏ lo ngại trước tình trạng lan truyền hình ảnh, giọng nói giả mạo lãnh đạo Đảng và Nhà nước được tạo bằng công nghệ trí tuệ nhân tạo (AI).

YouTuber Khoai Lang Thang vừa lên tiếng cảnh báo cộng đồng mạng rằng hình ảnh, gương mặt và giọng nói của anh đang bị kẻ xấu lợi dụng để tạo video lừa đảo - dùng công nghệ AI để trục lợi, với mục tiêu dụ dỗ người xem tham gia kinh doanh kiếm tiền nhanh.

Công an Đắk Lắk cảnh báo tội phạm sử dụng công nghệ AI để ghép khuôn mặt, giả giọng nói nhằm lừa đảo, yêu cầu người dân cảnh giác và kiểm tra thông tin.

Công nghệ AI và Deepfake đang mở ra kỷ nguyên mới cho tội phạm mạng tại Việt Nam, biến mọi hình ảnh, giọng nói thành công cụ lừa đảo, tống tiền và thao túng dư luận. Khi ranh giới giữa thật - giả ngày càng mờ nhạt, xã hội đối mặt với thách thức chưa từng có về bảo mật, niềm tin và an ninh thông tin.

Công nghệ deepfake đang bùng nổ, kết hợp với hệ thống xác thực sinh trắc học (vân tay, khuôn mặt, giọng nói), đặt ra thách thức lớn cho an ninh số khi giới tội phạm AI tận dụng để giả mạo danh tính và tiến hành lừa đảo.

Năm 2019, phần mềm Origin-STT do Đỗ Quốc Trường và cộng sự phát triển đã gây tiếng vang lớn khi giành giải Nhất Nhân tài Đất Việt lĩnh vực CNTT. Sáu năm sau, chàng Tiến sĩ 9X không chỉ dừng lại ở một giải thưởng danh giá, mà còn trở thành “kiến trúc sư” dẫn dắt VAIS xây dựng hệ sinh thái AI giọng nói tiếng Việt, hiện diện từ nghị trường Quốc hội, tòa soạn báo chí cho đến nhiều lĩnh vực của đời sống xã hội.

Việc lợi dụng trí tuệ nhân tạo (AI) để tạo dựng video, hình ảnh, giọng nói giả mạo rồi đăng tải lên mạng xã hội đang tiềm ẩn nhiều hệ lụy, gây nhiễu loạn thông tin và tác động tiêu cực đến dư luận. Cơ quan chức năng khẳng định, mọi hành vi phát tán nội dung AI giả mạo, sai sự thật đều có thể bị xử phạt nghiêm theo quy định của pháp luật.

Sự phát triển của AI tạo sinh (generative AI) và các mô hình ngôn ngữ lớn (LLM) đã làm thay đổi mạnh mẽ bức tranh an ninh mạng, trao cho tin tặc những công cụ dễ sử dụng để tạo ra video và giọng nói deepfake chân thực, các chiến dịch lừa đảo qua email (phishing) được cá nhân hóa, cũng như phần mềm độc hại và mã độc hại.

Các đối tượng đã sử dụng công nghệ deepfake nhằm mục đích lừa đảo, chiếm đoạt tài sản. Đặc biệt, phần lớn nạn nhân là người lớn tuổi, phụ huynh có con đi xa, hoặc doanh nhân thường xuyên giao dịch trực tuyến.

Dù AI mang lại nhiều cơ hội, nhưng những thách thức và mối đe dọa từ việc lạm dụng công nghệ này không thể bị bỏ qua.