Tháng 3/2024, một công ty đa quốc gia tại Hong Kong bất ngờ mất hơn 25 triệu USD chỉ sau một cuộc họp qua Zoom. Tất cả những người xuất hiện trong cuộc gọi đều có giọng nói, hình ảnh y như thật nhưng không một ai là người thật. Đó là deepfake toàn phần, được điều khiển bằng AI và script dựng sẵn. Một nhân viên tài chính đã chuyển tiền theo yêu cầu của “CEO” mà không hay biết mình đang nói chuyện với thuật toán.

Thực tế cho thấy, một loạt phần mềm độc hại được tạo bằng AI đang nổi lên trên các “chợ đen” như FraudGPT, DarkBERT, với khả năng tạo mã khai thác zero-day hoặc các đoạn backdoor khó bị nhận diện. Khác với malware truyền thống, các đoạn mã này có khả năng "học hỏi" từ phản ứng hệ thống, từ đó tự biến thể sau mỗi lần bị phát hiện. Các mô hình AI hiện được tích hợp vào dịch vụ “Phishing-as-a-Service”, cho phép tội phạm mạng viết thư lừa theo ngôn ngữ, hành vi từng khu vực, phát tán email/sms độc… Nói cách khác, AI tự động hóa toàn bộ chuỗi lừa đảo - từ thiết kế mồi câu đến thu hoạch kết quả.

“Nóng” chuyện sử dụng AI tấn công mạng

Ông Nguyễn Sơn Hải, Giám đốc Công ty An ninh mạng Viettel cho biết, qua theo dõi của Viettel trong thời gian vừa qua, tin tặc đã sử dụng AI ngày càng nhiều để tấn công và lừa đảo người dân như sử dụng deepfake, phishing… Đã có trường hợp tin tặc sử dụng AI đóng giả một giám đốc doanh nghiệp xong rồi yêu cầu nhân viên chuyển tiền.

Mặt khác, AI cũng đang là công cụ hữu hiệu được các doanh nghiệp an ninh mạng sử dụng từ 5 - 7 năm trước để phòng chống tấn công mạng, đặc biệt sử dụng để phát hiện các hành vi bất thường để sàng lọc phát hiện hành vi tấn công mạng.

Ông Nguyễn Sơn Hải cho rằng, việc ứng dụng AI đã phổ biến và mạnh mẽ hơn khi xuất hiện Genechip AI của OpenAI. Bây giờ những việc đơn giản AI có thể làm thay. Tương dự như vậy, rất nhiều việc mà AI có thể làm thay cho các kỹ sư an toàn thông tin và AI đã có thể đóng vai trò trong việc vận hành khai thác thay thế con người khá nhiều.

Chia sẻ tiếp về vấn đề này, ông Lê Công Trung, Trưởng bộ phận An ninh mạng, Tổng Công ty Viễn thông MobiFone cho rằng, : “Dưới góc nhìn của tôi, AI vừa là "lá chắn", vừa là "lưỡi gươm" trong không gian mạng, nghĩa là vừa là công cụ bảo vệ hữu hiệu, nhưng cũng tiềm ẩn nhiều rủi ro, thậm chí là mối đe dọa nguy hiểm nếu bị lợi dụng.

Thứ nhất AI mang lại nhiều lợi ích thiết thực trong việc phòng thủ, giám sát và phản ứng nhanh với các mối đe dọa mạng. AI giúp tự động hóa quá trình phân tích log, giám sát lưu lượng mạng, phát hiện hành vi bất thường nhanh hơn và chính xác hơn con người. Các giải pháp như UEBA (User and Entity Behavior Analytics), SIEM thế hệ mới, hay SOC thông minh đều đang tích hợp AI để nâng cao khả năng nhận diện và cảnh báo sớm.

Bên cạnh đó, AI có thể phân tích dữ liệu lịch sử và hành vi để dự đoán các xu hướng tấn công mới, giúp tổ chức đi trước một bước trong việc phòng ngừa. Khi xảy ra tấn công, các hệ thống tích hợp AI có thể kích hoạt kịch bản phản ứng tự động, giảm thiểu thời gian và thiệt hại, đặc biệt trong các hệ thống cần phản ứng thời gian thực như ngân hàng, chính phủ điện tử.

Tuy nhiên, AI cũng là mối đe dọa rất lớn. Khi rơi vào tay kẻ xấu, AI có thể trở thành vũ khí nguy hiểm mà trước đây con người khó có thể tưởng tượng được bởi tin tặc có thể sử dụng AI để tự động dò quét lỗ hổng, viết mã độc, giả lập hành vi người dùng để qua mặt hệ thống phòng thủ.

Những cuộc tấn công phishing bằng deepfake, giọng nói giả (voice cloning) đang khiến nhiều tổ chức mất cảnh giác.

AI bị lợi dụng để tạo thông tin giả (fake news), video giả (deepfake), gây nhiễu loạn thông tin, ảnh hưởng đến an ninh chính trị và trật tự xã hội.

“Tôi cho rằng, AI không tốt, cũng không xấu - nó là công cụ. Tùy vào cách sử dụng, nó có thể trở thành bức tường lửa bảo vệ hoặc con dao hai lưỡi gây sát thương trong không gian mạng. Việc làm chủ AI - cả về công nghệ lẫn đạo đức - sẽ là bài toán sống còn đối với mỗi quốc gia, tổ chức, và cá nhân trong kỷ nguyên số: ông Công nói.

AI giúp phát hiện bất thường nhanh gấp 10 lần con người

Dưới góc nhìn của mình, ông Trần Quốc Chính, Tổng Giám đốc CMC Cyber Security cho biết, AI trong lĩnh vực an ninh mạng là một con dao hai lưỡi - vừa là công cụ bảo vệ mạnh mẽ, vừa là mối đe dọa nguy hiểm nếu bị khai thác sai mục đích.

Về mặt phòng thủ, AI giúp tăng cường khả năng phát hiện và ứng phó với các mối đe dọa mạng thông qua phân tích hành vi người dùng (UBA) và phát hiện các bất thường trong hệ thống. AI có thể tự động hoá quy trình phản ứng sự cố, giảm thời gian phát hiện và xử lý và xử lý khối lượng lớn log và cảnh báo trong thời gian thực, giúp giảm thiểu gánh nặng cho đội ngũ an ninh mạng.

Tuy nhiên, ở chiều ngược lại, kẻ tấn công cũng đang sử dụng AI để nâng cao khả năng tấn công bằng cách tạo ra deepfake, giả mạo danh tính trong các chiến dịch lừa đảo (phishing) tinh vi hơn. Bên cạnh đóm tin tặc còn tự động hóa khai thác lỗ hổng hoặc tìm kiếm thông tin nhạy cảm trên diện rộng, thậm chí xây dựng các mã độc có khả năng ẩn mình và tự thích ứng để qua mặt hệ thống bảo vệ.

Ông Trần Quốc Chính AI là một công cụ kép bởi nó mang lại cơ hội rất lớn cho việc nâng cao hiệu quả bảo vệ an ninh mạng, nhưng cũng tiềm ẩn nguy cơ lớn nếu bị lợi dụng. Vì vậy, cần xây dựng các cơ chế kiểm soát việc sử dụng AI một cách có đạo đức và đúng mục đích, đồng thời tăng cường năng lực con người để hiểu và làm chủ AI, thay vì phụ thuộc hoàn toàn vào nó.

Chia sẻ tiếp về vấn đề này, đại diện VNPT-IT nhận định, AI vừa là công cụ phòng thủ vừa là mối đe dọa. AI giúp phát hiện bất thường nhanh gấp 10 lần con người, nhưng cũng có thể sinh mã độc vượt qua hệ thống bảo vệ Antivirus.

Thái Nguyễn