Generative AI (GenAI), còn được gọi là AI tạo sinh, cho phép người dùng nhập nhiều loại yêu cầu để tạo ra nội dung mới, như văn bản, hình ảnh, video, âm thanh, mã, thiết kế 3D và các phương tiện truyền thông khác. AI này được huấn luyện trên các tài liệu và dữ liệu đã tồn tại trên mạng.

Theo một bài viết trên blog mới của các nhà nghiên cứu tình báo mối đe dọa Unit 42, sự phổ biến của GenAI đang mở ra những hướng đi mới cho các tác nhân đe dọa lợi dụng.

Các nhà nghiên cứu của Unit 42 cho biết: "tin tặc đang ngày càng tận dụng GenAI để tạo ra nội dung lừa đảo chân thực, sao chép các thương hiệu đáng tin cậy và tự động hóa việc triển khai quy mô lớn bằng các dịch vụ như trình tạo trang web mã nguồn thấp".

Bài viết trên blog cung cấp rất nhiều ví dụ đã được sử dụng để phân tích, bao gồm các trang và URL lừa đảo do AI tạo ra, việc lạm dụng các dịch vụ trợ lý viết bài, nội dung deepfake và các chatbot độc hại luôn sẵn sàng giao tiếp với những người dùng thiếu cảnh giác.

Nghiên cứu cho biết: "Chỉ trong vòng sáu tháng, việc sử dụng AI đã tăng hơn gấp đôi và tiếp tục tăng trưởng đều đặn".

Mặc dù Unit 42 lưu ý rằng, các trường hợp sử dụng hiện tại "tương đối thô sơ", nhóm nghiên cứu dự đoán các cuộc tấn công sử dụng GenAI "sẽ trở nên thuyết phục hơn khi các trình xây dựng trang web sử dụng AI ngày càng mạnh mẽ hơn".

Các dịch vụ AI phổ biến nhất đang bị lạm dụng trong các cuộc tấn công lừa đảo là gì? Khoảng 40% kẻ xấu đang khai thác các trình tạo trang web, khoảng 30% đang lợi dụng các trợ lý viết AI, và gần 11% đang lợi dụng cơn sốt chatbot do AI tạo ra, theo nghiên cứu của Palo Alto.

Lừa đảo chuyên sâu với trang web giả mạo Palo Alto

Các nhà nghiên cứu đã quyết định thử nghiệm một trong những trình xây dựng trang web AI phổ biến nhất (chưa được nêu tên) để tạo bản sao trang web của Palo Alto Networks nhằm xem một trang web lừa đảo do AI tạo ra có thể giống thật đến mức nào.

Nhóm nghiên cứu cho biết, các nền tảng này "có khả năng tạo ra các trang web chỉ trong vài giây", đồng thời lưu ý rằng trang web giả mạo của họ chỉ mất 60 giây để tạo.

Các nhà nghiên cứu cho biết hầu hết các công cụ xây dựng AI đều cho phép người dùng nhập một lời nhắc không chỉ có thể xây dựng và xuất bản trang web mà không cần xác minh email hoặc số điện thoại, mà còn sử dụng AI để tạo hình ảnh và văn bản dựa trên cùng một lời nhắc.

Việc thiếu các rào cản xác minh về cơ bản cho phép bất kỳ ai "tạo một trang web mạo danh một doanh nghiệp hoặc tổ chức hiện có", blog cho biết.

Để minh họa cho thử nghiệm, nhóm đã nhập một lời nhắc văn bản ban đầu mô tả "mô tả ngắn gọn về công ty", tiếp theo là một lời nhắc nâng cao, tạo ra "một lời nhắc AI hoàn chỉnh cho trang".

Cuối cùng, một lời nhắc hoàn chỉnh đã được sử dụng để tạo "một đoạn văn do AI tạo ra về công ty, một phong cách thiết kế mặc định có thể dễ dàng sửa đổi và một danh sách nội dung để đưa vào trang web", blog cho biết.

Bằng cách cung cấp một nút để xuất bản trang web, công cụ xây dựng cũng tạo ra một trang chỉ mục mô tả (và đáng tin cậy) bao gồm "các liên kết đến các trang khác nhau có chứa mô tả về tường lửa thế hệ tiếp theo, giải pháp bảo mật đám mây và dịch vụ tình báo mối đe dọa".

Trong một quan sát cuối cùng, các nhà nghiên cứu của Unit 42 đã phát hiện ra rằng các tác nhân đe dọa sử dụng nền tảng trợ lý viết AI của bên thứ ba để tạo ra "URL lừa đảo thực tế", có thể được lưu trữ trên cùng nền tảng hoặc các trang web lưu trữ hợp pháp khác.

Trong các ví dụ dưới đây, người dùng được gửi một email thông báo rằng họ có "tài liệu mới cần xem". Nếu người dùng nhấp vào liên kết, họ sẽ được chuyển hướng đến một trang lừa đảo - trong trường hợp Unit 42 quan sát được, đó là một trang web giả mạo của Microsoft, được thiết lập để đánh cắp thông tin đăng nhập của họ.

Để bảo vệ khỏi các loại trang web lừa đảo do AI tạo ra này, Palo Alto khuyến nghị người dùng sử dụng bộ lọc URL nâng cao để phát hiện các URL độc hại, cũng như bảo mật hệ thống phân giải tên miền (DNS) nâng cao để xác định các tên miền đã biết.

Hà Linh