Một cảnh báo mới vừa được đưa ra, cho thấy mối đe dọa nay đang hoạt động, đặt người dùng vào tình thế nguy hiểm khi các bản nâng cấp AI nhanh chóng của Gmail từ Google mở ra những hướng tấn công mới. Cũng như các triển khai khác, việc lừa AI để tấn công người dùng đang trở nên dễ dàng đến mức đáng báo động.

Cảnh báo thông qua 0din, mạng lưới điều tra lỗ hổng zero-day của Mozilla, theo sau việc một nhà nghiên cứu “chứng minh lỗ hổng chèn lệnh trong Google Gemini for Workspace cho phép một đối tượng đe dọa giấu các chỉ dẫn độc hại bên trong một email".

Nếu kẻ tấn công giấu các lệnh trong một email, khi người dùng nhấp vào “tóm tắt email này” (summarize this email) sử dụng một trong những nâng cấp AI gần đây của Gmail, “Gemini trung thực tuân theo lệnh được giấu và đính kèm một cảnh báo lừa đảo (phishing warning) trông giống như nó đến từ chính Google".

Hãy cẩn thận với mối đe dọa ẩn này của Gmail. Ảnh chụp màn hình.

Trong bằng chứng này, lệnh đã được giấu bằng cách sử dụng phông chữ trắng trên nền trắng, nghĩa là người dùng sẽ không bao giờ thấy nó. Nhưng Gemini vẫn thấy nó bình thường. “Các cuộc tấn công chèn lệnh gián tiếp tương tự vào Gemini lần đầu tiên được báo cáo vào năm 2024, và Google đã công bố các biện pháp giảm thiểu, nhưng kỹ thuật này vẫn khả thi cho đến ngày nay".

Người dùng Gmail cần bỏ qua bất kỳ cảnh báo nào của Google trong các bản tóm tắt AI đó không phải là cách Google đưa ra cảnh báo cho người dùng. 0din khuyên các nhóm bảo mật nên “huấn luyện người dùng rằng các bản tóm tắt của Gemini mang tính chất thông tin, không phải là cảnh báo bảo mật có thẩm quyền” và “tự động cô lập các email chứa các phần tử <span> hoặc <div> ẩn dưới văn bản có độ rộng bằng 0 (zero-width) hoặc màu trắng".

Như đã cảnh báo trước đây, đây là một mối đe dọa rộng lớn hơn nhiều. 0din cho biết “chèn lệnh là macro email mới", và bằng chứng khái niệm mới nhất này “cho thấy các bản tóm tắt AI đáng tin cậy có thể bị phá hoại chỉ bằng một thẻ vô hình".

0din nói rằng “cho đến khi các LLM (mô hình ngôn ngữ lớn) đạt được khả năng cách ly ngữ cảnh mạnh mẽ, mọi đoạn văn bản từ bên thứ ba mà mô hình của bạn thu nạp đều là mã có thể thực thi", điều này có nghĩa là cần kiểm soát chặt chẽ hơn.

Cho dù đó là việc lạm dụng các công cụ AI hướng tới người dùng hay chiếm quyền điều khiển AI để thiết kế hoặc thậm chí thực thi các cuộc tấn công, rõ ràng là cuộc chơi đã thay đổi không thể đảo ngược.

Nếu bạn thấy bất kỳ cảnh báo bảo mật nào trong bản tóm tắt email, Gmail được cho là đến từ Google, bạn nên xóa email đó vì nó thực sự chứa các lệnh AI ẩn đại diện cho mối đe dọa đối với bạn, thiết bị của bạn và dữ liệu của bạn.

Google cảnh báo rằng “khi ngày càng có nhiều chính phủ, doanh nghiệp và cá nhân sử dụng AI để làm được nhiều việc hơn, cuộc tấn công tinh vi nhưng có khả năng mạnh mẽ này ngày càng trở nên thích đáng hơn trong toàn ngành, đòi hỏi sự chú ý ngay lập tức và các biện pháp bảo mật mạnh mẽ".

Thu Uyên