Các phát hiện này, được công bố trong một báo cáo, nhấn mạnh mối lo ngại ngày càng gia tăng trước tình trạng các công cụ AI đang bị tội phạm mạng khai thác, làm dấy lên lời kêu gọi các công ty công nghệ và cơ quan quản lý phải tăng cường biện pháp bảo vệ khi công nghệ này lan rộng.

Báo cáo của Anthropic cho biết hệ thống nội bộ đã kịp thời chặn các cuộc tấn công, đồng thời công ty chia sẻ các nghiên cứu tình huống - minh họa cách kẻ tấn công tìm cách dùng Claude để tạo ra nội dung gây hại - nhằm giúp cộng đồng hiểu rõ hơn về rủi ro.

Bản báo cáo dẫn chứng các nỗ lực sử dụng Claude để soạn email lừa đảo tinh vi, viết hoặc chỉnh sửa đoạn mã độc, cũng như tìm cách lách các cơ chế bảo vệ thông qua việc liên tục đưa ra chỉ dẫn.

Ngoài ra, báo cáo còn mô tả các nỗ lực xây dựng chiến dịch tác động dư luận bằng cách tạo hàng loạt bài đăng có tính thuyết phục và hỗ trợ những tin tặc ít kỹ năng với hướng dẫn từng bước.

Công ty được Amazon.com và Alphabet hậu thuẫn - không công bố các chỉ số kỹ thuật như địa chỉ IP hay nội dung chỉ dẫn, nhưng cho biết đã cấm các tài khoản liên quan và siết chặt bộ lọc sau khi phát hiện hoạt động này.

Các chuyên gia cho rằng tội phạm ngày càng chuyển sang dùng AI để khiến các vụ lừa đảo thuyết phục hơn và đẩy nhanh tiến trình tấn công. Những công cụ này có thể giúp viết email giả mạo chân thực, tự động hóa một phần phát triển phần mềm độc hại và thậm chí hỗ trợ lên kế hoạch tấn công.

Các nhà nghiên cứu an ninh cảnh báo rằng khi các mô hình AI ngày càng mạnh mẽ, nguy cơ bị lạm dụng cũng sẽ tăng trừ khi doanh nghiệp và chính phủ có hành động kịp thời.

Anthropic khẳng định hãng tuân thủ nghiêm ngặt các nguyên tắc an toàn, bao gồm thử nghiệm thường xuyên và tiến hành đánh giá độc lập, đồng thời sẽ tiếp tục công bố báo cáo khi phát hiện những mối đe dọa lớn.

Microsoft, OpenAI (được SoftBank hậu thuẫn) và Google cũng từng đối mặt với sự giám sát tương tự trước lo ngại rằng các mô hình AI của họ có thể bị khai thác cho tấn công mạng hoặc lừa đảo, từ đó làm gia tăng lời kêu gọi áp dụng biện pháp bảo vệ mạnh mẽ hơn.

Chính phủ các nước cũng đang tiến hành điều chỉnh công nghệ này, Liên minh châu Âu thúc đẩy Đạo luật Trí tuệ nhân tạo, trong khi Mỹ kêu gọi các nhà phát triển lớn tự nguyện cam kết an toàn.

Nguyễn Yến (theo Reuters)