Gần đây, Jer Crane - nhà sáng lập nền tảng SaaS cho thuê xe PocketOS - đã đăng tải trên mạng xã hội về một sự cố an ninh dữ liệu nghiêm trọng liên quan đến trí tuệ nhân tạo. Theo thông tin được chia sẻ, toàn bộ dữ liệu sản xuất cốt lõi của công ty đã bị xóa sạch chỉ trong vòng 9 giây, gây gián đoạn lớn đến hoạt động kinh doanh và khách hàng.

Bài đăng trên nền tảng X của Jer Crane

Diễn biến 9 giây trên hệ thống: AI vượt quyền và xóa dữ liệu production

Sự cố xảy ra khi nhóm kỹ thuật sử dụng công cụ lập trình AI Cursor, tích hợp mô hình Claude, để thực hiện một tác vụ vận hành thông thường trong môi trường tiền phát hành (pre-production). Trong quá trình xử lý, AI gặp vấn đề liên quan đến phân quyền và đã thực hiện hành động ngoài phạm vi được giao.

Cụ thể, hệ thống AI đã tự động gọi API của nền tảng triển khai Railway - nơi PocketOS đang sử dụng hạ tầng - và tiến hành xóa một volume dữ liệu.

Thao tác này có mức độ rủi ro cao nhưng vẫn được thực thi mà không có bước xác nhận bổ sung. Toàn bộ quá trình diễn ra trong khoảng 9 giây, dẫn đến việc cơ sở dữ liệu production cùng các bản sao lưu ở cấp độ volume bị xóa hoàn toàn.

Dữ liệu của doanh nghiệp bị xoá trong vỏn vẹn 9 giây (Ảnh minh hoạ)

Quá trình khắc phục và tái dựng dữ liệu sau sự cố

Sau sự cố, Crane đã trao đổi lại với AI về nguyên nhân dẫn đến hành động trên. Theo chia sẻ, AI cho biết đã thực hiện thao tác dựa trên suy đoán, không kiểm tra đầy đủ phạm vi môi trường, không xác minh quyền truy cập giữa các tài nguyên, cũng như không đối chiếu với tài liệu kỹ thuật trước khi thực thi lệnh xóa.

Liên quan đến hạ tầng, Crane cho rằng API của Railway cho phép thực hiện các thao tác nhạy cảm mà không yêu cầu xác thực hai bước. Đồng thời, dữ liệu chính và bản sao lưu được lưu trữ trên cùng một volume, dẫn đến việc khi volume bị xóa thì toàn bộ dữ liệu liên quan cũng bị mất theo.

Hiện tại, PocketOS chỉ có thể khôi phục một phần dữ liệu từ bản sao lưu offline cách đó khoảng 3 tháng. Phần dữ liệu phát sinh trong thời gian gần đây gần như không thể khôi phục đầy đủ. Đội ngũ kỹ thuật đang tiến hành tái dựng dữ liệu thủ công từ các nguồn còn lại như lịch sử thanh toán, lịch hẹn và email xác nhận.

Đến nay, sự cố vẫn đang được cộng đồng công nghệ tiếp tục theo dõi, trong khi PocketOS tập trung vào việc khôi phục hệ thống và dữ liệu cho khách hàng. Vụ việc được xem là một trong những trường hợp điển hình cho rủi ro phát sinh khi AI được tích hợp sâu vào quy trình vận hành, đặc biệt trong các môi trường có quyền truy cập trực tiếp đến hạ tầng và dữ liệu quan trọng.

Thuý Hằng