Ảnh minh họa. Insurance Journal.

Xu hướng sử dụng công nghệ AI ngày càng rõ nét. ICT & Health Global dẫn nghiên cứu đăng trên BMJ Health & Care Informatics cho thấy khoảng một phần năm bác sĩ gia đình tại Anh từng dùng công cụ tạo sinh như ChatGPT để hỗ trợ soạn thảo thư từ hoặc ghi chú chuyên môn. Tại Canada chưa có số liệu đầy đủ, song nhiều báo cáo không chính thức cho thấy các tình huống tương tự đang diễn ra trong các cơ sở y tế.

Hiện tượng này được gọi là AI bóng tối “shadow AI”, khi nhân viên sử dụng các nền tảng AI mà không có sự phê duyệt hoặc giám sát của tổ chức. Trong môi trường y tế, điều này thường xảy ra khi bác sĩ, điều dưỡng nhập thông tin bệnh nhân vào chatbot chạy trên máy chủ nước ngoài. Một khi dữ liệu rời khỏi mạng an toàn, không có bất kỳ đảm bảo nào về nơi lưu trữ, thời gian lưu giữ hay khả năng được sử dụng để huấn luyện mô hình thương mại.

Điểm mù bảo mật đang mở rộng trong các hệ thống y tế

Shadow AI đang trở thành một trong những mối đe dọa bị xem nhẹ nhất trong lĩnh vực y tế số. Báo cáo An ninh IBM 2024 ghi nhận chi phí trung bình của một sự cố rò rỉ dữ liệu toàn cầu đã tăng lên gần 4,9 triệu USD, mức cao nhất từ trước tới nay. Dù sự chú ý vẫn tập trung vào ransomware hay lừa đảo qua email, các chuyên gia cảnh báo rò rỉ nội bộ và lỗi vô ý của nhân viên đang chiếm tỷ trọng ngày càng lớn.

Tại Canada, Cục Bảo hiểm Canada và Trung tâm An ninh mạng Canada đều cảnh báo tình trạng nhân viên vô tình để lộ thông tin mật. Khi các công cụ AI không được phê duyệt được sử dụng trong quá trình làm việc, ranh giới giữa lỗi con người và lỗ hổng hệ thống trở nên mờ nhạt.

Trong ngành y, số vụ rò rỉ dữ liệu do shadow AI gây ra chưa được công khai rộng rãi. Tuy nhiên, các chuyên gia khẳng định nguy cơ là hoàn toàn có thật: dữ liệu có thể bị đưa ra ngoài chỉ bằng thao tác “copy - paste” vào chatbot mà không kích hoạt bất kỳ hệ thống cảnh báo nào.

Ẩn danh hóa không phải là cách bảo mật tin cậy

Ngay cả khi loại bỏ tên bệnh nhân hay số hồ sơ, dữ liệu y tế hiếm khi thực sự ẩn danh. Sự kết hợp giữa thông tin lâm sàng, thời gian và yếu tố địa lý có thể dẫn tới tái nhận dạng. Một nghiên cứu đăng trên Nature Communications chỉ ra rằng các bộ dữ liệu “đã ẩn danh” vẫn có thể được đối chiếu để truy ngược lại từng cá nhân.

Điều này càng phức tạp với các mô hình AI công khai vốn xử lý dữ liệu qua nền tảng đám mây. Mỗi nhà cung cấp có chính sách lưu trữ, xóa hoặc sử dụng dữ liệu khác nhau và ít đơn vị công khai địa điểm máy chủ. Đối với bệnh viện Canada chịu sự quản lý của luật PIPEDA và các đạo luật bảo vệ dữ liệu cấp tỉnh, đây là “vùng xám” pháp lý.

Những rủi ro hiện diện ngay trong thao tác công việc hằng ngày

Một y tá sử dụng công cụ dịch thuật tích hợp AI để hỗ trợ bệnh nhân không nói tiếng Anh có thể vô tình gửi chẩn đoán, triệu chứng hoặc kết quả xét nghiệm lên máy chủ ở nước khác. Bác sĩ dùng AI để soạn thư dặn dò bệnh nhân hoặc tóm tắt hồ sơ lâm sàng cũng có thể để lộ thông tin mật theo cách tương tự.

Insurance Business Canada gần đây cảnh báo shadow AI có thể trở thành “điểm mù lớn tiếp theo” của ngành bảo hiểm. Vì hành vi này mang tính tự phát và nội bộ, hầu hết bệnh viện không có số liệu thống kê, không thể kiểm toán xem dữ liệu nào đã rời khỏi hệ thống và do ai gửi.

Khung pháp lý không theo kịp tốc độ tiến hóa của AI

Khung pháp lý về bảo mật dữ liệu y tế của Canada được xây dựng trước khi AI tạo sinh phổ biến. Luật hiện hành chủ yếu điều chỉnh cách thu thập và lưu trữ dữ liệu, ít đề cập đến mô hình học máy hay các công cụ sinh văn bản ở quy mô lớn.

Trong bối cảnh đó, các chuyên gia an ninh mạng đề xuất ba hướng hành động:

1. Đưa việc sử dụng AI vào phạm vi kiểm toán an ninh định kỳ. Mọi công cụ AI - được phê duyệt hoặc không - cần được thống kê tương tự như quản lý thiết bị cá nhân (BYOD).

2. Xây dựng các “cổng AI an toàn” dành riêng cho ngành y tế. Các bệnh viện có thể cung cấp nền tảng AI đã được chứng nhận, đảm bảo xử lý dữ liệu trong trung tâm dữ liệu nội địa.

3. Nâng cao năng lực hiểu biết về dữ liệu cho nhân viên y tế. Đào tạo giúp nhân viên hiểu rõ dữ liệu đi đâu khi nhập vào mô hình AI công khai và vì sao các mảnh thông tin nhỏ cũng có thể xâm phạm quyền riêng tư.

Những giải pháp này không thể loại bỏ hoàn toàn rủi ro, nhưng giúp đưa hoạt động thực tế vào quỹ đạo phù hợp với quy định, bảo vệ cả bệnh nhân lẫn nhân viên y tế.

Hành động sớm trước khi y tế số mất đi sự tin cậy

Ngành y tế Canada vốn đã chịu áp lực lớn từ thiếu nhân lực, tấn công mạng và sự phức tạp của hệ thống số. AI tạo sinh mang lại lợi ích rõ rệt, song việc sử dụng tùy tiện có thể làm xói mòn niềm tin của công chúng vào khả năng bảo vệ dữ liệu y tế.

Các nhà hoạch định chính sách đứng trước lựa chọn: chủ động thiết lập khung quản lý AI trong bệnh viện hoặc chờ đến khi xuất hiện một vụ bê bối rò rỉ dữ liệu lớn.

Giải pháp không phải là cấm dùng AI, mà là tích hợp an toàn. Việc xây dựng tiêu chuẩn quốc gia về “an toàn dữ liệu trong AI”, tương tự quy trình kiểm soát nhiễm khuẩn hay an toàn thực phẩm, sẽ giúp cân bằng giữa đổi mới và bảo mật.

Shadow AI không phải khái niệm tương lai mà đang hiện diện trong hoạt động lâm sàng mỗi ngày. Ngăn chặn rủi ro đòi hỏi sự phối hợp giữa công nghệ, chính sách và đào tạo, trước khi các hệ thống y tế phải trả giá vì một mối đe dọa xuất phát từ nội bộ của tổ chức.

An Lâm (Theo Insurance Journal)