Ảnh minh họa

Thông báo phát đi ngày 11/1 từ Google thừa nhận, tính năng "AI Overview" (Tổng quan do AI thực hiện) đã cung cấp nhiều thông tin thiếu chính xác hoặc gây hiểu lầm nghiêm trọng. Sự cố này khiến không ít người dùng tin rằng tình trạng bệnh lý của họ vẫn ở mức bình thường dù thực tế đang gặp vấn đề sức khỏe nguy cấp, hoặc thậm chí thực hiện theo các phác đồ điều trị sai lệch dẫn đến hậu quả nặng nề.

Trước những lỗ hổng về độ tin cậy, Google cam kết sẽ rà soát chặt chẽ toàn bộ nội dung do hệ thống AI tạo ra nhằm đảm bảo tính xác thực của thông tin trước khi hiển thị trên trang kết quả. Đồng thời, hãng cũng đưa ra khuyến cáo khẩn thiết rằng người dùng chỉ nên coi đây là nguồn tham khảo và cần tìm đến lời khuyên trực tiếp từ các bác sĩ chuyên khoa.

Các cuộc kiểm chứng từ giới truyền thông đã bóc tách hàng loạt sai phạm nghiêm trọng của AI trong lĩnh vực y tế. Cụ thể, hệ thống này từng đưa ra các nhận định về chức năng gan mà hoàn toàn "bỏ quên" các dữ liệu nền tảng thiết yếu như độ tuổi, giới tính hay đặc thù chủng tộc của bệnh nhân. Sai sót này tạo ra rào cản tâm lý khiến những người mắc bệnh gan giai đoạn nặng chủ quan, không đi thăm khám kịp thời vì tin vào kết luận "bình thường" của máy tính. Nguy hiểm hơn, AI còn đề xuất chế độ dinh dưỡng cho bệnh nhân ung thư tuyến tụy đi ngược lại hoàn toàn với các hướng dẫn điều trị y khoa tiêu chuẩn hiện nay.

Về mặt kỹ thuật, AI Overview là dịch vụ tóm tắt câu trả lời được vận hành bởi mô hình ngôn ngữ Gemini, công cụ chủ lực giúp Google cạnh tranh trực tiếp với đối thủ ChatGPT. Tính năng này được thiết kế để hiển thị ngay trên đầu trang tìm kiếm, cho phép người dùng nắm bắt thông tin nhanh mà không cần truy cập vào các liên kết nguồn. Tuy nhiên, chính sự tiện lợi này đã trở thành "con dao hai lưỡi" khi những thuật toán chưa hoàn thiện của Gemini trực tiếp cung cấp các nội dung y tế sai lệch tới người dùng.

Khôi Nguyên