Ngày 12/4, cha mẹ của Nelson - một thanh niên tử vong do sốc thuốc ngoài ý muốn vào năm ngoái tên đã đệ đơn kiện OpenAI và CEO Sam Altman tại tòa án bang California, cáo buộc chatbot ChatGPT đã hướng dẫn con trai họ sử dụng kết hợp các chất nguy hiểm dẫn đến cái chết do dùng thuốc quá liều.

Chatbot bị cáo buộc hoạt động như "bác sĩ AI"

Đơn kiện cho rằng các phiên bản ChatGPT trước đây từng từ chối trả lời những câu hỏi liên quan đến sử dụng ma túy. Tuy nhiên, sau khi OpenAI triển khai GPT-4o vào năm 2024, chatbot bắt đầu phản hồi bằng ngôn ngữ mang tính chuyên môn hơn, đưa ra thông tin về liều lượng, tương tác thuốc và các khuyến nghị cá nhân hóa. 

Gia đình nạn nhân cáo buộc chatbot không chỉ cung cấp lời khuyên về thuốc mà còn hướng dẫn cách tìm nguồn chất cấm, đề xuất loại thuốc tiếp theo nên sử dụng và ghi nhớ lịch sử dùng chất kích thích để đưa ra phản hồi "phù hợp hơn" theo thời gian.

Nelson sau đó đã dùng kết hợp Xanax, kratom và rượu trước khi tử vong vào tháng 5/2025. 

Vào ngày xảy ra vụ việc, Nelson đã hỏi ChatGPT liệu hỗn hợp thuốc mình dùng có an toàn hay không sau khi xuất hiện các triệu chứng như mờ mắt và nấc cụt - những dấu hiệu có thể liên quan đến suy hô hấp. Gia đình cho biết chatbot không khuyến nghị gọi cấp cứu hay tìm trợ giúp y tế, mà chỉ yêu cầu người dùng "kiểm tra lại sau một giờ". 

Ngoài yêu cầu bồi thường thiệt hại, nguyên đơn còn đề nghị tòa án tạm dừng triển khai nền tảng ChatGPT Health - dịch vụ chăm sóc sức khỏe cá nhân hóa mà OpenAI công bố đầu năm nay, cho phép người dùng tải hồ sơ y tế và nhận tư vấn sức khỏe từ AI. Theo OpenAI, hiện có khoảng 40 triệu lượt truy vấn liên quan đến sức khỏe được gửi tới ChatGPT mỗi ngày. 

Sam Nelson và mẹ ( Nguồn ảnh: FACEBOOK)

Phản hồi của OpenAI

Phản hồi về vụ việc, người phát ngôn OpenAI Drew Pusateri gọi đây là một tình huống "đau lòng" và cho biết các tương tác được đề cập diễn ra trên một phiên bản ChatGPT cũ hiện không còn được hỗ trợ. Công ty khẳng định đã tăng cường các cơ chế an toàn nhằm nhận diện trạng thái khủng hoảng tinh thần, xử lý yêu cầu nguy hiểm và hướng người dùng đến hỗ trợ ngoài đời thực. 

"ChatGPT không phải là công cụ thay thế cho chăm sóc y tế hay hỗ trợ sức khỏe tâm thần. Chúng tôi đang tiếp tục cải thiện khả năng phản hồi của hệ thống trong các tình huống nhạy cảm và khẩn cấp, với sự tham gia tư vấn từ các chuyên gia sức khỏe tâm thần", ông Pusateri cho biết. "Các cơ chế an toàn hiện nay của ChatGPT được thiết kế để nhận diện dấu hiệu người dùng đang gặp khủng hoảng, xử lý an toàn các yêu cầu có nguy cơ gây hại và hướng họ đến những nguồn hỗ trợ phù hợp ngoài đời thực".

Làn sóng kiện tụng AI ngày càng gia tăng

Vụ kiện liên quan đến cái chết của Sam Nelson là một phần trong làn sóng kiện tụng ngày càng lớn nhằm vào các công ty AI tạo sinh. Chỉ một ngày trước đó, gia đình nạn nhân trong vụ xả súng tại Đại học Bang Florida cũng đã kiện OpenAI, cáo buộc ChatGPT hỗ trợ nghi phạm lập kế hoạch tấn công. 

Trước đó, OpenAI còn đối mặt với nhiều vụ kiện khác liên quan đến việc chatbot bị cho là khuếch đại hoang tưởng, thúc đẩy hành vi bạo lực hoặc không ngăn chặn người dùng tự gây hại cho bản thân. 

Các chuyên gia cho rằng những vụ việc này có thể trở thành phép thử pháp lý quan trọng đối với ngành AI, đặc biệt khi các chatbot ngày càng được sử dụng như công cụ tư vấn sức khỏe, tâm lý và đời sống cá nhân.

Một trong những câu hỏi lớn nhất hiện nay là liệu các công ty AI có phải chịu trách nhiệm pháp lý khi người dùng tin tưởng và hành động theo khuyến nghị do chatbot tạo ra hay không. 

Thúy Hằng (tổng hợp)