Từ “nhập vai” đến cáo buộc hành nghề y trái phép

Mỡi đây, chính quyền bang Pennsylvania đã khởi kiện Character Technologies Inc. - công ty đứng sau Character.AI - với cáo buộc cho phép chatbot thực hiện hành vi tương đương hành nghề y mà không có giấy phép.

Theo đơn kiện, một điều tra viên của cơ quan cấp phép hành nghề của bang đã tạo tài khoản trên nền tảng này, tìm kiếm từ khóa "tâm thần học" và phát hiện nhiều nhân vật AI, trong đó có một chatbot tự xưng là "bác sỹ tâm thần." Nhân vật này còn giới thiệu rằng mình có thể đánh giá tình trạng người dùng như một bác sỹ được cấp phép tại Pennsylvania.

Trong khi đó, trên thực tế, các hệ thống AI này không được cấp phép hành nghề, không chịu sự giám sát y khoa và cũng không có trách nhiệm pháp lý nếu xảy ra sai sót.

Điều này khiến ranh giới giữa giải trí và tư vấn chuyên môn bị xóa nhòa.

Chính quyền bang Pennsylvania cho rằng hành vi này có thể được xem là "thực hành y khoa trái phép", bởi chatbot đang thực hiện các chức năng tương tự bác sĩ mà không đáp ứng các tiêu chuẩn chuyên môn bắt buộc.

Một chatbot tự xưng là "bác sỹ tâm thần" đưa ra đánh giá tình trạng cho người dùng (Ảnh minh hoạ)

Chính quyền cảnh báo về nguy cơ hiểu lầm

Thống đốc Josh Shapiro nhấn mạnh rằng người dân cần được biết rõ họ đang tương tác với con người hay máy móc, đặc biệt trong lĩnh vực nhạy cảm như sức khỏe.

Ông cảnh báo rằng nếu AI khiến người dùng tin rằng họ đang được tư vấn bởi một bác sĩ có giấy phép, thì hậu quả có thể rất nghiêm trọng, nhất là khi người dùng dựa vào những lời khuyên đó để đưa ra quyết định liên quan đến điều trị hoặc sức khỏe tâm thần.

Đây không phải lần đầu Character Technologies Inc. vướng vào rắc rối pháp lý. Trước đó, công ty này từng đối mặt với nhiều vụ kiện liên quan đến an toàn người dùng, đặc biệt là trẻ vị thành niên.

Một vụ việc gây chú ý là thỏa thuận dàn xếp với Google liên quan đến vụ tự tử của một thiếu niên tại bang Florida, khi chatbot bị cho là có tác động tiêu cực đến tâm lý nạn nhân. Sau đó, nền tảng này đã áp dụng một số biện pháp hạn chế, bao gồm việc siết quyền truy cập đối với người dùng dưới 18 tuổi.

Hiện phía Character Technologies Inc. chưa đưa ra phản hồi chính thức về vụ kiện. Tuy nhiên, nhiều chuyên gia nhận định đây có thể là một vụ việc mang tính bước ngoặt, buộc các công ty AI phải xem xét lại cách thiết kế sản phẩm - đặc biệt là việc giới hạn khả năng "nhập vai chuyên gia" của chatbot.

Thuý Hằng (theo TXXVN)