Bức thư ngỏ do nhóm vận động vì quyền trẻ em Fairplay gửi lên YouTube cùng các lãnh đạo chủ chốt gồm CEO YouTube Neal Mohan và CEO Google Sundar Pichai đầu tháng 4, được hơn 200 chuyên gia và nhóm bảo vệ quyền trẻ em ký tên. Trong số này, có 135 tổ chức về giáo dục gồm Liên đoàn Giáo viên Mỹ và Hiệp hội Tư vấn Mỹ, hay nhà nghiên cứu nổi tiếng Jonathan Haidt, tác giả cuốn sách The Anxious Generation (Thế hệ lo âu).

Theo nội dung thư, các video “AI Slop” - tức nội dung được tạo hàng loạt bằng thuật toán - bị cho là không mang lại giá trị giáo dục, thậm chí có thể ảnh hưởng tiêu cực đến nhận thức và sự phát triển của trẻ nhỏ.

Ảnh minh hoạ

Vào tháng 2, The New York Times ghi nhận rằng “AI Slop” xuất hiện dày đặc trên Youtube Kids, dù nền tảng này vốn được quảng bá là không gian an toàn và được kiểm duyệt dành cho trẻ em.

Bà Rachel Franz, Giám đốc chương trình Young Children Thrive Offline của Fairplay cho biết: “Nhiều nội dung do AI tạo ra được thiết kế để thu hút sự chú ý của trẻ nhỏ, đặc biệt là những em chưa hoàn thiện khả năng kiểm soát hành vi.” Bà cảnh báo rằng những video này “có thể làm sai lệch nhận thức, gây nhầm lẫn giữa thực tế và hư cấu, từ đó ảnh hưởng đến cách trẻ hiểu thế giới xung quanh.”

Đồng thời, bà nhấn mạnh: “Đây không chỉ là vấn đề nuôi dạy con cái, vì hệ thống của nền tảng liên tục đề xuất nội dung AI cho trẻ theo cách gần như không thể tránh khỏi.”

Nhóm vận động cũng cho rằng động cơ tài chính là yếu tố thúc đẩy sự bùng nổ của nội dung AI dành cho trẻ em, khi một số kênh có thể tạo ra doanh thu hàng triệu USD mỗi năm dù nội dung không có cốt truyện hoặc giá trị rõ ràng. Trong khi đó, tỷ lệ video thực sự chất lượng dành cho trẻ nhỏ được nhận định là rất thấp.

Trước thực trạng này, các tổ chức kêu gọi Youtube cần có biện pháp mạnh tay hơn, bao gồm việc loại bỏ hoàn toàn nội dung AI khỏi YouTube Kids, tăng cường minh bạch và trao thêm quyền kiểm soát cho phụ huynh.

Nhiều video có cảnh bạo lực, phản cảm đề xuất trên Youtube Kids (nguồn: conganthanhhoa)

Đối mặt với làn sóng này, Youtube đã bác bỏ các số liệu được nêu trong bức thư. Người phát ngôn Boor Bullwinkle khẳng định Youtube Kids vẫn duy trì “tiêu chuẩn cao”, bao gồm việc hạn chế nội dung do AI tạo ra, dán nhãn rõ ràng các video liên quan đến AI, đồng thời cung cấp cho phụ huynh tùy chọn chặn những kênh không mong muốn và tăng cường tính minh bạch.

Đại diện công ty cũng cho biết họ đang tiếp tục phát triển thêm các công cụ kiểm soát nội dung, tuy nhiên chưa đưa ra thời điểm cụ thể cho việc triển khai các biện pháp này.

Ra mắt từ năm 2015, YouTube Kids được xây dựng như một không gian an toàn cho trẻ em, nhưng trong nhiều năm qua đã không ít lần vấp phải tranh cãi liên quan đến nội dung không phù hợp lọt qua hệ thống kiểm duyệt, buộc nền tảng phải liên tục điều chỉnh chính sách.

Thuý Hằng (tổng hợp)