 |
| Ảnh minh họa. |
Một nghiên cứu mới từ Đại học Texas tại Austin, Texas A&M và Đại học Purdue vừa cảnh báo về hiện tượng “AI brain rot” - tức tình trạng trí tuệ nhân tạo (AI) bị “chai não” khi liên tục bị “nuôi” bằng các dữ liệu rác trên mạng xã hội, tương tự như não bộ con người bị bào mòn khi xem tin tiêu cực không ngừng.
Theo nghiên cứu do tiến sĩ Junyuan Hong dẫn đầu, các mô hình ngôn ngữ lớn như Llama (Meta) và Qwen (Alibaba) khi được huấn luyện bởi các nội dung mạng xã hội gây nghiện với từ ngữ phổ biến kiểu “wow”, “look” hay “today only” sẽ dần mất đi khả năng tư duy logic, trí nhớ ngắn hạn suy giảm và đặc biệt trở nên lệch chuẩn đạo đức. Hiện tượng này tương tự đến mức giống với “doomscrolling” - hành vi lướt mạng không ngừng để xem tin xấu ở người làm não bộ kiệt quệ.
Điều đáng lo ngại hơn là trí tuệ nhân tạo mắc phải “mục não” khó hồi phục hoàn toàn, dù mô hình được tái huấn luyện bằng nguồn dữ liệu chất lượng. Khi AI ngày càng tạo ra nhiều nội dung mạng xã hội, những sản phẩm này lại trở thành nguyên liệu cho thế hệ AI kế tiếp, tạo thành một vòng luẩn quẩn làm suy giảm nghiêm trọng chất lượng dữ liệu huấn luyện.
Một thực tế được ghi nhận là các mô hình AI bị ảnh hưởng bởi “brain rot” thể hiện những dấu hiệu lệch lạc về mặt đạo đức, thậm chí biểu hiện tính cách lệch chuẩn tương tự các đặc tính tâm lý xấu ở con người như tăng mức độ thái nhân cách. Hiện tượng này đã được Oxford Dictionary chọn làm từ khóa của năm 2024 phản ánh sự ám ảnh trong đời sống số hiện đại.
Tiến sĩ Hong nhấn mạnh rằng ngành công nghiệp AI đang đối diện với nguy cơ lớn khi quá tập trung mở rộng khối lượng dữ liệu từ mạng xã hội mà bỏ qua yếu tố chất lượng. Ông cảnh báo: “Dữ liệu lan truyền tuy giúp mở rộng quy mô, nhưng cũng đồng thời âm thầm phá hủy khả năng tư duy, trí nhớ và chuẩn mực đạo đức của các mô hình AI. Chu kỳ ô nhiễm dữ liệu này có thể gây ra tổn thương lâu dài và không thể phục hồi hoàn toàn”.
Nghiên cứu đặt ra lời cảnh tỉnh quan trọng cho cộng đồng phát triển AI về việc cần siết chặt việc kiểm soát chất lượng dữ liệu, tránh để các “bộ não nhân tạo” ngày càng bị bội thực bởi những nội dung vô nghĩa, giật gân và thiếu chiều sâu trên mạng xã hội.
Bình luận