Ảnh minh họa.

Hiểu theo cách nào đó, nội dung rác AI là một hiện tượng tiến hóa từ tin nhắn rác truyền thống, đang ngày càng tràn ngập và hoành hành trên các nền tảng mạng xã hội, trang thương mại điện tử, dịch vụ nghe nhạc và đọc sách trực tuyến. Nội dung kém chất lượng, dễ dàng được tạo ra bởi các công cụ AI sẵn có, khiến người dùng khó mà phân biệt được đâu là thật, đâu là giả.

Theo Snopes, từ năm 2023, nhiều vụ việc đã được bóc trần, trong đó có các video giả mạo người nổi tiếng làm từ thiện trên YouTube, Facebook và các đoạn tin giả về động vật. Đặc biệt, Snopes đã kiểm chứng hàng loạt tin đồn chính trị như bài phát biểu giả về Tổng thống Mỹ Donald Trump hay các nội dung chính quyền Mỹ đăng tải do AI tạo ra.

Hiện tượng bùng phát rác AI là kết quả tất yếu của quá trình “enshittification” – thuật ngữ do nhà văn Cory Doctorow đặt ra để mô tả sự biến chất của các nền tảng trực tuyến hàng đầu. Ông viết: "Ban đầu, họ ưu ái người dùng; sau đó tận dụng người dùng để phục vụ khách hàng doanh nghiệp; cuối cùng, họ khai thác doanh nghiệp để thu lợi tối đa cho riêng mình. Và rồi họ sụp đổ".

Nội dung rác AI không phục vụ người dùng mà nhắm vào các thuật toán để thao túng hệ thống mạng, bơm dữ liệu ồ ạt nhằm lan truyền rộng rộng rãi.

Năm 2024, nhiều người đã coi việc quảng bá nội dung do AI tạo thành nghề tay trái. Những “kẻ tạo rác” có thể bán sách trên Amazon, nhạc trên Spotify để hưởng bản quyền, đăng tin lên blog nhiều quảng cáo hoặc tận dụng các chương trình mạng xã hội có lượng tương tác lớn. Khoản tiền thu được từ nội dung rác AI thường nhỏ, nhiều nhất chỉ "hàng trăm USD". Tuy nhiên, ở những nước như Ấn Độ, Việt Nam hay Philippines, số tiền này lại khá đáng kể. Snopes cho biết phần lớn nội dung rác AI xuất phát từ các quốc gia này.

Sự tràn ngập rác AI khiến cả người dùng và doanh nghiệp khó phân biệt thật giả. Càng nhiều bài đăng, không gian quảng cáo càng có giá trị, giúp các nền tảng như Facebook gia tăng doanh thu từ quảng cáo. Do đó, buộc các doanh nghiệp muốn quảng cáo phải chi nhiều hơn.

Hệ quả là người dùng phải gánh chịu áp lực phân biệt thật giả nhiều thông tin, dẫn đến quá tải và mất dần niềm tin vào các nguồn tin có uy tín, thậm chí họ lựa chọn cách phớt lờ mọi thông tin.

Một cây bút của tạp chí Forbes nhận định: “Khi con người không còn tin được vào những gì mình đọc, họ sẽ ngừng cố gắng kiểm chứng.” Báo The Guardian gọi đây là biểu hiện của “sự mất định hướng sâu sắc.”

Hình ảnh được chia sẻ trên X này thực ra không phải xảy ra trong bão Helene vào tháng 9/2024 ở Mỹ - Ảnh: SNOPES

Bên cạnh đó, rác AI còn là bức tường cản trở công tác ứng phó thảm họa. Ví dụ trong cơn bão Helene xảy ra ở đông nam Mỹ tháng 9/2024, lực lượng cứu hộ bị khó khăn vì các thông tin giả mạo trên mạng xã hội khiến họ không thể xác định được khu vực cần cứu nạn kịp thời.

Những hệ quả tiêu cực của rác AI đang đặt ra thách thức lớn cho cả cộng đồng số, đòi hỏi sự vào cuộc quyết liệt của các nền tảng, doanh nghiệp và chính người dùng để bảo vệ niềm tin và đảm bảo an toàn thông tin trên môi trường mạng.