Những đoạn video do AI tạo ra mô phỏng người đã khuất như Malcolm X, Whitney Houston, Kobe Bryant đang khiến nhiều gia đình người nổi tiếng rơi vào trạng thái khủng hoảng. Ví dụ như con gái của nhà hoạt động dân quyền Malcolm X, Ilyasah Shabazz, đã bày tỏ sự đau lòng khi thấy hình ảnh cha cô bị lợi dụng một cách vô cảm.
 |
| Sora 2 tạo video từ hình ảnh những người quá cố mà không có sự cho phép. |
“Thật thiếu tôn trọng và đau lòng khi thấy hình ảnh của cha tôi bị lợi dụng một cách vô cảm như vậy. Tôi không hiểu vì sao những người phát triển công nghệ này không hành xử với cùng lương tâm và sự quan tâm mà họ muốn dành cho chính gia đình mình", Shabazz nói với Washington Post.
Sora 2 là công cụ chuyển đổi văn bản thành video mới được OpenAI ra mắt, nhanh chóng trở thành hiện tượng toàn cầu bởi khả năng tạo ra video với độ chân thực ấn tượng. Ứng dụng này nhanh chóng dẫn đầu bảng xếp hạng tải xuống nhưng đồng thời cũng khiến hàng loạt video giả mạo người nổi tiếng lan truyền rộng rãi trên mạng xã hội.
Những hình ảnh “hồi sinh” các biểu tượng như Michael Jackson, Elvis Presley hay Amy Winehouse lan truyền với tốc độ nhanh, làm nhiều người không thể phân biệt được thật giả. Một số video mang tính giải trí như cảnh người dẫn chương trình Fred Rogers hát rap cùng Tupac Shakur, nhưng phần lớn nội dung lại vượt qua giới hạn chấp nhận được.
Trong đó, xuất hiện những video gây phản cảm nghiêm trọng như tái hiện Whitney Houston trong trạng thái say xỉn qua camera cảnh sát giả mạo, Kobe Bryant bay trên chiếc trực thăng trong vụ tai nạn khiến anh và con gái thiệt mạng, hay cựu tổng thống John F. Kennedy đùa cợt về vụ ám sát một chính trị gia đương đại. Các nội dung này đã làm dấy lên làn sóng phẫn nộ trong cộng đồng.
Theo chính sách của OpenAI, công cụ chỉ được phép mô phỏng người thật khi có sự đồng ý của họ. Tuy nhiên, trong đợt ra mắt mới nhất, công ty đã miễn trừ quy định này đối với các “nhân vật lịch sử,” điều này đã khiến nhiều gia đình có người thân đã khuất vô cùng bức xúc.
Zelda Williams, con gái diễn viên quá cố Robin Williams, chia sẻ trên Instagram rằng cô nhiều lần nhận được các video AI về cha mình và kêu gọi mọi người “hãy dừng lại.” Cô cho rằng việc xem di sản những người thực bị biến thành trò hề nhảm nhí, điều khiển bởi các nền tảng như TikTok, là điều hết sức điên rồ.
Nhiều chuyên gia nhận định hiện tượng này đánh dấu bước ngoặt của công nghệ AI, nơi ranh giới giữa sáng tạo và xúc phạm trở nên rất mong manh. Nhà nghiên cứu Henry Ajder cho rằng việc sử dụng hình ảnh người nổi tiếng để tạo nội dung thu hút lượt xem là điều phổ biến, nhưng với người đã khuất, nó đặt ra câu hỏi sâu sắc về quyền kiểm soát ký ức và danh tính.
Trước sự phản ứng dữ dội, OpenAI đã công bố sẽ cho phép đại diện của các nhân vật công chúng đã qua đời yêu cầu chặn hình ảnh của họ không xuất hiện trên các video do Sora tạo ra. Phát ngôn viên công ty khẳng định quyền kiểm soát hình ảnh của người nổi tiếng và gia đình họ cần được tôn trọng.
 |
| Quy định của OpenAI về việc sử dụng Sora 2 còn nhiều kẻ hở. |
Ngoài các nghệ sĩ, nhân vật lịch sử cũng là đối tượng bị ảnh hưởng bởi công nghệ này. Một video do Sora tạo ra cho thấy Winston Churchill tham gia quảng bá hãng hàng không JetBlue hoặc đề cập tới những trò đùa tục tĩu trên mạng, gây tranh cãi trong dư luận.
Hiện nay, khi công nghệ AI phát triển, câu hỏi về quyền cá nhân, đạo đức và trách nhiệm trong việc sử dụng hình ảnh để tạo nội dung ngày càng được đặt ra. Cuốn sách “Thời đại AI - Và tương lai loài người” đã trình bày chi tiết cách mà AI đang thay đổi quan hệ của chúng ta với tri thức, chính trị và xã hội, đồng thời cung cấp những công cụ giúp độc giả bắt đầu tìm hiểu và giải quyết những thách thức từ AI trong tương lai gần.
(Theo Washington Post)
Bình luận