Ảnh minh họa

Ngày 11/1, Malaysia chính thức áp dụng biện pháp đình chỉ đối với chatbot Grok - sản phẩm trí tuệ nhân tạo do công ty xAI phát triển. Quyết định được đưa ra trong bối cảnh các lo ngại về việc công cụ này bị lợi dụng để sản xuất và phát tán các nội dung khiêu dâm, tục tĩu, gây ảnh hưởng xấu đến môi trường mạng ngày càng gia tăng.

Theo Ủy ban Truyền thông và Đa phương tiện Malaysia (MCMC), trước khi đi đến quyết định cứng rắn này, cơ quan chức năng đã gửi thông báo chính thức cho X Corp và xAI LLC vào các ngày 3 và 8/1. Nội dung yêu cầu các đơn vị chủ quản phải thiết lập hệ thống hàng rào kỹ thuật nhằm ngăn chặn mọi hành vi sử dụng sai mục đích.

Tuy nhiên, các báo cáo thực tế cho thấy Grok vẫn tiếp tục bị lợi dụng để tạo ra những hình ảnh và văn bản mang tính chất nhạy cảm, xúc phạm danh dự cá nhân. Nghiêm trọng hơn, nhiều nội dung bị cắt ghép, chỉnh sửa trái phép có liên quan trực tiếp đến phụ nữ và trẻ vị thành niên, bất chấp những cảnh báo quyết liệt từ phía cơ quan quản lý trước đó.

MCMC khẳng định, lệnh chặn này mang tính chất phòng ngừa tạm thời trong thời gian chờ đợi Chính phủ hoàn thiện khung pháp lý và các quy định quản lý đối với nền tảng trí tuệ nhân tạo. Việc hạn chế truy cập sẽ chỉ được gỡ bỏ khi xAI chứng minh được các biện pháp bảo vệ kỹ thuật đã đủ hiệu quả để ngăn chặn triệt để các nội dung độc hại hướng vào nhóm đối tượng yếu thế.

Song song với lệnh cấm, cơ quan quản lý Malaysia cũng khuyến khích người dân nâng cao tinh thần cảnh giác, chủ động báo cáo các trường hợp vi phạm nhằm chung tay xây dựng một không gian mạng an toàn và lành mạnh hơn.

Khôi Nguyên