Biểu tượng Grok chatbot. Ảnh: REUTERS/TTXVN
Động thái của hai nước Đông Nam Á phản ánh mối lo ngại ngày càng gia tăng trên toàn cầu đối với các công cụ AI, vốn có khả năng tạo ra hình ảnh, âm thanh và văn bản chân thực, trong khi các biện pháp kiểm soát hiện nay chưa đủ hiệu quả để ngăn chặn hành vi lạm dụng.
Theo AP, Grok, chatbot được tích hợp và truy cập thông qua mạng xã hội X, bị chỉ trích vì tạo ra các hình ảnh đã qua chỉnh sửa, trong đó có hình ảnh phụ nữ trong trang phục gợi cảm, tư thế khiêu dâm và thậm chí liên quan đến trẻ em. Các biện pháp chặn được đưa ra sau khi cơ quan chức năng xác định Grok bị dùng để tạo ra nội dung khiêu dâm giả mạo và không có sự chấp nhận của người bị sử dụng hình ảnh.
Indonesia là nước đầu tiên hành động khi tạm thời chặn quyền truy cập Grok vào ngày 10/1, Malaysia sau đó áp dụng biện pháp tương tự vào 11/1. Bộ Truyền thông và Tin học Indonesia cho biết quyết định này nhằm bảo vệ phụ nữ, trẻ em và cộng đồng trước các nội dung khiêu dâm giả do AI tạo ra.
Ông Alexander Sabar, Tổng cục trưởng Giám sát không gian số của Indonesia, cho biết kết quả rà soát ban đầu cho thấy Grok thiếu các cơ chế bảo vệ hiệu quả để ngăn người dùng tạo và lan truyền nội dung khiêu dâm dựa trên ảnh thật của công dân Indonesia. Theo ông, việc chỉnh sửa và chia sẻ hình ảnh cá nhân không có sự đồng thuận có nguy cơ xâm phạm quyền riêng tư và quyền hình ảnh, gây tổn hại tâm lý, xã hội và uy tín cho nạn nhân.
Tại Malaysia, Ủy ban Truyền thông và Đa phương tiện nước này (MCMC) ra lệnh hạn chế tạm thời Grok sau khi ghi nhận việc lạm dụng lặp đi lặp lại chatbot để tạo ra hình ảnh khiêu dâm, dung tục và không có sự đồng thuận, bao gồm nội dung liên quan đến phụ nữ và trẻ vị thành niên. Cơ quan quản lý cho biết các thông báo gửi trong tháng này tới X Corp. và xAI yêu cầu tăng cường biện pháp bảo vệ chủ yếu chỉ nhận được phản hồi dựa vào cơ chế người dùng tự báo cáo.
“Biện pháp hạn chế được áp dụng như một bước phòng ngừa và tương xứng trong khi các quy trình pháp lý và quản lý vẫn đang được tiến hành”, MCMC nêu rõ, đồng thời khẳng định Grok sẽ tiếp tục bị chặn cho đến khi có các cơ chế bảo vệ hiệu quả hơn.
Grok được ra mắt năm 2023 và hiện được sử dụng miễn phí trên nền tảng X. Mùa hè năm ngoái, xAI bổ sung tính năng tạo hình ảnh mang tên Grok Imagine, trong đó có chế độ “spicy mode” cho phép tạo nội dung người lớn, yếu tố bị cho là đã làm gia tăng nguy cơ lạm dụng.
Việc Malaysia và Indonesia chặn Grok diễn ra trong bối cảnh chatbot này đang bị giám sát chặt chẽ tại nhiều khu vực khác như Liên minh châu Âu, Anh, Ấn Độ và Pháp. Tuần trước, xAI đã giới hạn tính năng tạo và chỉnh sửa hình ảnh chỉ dành cho người dùng trả phí sau làn sóng phản đối toàn cầu về các video deepfake mang tính khiêu dâm, song các nhà phê bình cho rằng biện pháp này vẫn chưa giải quyết triệt để vấn đề.
