Trung tâm Chống thù ghét kỹ thuật số (CCDH) của Mỹ ngày 22/1 công bố nghiên cứu cho thấy Grok tạo khoảng ba triệu ảnh khiêu dâm từ ngày 29/12/2025 đến 8/1/2026.
Ước tính được đưa ra sau khi Grok gây ra sự phẫn nộ trên toàn cầu vì cho phép người dùng tải lên ảnh của người thật, sử dụng AI để "lột bỏ quần áo kỹ thuật số", đặt người trong ảnh vào tư thế khêu gợi và đăng kết quả lên mạng xã hội X. Theo phân tích của công ty thông tin kỹ thuật số Peryton Intelligence (Anh), hoạt động này lan rộng dịp năm mới, đạt đỉnh điểm ngày 2/1 với 199.612 yêu cầu chỉnh ảnh.
Giao diện ứng dụng Grok. Ảnh: PA Wire
CCDH ước tính trong 11 ngày, Grok tạo khoảng 23.000 ảnh nhạy cảm về trẻ em, trung bình cứ 41 giây lại có một ảnh mới. Trong số đó có ảnh selfie trước khi đến trường của một nữ sinh, bị Grok biến thành ảnh mặc bikini.
Nghiên cứu của tổ chức này cho thấy tác động của tính năng tạo ảnh có thể rộng hơn so với dự đoán trước đó. Những người nổi tiếng xuất hiện trong loạt ảnh mà CCDH phân tích gồm Selena Gomez, Taylor Swift, Billie Eilish, Ariana Grande, Ice Spice, Nicki Minaj, Christina Hendricks, Millie Bobby Brown, Phó thủ tướng Thụy Điển Ebba Busch và cựu phó tổng thống Mỹ Kamala Harris.
"Những gì chúng tôi phát hiện rất rõ ràng và đáng lo ngại: ở giai đoạn đó, Grok đã trở thành cỗ máy sản xuất nội dung nhạy cảm với quy mô công nghiệp. Lột bỏ quần áo phụ nữ mà không có sự cho phép là hành vi lạm dụng tình dục", Imran Ahmed, Giám đốc điều hành CCDH, nhận định.
Ngày 9/1, xAI cho biết giới hạn chỉ người dùng trả phí mới có thể sử dụng tính năng chỉnh sửa ảnh người thật. Đến ngày 14/1, công ty thông báo vô hiệu hóa tính năng, áp dụng cho mọi người dùng, kể cả trả phí. xAI cũng cam kết biến X thành nền tảng an toàn và không khoan nhượng với mọi hình thức lạm dụng tình dục trẻ em, khỏa thân không có sự đồng thuận và nội dung tình dục không mong muốn.
Tuần trước, Philippines trở thành quốc gia thứ ba cấm Grok, sau các nước láng giềng Malaysia và Indonesia ở khu vực Đông Nam Á, trong khi Anh và Pháp cho biết sẽ tiếp tục gây sức ép với xAI. Tuần này, Malaysia và Philippines dỡ bỏ lệnh cấm do Grok đã thực hiện các biện pháp an toàn bổ sung.
(Theo Guardian, AFP)
