Diễn đàn Reddit từ lâu đã lưu trữ nội dung khiêu dâm, miễn là không có sự phản đối của người trong ảnh và video. Còn giờ đây, nhiều công cụ AI đang tự tạo ra hàng loạt hình ảnh nhạy cảm và cho phép hơn 57 triệu người dùng tiếp cận. Các hình ảnh đều là giả, nhưng thực tế hệ thống AI được huấn luyện bằng hàng triệu bức ảnh người thật, phần lớn không được sự đồng ý của họ.
Một nạn nhân từng bị ép quan hệ tình dục trước máy quay cho rằng sử dụng ảnh của cô để huấn luyện AI là hành động vi phạm quyền riêng tư. Cô cho biết nhiều video của mình đã bị tải lên Reddit và nhiều website khác mà không xin phép.
'Tôi hoàn toàn không có khả năng kiểm soát hay ngăn cản họ chia sẻ và sử dụng các video đó để huấn luyện AI, cũng như tạo ra hình ảnh mới", người này nói.
Năm 2020, Kate Issacs, nhà hoạt động người Anh, cũng sợ hãi khi thấy video với nội dung giống như cô đang quan hệ tình dục lan truyền trên Twitter. "Cơn hoảng loạn như cuốn trôi tôi đi. Tôi không thể suy nghĩ rõ ràng, chỉ cảm thấy video này sẽ bị phát tán khắp nơi", cô nói với Metro về cảm giác khi biết mình trở thành nạn nhân của deepfake.
Nạn nhân kể trên chỉ là hai trong số hàng nghìn phụ nữ vô tình bị cuốn vào làn sóng AI khiêu dâm khi hình ảnh của họ bị sử dụng để huấn luyện AI hoặc bị ghép vào video deepfake. "Vấn đề cơ bản với nội dung khiêu dâm do AI tạo sinh xây dựng là chúng phải dựa trên những vụ đánh cắp hình ảnh của người dùng Internet, trong đó chủ yếu là phụ nữ", Noelle Martin, nhà nghiên cứu pháp lý tại Đại học Tây Australia và từng là nạn nhân của deepfake, cho hay.
Nhiều người trở thành nạn nhân của nội dung khiêu dâm do AI tạo ra. Ảnh: Forbes
Ít nhất 14 diễn đàn con chuyên về khiêu dâm AI đã xuất hiện trên Reddit, trong đó 10 trang được lập trong hai tháng qua. Mỗi trang có hàng nghìn thành viên, cao nhất là 54.000-60.000 người tham gia thường xuyên. Nhiều tài khoản liên tục đề xuất mua và bán deepfake dựa trên người thật.
Dữ liệu trên Reddit từng được dùng để huấn luyện nhiều mô hình ngôn ngữ lớn. CEO Steve Huffman cho biết ông muốn Google, Microsoft và OpenAI phải trả tiền để sử dụng các cuộc trò chuyện trên nền tảng này. "Dữ liệu Reddit rất đáng giá. Chúng tôi không nhất thiết phải cung cấp chúng miễn phí cho các công ty lớn nhất thế giới", ông nói.
Nền tảng gần đây tuyên bố khóa API dữ liệu, vốn được duy trì trạng thái mở từ năm 2008, và xây dựng kế hoạch tính phí truy cập với bên thứ ba. Họ cho biết sẽ không hiển thị quảng cáo hay bật kiếm tiền với nội dung người lớn, nhưng giới chuyên gia đánh giá việc cho phép đăng nội dung khiêu dâm trên nền tảng giúp thu hút thêm người dùng và tăng tương tác. "Họ không quảng cáo trong những trang con đó, nhưng vẫn hưởng lợi nhờ số người truy cập rất lớn", Sophie Maddocks, nhà nghiên cứu về bạo lực tình dục trên mạng, cảnh báo.
Công cụ tạo những cô gái AI
Reddit hiện là nền tảng mạng xã hội lớn nhất cho phép đăng các nội dung khiêu dâm tạo bởi AI, nhưng hàng loạt trang web cũng đang xuất hiện nhằm ăn theo xu thế này.
Phần lớn website đăng nội dung khiêu dâm AI đều tính phí sử dụng, được kết nối với tài khoản ẩn danh trên Patreon và Discord. Ví dụ, PornJ... ra mắt tháng 3 và tính phí 15 USD mỗi tháng để người tham gia "tạo các cô gái AI với vẻ ngoài như người thật". PornP... cũng có hai triệu người dùng hàng tháng, trong đó có 12.000 người trả phí 15 USD mỗi tháng để sử dụng công cụ tạo nội dung khiêu dâm, được phát triển trên mô hình AI của Stable Diffusion với khoảng 6 tỷ hình ảnh lấy từ Internet.
Tori Rousay, quản lý Trung tâm Quốc gia về Lạm dụng Tình dục (NCOSE) tại Mỹ, nói phần lớn hệ thống tạo hình khiêu dâm đều dùng mô hình nguồn mở từ GitHub hoặc Hugging Faces để lấy dữ liệu từ website người lớn, cũng như tài khoản mạng xã hội để xây dựng cơ sở dữ liệu hình ảnh.
Các ngôi sao và chính trị gia nữ dễ trở thành nạn nhân của AI khiêu dâm nhất vì hình ảnh của họ xuất hiện rộng rãi trên Internet. Đây cũng là mục tiêu hàng đầu của các loại deepfake. Phát ngôn viên Reddit cho biết họ sử dụng nhiều công cụ tự động kết hợp với nhóm kiểm duyệt để phát hiện, xóa bỏ những nội dung này.
"Reddit từng cho thấy ranh giới mập mờ giữa nội dung gây tranh cãi về mặt đạo đức với những thứ bị cấm hoàn toàn trên website này. Các hình ảnh khiêu dâm do AI tạo ra đang nằm trong vùng xám như vậy của Reddit", Rousay nói.
(theo Forbes)
