Bốn người bị bắt giữ vì dùng AI tạo ảnh khiêu dâm để kiếm lợi

Theo hãng tin NHK, cảnh sát Tokyo đã bắt giữ bốn nghi phạm với cáo buộc bán đấu giá trực tuyến các hình ảnh khiêu dâm được tạo ra bởi những công cụ trí tuệ nhân tạo (AI) nhằm thu lợi bất chính.

Tomohiro Mizutani, 44 tuổi, nhân viên bán lẻ sống tại tỉnh Aichi, một trong bốn nghi phạm, bị cáo buộc thu về số tiền 10 triệu yên (1,8 tỷ đồng) từ việc kinh doanh những bức ảnh khiêu dâm này trong một năm qua.

Trong số bốn nghi phạm, tuổi từ 20 đến 50, Mizutani và hai người khác đã thừa nhận các cáo buộc. Những người này cho rằng họ có thể sử dụng AI để tạo ra những bức ảnh khiêu dâm một cách dễ dàng mà không cần tốn tiền thuê người mẫu.

Người còn lại trong số các nghi phạm đã phủ nhận các cáo buộc nhằm về phía mình.

Theo điều tra của cảnh sát Tokyo, các nghi phạm đã sử dụng phần mềm trí tuệ nhân tạo miễn phí và có sẵn trên Internet để tạo ra các hình ảnh khiêu dâm của các cô gái xinh đẹp. Họ còn sử dụng những công cụ AI để ghép gương mặt những cô gái nổi tiếng vào hình ảnh khiêu dâm và bán lại cho người hâm mộ.

Những bức ảnh được bán ra dưới dạng đấu giá trực tuyến. Các nghi phạm đã thu về số tiền hàng ngàn yên cho mỗi bức ảnh được bán ra.

Vụ việc chỉ được phát giác khi một nạn nhân bị ghép mặt vào ảnh khiêu dâm thông báo với cảnh sát.

Đây là lần đầu tiên có một vụ án liên quan đến trí tuệ nhân tạo tại Nhật Bản.

Vụ án này một lần nữa làm dấy lên những lo ngại về việc lợi dụng công cụ AI để tạo ra những hình ảnh, video khiêu dâm giả mạo để tống tiền hoặc nhằm làm ảnh hưởng danh tiếng.

Vào năm ngoái, nữ ca sĩ người Mỹ Taylor Swift đã trở thành nạn nhân của AI khi những hình ảnh khiêu dâm giả mạo của cô được lan truyền nhanh chóng trên các nền tảng mạng xã hội.

Nhiều quốc gia đang tăng cường những biện pháp để trấn áp và ngăn chặn những hình ảnh, video khiêu dâm được tạo ra bởi AI.

Ngay tại Việt Nam, không ít người đã trở thành nạn nhân khi gương mặt của họ bị ghép vào những hình ảnh, video khiêu dâm giả mạo được tạo ra bởi AI, sau đó kẻ xấu đã sử dụng những nội dung này để tống tiền.