Jennifer, sống tại Bắc Carolina, cho biết cô thường xuyên nhận được tin nhắn với nội dung thiếu nghiêm túc từ người lạ trên mạng. Những người này đã xem video khiêu dâm với khuôn mặt của cô được ghép lên người phụ nữ khác thông qua công nghệ deepfake. Video này được gắn tên thật, địa chỉ nhà riêng và tài khoản Instagram của Jennifer, khiến cô gặp phiền phức suốt nhiều tháng qua mà không làm cách nào có thể ngăn chặn.
"Những người đàn ông giống nhau về cách nhắn tin. Đầu tiên, họ khen tôi xinh đẹp, nhưng sau đó bắt đầu những lời khiếm nhã, nói tôi gửi ảnh hoặc video khỏa thân cho họ xem. Khi tôi từ chối, họ không buông tha, còn yêu cầu gửi những bức ảnh bẩn thỉu sang các nền tảng khác như OnlyFans hay Snapchat", Jennifer kể.
Không chỉ ở Instagram, Jennifer tìm thấy nhiều chủ đề thảo luận về video có khuôn mặt mình trên Internet. "Tôi thấy tuyệt vọng, không thể làm gì để ngăn chặn sự quấy rối dai dẳng", cô chia sẻ.
Jennifer cho biết đã báo cáo sự việc cho FBI nhưng thừa nhận khó giải quyết. "Bạn sẽ tìm những kẻ ẩn danh trên mạng thế nào nếu không có manh mối", cô tự hỏi. "Tất cả những gì tôi có thể làm là cười và cố gắng sống tiếp cuộc sống của mình".
Jennifer chỉ là một trong rất nhiều nạn nhân của deepfake - công nghệ sử dụng AI để phân tích cử chỉ, nét mặt và giọng nói của một người, từ đó tái tạo, chỉnh sửa để cho ra đời hình ảnh hoặc video như thật. Xuất hiện lần đầu năm 2017, deepfake lập tức gây chú ý với hàng loạt video khiêu dâm liên quan đến người nổi tiếng, như các diễn viên Gal Gadot, Emma Watson, Scarlett Johansson hay Daisy Ridley đã trở thành nạn nhân.
Diễn viên Gal Gadot bị ghép mặt vào một bộ phim khiêu dâm.
Một số ứng dụng dường như vô hại với chức năng chính là hoán đổi khuôn mặt, nhưng nhiều công cụ deepfake tiên tiến, khiến người xem khó phân biệt thật giả, đang nở rộ và được dùng cho mục đích xấu.
Theo Sensity AI, công ty nghiên cứu deepfake ra đời từ 2018, có hơn 90% nội dung deepfake hiện nay liên quan đến khiêu dâm, chủ yếu là ảnh, video nhằm vào phụ nữ. Trong khi đó, FBI thống kê có hơn 18.000 nạn nhân deepfake được ghi nhận trong năm 2021, gây thiệt hại cho họ khoảng 14 triệu USD. Gần một nửa số nạn nhân trong độ tuổi từ 20 tới 39.
Sự phát triển vượt bậc của lĩnh vực kỹ thuật số khiến việc kiểm soát nội dung deepfake ngày càng phức tạp và khó khăn. Chẳng hạn, một bot AI trên Telegram được tung ra vào năm 2019 đã tạo ra hàng nghìn ảnh deepfake phụ nữ và trẻ em, sau đó gửi tự động đến hàng loạt tài khoản. Theo Wired, nội dung giả do bot tạo ra đã được chia sẻ hơn 100.000 lần trong các kênh trò chuyện Telegram, nhưng ứng dụng này không có nhiều biện pháp ngăn chặn.
Instagram, TikTok, YouTube, Twitter và Facebook có chính sách nhằm "ngăn chặn các thông tin gây hiểu lầm", nhưng hầu hết không thể kiểm soát do khối lượng nội dung deepfake quá lớn. Trong khi đó, pháp luật cũng chưa có chế tài cụ thể cho các nội dung khiêu dâm giả mạo.
Theo các chuyên gia, luật chống deepfake là điều cần thiết phải có trong bối cảnh công nghệ bị lạm dụng ngày càng nhiều. "Deepfake là chiếc hộp Pandora. Thật rắc rối khi tốc độ phản ứng của luật pháp quá chậm", Rebecca Delfino, giáo sư tại Trường Luật Loyola, nhận xét. Trong thần thoại Hy Lạp, Pandora là chiếc hộp chứa đựng những tâm hồn xấu xa của con người.
Không chỉ trong đời sống, công nghệ deepfake cũng gây lo ngại khi bị lợi dụng cho mục đích chính trị. Năm 2018, video cựu Tổng thống Mỹ Barack Obama phát biểu nội dung sai sự thật sau đó bị phát hiện là giả. Hồi tháng 3, video quay cảnh Tổng thống Ukraine Volodymyr Zelensky đầu hàng lan truyền trên mạng và mất hơn 10 tiếng mới xác định được là deepfake.
"Phát hiện deepfake là trò chơi mèo vờn chuột, cũng giống như việc săn virus. Đó là cuộc đua mà chúng ta đang thua", Wael Abd-Almageed, người sáng lập Phòng thí nghiệm phân tích đa phương tiện và trí tuệ thị giác của Đại học Nam California (VIMAL), nhận xét.
Còn với các nạn nhân như Jennifer, họ được khuyên "cách tốt nhất để chống trả là lùi lại", tức không nên làm gì cả. "Cảnh sát nói với tôi rằng không nên bận tâm đến những kẻ quấy rối", cô nói.
Jennifer thường cầu nguyện vào buổi sáng. Nhưng buổi tối, bà vẫn kích hoạt hệ thống an ninh mới trang bị cho ngôi nhà, kiểm tra cẩn thận mọi thứ xung quanh. "Tôi đã từ bỏ chuyện hẹn hò", cô nói. "Tôi vẫn cảm thấy ổn, dù không phải hoàn toàn ổn".
(theo Morning Brew)
