Thời của gian lận deepfake thời gian thực

"Anh thấy em đẹp và lộng lẫy hơn nhiều so với bức ảnh gửi cho anh", người đàn ông da trắng với bộ râu muối tiêu nói chuyện qua Skype. Người phụ nữ cười mỉm cười. "Anh nghĩ nên có ai đó đến để bảo vệ em với sắc đẹp này", người đàn ông tiếp tục.

Người đàn ông không tồn tại, đó là deepfake thời gian thực do một kẻ lừa đảo tạo ra nhằm dụ dỗ con mồi để lấy tiền. Deepfake là thuật ngữ kết hợp giữa "deep learning" (học sâu) và "fake" (giả mạo) để ghép khuôn mặt, giọng nói... nhằm tạo cảm giác như thật.

Trước đây, ảnh và video deepfake thường được tạo ra và chỉnh sửa hoàn thiện từ trước. Tuy nhiên, theo 404Media, việc lừa đảo đang tiến thêm một bước mới nhờ sự tiến bộ của AI. Kẻ xấu có thể ngồi một chỗ, sử dụng laptop và phần mềm biến đổi diện mạo của mình thành ông già lớn tuổi, thanh niên trẻ trung, phụ nữ sành điệu... với giọng nói khác nhau ngay trong một cuộc gọi video. Tất cả tạo nên kịch bản như thể nhiều người đang tham gia, nhưng thực chất chỉ có một người ngồi sau màn hình. Kẻ lừa đảo thậm chí có thể nhanh chóng tạo ảnh khớp với thông tin trên giấy phép lái xe, hồ sơ cá nhân để tăng tính thuyết phục.

"Bây giờ, mọi thứ dễ dàng hơn nhiều", người có biệt danh Format Boy trong nhóm Yahoo Boys nói với 404Media qua Telegram. Yahoo Boys là một nhóm tội phạm ở Nigeria, thường sử dụng email Yahoo để lừa đảo. "Có những thứ trước đây không thể thực hiện nhưng giờ chỉ cần vài thao tác", người này cho biết.

Thay vì chỉnh sửa và lên sẵn lời thoại như trước, công cụ deepfake thế hệ mới cho phép kẻ lừa đảo giao tiếp với nạn nhân và liên tục điều chỉnh kịch bản theo thời gian thực, ứng biến nhanh chóng trong cuộc gọi video hoặc livestream mà không bị phát hiện.

Format Boy mô tả, kẻ tấn công sẽ sử dụng điện thoại, máy tính xách tay, một phần mềm quay màn hình, công cụ phát trực tiếp OBS thiết lập camera ảo và ứng dụng hoán đổi khuôn mặt như Amigo AI và Magicam.

Đại diện Amigo AI không bình luận, trong khi Magicam cho biết "không ghi nhận trường hợp nào liên quan đến việc sử dụng ứng dụng cho hoạt động gian lận".

Sau khi thiết lập, kẻ lừa đảo sẽ gọi video qua các ứng dụng như WhatsApp, Skype, Zoom, Google Hangouts hay Telegram. Để tăng tính thuyết phục và tránh bị phát hiện, chúng sử dụng công cụ biến đổi giọng nói. Tùy thuộc mục đích, chúng có thể giả nhiều giọng của nhiều người khác nhau trong cùng một cuộc gọi.

Các chuyên gia an ninh mạng cho biết kẻ lừa đảo thậm chí sử dụng deepfake thời gian thực để nhắm vào các hệ thống vốn được phát triển để kiểm tra người xuất hiện trong camera có phải người thật hay không.

"Một số đối tác của chúng tôi đã bị lừa bởi thông tin giả mạo đó", David Maimon, người đứng đầu bộ phận kiểm tra gian lận tại công ty an ninh mạng SentilLink và giáo sư Đại học bang Georgia, nói.

Maimon cho biết kẻ gian có thể tạo ảnh khuôn mặt bằng ChatGPT, ghép chồng ảnh đó lên giấy phép lái xe của một người bị đánh cắp danh tính, sau đó xin cấp lại tài khoản ngân hàng trực tuyến và thành công. Một trường hợp khác cho thấy kẻ lừa đảo nộp tờ khai thuế của nạn nhân nhưng gắn số tài khoản của mình để nhận hoàn thuế.

"Khi phía ngân hàng hoặc cơ quan chuyên trách yêu cầu xác thực thông qua cuộc gọi video, deepfake sẽ làm giả khuôn mặt, rất khó phát hiện", Maimon cho biết.

Theo báo cáo của công ty nhận dạng kỹ thuật số Signicat (Na Uy) hồi tháng 2, các vụ gian lận liên quan đến deepfake tăng 2.137% ba năm qua. Trước 2022, mức tăng chỉ 0,01%. Giới bảo mật xếp deepfake là một trong ba phương pháp gian lận phổ biến nhất giai đoạn 2022-2024.

Lừa đảo bằng deepfake được đánh giá là mặt trái đáng lo ngại của AI, thúc đẩy nhà quản lý toàn cầu đưa ra luật nhằm buộc doanh nghiệp, cá nhân sử dụng AI có trách nhiệm. Cơ quan cảnh sát châu Âu Europol cảnh báo AI đang góp phần đẩy nhanh tốc độ phạm tội. Giới chức Mỹ cũng cho rằng cách tốt nhất tránh bị lừa là "không bao giờ tin những người chỉ chấp nhận thanh toán bằng tiền số, cũng như hứa hẹn về lợi nhuận khổng lồ từ những khoản đầu tư nhỏ lẻ".

tổng hợp