Theo CBC News, trên TikTok đang xuất hiện làn sóng video deepfake về người nổi tiếng như Taylor Swift, Ice Spice, Drake. Tuy nhiên, nội dung không phải để lừa đảo hay khiêu dâm, mà để giải thích lý thuyết về toán học, vật lý và kỹ thuật, hướng tới trẻ em, học sinh, sinh viên.
Một video deepfake Taylor Swift và Kim Kardashian dạy Toán trên TikTok. Video: @onlocklearning/TikTok
Ví dụ, trong một video trên tài khoản @onlocklearning, deepfake của rapper Ice Spice giải thích các hàm logarit. Video có hơn 10 triệu lượt xem cùng hàng trăm bình luận. Trong một video khác hơn 5 triệu lượt xem, "Taylor Swift" và "Kim Kardashian" cùng nói về phép tính tích phân. Phía dưới, tác giả giải thích video do AI tạo ra và tuyên bố từ chối trách nhiệm liên quan.
"Đây không phải là âm thanh hay video thực của Drake. Tất cả hình ảnh, lời nói đều được máy tính tạo ra để giúp mọi người tìm hiểu về toán học, vật lý và kỹ thuật", một tài khoản nêu.
Các bình luận bên dưới video đa phần ủng hộ. "Tôi đã nắm bắt được kiến thức đó trong một phút, điều giáo viên của tôi có thể phải mất 1-2 tiết học", một người dùng bình luận.
Tuy nhiên, chuyên gia tâm lý học cũng tỏ ra lo ngại việc dùng deepfake về người nổi tiếng để truyền đạt thông tin. Những kiến thức trong video có thể thiếu chính xác, trong khi trẻ em "có nguy cơ tin tưởng hoàn toàn hoặc phát triển mối quan hệ với chính các nhân vật AI".
"Video có thể giúp một người tiếp thu kiến thức trong thời gian rất ngắn, nhưng câu hỏi đặt ra là họ thực sự học được bao nhiêu từ những video này", giáo sư Krista Muis của Đại học McGill ở Montreal, Canada nói với PetaPixel.
Deepfake là sự kết hợp giữa "deep learning" (học sâu) và "fake" (giả mạo), nổi lên từ 2018 và nở rộ hiện nay. Việc có thể tạo hoặc ghép khuôn mặt, giọng nói... của bất kỳ ai khiến deepfake gây lo ngại trong việc phát tán tin giả, khiêu dâm. Giới chuyên gia lo ngại deepfake trở thành vũ khí tấn công với mục đích chính trị tại các khu vực có dân trí thấp, chưa trang bị đầy đủ kiến thức về kỹ thuật số. Thông tin sai lệch có thể dẫn đến biểu tình, bạo động, gây bất ổn.
"Deepfake mang lại những cơ hội to lớn về thương mại và sáng tạo, nhưng cũng là một công nghệ có thể bị vũ khí hóa trong tương lai", Nina Schick, một chuyên gia về deepfake, nói với BBC.
