Thời gian qua, những video là sản phẩm của trí tuệ nhân tạo (AI) ̣ xuất hiện tràn lan trên các nền tảng mạng xã hội. Không dừng lại ở nội dung giải trí đơn thuần, nhiều video dựa trên kịch bản giật gân, câu chuyện không có thật để hút tương tác, gây nhiễu loạn thông tin. Một YouTuber mảng công nghệ khẳng định AI có thể giúp con người tạo ra hàng trăm video mỗi ngày, chỉ với thao tác nhập ý tưởng. Sau một cú click chuột, AI tự động viết kịch bản, lồng tiếng và tìm nguyên liệu là các nguồn video miễn phí rồi cắt ghép lại thành một sản phẩm hoàn chỉnh.
Kỹ thuật tổng hợp mặt người với sự trợ giúp của phần mềm AI (được biết đến với tên gọi deepfake) cũng gây nhiều mối nguy. Nhờ khả năng tạo ra hình ảnh, video, bản ghi âm có tính chân thực và thuyết phục cao, kẻ xấu thường lợi dụng công nghệ này để đánh cắp danh tính. Báo cáo từ McAfee cho thấy trong một số trường hợp, kẻ xấu chỉ cần 3 giây âm thanh của nạn nhân để sao chép giọng nói.
