Khi nhìn thoáng qua, nhà nghiên cứu Renée DiResta nghĩ rằng tin nhắn gửi đến mình trên LinkedIn có vẻ khá bình thường. Người gửi tên Keenan Ramsey nói rằng cả 2 người thuộc về một nhóm LinkedIn dành cho các nhà khởi nghiệp, sau đó bắt đầu chào hàng một sản phẩm phần mềm.
Bà DiResta không quan tâm đến phần mềm được chào bán và có thể đã bỏ qua tin nhắn này, nhưng bà bắt đầu thấy bức ảnh đại diện của Ramsey có gì đó là lạ. Ramsey chỉ đeo khuyên tai bên trái, có vài sợi tóc lúc thì hiện lên lúc thì biến mất, và đôi mắt thì nằm ở vị trí ngay giữa chiều dài bức ảnh.
Vốn là người có nhiều kinh nghiệm nghiên cứu các chiến dịch lan truyền thông tin sai lệch và thuyết âm mưu trên mạng xã hội, bà DiResta lập tức nhận ra đây là một bức ảnh giả. Những điểm kỳ lạ nêu trên là dấu hiệu cho thấy bức ảnh được trí tuệ nhân tạo (AI) tạo ra thay vì là ảnh của một con người thật.
Tin nhắn ngẫu nhiên này đã khởi đầu cuộc điều tra của Renée DiResta và đồng nghiệp Josh Goldstein tại Trung tâm Quan sát Internet Stanford. Cuộc điều tra này đã phát hiện hơn 1000 tài khoản LinkedIn sử dụng hình ảnh người được AI tạo ra.
Một số điểm bất thường trên ảnh đại diện của tài khoản LinkedIn Keenan Ramsey mà nhà nghiên cứu Renée DiResta phát hiện. Nguồn: NPR.
Vấn nạn tài khoản “người giả” sử dụng ảnh do AI tạo đã gây nhiễu loạn mạng xã hội tại Mỹ và một số quốc gia, đặc biệt trong những vấn đề chính trị. Tuy nhiên, mục đích của những tài khoản giả trên LinkedIn lại bình thường hơn nhiều: chúng đóng vai trò đội ngũ tiếp thị và bán hàng tiện lợi cho các công ty muốn tiết kiệm chi phí.
Đại dịch Covid-19 đã khiến các nhân viên bán hàng truyền thống khó gặp khách hàng hơn, do đó càng làm nhu cầu tiếp thị online tăng cao. Bằng cách sử dụng các tài khoản giả, doanh nghiệp có thể mở rộng khả năng tiếp thị và chào hàng trên Internet mà không cần tuyển thêm nhân viên hoặc vấp phải giới hạn tin nhắn của LinkedIn.
Khi một khách hàng tiềm năng thực sự có ý định sử dụng dịch vụ hoặc sản phẩm sau khi giao tiếp với tài khoản giả, doanh nghiệp có thể cử một nhân viên thật liên hệ và tiếp nối quá trình.
Một nghiên cứu gần đây đăng trên Kỷ yếu Viện Hàn lâm Khoa học Quốc gia Mỹ (PNAS) của Sophie J. Nightingale và Hany Farid kết luận rằng đa số mọi người khó phân biệt một khuôn mặt do AI tạo ra với một khuôn mặt thật; độ chính xác của kết quả phân biệt là khoảng 50% - tương đương với đoán mặt đồng xu.
Bên cạnh đó, hình ảnh người được AI tạo ra còn có thể hấp dẫn và gây cảm giác đáng tin cậy hơn người thật. Các nhà nghiên cứu cho rằng đó là do AI có xu hướng sử dụng những đặc điểm “trung bình” nhất của con người khi khởi tạo một khuôn mặt.
Một công nghệ nhiều khả năng được sử dụng để tạo ra ảnh đại diện của tài khoản “Keenan Ramsey” có tên mạng đối nghịch phát sinh (generative adversarial network - GAN). GAN mới được phát triển từ năm 2014, nhưng đã nhanh chóng cải thiện khả năng tạo ra những khuôn mặt “thật” hơn thông qua sử dụng lượng lớn dữ liệu khuôn mặt của người thật. Hiện nay, nhiều website như this-person-does-not-exist.com cho phép người truy cập xem và tải về ảnh người được AI tạo ra như vậy.
Trong trường hợp cuộc điều tra trên LinkedIn của DiResta và Goldstein, có hơn 70 công ty được liệt kê trong danh sách chủ lao động của các tài khoản giả. Một số doanh nghiệp được NPR liên hệ cho biết họ thuê công ty dịch vụ marketing nhằm tăng doanh thu, nhưng không hề cho phép sử dụng ảnh do AI tạo ra để tiếp thị hoặc thậm chí không hề biết về vấn đề này.
Sau khi hai nhà nghiên cứu DiResta và Goldstein thông báo cho LinkedIn về vấn đề tài khoản giả, LinkedIn cho biết đã điều tra và xóa các tài khoản vi phạm chính sách sử dụng. Chính sách của LinkedIn cấm tạo tài khoản giả hoặc sử dụng thông tin giả mạo. LinkedIn không đưa ra thông tin chi tiết về quá trình điều tra.
Đại diện LinkedIn Leonna Spilman cho biết: "Chính sách của chúng tôi nói rõ rằng mọi tài khoản LinkedIn phải đại diện cho một con người thật. Chúng tôi đang liên tục cập nhật năng lực kỹ thụật để xác định tài khoản giả và xóa bỏ chúng khỏi cộng đồng”.
