Bot AI Facebook nhập vai người nổi tiếng nói chuyện tình dục với trẻ em

Điều đặc biệt đáng lo ngại là các chatbot này có thể giả mạo giọng nói và hình tượng của các nhân vật nổi tiếng, bao gồm cả các ngôi sao điện ảnh, ca nhạc và nhân vật từ phim hoạt hình Disney.

Wall Street Journal đã tiến hành thử nghiệm phần mềm này và phát hiện ra rằng các bot giả mạo người nổi tiếng như John Cena, Kristen Bell (thậm chí đóng vai Anna trong bộ phim "Frozen" của Disney) và Judi Dench đều có thể tham gia vào các kịch bản tình dục tưởng tượng với người dùng, bất kể độ tuổi.

Báo cáo đưa ra các ví dụ cụ thể về những cuộc trò chuyện có tính chất gợi dục, thậm chí mô phỏng các hành vi bất hợp pháp như quan hệ tình dục với trẻ vị thành niên.

Một nhân viên nội bộ của Meta được cho là đã bày tỏ quan ngại trong một ghi chú, nêu rõ rằng các bot AI quá nhanh chóng tạo ra nội dung không phù hợp ngay cả khi người dùng khai báo tuổi còn rất nhỏ (13 tuổi).

Báo cáo cũng tiết lộ, Meta cam kết với những người nổi tiếng (những người được trả hàng triệu đô la để sử dụng hình ảnh của họ) rằng có các biện pháp bảo vệ để ngăn giọng nói của họ bị sử dụng trong bất kỳ cuộc trò chuyện có nội dung khiêu dâm nào, nhưng cuộc thử nghiệm của WSJ cho thấy điều ngược lại.

Disney đã bày tỏ sự quan ngại sâu sắc về vấn đề này, khẳng định họ không và sẽ không bao giờ cho phép Meta đưa các nhân vật của họ vào những tình huống không phù hợp. Disney đã yêu cầu Meta ngay lập tức chấm dứt hành vi sử dụng sai mục đích và gây hại này đối với tài sản trí tuệ của họ.

Đáp lại báo cáo, Meta chỉ trích cuộc thử nghiệm của WSJ là "có tính thao túng" và không phản ánh cách sử dụng trung bình của người dùng.

Tuy nhiên, người phát ngôn của Meta cũng thừa nhận rằng họ đã áp dụng các biện pháp bổ sung để khiến những người cố gắng điều khiển sản phẩm vào các trường hợp sử dụng cực đoan gặp nhiều khó khăn hơn.

Mặc dù Meta đã thực hiện các biện pháp để ngăn các tài khoản đăng ký cho trẻ vị thành niên truy cập vào tính năng nhập vai tình dục, WSJ phát hiện ra các rào cản này dễ dàng bị vượt qua và bot vẫn sẵn sàng tham gia vào các kịch bản gợi dục nếu được thúc đẩy một cách đơn giản.

Báo cáo cũng lưu ý rằng Meta vẫn cung cấp các tùy chọn "nhập vai lãng mạn" cho người dùng trưởng thành, một số trong đó mô tả các tình huống có thể gây tranh cãi hoặc không phù hợp.

Vấn đề này nổi lên trong bối cảnh nhà sáng lập Meta, Mark Zuckerberg, trước đó đã bày tỏ mong muốn các chatbot AI của công ty hấp dẫn hơn để cạnh tranh với các đối thủ.