CEO OpenAI Sam Altman đã thông báo trong một bài đăng trên X rằng công ty sẽ sớm nới lỏng một số hạn chế an toàn của ChatGPT, cho phép người dùng làm cho các phản hồi của chatbot trở nên thân thiện hơn hoặc "giống người hơn", và cho phép "người lớn đã được xác minh" tham gia vào các cuộc trò chuyện khiêu dâm.
"Chúng tôi đã làm cho ChatGPT khá hạn chế để đảm bảo rằng chúng tôi đang cẩn trọng với các vấn đề sức khỏe tâm thần. Chúng tôi nhận ra điều này đã làm nó kém hữu ích/thú vị hơn đối với nhiều người dùng không có vấn đề về sức khỏe tâm thần, nhưng do tính nghiêm trọng của vấn đề, chúng tôi muốn làm đúng", Altman cho biết. "Vào tháng 12, khi chúng tôi triển khai đầy đủ hơn việc phân loại độ tuổi và như một phần của nguyên tắc 'đối xử với người dùng trưởng thành như người trưởng thành', chúng tôi sẽ cho phép nhiều hơn nữa, chẳng hạn như nội dung khiêu dâm cho người lớn đã được xác minh".
CEO Sam Altman cho biết ChatGPT sắp mở cửa cho nội dung khiêu dâm.
Thông báo này là một sự thay đổi đáng chú ý so với nỗ lực kéo dài hàng tháng của OpenAI nhằm giải quyết các mối quan hệ đáng lo ngại mà một số người dùng có tâm lý không ổn định đã phát triển với ChatGPT. Altman dường như tuyên bố một chiến thắng sớm trước những vấn đề này, cho rằng OpenAI đã "có thể giảm thiểu các vấn đề sức khỏe tâm thần nghiêm trọng" xung quanh ChatGPT. Tuy nhiên, công ty đã cung cấp rất ít hoặc không có bằng chứng nào cho điều này, và hiện đang tiến hành các kế hoạch để ChatGPT tham gia vào các cuộc trò chuyện tình dục với người dùng.
Nhiều câu chuyện đáng lo ngại đã xuất hiện vào mùa hè này xung quanh ChatGPT, đặc biệt là mô hình GPT-4o, cho thấy chatbot AI có thể dẫn dắt những người dùng dễ bị tổn thương vào những ảo tưởng sâu sắc. Trong một trường hợp, ChatGPT dường như đã thuyết phục một người đàn ông rằng anh ta là một thiên tài toán học cần phải cứu thế giới. Trong một trường hợp khác, cha mẹ của một thiếu niên đã kiện OpenAI, cáo buộc rằng ChatGPT đã khuyến khích ý định tự tử của con trai họ trong những tuần trước khi cậu bé qua đời.
Để đối phó, OpenAI đã phát hành một loạt các tính năng an toàn để giải quyết "sự nịnh hót" của AI, xu hướng một chatbot AI lôi kéo người dùng bằng cách đồng ý với bất cứ điều gì họ nói, ngay cả những hành vi tiêu cực. OpenAI đã ra mắt GPT-5 vào tháng 8, một mô hình AI mới có tỷ lệ "nịnh hót" thấp hơn và có một bộ định tuyến có thể xác định hành vi người dùng đáng lo ngại.
Chỉ vài tháng sau khi những câu chuyện đáng lo ngại này xuất hiện, OpenAI dường như nghĩ rằng các vấn đề của ChatGPT xung quanh người dùng dễ bị tổn thương đã được kiểm soát. Việc giới thiệu nội dung khiêu dâm trong ChatGPT là một lãnh thổ chưa từng có đối với OpenAI và đặt ra những lo ngại rộng lớn hơn về cách người dùng dễ bị tổn thương sẽ tương tác với các tính năng mới.
Áp lực tăng trưởng và bài học từ đối thủ
Việc cho phép chatbot tham gia vào vai trò lãng mạn hoặc khiêu dâm đã là một chiến lược thu hút người dùng hiệu quả của các nhà cung cấp chatbot AI khác, chẳng hạn như Character.AI. Công ty này đã thu hút hàng chục triệu người dùng, nhiều người trong số họ sử dụng chatbot với tần suất cao. Vào năm 2023, Character.AI cho biết người dùng đã dành trung bình hai giờ mỗi ngày để nói chuyện với chatbot của họ.
OpenAI đang chịu áp lực phải tăng trưởng cơ sở người dùng của mình. Mặc dù ChatGPT đã được 800 triệu người dùng hoạt động hàng tuần sử dụng, OpenAI vẫn đang chạy đua với Google và Meta để xây dựng các sản phẩm tiêu dùng do AI cung cấp được đông đảo người dùng chấp nhận.
Nở rộ phong trào người dùng tâm sự tình cảm với AI.
Xác minh độ tuổi: Sự đánh đổi giữa quyền riêng tư và an toàn
Altman nói rằng OpenAI sẽ sớm cho phép nội dung khiêu dâm cho "người lớn đã được xác minh". Một phát ngôn viên của OpenAI cho biết công ty sẽ dựa vào hệ thống dự đoán độ tuổi mà họ đang xây dựng để đảm bảo rằng các tính năng khiêu dâm của ChatGPT chỉ dành cho người dùng trưởng thành.
Như Altman đã viết trước đây, nếu hệ thống dự đoán tuổi của OpenAI đánh dấu sai một người lớn là trẻ vị thành niên, người dùng ChatGPT có thể phải tải lên ảnh chụp giấy tờ tùy thân do chính phủ cấp để sửa lỗi. Altman viết rằng, mặc dù đây là một sự thỏa hiệp về quyền riêng tư, công ty tin rằng đó là một "sự đánh đổi xứng đáng".
Khi OpenAI chạy đua đến mốc một tỷ người dùng hoạt động hàng tuần, sự căng thẳng giữa tăng trưởng và bảo vệ người dùng dễ bị tổn thương có thể sẽ chỉ ngày càng gia tăng.
