Phát hiện cảu Công ty OpenAI, đơn vị phát triển chatbot đình đám ChatGPT được xem là một trong những tuyên bố thẳng thắn nhất từ gã khổng lồ công nghệ AI về quy mô mà trí tuệ nhân tạo có thể tác động hoặc làm trầm trọng thêm các vấn đề sức khỏe tâm thần.
Trong một bài đăng trên blog được công bố hôm 27/10, OpenAI tiết lộ con số trên tương đương với khoảng 0,15% trong tổng số hơn 800 triệu người dùng hoạt động hàng tuần của ChatGPT.
ChatGPT ước tính hơn 1 triệu người dùng mỗi tuần gửi tin nhắn về kế hoạch tự sát hoặc có ý định tự sát một cách rõ ràng. (Ảnh: Jakub Porzycki/NurPhoto/Shutterstock)
Ngoài ra, công ty cũng ước tính khoảng 0,07% người dùng mỗi tuần - tương đương 560.000 người – có "dấu hiệu khẩn cấp về sức khỏe tâm thần". Dù vậy, OpenAI thận trọng lưu ý rằng đây mới chỉ là phân tích ban đầu và những cuộc trò chuyện này vốn rất khó để phát hiện hay đo lường chính xác.
OpenAI công bố dữ liệu nhạy cảm trên diễn ra trong bối cảnh công ty đang phải đối mặt với sự giám sát pháp lý ngày càng tăng. Đáng chú ý nhất là vụ kiện được dư luận quan tâm từ gia đình của Adam Raine, một thiếu niên 16 tuổi đã tự sát sau thời gian dài tương tác với ChatGPT.
Trong vụ kiện, gia đình của Adam Raine cáo buộc công cụ chatbot này "tích cực giúp cậu bé khám phá các phương pháp tự sát", thậm chí đề nghị soạn thảo một lá thư tuyệt mệnh gửi cho người thân. Hồ sơ tòa án cho thấy, chỉ vài giờ trước khi qua đời, nam thiếu niên tải lên một bức ảnh có vẻ là kế hoạch tự sát của mình.
Khi cậu hỏi ChatGPT liệu kế hoạch đó có hiệu quả không, chatbot đề nghị giúp "nâng cấp" nó. Tuần trước, gia đình Raine đã cập nhật đơn kiện, cáo buộc OpenAI nới lỏng các biện pháp ngăn chặn hành vi tự làm hại bản thân trong những tuần trước khi cậu bé qua đời vào tháng 4 năm nay.
Song song với vụ việc trên, Ủy ban Thương mại Liên bang Mỹ (FTC) tháng trước cũng khởi động một cuộc điều tra sâu rộng nhắm vào các công ty tạo ra chatbot AI, bao gồm cả OpenAI, để làm rõ cách họ đo lường các tác động tiêu cực từ sản phẩm của mình đối với trẻ em và thanh thiếu niên.
Về phần mình, OpenAI tuyên bố trong bài đăng ngày 27/10 rằng bản cập nhật GPT-5 gần đây giúp giảm số lượng hành vi không mong muốn từ sản phẩm và cải thiện sự an toàn cho người dùng.
Công ty cho biết đã đánh giá hơn 1.000 cuộc trò chuyện về vấn đề tự làm hại và tự sát, kết quả cho thấy mô hình GPT-5 mới tuân thủ 91% các "hành vi mong muốn", tăng đáng kể so với mức 77% của mô hình trước đó.
Để đạt được những cải tiến này, OpenAI tuyển dụng hơn 170 bác sĩ lâm sàng từ Mạng lưới Bác sĩ Toàn cầu để hỗ trợ nghiên cứu trong những tháng gần đây.
Cụ thể, các bác sĩ đã đánh giá tính an toàn của các phản hồi và giúp viết câu trả lời của chatbot cho những câu hỏi liên quan đến sức khỏe tâm thần. Mô hình GPT-5 mới cũng được cho là mở rộng quyền truy cập vào các đường dây nóng khẩn cấp và thêm lời nhắc người dùng nghỉ ngơi trong các phiên trò chuyện kéo dài.
Dù vậy, OpenAI thừa nhận "trong một số trường hợp hiếm hoi, mô hình có thể không cư xử như mong muốn" .
