Một báo cáo y khoa vừa được công bố đã gióng lên hồi chuông cảnh tỉnh về việc mù quáng tin theo lời khuyên sức khỏe từ trí tuệ nhân tạo. Đây có thể là trường hợp đầu tiên trên thế giới được ghi nhận về một người bị ngộ độc và loạn thần nghiêm trọng sau khi tuân theo chế độ ăn kiêng do ChatGPT đề xuất.
Câu chuyện tưởng chừng như chỉ có trong phim này đã được các bác sĩ tại Đại học Washington (Mỹ) ghi lại chi tiết. Một người đàn ông đã phải nhập viện cấp cứu trong tình trạng kích động, hoang tưởng và ảo giác. Nguyên nhân sau đó được xác định là do ngộ độc bromide, một hóa chất mà ông đã tiêu thụ trong suốt ba tháng.
Mọi chuyện bắt đầu khi người đàn ông này lo lắng về tác hại của việc tiêu thụ quá nhiều muối ăn (natri chloride). Thay vì tìm cách giảm lượng natri, ông lại nảy ra ý tưởng tự loại bỏ hoàn toàn thành phần chloride. Để tìm giải pháp, ông đã tham khảo ChatGPT.
Nghe lời ChatGPT tư vấn, người đàn ông nhập viện vì ngộ độc.
Theo lời kể, ChatGPT dường như đã gợi ý rằng "chloride có thể được thay thế một cách an toàn bằng bromide". Nhận được sự "bật đèn xanh" từ AI, người đàn ông đã mua natri bromide trên mạng và bắt đầu sử dụng hàng ngày, dẫn đến thảm kịch. Ông phải nhập viện trong tình trạng loạn thần toàn phát và bị giữ lại để điều trị tâm thần bắt buộc.
Khi các bác sĩ thử nghiệm lại bằng cách đặt câu hỏi tương tự cho ChatGPT, họ phát hiện ra rằng AI đúng là có đề cập đến bromide như một chất thay thế cho chloride. Tuy nhiên, vấn đề chí mạng nằm ở chỗ AI đã cung cấp thông tin thiếu ngữ cảnh.
Rất có thể, AI đã lấy ví dụ về việc thay thế này từ các lĩnh vực không liên quan đến ăn uống, như trong công nghiệp hoặc hóa chất tẩy rửa. Quan trọng hơn, AI đã không hề đưa ra bất kỳ cảnh báo nào về sự nguy hiểm chết người của việc tiêu thụ bromide.
May mắn là sau ba tuần điều trị tích cực, người đàn ông đã hồi phục hoàn toàn. Tuy nhiên, các bác sĩ kết luận rằng dù AI có thể là cầu nối thông tin, nó cũng mang nguy cơ cực lớn trong việc truyền bá thông tin bị tách rời khỏi ngữ cảnh. Một chuyên gia y tế con người sẽ không bao giờ đưa ra một lời khuyên nguy hiểm như vậy.
Vụ việc này là một bài học đắt giá, nhắc nhở chúng ta rằng đối với các vấn đề sức khỏe quan trọng, việc tham khảo ý kiến của các chuyên gia con người vẫn là điều không thể thay thế, dù cho phiên bản AI có thông minh đến đâu.
