Công bố trên Tạp chí Y học Anh, các nhà nghiên cứu nhận thấy rằng chatbot do AI điều khiển đưa ra những phản hồi không chính xác đến một nửa số lần, có khả năng gây hại không cần thiết cho người dùng.
Mặc dù có tiềm năng to lớn trong việc mang lại lợi ích cho y học, chatbot thường tạo ra các câu trả lời không chính xác hoặc gây hiểu nhầm do quá trình huấn luyện thiếu khách quan, và ưu tiên các câu trả lời phù hợp với niềm tin của người dùng hơn là sự thật.
