AI ảo giác ( AI hallucination ) là thuật ngữ chỉ việc AI bịa ra một câu trả lời sai, nhưng trình bày như thể nó rất chắc chắn . Ví dụ, nếu bạn hỏi tên tác giả của một cuốn sách không tồn tại, AI có thể vẫn trả lời vanh vách: tác giả này là ai, xuất bản năm nào, nội dung ra sao. Nghe rất thuyết phục, nhưng tất cả có thể là bịa.
Lý do nằm ở cách AI hoạt động: các mô hình ngôn ngữ lớn không thực sự “hiểu” các nội dung mà nó nhìn thấy hay tạo ra giống như con người. Chúng được huấn luyện trên lượng dữ liệu khổng lồ và học cách dự đoán: trong ngữ cảnh này, từ nào hoặc câu nào có khả năng xuất hiện cao nhất tiếp theo?
