Khi người dùng đặt câu hỏi, các mô hình trợ lý AI thường phản hồi với giọng điệu chắc chắn. Tuy nhiên, chỉ cần một câu chất vấn như “Bạn có chắc không?”, câu trả lời ban đầu có thể nhanh chóng bị điều chỉnh, thậm chí đảo ngược hoàn toàn. Theo một nghiên cứu của tiến sĩ Randal S. Olson, đồng sáng lập và Giám đốc công nghệ của Goodeye Labs, đây không phải trục trặc kỹ thuật mà là hệ quả có hệ thống của phương pháp huấn luyện trí tuệ nhân tạo hiện nay.
Trong giới nghiên cứu, hiện tượng này được gọi là “sycophancy” - xu hướng đồng thuận với người dùng thay vì bảo vệ đáp án có khả năng đúng hơn nhưng có thể gây tranh cãi. Nguồn gốc của vấn đề liên quan trực tiếp đến Reinforcement Learning from Human Feedback (Tăng cường học hỏi từ phản hồi của con người - RLHF). Phương pháp này giúp các trợ lý AI hiện đại trở nên tự nhiên, lịch sự và phù hợp chuẩn mực xã hội hơn. Tuy nhiên, nó cũng tạo ra một cơ chế thưởng - phạt dựa trên mức độ được người đánh giá ưa thích.
