Khi một hệ thống AI kết luận khách hàng có rủi ro tín dụng cao, hồ sơ ứng viên không phù hợp, giao dịch đáng nghi hoặc máy móc sắp hỏng, câu hỏi quan trọng mà bạn cần đặt ra không chỉ là “AI trả lời thế nào”, mà là “vì sao AI trả lời như vậy”.
AI có thể giải thích, hay Explainable AI (XAI), là nhóm phương pháp và công cụ giúp con người hiểu các yếu tố đứng sau quyết định của thuật toán, nhất là với những mô hình bị xem như “hộp đen”. Nói dễ hiểu, XAI biến một kết quả khô cứng thành lời giải thích: dữ liệu nào có ảnh hưởng lớn, mức độ chắc chắn ra sao, và khi nào con người nên kiểm tra lại.
