Hôm 6/10, Bộ Việc làm và Quan hệ Lao động Úc cho biết Deloitte sẽ trả lại khoản thanh toán cuối cùng của hợp đồng trị giá 439.000 AUD (khoảng 290.000 USD), sau khi thừa nhận một phần báo cáo do AI tạo ra có chứa trích dẫn và chú thích sai.
Báo cáo này, được ủy nhiệm vào tháng 12 năm ngoái, là bản đánh giá độc lập nhằm xác định các vấn đề trong hệ thống phúc lợi tự động phạt người tìm việc của chính phủ Úc.
Tuy nhiên, sau khi được công bố đầu năm nay, báo cáo đã bị phát hiện có nhiều lỗi nghiêm trọng, bao gồm trích dẫn các nghiên cứu “không tồn tại” của học giả tại Đại học Sydney và Đại học Lund (Thụy Điển), theo Australian Financial Review. Phiên bản chỉnh sửa đã được đăng lại trên trang web của bộ vào ngày 3/10 vừa qua.
Chính phủ Úc khẳng định nội dung và khuyến nghị chính của báo cáo không thay đổi, đồng thời sẽ công khai hợp đồng sau khi việc hoàn tiền hoàn tất.
Sự cố này làm nổi bật nguy cơ “ảo giác” (hallucination) – hiện tượng AI tạo ra thông tin không có thật – trong quá trình tư vấn và phân tích.
Các hãng kiểm toán và tư vấn lớn như Deloitte, PwC, EY, KPMG hay McKinsey đang đầu tư hàng tỷ USD vào công nghệ AI để tăng tốc quy trình đánh giá, kiểm toán và tư vấn cho khách hàng.
Tuy nhiên, các cơ quan giám sát tại Anh và Mỹ đã cảnh báo rằng việc phụ thuộc quá mức vào AI có thể làm giảm chất lượng và độ chính xác của báo cáo.
Trong bản cập nhật, Deloitte cho biết một phần báo cáo đã được thực hiện bằng công cụ AI dựa trên mô hình ngôn ngữ lớn (Azure OpenAI GPT-4o), do chính phủ Úc cấp phép sử dụng.
Dù không trực tiếp thừa nhận AI là nguyên nhân gây lỗi, Deloitte cho biết phiên bản mới đã sửa các trích dẫn, tham chiếu và tóm tắt pháp lý sai sót, đồng thời khẳng định “các phát hiện và khuyến nghị cốt lõi không bị ảnh hưởng”.
Vụ việc của Deloitte đang được xem là bài học đắt giá về rủi ro khi lạm dụng AI trong quy trình tư vấn chuyên nghiệp, đặc biệt là khi các hệ thống AI vẫn có thể tạo ra thông tin “ảo” dù được huấn luyện từ nguồn dữ liệu thật.
(Theo FT)
