Google cho biết AI Overviews không chỉ đơn giản cho ra kết quả đầu ra dựa trên dữ liệu được đào tạo, mà còn tích hợp hệ thống xếp hạng web cốt lõi để thực hiện tác vụ tìm kiếm truyền thống với chất lượng cao. Có nghĩa, AI Overviews không chỉ cung cấp đầu ra văn bản, mà còn bao gồm các liên kết có liên quan để người dùng có thể khám phá thêm. "AI Overviews đang thực hiện việc tìm kiếm thông tin mà không gây ảo giác hay bịa đặt như những sản phẩm ngôn ngữ lớn (LLM) khác có thể gặp phải", theo Google.
Tuy nhiên, hãng thừa nhận trong một số trường hợp, AI Overviews hiểu nhầm vấn đề, phổ biến nhất là "hiểu sai truy vấn, sắc thái của ngôn ngữ trên web hoặc cơ sở dữ liệu không có sẵn nhiều thông tin hữu ích".
Chẳng hạn, với truy vấn "nên ăn bao nhiêu đá mỗi ngày", Google nói AI của mình hiểu không đúng nên xử lý không tốt nội dung châm biếm.
Logo AI Gemini hiển thị trên smartphone. Ảnh: Bảo Lâm
Trong tình huống khuyên "dùng keo để phô mai dính vào bánh pizza", Google nói AI Overviews diễn giải không đúng ngôn ngữ trên trang web, khiến cung cấp thông tin thiếu chính xác. Công ty đã nhanh chóng khắc phục lỗi thông qua cải tiến thuật toán.
Theo Google, trước mắt họ sẽ "hạn chế đưa nội dung châm biếm và hài hước" nhằm phát hiện hiệu quả hơn những truy vấn vô nghĩa" trên công cụ tìm kiếm. "Chúng tôi đã cập nhật hệ thống để hạn chế việc người dùng đưa vào thông tin khiến AI có thể đưa ra lời khuyên sai lệch, không hữu ích. Với nội dung như sức khỏe, chúng tôi cũng có biện pháp kiểm soát nghiêm ngặt", đại diện Google nói.
Tại sự kiện I/O 2024 giữa tháng 5, Google trình làng các phiên bản lớn nhỏ của mô hình Gemini. Đây được xem là tín hiệu cho thấy AI sắp len lỏi vào hầu hết sản phẩm của công ty thời gian tới. Tuy nhiên, chúng liên tục bị phát hiện đưa ra thông tin sai.
Đầu năm ngoái, chatbot Bard của công ty cũng trả lời sai câu hỏi kiến thức ngay trong đoạn giới thiệu của CEO Sundar Pichai, khiến Google mất 100 tỷ USD giá trị vốn hóa trong thời gian ngắn. Tháng 2 năm nay, công ty tung ra tính năng tạo ảnh cho Gemini nhưng nhanh chóng phải tạm dừng khi người dùng phản ánh công cụ tạo hình ảnh không đúng về nhân vật lịch sử.
Theo Business Insider, Google đang đi theo một "vòng lặp sai lầm" với ba bước: Tung ra sản phẩm tìm kiếm mới được hỗ trợ bởi AI; Người dùng tìm ra sai sót của sản phẩm và đăng trên mạng xã hội; Google thừa nhận thiếu sót, sau đó dừng hoạt động của AI để sửa chữa. Giới chuyên gia đánh giá, việc AI Google liên tục gặp lỗi là vấn đề đáng lo ngại, vì chúng được tích hợp trong sản phẩm tìm kiếm cốt lõi. Rủi ro có thể xảy ra khi người dùng tin và hành động theo đề xuất sai lệch, từ đó có thể gây tổn hại đến bản thân. Việc AI liên tục trả lời sai cũng khiến người dùng giảm lòng tin vào sản phẩm của Google trong tương lai.
