Trong nhiều năm qua, Thung lũng Silicon liên tục đưa ra những lời hứa đầy tham vọng về trí tuệ nhân tạo: AI sẽ suy nghĩ như con người, tự ra quyết định, thay thế lao động trí óc và thậm chí tiến gần tới trí tuệ tổng quát.
Tuy nhiên, một nghiên cứu toán học do hai cha con Vishal Sikka và Varin Sikka thực hiện lại cho thấy thực tế kém lạc quan hơn rất nhiều. Theo họ, những giới hạn căn bản trong cấu trúc của các mô hình AI hiện nay khiến phần lớn lời hứa đó khó có thể trở thành hiện thực.
Vishal Sikka không phải là cái tên xa lạ trong giới công nghệ. Ông từng là CTO của SAP, CEO Infosys và có bằng tiến sĩ về trí tuệ nhân tạo tại Đại học Stanford. Con trai ông, Varin Sikka, cũng đang theo học tại Stanford. Công trình của họ không xuất phát từ góc nhìn hoài nghi cảm tính, mà dựa trên phân tích toán học về cách các mô hình ngôn ngữ lớn (LLM), nền tảng của AI hiện đại, thực sự vận hành.
Ông Vishal Sikka
Ảo giác AI là tất yếu toán học, không phải do dữ liệu
Trọng tâm nghiên cứu nằm ở kiến trúc transformer, vốn được sử dụng trong hầu hết các mô hình AI nổi tiếng hiện nay. Theo phân tích của hai tác giả, mỗi lần một mô hình AI tạo ra câu trả lời, lượng tính toán mà nó có thể thực hiện bị giới hạn chặt chẽ bởi độ dài của câu hỏi và kích thước mô hình. Nói cách khác, AI chỉ có thể “suy nghĩ” trong một phạm vi nhất định, và phạm vi này không thay đổi dù câu hỏi đơn giản hay phức tạp.
Khi một bài toán hoặc nhiệm vụ đòi hỏi lượng tính toán vượt quá giới hạn đó, AI sẽ không thể xử lý chính xác. Thay vào đó, nó có xu hướng đưa ra câu trả lời nghe có vẻ hợp lý nhưng thực chất là sai. Hiện tượng này thường được gọi là “hallucination” (ảo giác), nhưng theo nghiên cứu, đây không phải lỗi ngẫu nhiên hay do dữ liệu huấn luyện kém, mà là hệ quả tất yếu của giới hạn cấu trúc.
Một ví dụ điển hình là bài toán “người bán hàng” trong toán học. Bài toán này yêu cầu tìm ra lộ trình ngắn nhất để đi qua nhiều địa điểm khác nhau, mỗi nơi chỉ ghé một lần. Vấn đề nằm ở chỗ, khi số địa điểm tăng lên, số phương án cần xem xét không tăng tuyến tính mà tăng theo cấp số nhân.
Ví dụ, với 5 thành phố sẽ có khoảng 120 cách đi, nhưng với 10 hoặc 20 thành phố số lượng đáp án sẽ tăng lên hơn 3,6 triệu cách đi và 2,4 tỷ tỷ cách đi khác nhau. Các con số này vượt xa khả năng tính toán của AI.
Nhưng dù không thể có câu trả lời đúng, AI vẫn buộc phải trả lời. Điều này buộc AI sẽ phải đưa ra một đáp án có vẻ hợp lý, nhưng nó lại không thể kiểm tra được xem lời giải đó đúng hay không. Đây chính là nguồn gốc của hiện tượng “ảo giác AI”.
Nghiên cứu cũng trực tiếp đề cập đến xu hướng “AI agent” – các hệ thống được quảng bá là có thể tự lập kế hoạch, tự hành động và phối hợp nhiều bước để hoàn thành nhiệm vụ lớn. Theo phân tích toán học, những hệ thống này vẫn dựa trên cùng một nền tảng LLM và do đó thừa hưởng toàn bộ giới hạn nói trên.
Việc ghép nhiều AI lại với nhau, hay để AI tự kiểm tra AI khác, không loại bỏ được vấn đề cốt lõi, bởi quá trình kiểm chứng thường còn phức tạp hơn bản thân nhiệm vụ ban đầu.
Lời hứa bị phóng đại
Điều đáng chú ý là nghiên cứu không phủ nhận hoàn toàn giá trị của AI. Hai tác giả thừa nhận các mô hình hiện nay rất hiệu quả trong những nhiệm vụ có phạm vi hẹp, như xử lý văn bản, tóm tắt thông tin, hỗ trợ lập trình hay tự động hóa các quy trình lặp lại.
Vấn đề nằm ở chỗ, những thành công đó đang bị phóng đại thành lời hứa về trí tuệ gần giống con người, trong khi nền tảng toán học cho thấy khoảng cách giữa hai điều này vẫn còn rất xa.
Thông điệp chính của nghiên cứu không phải là “AI vô dụng” hay “AI là lừa đảo”, mà là lời cảnh báo về sự lệch pha giữa thực tế khoa học và kỳ vọng được quảng bá. Khi các công ty công nghệ nói về AI như một hệ thống có thể suy nghĩ, lập luận và tự đưa ra quyết định phức tạp, họ đang bỏ qua những giới hạn căn bản mà toán học đã chỉ ra.
