Hầu hết các mô hình AI hiện nay đều hoạt động trên nền tảng bộ xử lý đồ họa (GPU) của Nvidia. Đây là những con chip tinh vi và đắt đỏ (hơn 30.000 USD/đơn vị), đóng vai trò cung cấp sức mạnh tính toán cho quá trình huấn luyện và xuất dữ liệu.
Tuy nhiên, khả năng tiếp cận loại linh kiện này đang là nút thắt của toàn ngành. Trong khuôn khổ hội nghị HumanX tại San Francisco (Mỹ), tình trạng khan hiếm GPU ngay bên trong Nvidia đã được Bryan Catanzaro - người quản lý các nhóm phát triển đồ họa, nhận dạng giọng nói và mô phỏng dựa trên AI của hãng - hé lộ.
Đầu thập niên 2010, ông là một trong những người đầu tiên nhận thấy giới nghiên cứu đang gom mua GPU Nvidia để huấn luyện mô hình AI. Tín hiệu này đã thúc đẩy CEO Jensen Huang đặt cược vào AI, tạo tiền đề cho đà tăng trưởng lịch sử của công ty.
Dù vậy, đội ngũ của Catanzaro hiện cũng phải chật vật để có đủ GPU. "Nhóm của tôi ứng dụng AI rất sâu vào công việc và họ muốn được cấp hạn mức cao hơn, có nhiều GPU hơn", Catanzaro chia sẻ.
Ông thừa nhận một trong những nhiệm vụ chính hiện nay là cố gắng đảm bảo đủ năng lực tính toán cho cấp dưới. "Tất cả chúng tôi đều bị hạn chế nguồn cung", ông nói. "Jensen sẽ nói: 'Xin lỗi Bryan, nhưng số chip đó đã được bán hết'. Chúng tôi phải hoạt động trong giới hạn đó".
Một trong những dự án do Catanzaro dẫn dắt là phát triển Nemotron, một dòng mô hình mã nguồn mở của Nvidia. Điều này đồng nghĩa người dùng có thể tải xuống miễn phí để sử dụng, nghiên cứu hoặc sửa đổi.
Nvidia không có ý định cạnh tranh trực tiếp với OpenAI hay Anthropic trong cuộc đua phát triển mô hình lõi. Thay vào đó, họ xây dựng Nemotron nhằm củng cố hệ sinh thái nhà phát triển đang gắn chặt với phần mềm và phần cứng của hãng.
Các mô hình Nemotron nổi tiếng với khả năng tối ưu hóa GPU. Catanzaro cho biết chính sự hạn chế về phần cứng nội bộ đã buộc hãng phải làm cho Nemotron hoạt động hiệu quả hơn. "Trong một thế giới khan hiếm nguồn cung, hiệu suất cũng là sự thông minh", ông nhận định.
Bất ngờ thay, việc tối ưu hiệu suất không gây ảnh hưởng xấu đến hoạt động kinh doanh. Dẫn chiếu Nghịch lý Jevons, Catanzaro giải thích rằng khi một sản phẩm trở nên hiệu quả hơn, nhu cầu thường sẽ tăng vọt. "Người ta luôn tìm ra vô số cách mới để sử dụng một thứ khi nó đạt hiệu suất cao hơn", ông nói.
Ông cũng thừa nhận sự chú ý ngày càng tăng dành cho Nemotron trong nội bộ đã giúp dự án khơi thông thêm nguồn lực. "Chúng tôi đã làm việc với Nemotron từ lâu, nhưng chỉ trong 6 tháng qua dự án mới thực sự được quan tâm. Khi mọi người trong Nvidia hiểu rõ hơn tầm quan trọng của công việc này, bạn sẽ nhận được sự hợp tác và hỗ trợ tốt hơn trên toàn công ty".
Theo Catanzaro, Nvidia nhận ra họ không thể tiếp tục giữ thái độ trung lập với hệ sinh thái AI. Trước đây, hãng dựa vào các bên thứ ba để xây dựng mô hình và ứng dụng nhằm thúc đẩy nhu cầu mua chip. Hiện tại, khi thị trường AI ngày càng cạnh tranh và nguồn cung chip eo hẹp, công ty nhận thấy cần đóng vai trò chủ động hơn trong việc định hình sự phát triển của hệ sinh thái.
"Một số người từng cho rằng cứ để hệ sinh thái tự vận hành. Nhưng nay đã quá rõ ràng rằng Nvidia có vai trò lớn hơn, một trách nhiệm và cơ hội thực sự với Nemotron", ông chia sẻ.
Định hướng này giúp nâng tầm dự án Nemotron ở nội bộ, nơi các nhóm phải cạnh tranh gắt gao để giành lấy GPU. "Đây không phải là một dự án khoa học", Catanzaro khẳng định. "Đây không chỉ là việc tôi xin tài nguyên cho nhóm của mình. Đây là tương lai của Nvidia".
(Theo Yahoo/Fortune)
