Tài chính

Dùng chip Trung Quốc để huấn luyện AI, một công ty cắt giảm 20% chi phí so với dùng NVIDIA

Tóm tắt:

  • Ant Group đã huấn luyện mô hình AI thành công bằng chip sản xuất trong nước, giảm chi phí 20% so với chip NVIDIA.

  • Công ty sử dụng chip từ Alibaba và Huawei, đạt hiệu suất tương đương với chip H800 của NVIDIA.

  • Việc chuyển hướng sang chip nội địa phản ánh xu hướng giảm phụ thuộc vào công nghệ phương Tây.

  • Ant Group áp dụng phương pháp "Mixture of Experts" để tối ưu hóa quy trình huấn luyện.

  • Nếu các công ty khác thành công, điều này có thể thúc đẩy tham vọng AI và độc lập công nghệ của Trung Quốc.

Ant Group, tập đoàn công nghệ tài chính khổng lồ được Alibaba hậu thuẫn, vừa công bố một thành tựu quan trọng trong lĩnh vực trí tuệ nhân tạo (AI) khi thành công huấn luyện mô hình bằng cách sử dụng chip bán dẫn sản xuất trong nước.

Một nguồn tin cho biết Ant Group đã tận dụng chip từ hai gã khổng lồ công nghệ Trung Quốc là Alibaba và Huawei để huấn luyện mô hình AI của họ, đạt được hiệu suất tương đương với những gì có được khi sử dụng chip H800 của NVIDIA. Điểm nổi bật trong thành tựu của Ant Group là việc giảm 20% chi phí so với việc sử dụng phần cứng của NVIDIA.

Dùng chip Trung Quốc để huấn luyện AI, một công ty cắt giảm 20% chi phí so với dùng NVIDIA- Ảnh 1.

Mặc dù Ant Group vẫn tiếp tục sử dụng phần cứng của NVIDIA cho một số tác vụ phát triển AI nhất định, công ty này hiện đang ngày càng dựa vào các giải pháp thay thế - đặc biệt là chip từ AMD và các nhà sản xuất Trung Quốc - cho các mô hình mới nhất của họ. Bước chuyển hướng chiến lược này phản ánh xu hướng rộng lớn hơn trong ngành công nghệ Trung Quốc, một phần do các lệnh trừng phạt ngày càng thắt chặt của Mỹ hạn chế việc tiếp cận GPU tiên tiến nhất của NVIDIA.

Quá trình huấn luyện AI hiệu suất cao đòi hỏi sức mạnh tính toán đáng kể, và GPU của NVIDIA từ lâu đã là tiêu chuẩn vàng trong ngành công nghiệp. Tuy nhiên, với việc tiếp cận chip của NVIDIA ngày càng bị hạn chế, các công ty Trung Quốc đã tăng cường đầu tư vào công nghệ bán dẫn của riêng họ và đa dạng hóa nguồn cung cấp phần cứng. Sự phát triển này chứng minh khả năng AI ngày càng tăng của Trung Quốc và cho thấy các giải pháp thay thế trong nước và không phải của Mỹ đối với GPU của NVIDIA đang trở nên khả thi cho việc huấn luyện AI quy mô lớn.

Dùng chip Trung Quốc để huấn luyện AI, một công ty cắt giảm 20% chi phí so với dùng NVIDIA- Ảnh 2.

Chip AI Hanguang 800 của Alibaba

Theo báo cáo, Ant Group đã sử dụng phương pháp "Mixture of Experts" (MoE) để huấn luyện mô hình, một kỹ thuật chia các tác vụ thành các tập dữ liệu nhỏ hơn, tương tự như việc có một nhóm chuyên gia với mỗi người tập trung vào một phần của công việc. Công ty cho biết chi phí huấn luyện khoảng 6,35 triệu nhân dân tệ (880.000 USD) để huấn luyện 1 nghìn tỷ token sử dụng phần cứng hiệu suất cao, nhưng cách tiếp cận được tối ưu hóa của họ sẽ giảm xuống còn 5,1 triệu nhân dân tệ khi sử dụng phần cứng có thông số kỹ thuật thấp hơn.

Bước đột phá này cũng làm dấy lên sự so sánh với DeepSeek AI của Trung Quốc, công ty gần đây đã vượt trội hơn GPT-4 của OpenAI trong một số tiêu chuẩn đánh giá. Nếu bước đột phá của Ant Group thể hiện một bước tiến tương tự về hiệu quả huấn luyện AI, nó có thể đánh dấu một bước nữa hướng tới việc giảm sự phụ thuộc vào công nghệ phương Tây. Tuy nhiên, vẫn còn nhiều câu hỏi về việc liệu chip Trung Quốc và các nhà cung cấp thay thế như AMD có thể mở rộng quy mô hiệu quả và liệu chúng có thể phù hợp với hiệu suất dài hạn và hỗ trợ hệ sinh thái của NVIDIA hay không.

Dùng chip Trung Quốc để huấn luyện AI, một công ty cắt giảm 20% chi phí so với dùng NVIDIA- Ảnh 3.

Chip AI Ascend 910C của Huawei

Trong khi các chi tiết cụ thể về chip được sử dụng trong quá trình huấn luyện AI của Ant Group vẫn chưa được tiết lộ, các báo cáo cho thấy phần cứng AI nội bộ của Alibaba và chip dòng Ascend của Huawei đã đóng vai trò quan trọng. Ant Group đã công bố một bài báo nghiên cứu trong tháng này, trong đó cho biết mô hình của họ đôi khi vượt trội hơn Meta Platforms Inc. trong một số tiêu chuẩn đánh giá nhất định. Mô hình Ling-Lite và Ling-Plus của công ty cũng được báo cáo là vượt trội hơn các mô hình tương đương của DeepSeek trong các tiêu chuẩn đánh giá ngôn ngữ Trung Quốc.

Ant Group có kế hoạch tận dụng bước đột phá gần đây trong các mô hình ngôn ngữ lớn mà họ đã phát triển, Ling-Plus và Ling-Lite, cho các giải pháp AI công nghiệp bao gồm chăm sóc sức khỏe và tài chính. Công ty đã mua nền tảng trực tuyến Trung Quốc Haodf.com năm nay để tăng cường dịch vụ AI trong lĩnh vực chăm sóc sức khỏe. Ant đã tạo ra AI Doctor Assistant để hỗ trợ 290.000 bác sĩ của Haodf với các tác vụ như quản lý hồ sơ y tế.

Nếu các công ty Trung Quốc khác có thể sao chép những kết quả này, điều đó có thể thúc đẩy tham vọng AI của Trung Quốc và giảm sự phụ thuộc của quốc gia này vào công nghệ nước ngoài. Liệu những chip AI trong nước và thay thế này có thể duy trì tính cạnh tranh trong dài hạn vẫn là một câu hỏi mở. Nhưng sự phát triển này là một dấu hiệu rõ ràng về nỗ lực của Trung Quốc hướng tới độc lập công nghệ, đặc biệt trong bối cảnh căng thẳng thương mại và công nghệ ngày càng gia tăng giữa Trung Quốc và Mỹ.


Các tin khác

Thông báo giao dịch bằng giọng nói với VIB Checkout – Giải pháp kiểm soát doanh thu tối ưu

Thông báo giao dịch bằng giọng nói với VIB Checkout – Giải pháp kiểm soát doanh thu tối ưu

Ngân hàng Quốc Tế (VIB) ra mắt tính năng Thông báo bằng giọng nói trên ứng dụng VIB Checkout, giúp chủ cửa hàng/doanh nghiệp nhận thông báo giao dịch ngay lập tức bằng âm thanh trên điện thoại hoặc loa kết nối bluetooth. Mỗi khi có thanh toán thành công, hệ thống sẽ tự động phát thông báo giọng nói, giúp bạn kiểm soát doanh thu nhanh chóng, chính xác.
MB "Đi trước thời đại" trong cuộc đua cho người trẻ vay mua nhà: Đã có dư nợ trên 3.000 tỷ, tiếp tục đẩy mạnh cho vay thời gian tới

MB "Đi trước thời đại" trong cuộc đua cho người trẻ vay mua nhà: Đã có dư nợ trên 3.000 tỷ, tiếp tục đẩy mạnh cho vay thời gian tới

"Cuộc đua" cho người trẻ vay mua nhà của các nhà băng đang trở nên hấp dẫn hơn khi MB tuyên bố cho người trẻ vay mua nhà linh hoạt thanh toán: 5 năm đầu chỉ cần trả lãi, không phải trả nợ gốc, 5 năm tiếp theo chỉ phải trả tối thiểu 15% nợ gốc.
Giá mua vàng 2 ngày tăng 1,5 triệu đồng/lượng

Giá mua vàng 2 ngày tăng 1,5 triệu đồng/lượng

So với đầu tuần, mỗi lượng vàng miếng, vàng nhẫn tăng 1,5 triệu đồng ở chiều thu mua, trong khi chiều bán ra tăng 500.000 đồng. Chênh lệch giữa giá mua và bán được rút ngắn về 2 triệu đồng/lượng.
Nhận diện những yếu tố gây tác động lên tỷ giá

Nhận diện những yếu tố gây tác động lên tỷ giá

Cuối tuần qua, Ngân hàng Nhà nước bất ngờ nâng giá chào bán USD lên mức cao kỷ lục mới, trên 26.000 đồng. Dù đồng USD ghi nhận giảm điểm đáng kể so với cuối năm 2024, thế nhưng, áp lực tỷ giá còn hiện hữu do nhiều nguyên nhân khác nhau; trong đó có việc giá vàng tăng mạnh trong thời gian gần đây.
Dấu ấn văn hóa doanh nghiệp trong kỷ nguyên vươn mình của dân tộc

Dấu ấn văn hóa doanh nghiệp trong kỷ nguyên vươn mình của dân tộc

Kỷ nguyên mới được xác định là động lực bứt phá của đất nước, gắn với phát triển bền vững. Bối cảnh ấy, việc gìn giữ và phát triển văn hóa đất nước, dân tộc trở thành sứ mệnh của mỗi người dân, mỗi doanh nghiệp. Văn hóa của tổ chức cũng góp phần trong hành trình đó.
24.000 tỷ đồng vừa đổ vào chứng khoán

24.000 tỷ đồng vừa đổ vào chứng khoán

Thị trường hôm nay (25/3) diễn ra khá tích cực khi phần lớn thời gian giao dịch trong sắc xanh. Dù chinh phục chưa thành công mốc 1.340 điểm nhưng dòng tiền cải thiện rõ rệt, thị trường giữ vững ngưỡng cao khi đóng cửa.