Công nghệ

GPU Nvidia V100 "đồng nát" bất ngờ qua mặt Mac Studio M5 Max

Ý chính

  • Hệ thống dùng ba GPU Nvidia Tesla V100 cũ kết hợp bo mạch chủ Supermicro và CPU Intel Xeon.

  • Ở ngữ cảnh 128K, hệ thống GPU cũ đạt tốc độ 72,7 token/giây, cao hơn khoảng 19% so với Mac Studio.

  • Chi phí linh kiện của hệ thống máy chủ cũ chỉ khoảng 1.042 USD, thấp hơn đáng kể so với mức 5.399 USD của máy Apple.

  • GPU cũ gặp hạn chế về nhiệt độ và điện năng tiêu thụ, đòi hỏi giải pháp tản nhiệt tự chế.

Theo Tom's Hardware, một hệ thống máy tính sử dụng ba GPU Nvidia Tesla V100 cũ vừa gây chú ý khi đạt hiệu năng xử lý trí tuệ nhân tạo (AI) vượt Mac Studio M5 Max trong một số thử nghiệm. Điều bất ngờ nằm ở chỗ hệ thống này chỉ có chi phí linh kiện được công bố khoảng 1.042 USD, trong khi máy tính Apple dùng để so sánh có giá 5.399 USD.

Kết quả đến từ dự án của Devon Bray, người chuyên xây dựng các hệ thống máy tính tại nhà. Anh tận dụng những GPU máy chủ đã ngừng sử dụng để đánh giá khả năng vận hành các mô hình ngôn ngữ lớn (LLM), thay vì đầu tư vào phần cứng AI thế hệ mới.

Đọc đầy đủ tại thanhnien.vn →

Liên quan: Nvidia Apple Devon Bray Tesla Supermicro Intel
Nguồn: https://thanhnien.vn/gpu-nvidia-v100-dong-nat-bat-ngo-qua-mat-mac-studio-m5-max-185261120144327311.htm

Các tin khác

Lâm Đồng: Phường Phan Thiết đưa AI vào phục vụ người dân

Lâm Đồng: Phường Phan Thiết đưa AI vào phục vụ người dân

Từ đầu tư Trạm dịch vụ công số, đưa robot và trợ lý trí tuệ nhân tạo vào hỗ trợ thủ tục hành chính đến phổ cập kỹ năng số cho cộng đồng, phường Phan Thiết (tỉnh Lâm Đồng) đang từng bước cụ thể hóa Nghị quyết số 57-NQ/TW bằng những mô hình thiết thực hướng đến mục tiêu phục vụ người dân, doanh nghiệp thuận tiện và minh bạch hơn.
AI có thể biến kho dữ liệu khổng lồ thành “mỏ vàng”?

AI có thể biến kho dữ liệu khổng lồ thành “mỏ vàng”?

Khi các mô hình AI ngày càng dễ tiếp cận, lợi thế cạnh tranh của tổ chức và doanh nghiệp không chỉ nằm ở công nghệ được sử dụng, mà còn ở khả năng xử lý và khai thác hiệu quả dữ liệu. Tuy nhiên, lượng thông tin lớn chỉ tạo ra giá trị khi được tổ chức, kết nối và xử lý theo đặc thù từng lĩnh vực.
Hỗ trợ doanh nghiệp tiếp cận chính sách phát triển khoa học công nghệ

Hỗ trợ doanh nghiệp tiếp cận chính sách phát triển khoa học công nghệ

Luật Thủ đô 2026 quy định nhiều cơ chế, chính sách để thành phố Hà Nội có thể tạo ra những bước đột phá trong phát triển khoa học, công nghệ, đổi mới sáng tạo và chuyển đổi số. Để đưa Luật vào thực tiễn, Sở Khoa học - Công nghệ Hà Nội tích cực đồng hành, hỗ trợ các doanh nghiệp tiếp cận chính sách, tận dụng cơ chế ưu đãi.
Liên kết các Hội ngành, phát huy sức mạnh trí thức Việt Nam

Liên kết các Hội ngành, phát huy sức mạnh trí thức Việt Nam

Ngày 20/11, tại Hà Nội, Liên hiệp các Hội Khoa học và Kỹ thuật Việt Nam (Liên hiệp Hội Việt Nam) đã tổ chức Hội thảo “Giải pháp tăng cường hoạt động phối hợp giữa các Hội ngành toàn quốc và Liên hiệp các Hội Khoa học và Kỹ thuật Việt Nam”.