"Dojo 1 với sức mạnh tương đương 8.000 chip Nvidia H100 sẽ hoạt động cuối năm nay", Musk viết trên X ngày 24/7.
Trong ảnh, siêu máy tính chạy chip D1 gần như đã hoàn tất với phần mặt trước bao phủ kim loại, gợi liên tưởng đến mẫu xe Cybertruck do Tesla sản xuất. Trong khi đó, phần sau là hệ thống dây dẫn được bố trí gọn gàng.
Bên trong trung tâm dữ liệu sử dụng chip Dojo D1 của Tesla. Ảnh: X/Elon Musk
Theo Reuters, Musk đang xây dựng song song hai cụm siêu máy tính cho Tesla và công ty khởi nghiệp xAI, đều trị giá hàng tỷ USD. Trong đó, cụm cho xAI sẽ "mạnh nhất thế giới", đặt ở Memphis, Tennessee với 100.000 GPU Nvidia H100 để đào tạo AI Grok. Một trung tâm dữ liệu khác nhỏ hơn dùng chip D1 tự thiết kế.
Được tiết lộ lần đầu năm 2021, D1 do Tesla phát triển và được TSMC sản xuất trên tiến trình 7 nm với 50 tỷ bóng bán dẫn, hướng đến mục tiêu hiệu suất 322 teraflop (nghìn tỷ phép tính mỗi giây). Tháng 8 năm ngoái, công ty được phát hiện tuyển vị trí trưởng phòng kỹ thuật cho trung tâm dữ liệu.
Vào tháng 9, Tesla được cho là đã tăng gấp đôi đơn hàng D1 với TSMC, cho thấy sự tự tin của công ty vào hiệu suất chip này. Đến tháng 5, có thông tin chip đã được sản xuất hàng loạt và tới tay Musk tháng này.
Theo công bố của Tesla, D1 là bộ xử lý hệ thống trên wafer với mảng 5x5, tức sẽ có 25 chip hiệu suất cực cao được kết nối với nhau bằng công nghệ quạt tích hợp (InFO) do TSMC cung cấp để hoạt động như một bộ xử lý duy nhất. Trong khi siêu máy tính ở Memphis chủ yếu để đào tạo Grok của xAI, Dojo D1 và các thế hệ sau được tinh chỉnh cho tác vụ machine learning (học máy), đào tạo video và phục vụ cho công nghệ tự lái trên xe Tesla.
Trong bài đăng khác ngày 24/7, Musk nói đang sử dụng máy tính Tesla Hardware 4 (HW4) và GPU Nvidia trong hệ thống đào tạo AI của mình, tỷ lệ kết hợp khoảng 1:2. Trong khi đó, HW4 được đổi tên thành Artificial Intelligence 4 (AI4). "Có nghĩa chúng tôi sẽ có khoảng 90.000 chip Nvidia H100 cộng với 40.000 chip AI4 và các tấm wafer Dojo D1 hoạt động cuối năm 2024", tỷ phú Mỹ cho biết.
Tại Memphis, nơi ông đang bắt tay xây dựng siêu máy tính mạnh nhất thế giới có tên "Gigafactory of Compute", một số người nhận ra một hệ thống phát điện khổng lồ đã được chuyển đến.
Ảnh vệ tinh cho thấy máy phát điện di động VoltaGrid đã được vận chuyển đến Memphis. Ảnh: X/Dylan Patel
Thông qua ảnh vệ tinh và thông tin thu thập, Dylan Patel, người đứng đầu công ty SemiAnalysis, cũng là nhà phân tích AI và bán dẫn, cho biết có 14 máy phát điện di động VoltaGrid ở đây. Mỗi máy có kích thước như một xe kéo, có thể cung cấp 2,5 MW điện.
Theo tính toán của Patel, với 35 MW kể trên cộng thêm 8 MW ưu đãi của Memphis, Musk nắm trong tay 43 MW, đủ để chạy 32.000 GPU H100 dù có thể gặp giới hạn về công suất cực đại. Thành phố này dự kiến cung cấp cho xAI khoảng 50 MW vào tháng 8, giúp công ty đủ điện để vận hành 64.000 GPU H100.
Trước đó, theo tính toán của chuyên gia Memphis Light, Gas & Water (MLGW), siêu máy tính của xAI ban đầu có thể ngốn 50 MW điện mỗi ngày, tương đương lượng điện cung cấp cho 50.000 ngôi nhà. Trong khi đó, công ty của Musk được cho là đã yêu cầu mức 130-150 MW, tức gấp ba lần.
"Chúng ta cần cân nhắc xem một công ty sử dụng số năng lượng khổng lồ như vậy sẽ tác động thế nào đến đời sống người dân", đại diện MLGW nói trong một cuộc họp trước thành phố ngày 18/7.
Theo The Information, khi thuyết phục chính quyền Memphis xây siêu máy tính, xAI hứa cải thiện cơ sở hạ tầng công cộng của nơi này, gồm xây một trạm biến áp điện và một cơ sở xử lý nước mới dù hai hạ tầng này không nằm trong hợp đồng, sau đó sẽ "trao chìa khóa lại cho thành phố".
