Công nghệ

Kioxia hợp tác Nvidia phát triển SSD tốc độ cao cho máy chủ AI

Theo TomsHardre, Kioxia vừa công bố kế hoạch phát triển dòng ổ cứng SSD mới đạt hơn 10 triệu IOPS (tương đương 5 GB/giây) với khối lượng dữ liệu nhỏ, hướng đến các hệ thống trí tuệ nhân tạo hiệu năng cao. Đáng chú ý, sản phẩm này được phát triển cùng Nvidia, hãng sản xuất GPU lớn nhất thế giới.

Kioxia cho biết thiết bị lưu trữ mới sẽ tích hợp bộ điều khiển chuyên dụng nhằm tối ưu hóa số lượng thao tác đầu vào/đầu ra mỗi giây (IOPS), đặc biệt trong các khối dữ liệu 512 byte - vốn phù hợp hơn với hành vi truy xuất thực tế trong các mô hình ngôn ngữ lớn (LLM) và hệ thống RAG (retrieval-augmented generation). Đây là những công nghệ đang được sử dụng phổ biến trong các nền tảng AI hiện nay.

Kioxia hợp tác cùng Nvidia phát triển SSD tốc độ cao cho máy chủ AI - Ảnh 1.

XL-Flash của Kioxia được xây dựng trên nền tảng NAND 3D nhưng chỉ sử dụng một bit mỗi cell, giúp cải thiện khả năng duy trì hiệu năng ổn định khi ở mức tải cao

ẢNH: KIOXIA

Ổ SSD này sẽ sử dụng công nghệ bộ nhớ XL-Flash dạng cell đơn (SLC), có độ trễ đọc chỉ từ 3 đến 5 micro giây - nhanh hơn gấp nhiều lần so với ổ SSD thông thường dùng NAND 3D với độ trễ từ 40 đến 100 micro giây. SLC cũng cho phép truy cập dữ liệu nhanh hơn và độ bền cao hơn, phù hợp với khối lượng công việc cường độ cao trong các máy chủ AI.

Một trong những điểm nghẽn lớn nhất hiện nay trong các hệ thống AI là việc truyền dữ liệu từ bộ lưu trữ đến GPU vẫn phải qua CPU trung gian, làm tăng độ trễ và giảm hiệu suất. Kioxia và Nvidia hướng tới giải pháp kết nối trực tiếp SSD với GPU theo cơ chế peer-to-peer, từ đó rút ngắn thời gian truy xuất và giảm tải cho CPU. Thiết kế này đồng thời tận dụng tối đa khả năng xử lý đồng thời của các GPU hiện đại, giúp đảm bảo hiệu suất xử lý luôn đạt mức tối đa.

Đáng chú ý, Kioxia không tiết lộ loại giao tiếp chủ nào sẽ được sử dụng cho dòng SSD này, nhưng cho biết sản phẩm không yêu cầu băng thông cao như PCIe 6.0. Thay vào đó, thiết bị được thiết kế để tối ưu hóa cho việc truy xuất ngẫu nhiên khối nhỏ - vốn phù hợp hơn với đặc điểm xử lý của các GPU, nơi các dòng xử lý hoạt động trên các đoạn dữ liệu nhỏ và độc lập.

Kioxia dự kiến ra mắt dòng SSD AI này vào nửa cuối năm 2026, đánh dấu bước tiến mới trong cuộc đua cải tiến hạ tầng lưu trữ cho trí tuệ nhân tạo.

Các tin khác

Trái Đất rung chuyển suốt 9 ngày, bí ẩn vừa được giải mã

Tháng 9/2023, các nhà khoa học trên khắp thế giới đã vô cùng bối rối trước một tín hiệu địa chấn kỳ lạ, lặp lại cứ mỗi 90 giây trong suốt 9 ngày liên tiếp. Bí ẩn về vụ rung chuyển Trái Đất kéo dài này vừa được giải mã.