Nowy standard pamięci z Korei i USA. NVIDIA na razie milczy
To już nie tylko pomysł, ale realne rozwiązanie. Nie skorzystają z niego jednak użytkownicy domowych komputerów, a giganci budujący centra danych.
Firmy Sandisk i SK hynix oficjalnie zaprezentowały zapowiadany wcześniej standard High Bandwidth Flash, czyli HBF. Nowa technologia ma połączyć ogromną pojemność znaną z pamięci NAND z przepustowością zbliżoną do układów HBM. Rozwiązanie przygotowano przede wszystkim z myślą o systemach AI wykonujących inferencję, które muszą przechowywać coraz większe modele blisko procesora lub akceleratora.
To pomoże ograniczyć problemy związane m.in. z KV Cache
Pierwsza specyfikacja przewiduje pakiety o pojemności do 512 GB, korzystające ze stosów zawierających 8 lub 16 warstw. HBF podzielono na trzy klasy wydajności, zapewniające od 0,4 do 3 TB/s. Wciąż nie jest jednak jasne, czy najwyższa wartość dotyczy pojedynczego pakietu, czy całego podsystemu pamięci. Teoretycznie byłoby to więcej niż około 2 TB/s oferowane przez jeden stos HBM4, choć pod względem opóźnień HBF prawdopodobnie nadal pozostanie w tyle.
Do komunikacji ma zostać wykorzystany standard UCIe, pozwalający łączyć różne układy w ramach jednej platformy. Osiągnięcie nawet 400 GB/s z pakietu o pojemności 512 GB będzie jednak wymagało bardzo złożonego kontrolera oraz równoczesnego dostępu do wielu struktur pamięci.
Nie wiadomo jednak, czy branża zdecyduje się na szerokie wykorzystanie nowego standardu. Dotychczas zainteresowanie projektem wyraziły Google i Tenstorrent, natomiast AMD, Intel, NVIDIA, Samsung, Micron oraz pozostali najwięksi producenci nie zapowiedzieli udziału. Próbki trafią do partnerów jeszcze w tym roku, a efekty testów w warunkach bojowych zadecydują o sukcesie lub porażce HBF. Dla wielu firm kluczowa będzie cena.
