Interessanter Denkansatz. Dann also z.B. den KV-Cache von LLMs in HBF schreiben? Wenn das funktioniert könnte das zumindest in der Theorie Kosten senken und gleichzeitig schnellere (bessere?) Antworten liefern.
SK Hynix hat die ersten Standardspezifikationen für High Bandwidth Flash (HBF) vorgestellt. Die neue Speicherklasse soll in KI-Systemen zwischen HBM und SSDs angesiedelt sein. Der offene Standard unterstützt Kapazitäten von bis zu 512GB, eine Bandbreite von bis zu 3TB/s und die Anbindung über UCIe.
English
Español
Français
Italiano
Nederlands
Polski
Português
Русский
Türkçe
Svenska
Chinese
Magyar