SK Hynix: Die Zukunft von Speicher liegt zwischen HBM und SSDs

[Redaktion]

SK Hynix hat die ersten Standardspezifikationen für High Bandwidth Flash (HBF) vorgestellt. Die neue Speicherklasse soll in KI-Systemen zwischen HBM und SSDs angesiedelt sein. Der offene Standard unterstützt Kapazitäten von bis zu 512GB, eine Bandbreite von bis zu 3TB/s und die Anbindung über UCIe.

https://www.notebookcheck.com/SK-Hynix-Die-Zukunft-von-Speicher-liegt-zwischen-HBM-und-SSDs.1359941.0.html

[Rapha]

Interessanter Denkansatz. Dann also z.B. den KV-Cache von LLMs in HBF schreiben? Wenn das funktioniert könnte das zumindest in der Theorie Kosten senken und gleichzeitig schnellere (bessere?) Antworten liefern.