24 GB gegen 512 GB und bis zu 3,1 TB in kombinierten Systemen, das sind die Zahlen, die derzeit die Debatte um Speicher für KI-Beschleuniger dominieren. Im c't-Podcast Bit-Rauschen erklären die Redaktoren Christof Windeck und Carsten Spille die technischen Unterschiede zwischen HBM, DDR5/LPDDR5X und GDDR7 sowie die erwarteten Schritte zu HBM4 und HBM5. Parallel beschreibt ComputerBase einen Industrieansatz von SanDisk, genannt High Bandwidth Flash, der NAND-Flash-Pakete als sehr kapazitätsdichte Alternative oder Ergänzung zu HBM vorschlägt. Ob HBF die Praxis erreichen kann, bleibt offen, weil unabhängige Benchmarks und konkrete Marktpläne bislang fehlen.

Die c't-Podcastreihe Bit-Rauschen widmete sich in Folge 2026/9 der Rolle von High Bandwidth Memory in KI-Rechenbeschleunigern. Die Moderatoren Christof Windeck und Carsten Spille erläutern in der Folge, warum HBM heute in Rechenzentren vorherrscht und wie sich diese Speicherarchitektur von handelsüblichem DDR5, LPDDR5X und dem für Grafikkarten vorgesehenen GDDR7 unterscheidet.

Warum HBM in Rechenzentren genutzt wird

HBM ist dem Podcast zufolge vor allem dort sinnvoll, wo extrem hoher Durchsatz und breite Speicherbusse benötigt werden. HBM wird gestapelt und über einen Interposer mit der GPU verbunden, was sehr hohe Bandbreiten pro Package erlaubt. Gleichzeitig ist HBM pro Gigabyte deutlich teurer als andere DRAM-Typen, weshalb es sich nach c't vorrangig in KI-Beschleunigern in Rechenzentren rechnet, wo Durchsatz wichtiger ist als Kapazität.

Die Folge erklärt auch, wie HBM gefertigt wird und nennt die Entwicklungsstufen HBM3E, HBM4 und eine mögliche HBM5-Generation. Für HBM4 sieht die Sendung technische Verbesserungen gegenüber HBM3E voraus. HBM5 wird in der Diskussion mit höheren thermischen Anforderungen verbunden, und es gibt Hinweise darauf, dass eine direkte Flüssigkeitskühlung nötig werden könnte, wenn HBM5 die erwartete Leistungs- und Dichteklasse erreicht.

Die Hostings von Bit-Rauschen sind Teil des regelmäßigen Angebots von c't zu Prozessoren, GPUs, Notebooks, Servern, KI und Rechenzentren. Die Podcastreihe behandelt verschiedene Chip-Themen, etwa Matrix-Rechenwerke in CPU-Kernen, und bringt so technische Details einem breiteren Fachpublikum nahe.

SanDisks High Bandwidth Flash: Mehr Kapazität durch NAND

Parallel zur c't-Folge berichtete ComputerBase über einen konkreten Industrieansatz von SanDisk: das Konzept High Bandwidth Flash, kurz HBF. ComputerBase beschreibt HBF als ein auf hohen Durchsatz getrimmtes, gestapeltes NAND-Flash-Paket, das GPUs deutlich mehr Kapazität bringen soll.

Mastheads

SanDisk präsentiert HBF als mögliche Ergänzung oder Alternative zu HBM.

ComputerBase stellt dabei konkrete Rechnungen an. Ein System mit acht HBM-Paketen komme auf rund 192 GB Gesamtspeicher, wenn man von typischen 24-GB-Paketen ausgeht. Ein kombiniertes Setup mit sechs HBF- und zwei HBM-Paketen soll laut Darstellung auf etwa 3.120 GB kommen, also rund 3 TB. Und ein reines HBF-Design werde mit etwa 4.096 GB, also 4 TB, beziffert. Als Erklärung der hohen Kapazitätsdichte nennt ComputerBase Paketgrößen: ein HBM-Paket mit 24 GB stehe einem HBF-Package mit 512 GB gegenüber.

Laut ComputerBase sitzt ein HBF-Paket gestapelt über einem Logic-Die auf einem Interposer neben der GPU oder CPU. Die elektrische Schnittstelle bleibe ähnlich, was eine Integration erleichtern könne.

Allerdings betont ComputerBase, dass HBF nicht vollständig drop-in-kompatibel mit existierendem HBM sei. Anpassungen in Design und Firmware seien demnach nötig, um HBF in Rechenzentrumsumgebungen zu nutzen.

ComputerBase nennt SanDisk als Anbieter, der nach einer Abspaltung von Western Digital wieder eigenständig sei. In der Darstellung von SanDisk gilt HBF als strategische Option für große KI-Speicher, mit dem Anspruch, GPUs deutlich größere lokale Kapazitäten zu geben, ohne allein auf DRAM zu setzen.

Wichtig ist die Einschränkung aus dem Bericht: Die Aussage, HBF könne beim Durchsatz mit HBM ebenbürtig sein, stammt derzeit nur aus der Darstellung von ComputerBase über SanDisks Konzept. NAND-Flash hat typischerweise deutlich höhere Latenzen als DRAM. Unabhängige Messwerte, Benchmarks oder belastbare Produkttests, die SanDisks Anspruch bestätigen, liegen nicht vor. ComputerBase nennt keine konkreten Zeitpläne, Preise oder Testdaten für HBF, und die c't-Folge liefert ebenfalls keine Validierung der Leistungsversprechen.

Für Systemdesigner wäre HBF dann interessant, wenn die Kapazitätsdichte von NAND mit geeigneten Architekturen und Firmware zu durchsatzorientierten Arbeitslasten kombiniert werden kann. Denkbar sind hybride Systeme, in denen HBM weiterhin die Hot-Daten mit minimaler Latenz bedient, während HBF grosse, weniger latenzkritische Datensätze nahe an der Rechenlogik vorhält. Ob dies praktikabel ist, hängt von noch ausstehenden Validierungen ab.

Die Bit-Rauschen-Folge 2026/9 steht online und ist über die c't-Webseite sowie über Podcast-Plattformen wie Podigee verfügbar. ComputerBase stellt SanDisks Ideen dar, ohne einen Marktstart oder Preis zu nennen. Ob und wann HBF in Rechenzentrumsprodukten eingesetzt wird, bleibt daher offen.

Related Articles

ComputerBase nennt als Größenordnungen ein HBM-Package mit 24 GB gegenüber einem HBF-Package mit 512 GB, ein kombinierter Entwurf mit sechs HBF- und zwei HBM-Paketen würde dem Bericht zufolge auf rund 3.120 GB kommen.

Dieser Artikel wurde mit KI-Unterstützung erstellt.