Kurz erklärt
Die Speicherbandbreite gibt an, wie viele Gigabyte pro Sekunde zwischen Speicher und Prozessor übertragen werden können.
Genauer
Sie ist der entscheidende Wert für die Geschwindigkeit von Sprachmodellen. Grafikkarten haben hunderte bis tausende GB/s (GDDR6X, HBM), normaler Arbeitsspeicher im PC nur etwa 50 bis 100 GB/s. Apple-Chips mit Unified Memory liegen dazwischen (100 bis 800 GB/s).