Kurz erklärt
Computer haben mehrere Speicherstufen: Register, L1–L3-Cache, Arbeitsspeicher, SSD, Festplatte. Je näher an der CPU, desto schneller, aber kleiner. Daten werden in Cache-Lines (meist 64 Byte) bewegt.
Genauer
Der Zugriff auf den Arbeitsspeicher dauert grob hundertmal länger als auf den L1-Cache. Programme, die Daten nacheinander und nah beieinander lesen (räumliche und zeitliche Lokalität), laufen deutlich schneller.