Ієрархія пам’яті та рядки кешу

Коротко: У комп’ютерів кілька рівнів пам’яті: регістри, кеш L1–L3, оперативна пам’ять, SSD, жорсткий диск. Що ближче до CPU, то швидше, але менше. Дані переміщуються рядками кешу (зазвичай 64 байти).

Докладніше: Звернення до оперативної пам’яті займає приблизно в сто разів довше, ніж до кешу L1. Програми, що читають дані послідовно й близько одна до одної (просторова й часова локальність), працюють набагато швидше.