Иерархия памяти и строки кеша

Коротко: У компьютеров несколько уровней памяти: регистры, кеш L1–L3, оперативная память, SSD, жёсткий диск. Чем ближе к CPU, тем быстрее, но меньше. Данные перемещаются строками кеша (обычно 64 байта).

Подробнее: Обращение к оперативной памяти занимает примерно в сто раз дольше, чем к кешу L1. Программы, читающие данные последовательно и близко друг к другу (пространственная и временная локальность), работают гораздо быстрее.