В современных ЭВМ память строится в виде иерархической структуры запоминающих устройств, обладающих различными быстродействием и емкостью. На разных уровнях иерархии распределяются ЗУ, которые обладают разными характеристиками и методом доступа. Каждый уровень иерархии может содержать несколько экземпляров (модулей) соответствующих устройств для получения нужной емкости данного уровня памяти.
По мере перехода от верхних уровней иерархии к нижним:
Снижается относительная стоимость хранения информации;
Повышается емкость отдельного модуля;
Увеличивается время доступа;
Снижается частота обращений к памяти со стороны процессора.
Рис. структура памяти
Ключевым вопросом, решение которого обеспечивает производительность такой организация, является обеспечение информационных потоков в системе, обеспечивающая по мере перехода от устройств верхних уровней иерархии к устройствам нижних уровней снижение интенсивности обращения к ЗУ со стороны процессора. Эту концепция базируется на построении кеш-памяти.