PM>На сколько кэш сокращает кол-во обращений к памяти для типовых программ (например возьмем Win+Office). Какого порядка числа? Ясно что каждая программа может вести себя особо и числа могут быть разными, но все же. Какой типовой порядок вообще для разных размеров кешей, например 512kb и 1mb: в два раза, в три, в 10 и т.п.?

Берешь qemu, вставляешь туда лог обращений к памяти, получаешь его с прогона нужной программы и прогоняешь по модели кэша.

Будет у тебя всё, что нужно.

Или спрашивай у Интела.

Мой опыт — это не win+office, это древний dhrystone, — говорит, что кэш может устранить все промахи. И, AFAIR, разница между кэшем, вмещающим рабочее множество, и вдвое меньшим, составляла что-то процентов 10 промахов.

Общую оценку для Win+Office можно прикинуть из общих соображений. Конвейер современных процессоров простаивает 50-60% времени из-за обращений к памяти, каждый второй такт. Время обращения к памяти составляет 20-30 тактов при промахе. Получается, что он ловит 95-98% обращений.