T>Есть рассуждения про влияния процессорных кешей на алгоритмы и многопоточность/многоядерность.

А вот тут по этому же поводу — немного про "Literate programming":
http://community.livejournal.com/ru_programming/946378.html