Докопался до следующего:

CreateCompatibleBitmap имеет общую память на все приложения, поэтому, когда я съел весь резев своей программой другие приложения перестали работать.
Зависит это не от Windows а от драйвера. После обновления драйвера и проявился этот прикол.