Все, проблема решена. Это IDE тупило, сбрасывало теущую конфигурацию на debug.
Появилась папка release, тамошняя dll регистрируется без проблем.