WinDbg тоже виснет?
Он, если что, умеет дамп работающего процесса снимать (как-то так).
Еще есть смысл посмотреть на счетчики производительности из .NET CLR Memory (особенно Large Object Heap Size, Bytes in all Heaps, Allocated bytes/sec)
Бывает что по ним уже становится понятно куда примерно копать.