При возникновении unhandled exception в потоке, он завершается и еще завершает процесс.
Простой пример

public static void RaiseException(object state)
{
    Console.WriteLine("RaiseException");
    throw new Exception();
}

static void Main(string[] args)
{
    var d = new Thread(RaiseException);
    d.Start();
    Thread.Sleep(5000);
    Console.WriteLine("waiting...");
    Console.ReadKey();
}

Как запустить поток так, чтобы строка, выводящая "waiting" выполнилась и программа нормально завершилась?