Вобщем я разобрался сам окончательно.

Выводы:
1. Все работает именно так, как я и ожидал.
2. Exception-ов небыло только потому что метод Dispose() ничего не делал такого после чего клас нельзя было импользовать (что странно, поскольку, IDispose наследуется для организации уничтожения ненужных (но ранее испельзуемых классом) unmanaged ресурсов)
3. И самое главное. Не пишите такой код Вызывайте Dispose(), например, по завершению асинхронной операции.