Здравствуйте, Lazytech, Вы писали:

L>Внимание, вопрос: это фундаментальная проблема Windows?

Нет. Удаление файлов из папки можно проводить двумя способами

1. Получить список всех и удалить
2. FindFirstFile — do while FindNextFile и по ходу энумерации удалять.

Зачем используют первый — не знаю.