Отладчик Вам в помощь — это надо просто смотреть. По описанию — впечатление, что Вы организовали рекурсивный вызов либо собственной процедуры, либо какой-то из VCL-ных. Ставьте use debug DCU's, брейкпоинты — и смотрите, как ходит управление между Вашим и системным кодом.