Вроде бы на первых курсах компьютерных специальностей подробно описывают двоичное представление вещественных чисел. Может настало время вспомнить основы. Потому что, скорее всего, еще больше "глюков" будет при сравнениях double.
А за объяснением причин "глюка" в поиск, уже много раз он "проявлялся".