Re[2]: (double)0.001f = 0.0010000000474974513. Почему???
От:
nikov
http://www.linkedin.com/in/nikov
Дата:
21.01.10 13:50
Оценка:
Здравствуйте, Аноним, Вы писали:
А>попытайся записать 1/1000 в двоичной системе исчесления.
А>
И почитай википедию
Ещё рекомендую прочитать:
Числа с плавающей запятой и их особенности
What Every Computer Scientist Should Know About Floating-Point Arithmetic
http://www.parashift.com/c++-faq-lite/newbie.html#faq-29.16
http://www.parashift.com/c++-faq-lite/newbie.html#faq-29.17
http://ieeexplore.ieee.org/
Переместить
Удалить
Выделить ветку
Проголосовать
Пока на собственное сообщение не было ответов, его можно удалить.
Удалить
Проголосовать
Заголовок: