Re[2]: (double)0.001f = 0.0010000000474974513. Почему???
От: nikov США http://www.linkedin.com/in/nikov
Дата: 21.01.10 13:50
Оценка:
Здравствуйте, Аноним, Вы писали:

А>попытайся записать 1/1000 в двоичной системе исчесления.

А>И почитай википедию

Ещё рекомендую прочитать:

Числа с плавающей запятой и их особенности
What Every Computer Scientist Should Know About Floating-Point Arithmetic
http://www.parashift.com/c++-faq-lite/newbie.html#faq-29.16
http://www.parashift.com/c++-faq-lite/newbie.html#faq-29.17
http://ieeexplore.ieee.org/
 
Подождите ...
Wait...
Пока на собственное сообщение не было ответов, его можно удалить.