Числа с плавающей точкой в Visual Studio 2012
От: FrozenHeart  
Дата: 05.12.13 14:11
Оценка: -1 :)
Приветствую.

Кто-нибудь может это объяснить наиболее простым и понятным языком, пожалуйста?



Visual Studio 2012.
avalon/1.0.433
Re: Числа с плавающей точкой в Visual Studio 2012
От: Muxa  
Дата: 05.12.13 14:15
Оценка: 12 (1)
Кто-нибудь может объяснить что тут требуется объяснить наиболее простым и понятным языком, пожалуйста?
Re[2]: Числа с плавающей точкой в Visual Studio 2012
От: FrozenHeart  
Дата: 05.12.13 14:18
Оценка:
M> Кто-нибудь может объяснить что тут требуется объяснить наиболее простым и понятным языком, пожалуйста?

Почему значение переменной normalized_value отличается от того же значения, переведённого в строковое представление (в данном случае normalized_value_str)?
avalon/1.0.433
Re[3]: Числа с плавающей точкой в Visual Studio 2012
От: Muxa  
Дата: 05.12.13 14:31
Оценка:
FH>Почему значение переменной normalized_value отличается от того же значения, переведённого в строковое представление (в данном случае normalized_value_str)?
А как по твоему число double 2.0151 выглядит в битовом представлении?

Тебя же не смущает что


Или смущает?
Re[4]: Числа с плавающей точкой в Visual Studio 2012
От: FrozenHeart  
Дата: 05.12.13 14:36
Оценка:
M> Или смущает?

Так почему при касте к std::string оно так же не выглядит?
avalon/1.0.433
Re[3]: Числа с плавающей точкой в Visual Studio 2012
От: B0FEE664  
Дата: 05.12.13 14:37
Оценка:
Здравствуйте, FrozenHeart, Вы писали:

M>> Кто-нибудь может объяснить что тут требуется объяснить наиболее простым и понятным языком, пожалуйста?

FH>Почему значение переменной normalized_value отличается от того же значения, переведённого в строковое представление (в данном случае normalized_value_str)?

Потому, что при приведении данного числа к строковому виду его округлили.

Вы знаете, что в математике число 1 может быть записано как 0.9(9) — т.е. в виде бесконечной десятичной периодической дроби?
И каждый день — без права на ошибку...
Re[5]: Числа с плавающей точкой в Visual Studio 2012
От: Muxa  
Дата: 05.12.13 14:45
Оценка:
FH>Так почему при касте к std::string оно так же не выглядит?
Это надо смотреть реализацию преобразования, думаю там есть округление.
 
Подождите ...
Wait...
Пока на собственное сообщение не было ответов, его можно удалить.