Re[3]: магическое число??
От: Аноним  
Дата: 31.08.03 10:31
Оценка: 18 (1)
Здравствуйте, Аноним, Вы писали:

А>не понял, а при чем тут округление?? в моем примере fVal выводится нормально, без округления! да и потом 8,40 можно округлить до 8, но никак не до 8,39...

А>и почему тогда никакие другие значения fVal так хитро не округляются? почему только 8,40

А притом здесь округление, что в ЭВМ используется двоичное представление чисел.

Десятичное 8,4 = двоичное 1000,(0110) — периодичесая дробь; т. е. это число непредставимо в виде конечной двоичной дроби, и его приходится округлять до размера разрядной сетки.

Таким образом, на деле хранится что-то вроде 1000,011001100110011001100110011, и это округленное число может оказаться чуть больше или меньше исходного.
 
Подождите ...
Wait...
Пока на собственное сообщение не было ответов, его можно удалить.