Re: 1,7!=1,7 Как такое может быть и как с этим боротся?
От: Lloyd Россия  
Дата: 20.09.06 08:29
Оценка:
Здравствуйте, nejest, Вы писали:

N>Явление когда число не равно самому себе обнаружено в следующем коде:


N>
N>        delta=0;
N>        percentDeviation=0;
N>        result=Calc.Calculation(Op);
N>        if(Math.Abs(result - NormalResult) < погрешность)
N>        {
N>            return(result);
N>        }
N>        else
N>        {
N>            delta=result-NormalResult;
N>            percentDeviation=(delta*100)/NormalResult;
N>            return(result);
N>        }


N>

N>Хотя при выводе на экран значения и одинаковые, но всё равно выполняется ветка else, для случая с результатом 1,7 delta равна 2,22044604925031E-16.
N>Как сделать так чтобы не учитывалась/не возникала такая погрешность?
... << RSDN@Home 1.1.4 stable SR1 rev. 568>>
 
Подождите ...
Wait...
Пока на собственное сообщение не было ответов, его можно удалить.