1,7!=1,7 Как такое может быть и как с этим боротся?
От: nejest Беларусь  
Дата: 20.09.06 08:25
Оценка:
Явление когда число не равно самому себе обнаружено в следующем коде:

        delta=0;
        percentDeviation=0;
        result=Calc.Calculation(Op);
        if(result==NormalResult)
        {
            return(result);
        }
        else
        {
            delta=result-NormalResult;
            percentDeviation=(delta*100)/NormalResult;
            return(result);
        }

Хотя при выводе на экран значения и одинаковые, но всё равно выполняется ветка else, для случая с результатом 1,7 delta равна 2,22044604925031E-16.
Как сделать так чтобы не учитывалась/не возникала такая погрешность?
 
Подождите ...
Wait...
Пока на собственное сообщение не было ответов, его можно удалить.