Есть простейший код
Компилятор-Visual Studio 2008 Express Edition
double a = 12.256789;
double b = 0.000001;
a+=b;
При пустом проекте а равняется 12.25678(9)(что мне и надо)
В большом проекте почему-то тот же код дает а==12.256790161132812
Опции компилятора какие смотреть или что?

Здравствуйте, Аноним, Вы писали:

А>Опции компилятора какие смотреть или что?

Если тебе нужна такая предсказуемость, тебе нужен decimal, а не double.

Дело может быть в опции /fp

/fp:<except[-]|fast|precise|strict> choose floating-point model:
    except[-] - consider floating-point exceptions when generating code
    fast - "fast" floating-point model; results are less predictable
    precise - "precise" floating-point model; results are predictable
    strict - "strict" floating-point model (implies /fp:except)

Здравствуйте, Аноним, Вы писали:

А>При пустом проекте а равняется 12.25678(9)(что мне и надо)
А>В большом проекте почему-то тот же код дает а==12.256790161132812
А>Опции компилятора какие смотреть или что?

В большом проекте видимо используются какие-то функции, которые изменяют режим работы сопроцессора. Опять же, как просматривали значение? Может, отладчик (или поток вывода) по другому отформатировал.

Кё> precise — "precise" floating-point model; results are predictable
В том то и дело,что и там и там precise стоит

M>В большом проекте видимо используются какие-то функции, которые изменяют режим работы сопроцессора.
Кто-нибудь встречал такое? Как с этим бороться?

>Опять же, как просматривали значение? Может, отладчик (или поток вывода) по другому отформатировал.
И отладчиком и потоком вывода-такая вот неточность.Я знаю что особенной точности от того-же double не дождаться, но не до такой же степени

Здравствуйте, AlexNoo, Вы писали:

M>>В большом проекте видимо используются какие-то функции, которые изменяют режим работы сопроцессора.
AN>Кто-нибудь встречал такое? Как с этим бороться?
Я натыкался на подобное довольно давно, когда пользовался борландовским компилятором. Как боролся — забил вроде, не критично было.

Здравствуйте, AlexNoo, Вы писали:

Кё>> precise — "precise" floating-point model; results are predictable
AN>В том то и дело,что и там и там precise стоит

M>>В большом проекте видимо используются какие-то функции, которые изменяют режим работы сопроцессора.
AN>Кто-нибудь встречал такое? Как с этим бороться?

>>Опять же, как просматривали значение? Может, отладчик (или поток вывода) по другому отформатировал.
AN>И отладчиком и потоком вывода-такая вот неточность.Я знаю что особенной точности от того-же double не дождаться, но не до такой же степени

Что-то совсем нечисто.
double должен давать точность 15-16 десятичных знаков.
Попробовал на компиляторее gcc (под рукой нету другого сишного).

double a = 12.256789;
double b = 0.000001;
a+=b;
printf("%.13f\n", a);

результат 12.256790000000

может стоит попробовать присвоение таким образом:
double a = (double)12.256789;
double b = (double)0.000001;

M2> результат 12.256790000000

Дак вот и говорю- в пустом проекте все ОК

M2>может стоит попробовать присвоение таким образом:
M2> double a = (double)12.256789;
M2> double b = (double)0.000001;
да всяко пробовал-(double)x и double(x).

Здравствуйте, AlexNoo, Вы писали:

M2>>может стоит попробовать присвоение таким образом:
M2>> double a = (double)12.256789;
M2>> double b = (double)0.000001;
AN>да всяко пробовал-(double)x и double(x).

А результат такого
double a = (float)12.256789;
double b = (float)0.000001;

даёт 12.256790161132812 или что-то другое?

Здравствуйте, AlexNoo, Вы писали:


M2>> результат 12.256790000000

AN>Дак вот и говорю- в пустом проекте все ОК

M2>>может стоит попробовать присвоение таким образом:
M2>> double a = (double)12.256789;
M2>> double b = (double)0.000001;
AN>да всяко пробовал-(double)x и double(x).

нашёл на одном форуме странность похожую:

Нашел, что точность портится изза использования Managed DirectX.
Если кому интересно, вот статья: http://blogs.msdn.com/tmiller/archive/2004/06/01/145596.aspx

On 26.07.2011 12:35, Кодёнок wrote:

> Если тебе нужна такая предсказуемость, тебе нужен decimal, а не double.
>

Да только нет такого в С++.

M2>нашёл на одном форуме странность похожую:

M2>Нашел, что точность портится изза использования Managed DirectX.
M2>Если кому интересно, вот статья: http://blogs.msdn.com/tmiller/archive/2004/06/01/145596.aspx

DirectX пользую,но не managed вроде как...

M2>>Нашел, что точность портится изза использования Managed DirectX.
M2>>Если кому интересно, вот статья: http://blogs.msdn.com/tmiller/archive/2004/06/01/145596.aspx

AN>DirectX пользую,но не managed вроде как...

У нас такое лечили передачей флага в инициализацию DirectX (чтобы эта сволочь не выставляла сопроцессор в режим одинарной точности).

K13>У нас такое лечили передачей флага в инициализацию DirectX (чтобы эта сволочь не выставляла сопроцессор в режим одинарной точности).

Всем спасибо за наводку-в настройках директа floating point mode стояло fastest-кто ж знал,что на весь код проекта это отразится... Век живи-век учись