Re[4]: Ага... Не забываем указывать флаг D3DCREATE_FPU_PRESE - .NET

Коллеги,

Замучился уже. Помогите! Всю жизнь (а точнее лет как 10) программировал на C++ и спокойно выслушивал крики "нового поколения программистов" про эффективность .NET. Вот решил "опробовать". Написал уже большой кусок кода, при отладке наткнулся:

            double hbs1 = 1.3999999761581421, r1 = 0.10000000000000001,
                     x1 = 1.2999999523162842;

            double tx2 = hbs1 - r - x1;

tx2 = 0.0

VisualStudio в окне Watch издевательски показывает, что hbs1 — (radius1 + x1) должно быть 0.000000023841857821338408. На старом добром С++ все считается верно. В чем проблема?!

VisualStudio, если это существенно 2005.

Заранее благодарю.

Здравствуйте, max-megahertz, Вы писали:

MM>Коллеги,
MM>Замучился уже. Помогите! Всю жизнь (а точнее лет как 10) программировал на C++ и спокойно выслушивал крики "нового поколения программистов" про эффективность .NET. Вот решил "опробовать". Написал уже большой кусок кода, при отладке наткнулся:

MM>            double hbs1 = 1.3999999761581421, r1 = 0.10000000000000001,
MM>                     x1 = 1.2999999523162842;

MM>            double tx2 = hbs1 - r - x1;

MM>tx2 = 0.0
MM>VisualStudio в окне Watch издевательски показывает, что hbs1 — (radius1 + x1) должно быть 0.000000023841857821338408. На старом добром С++ все считается верно. В чем проблема?!
MM>VisualStudio, если это существенно 2005.

Неправда Ваша, у меня вот так (78,3 KB)

... << RSDN@Home 1.2.0 alpha rev. 650>>
Now playing: «Тихо в лесу…»

Здравствуйте, max-megahertz, Вы писали:

MM>Замучился уже.

MM>

MM>            double hbs1 = 1.3999999761581421, r1 = 0.10000000000000001,
MM>                     x1 = 1.2999999523162842;

MM>            double tx2 = hbs1 - r - x1;
MM>

MM>tx2 = 0.0

MM>VisualStudio в окне Watch издевательски показывает, что hbs1 — (radius1 + x1) должно быть 0.000000023841857821338408. На старом добром С++ все считается верно. В чем проблема?!

может быть здесь дело все в кривых именах переменных?

вот такой код дает 2.38418578213384E-08:

    double hbs1 = 1.3999999761581421D, r1 = 0.10000000000000001D,
        x1 = 1.2999999523162842D;
    double tx2 = hbs1 - r1 - x1;
    
    Console.WriteLine("val={0}", tx2.ToString());

в чем разница?

Тот кто говорит не знает, тот кто знает не говорит.

и такой тоже дает правильный результат:

         double hbs1 = 1.3999999761581421, r1 = 0.10000000000000001,
                x1 = 1.2999999523162842;
         double tx2 = hbs1 - r1 - x1;
         
                 Console.WriteLine("val={0}", tx2.ToString());

p.s.: ищите ошибку в именах

Тот кто говорит не знает, тот кто знает не говорит.

Здравствуйте, _FRED_, Вы писали:

_FR>Здравствуйте, max-megahertz, Вы писали:

MM>>Коллеги,
MM>>Замучился уже. Помогите! Всю жизнь (а точнее лет как 10) программировал на C++ и спокойно выслушивал крики "нового поколения программистов" про эффективность .NET. Вот решил "опробовать". Написал уже большой кусок кода, при отладке наткнулся:
_FR>

MM>>            double hbs1 = 1.3999999761581421, r1 = 0.10000000000000001,
MM>>                     x1 = 1.2999999523162842;

MM>>            double tx2 = hbs1 - r - x1;
_FR>

MM>>tx2 = 0.0
MM>>VisualStudio в окне Watch издевательски показывает, что hbs1 — (radius1 + x1) должно быть 0.000000023841857821338408. На старом добром С++ все считается верно. В чем проблема?!
MM>>VisualStudio, если это существенно 2005.

_FR>Неправда Ваша, у меня вот так (78,3 KB)

Мдааа.. В чистом проекте и правда посчиталось нормально... Ну тогда извиняйте, наверно мой косяк. Попробую найти или хотя-бы реализовать повторяемость на "чистом листе"...

Здравствуйте, max-megahertz, Вы писали:

Первое. Double в Net 8-байтовый. У него выделено 51 бит на мантиссу(чуть больше 15 символов). Соответсвенно, если у вас больше 15 символов, то информация теряется.
Второе. В том коде — все нормально. Символы как были double, так и остаются double (спецификация). Соответсвенно, либо у вас в коде ошибка, либо в дебаггере. Попробуйте дополнительно задать D в константах.

Гхммм.. Методом исключения нашел, что в моей программе такое поведение начинает проявляться после инициализации DirectX.

После исполнения такого кода:

            double hbs1 = 1.3999999761581421, r1 = 0.10000000000000001, x1 = 1.2999999523162842;
            double tx2 = hbs1 - r1 - x1;

            device = new Device(0, DeviceType.Hardware, this, CreateFlags.SoftwareVertexProcessing, presentParameters);

            double tx32 = hbs1 - r1 - x1;

tx2 = 0.000000023841857821338408, а tx32 = 0.0

Данная конкретная претензия к дот.нет вроде снимается. И появляется к DirectX

Тьфу...

	От:	max-megahertz
	Дата:	29.05.06 16:50
	Оценка:

От:	_FRED_	@ViIvanov
Дата:	29.05.06 17:00
Оценка:

	От:	Streamer1
	Дата:	29.05.06 17:01
	Оценка:

	От:	Streamer1
	Дата:	29.05.06 17:06
	Оценка:

	От:	max-megahertz
	Дата:	29.05.06 17:32
	Оценка: