Мне нужно разделить два целых числа и преобразовать в строку. Как оказалось, делить я не умею
float( UINT32) / float(unsigned short )
иногда считается правильно, иногда дает -1.#IND
Думаю примерно так:
unsigned int num1 = 123;
unsigned short num2 = 23;
double res = (double) num1/num2;
s.Format("%.6f", res);
Здравствуйте, xbit, Вы писали:
X>Думаю примерно так:
X>X>unsigned int num1 = 123;
X>unsigned short num2 = 23;
X>double res = (double) num1/num2;
X>s.Format("%.6f", res);
X>
Спасибо, но это все мне не помогает. Как то у меня нестабильно все работает. То преобразуются числа, то нет. Пробовал менять опции компиляции, начинают ошибки в других местах вылезать.
Пробовал я написать тест маленький и повторить эту ошибку, что бы мне поверили, а там всё работает.
Последний час у меня уже появились мысли, что процессор у меня неправильно работает