UINT32 -> float
От: BabyBear  
Дата: 17.12.05 13:03
Оценка:
Мне нужно разделить два целых числа и преобразовать в строку. Как оказалось, делить я не умею

float( UINT32) / float(unsigned short )
иногда считается правильно, иногда дает -1.#IND




Re: UINT32 -> float
От: BabyBear  
Дата: 17.12.05 13:09
Оценка:
Точнее, я не умею типы преобразовывать

float pr
UINT32 pOP->m_Price
Re[2]: UINT32 -> float
От: xbit Россия  
Дата: 17.12.05 13:28
Оценка:
Думаю примерно так:
unsigned int num1 = 123;
unsigned short num2 = 23;

double res = (double) num1/num2;

s.Format("%.6f", res);
Нас не догонят!
Re[3]: UINT32 -> float
От: BabyBear  
Дата: 17.12.05 14:55
Оценка:
Здравствуйте, xbit, Вы писали:

X>Думаю примерно так:

X>
X>unsigned int num1 = 123;
X>unsigned short num2 = 23;

X>double res = (double) num1/num2;

X>s.Format("%.6f", res);
X>


Спасибо, но это все мне не помогает. Как то у меня нестабильно все работает. То преобразуются числа, то нет. Пробовал менять опции компиляции, начинают ошибки в других местах вылезать.
Пробовал я написать тест маленький и повторить эту ошибку, что бы мне поверили, а там всё работает.
Последний час у меня уже появились мысли, что процессор у меня неправильно работает
Re[4]: UINT32 -> float
От: BabyBear  
Дата: 17.12.05 21:04
Оценка:
Ошибка была в другом месте и она чудным образом сюда пролазила.
 
Подождите ...
Wait...
Пока на собственное сообщение не было ответов, его можно удалить.