Как процессор обрабатывает типы float, double, decimal?
От: 0K Ниоткуда  
Дата: 03.07.08 08:20
Оценка:
Навеяно сим
Автор: zbanned
Дата: 03.07.08
.

Кто занимался вопросами:

Какие из перечисленных типов поддерживаются на аппаратном уровне процессором машины? decimal вроде не поддерживается? Т.е. это программная реализация и операции с этим типом значительно медленнее, чем с float. А double поддерживается на аппаратном или программная реализация?

Как я понимаю, float реализовывать программно смысла нет, т.к. у процессора есть операции для чисел с плавающей запятой такой точности.

Если так, то почему точность float только 7 знаков (8 == 8.99999976158142)? Должно ж быть 8?

ЗЫ
Все вышесказанное мои предположения, этим вопросом не занимался.
 
Подождите ...
Wait...
Пока на собственное сообщение не было ответов, его можно удалить.