Re: Как процессор обрабатывает типы float, double, decimal?
От: gandjustas Россия http://blog.gandjustas.ru/
Дата: 03.07.08 08:25
Оценка:
Здравствуйте, 0K, Вы писали:

0K>Навеяно сим
Автор: zbanned
Дата: 03.07.08
.


0K>Кто занимался вопросами:


0K>Какие из перечисленных типов поддерживаются на аппаратном уровне процессором машины? decimal вроде не поддерживается? Т.е. это программная реализация и операции с этим типом значительно медленнее, чем с float. А double поддерживается на аппаратном или программная реализация?


Все поддерживаются. Просто разные методы вызывают ранзные инструкции процессора для обработки.


0K>Как я понимаю, float реализовывать программно смысла нет, т.к. у процессора есть операции для чисел с плавающей запятой такой точности.


0K>Если так, то почему точность float только 7 знаков (8 == 8.99999976158142)? Должно ж быть 8?


Может имелось ввиду 9 == 8.99999976158142 ?
 
Подождите ...
Wait...
Пока на собственное сообщение не было ответов, его можно удалить.