Сообщение Re[6]: К вопросу о всяких числах в компьютерах от 03.09.2019 13:42
Изменено 03.09.2019 13:48 Mystic Artifact
Re[6]: К вопросу о всяких числах в компьютерах
Здравствуйте, kov_serg, Вы писали:
_>И потом вы сильно преувеличиваете потерю точности. Посмотрите внимательно какие погрешности в космических расстояниях.
_>
_>Так что в диапазоне 1/256 до 256 точность не хуже чем у float32
Следует ли из этой таблички, что, те хвалы, что написаны в статье на хабре — ложь? (Про то, что один 32-битный посит заменяет float64?)
_>И потом вы сильно преувеличиваете потерю точности. Посмотрите внимательно какие погрешности в космических расстояниях.
_>
_>posit32 vs float32
_>режим 1 - до 4 8.4 значащих цифр у float 7.2
_>режим 2 - до 16 7.8 значащих цифр у float 7.2
_>режим 3 - до 256 7.2 значащих цифр у float 7.2
_>режим 4 - до 65536 6.6 значащих цифр у float 7.2
_>режим 5 - до 4.3e+09 6.0 значащих цифр у float 7.2
_>режим 6 - до 1.84e+19 5.4 значащих цифр у float 7.2
_>режим 7 - до 3.40e+38 4.8 значащих цифр у float 7.2
_>режим 8 - до 1.16e+77 4.2 значащих цифр во float не представима
_>режим 9 - до 1.34e+154 3.6 значащих цифр во float не представима
_>режим 13 - до 1e+2466 1.2 значащая цифра во float не представима
_>...
_>max=2^(+2^31) ~ 1.76e+646456993 - максимальное представимое число
_>2^(-2^31) - наименьше по модулю представимое не нулевое число
_>_>Так что в диапазоне 1/256 до 256 точность не хуже чем у float32
Следует ли из этой таблички, что, те хвалы, что написаны в статье на хабре — ложь? (Про то, что один 32-битный посит заменяет float64?)
Re[6]: К вопросу о всяких числах в компьютерах
Здравствуйте, kov_serg, Вы писали:
_>И потом вы сильно преувеличиваете потерю точности. Посмотрите внимательно какие погрешности в космических расстояниях.
_>
_>Так что в диапазоне 1/256 до 256 точность не хуже чем у float32
Следует ли из этой таблички, что, те хвалыобещающие рай на земле, что написаны в статье на хабре — ложь? (Про то, что один 32-битный посит заменяет float64?)
_>И потом вы сильно преувеличиваете потерю точности. Посмотрите внимательно какие погрешности в космических расстояниях.
_>
_>posit32 vs float32
_>режим 1 - до 4 8.4 значащих цифр у float 7.2
_>режим 2 - до 16 7.8 значащих цифр у float 7.2
_>режим 3 - до 256 7.2 значащих цифр у float 7.2
_>режим 4 - до 65536 6.6 значащих цифр у float 7.2
_>режим 5 - до 4.3e+09 6.0 значащих цифр у float 7.2
_>режим 6 - до 1.84e+19 5.4 значащих цифр у float 7.2
_>режим 7 - до 3.40e+38 4.8 значащих цифр у float 7.2
_>режим 8 - до 1.16e+77 4.2 значащих цифр во float не представима
_>режим 9 - до 1.34e+154 3.6 значащих цифр во float не представима
_>режим 13 - до 1e+2466 1.2 значащая цифра во float не представима
_>...
_>max=2^(+2^31) ~ 1.76e+646456993 - максимальное представимое число
_>2^(-2^31) - наименьше по модулю представимое не нулевое число
_>_>Так что в диапазоне 1/256 до 256 точность не хуже чем у float32
Следует ли из этой таблички, что, те хвалы