Сообщение Re[7]: Круглое число от 26.02.2017 21:03
Изменено 26.02.2017 21:31 pagid
Re[7]: Круглое число
Здравствуйте, Privalov, Вы писали:
P>Честно говоря, я совсем не помню разницу между BINARY и DECIMAL FLOAT. С FIXED все ясно. Если BINARY, то речь идет о двоичном числе. А если DECIMAL, то число хранится в двоично-десятичном упакованном формате, и вычисления на таких числах страшно тормозят.
Вот это меня и спутало. На первый взгляд и логично ожитать, что и с FLOAT так же.
P> А вот с FLOAT надо литературу поднимать. Но что-то мне подсказывает, что DEC FLOAT (16) и BIN FLOAT(53) — это одно и то же. Но боюсь наврать.
Похоже на то.
P>Честно говоря, я совсем не помню разницу между BINARY и DECIMAL FLOAT. С FIXED все ясно. Если BINARY, то речь идет о двоичном числе. А если DECIMAL, то число хранится в двоично-десятичном упакованном формате, и вычисления на таких числах страшно тормозят.
Вот это меня и спутало. На первый взгляд и логично ожитать, что и с FLOAT так же.
P> А вот с FLOAT надо литературу поднимать. Но что-то мне подсказывает, что DEC FLOAT (16) и BIN FLOAT(53) — это одно и то же. Но боюсь наврать.
Похоже на то.
... << RSDN@Home 1.2.0 alpha 5 rev. 1495>>
Re[7]: Круглое число
Здравствуйте, Privalov, Вы писали:
P>Честно говоря, я совсем не помню разницу между BINARY и DECIMAL FLOAT. С FIXED все ясно. Если BINARY, то речь идет о двоичном числе. А если DECIMAL, то число хранится в двоично-десятичном упакованном формате, и вычисления на таких числах страшно тормозят.
Вот это меня и спутало. На первый взгляд и логично ожидать, что и с FLOAT так же.
P> А вот с FLOAT надо литературу поднимать. Но что-то мне подсказывает, что DEC FLOAT (16) и BIN FLOAT(53) — это одно и то же. Но боюсь наврать.
Похоже на то.
Но тогда остается вопрос, как это числа так ловко "округлялись" при преобразовании в двойную точность. Какие-то процедуры стандартной библиотеки языка неявно вызывались? но что-то сомнения меня гложут, и всяко-разно тогда в Фортрановском компиляторе должно было быть сделано так же, что еще большие сомнения вызывает.
P>Честно говоря, я совсем не помню разницу между BINARY и DECIMAL FLOAT. С FIXED все ясно. Если BINARY, то речь идет о двоичном числе. А если DECIMAL, то число хранится в двоично-десятичном упакованном формате, и вычисления на таких числах страшно тормозят.
Вот это меня и спутало. На первый взгляд и логично ожидать, что и с FLOAT так же.
P> А вот с FLOAT надо литературу поднимать. Но что-то мне подсказывает, что DEC FLOAT (16) и BIN FLOAT(53) — это одно и то же. Но боюсь наврать.
Похоже на то.
Но тогда остается вопрос, как это числа так ловко "округлялись" при преобразовании в двойную точность. Какие-то процедуры стандартной библиотеки языка неявно вызывались? но что-то сомнения меня гложут, и всяко-разно тогда в Фортрановском компиляторе должно было быть сделано так же, что еще большие сомнения вызывает.