Сообщение Re: представление вещественных чисел в Visual Studio от 01.07.2020 20:04
Изменено 01.07.2020 20:08 kov_serg
Re: представление вещественных чисел в Visual Studio
Здравствуйте, sergey2b, Вы писали:
S>я раньше встречал упоминание, что CPU обрабатывает вещественные числе представленные в double
S>и при использовании float перед каждой операцией происходит преобразование типа числа
S>судя по этому документы это уже не так IEEE Floating-Point Representation
S>какой вещественный тип лучше использовать с точки зрения оптимизации по скорости
С точки зрения оптимизации по скорости следует всегда профилировать и всегда контролировать скорость (обычно throughput).
На практике разницу в размере данных кэш процессора сглаживает вполне себе успешно и вычисления что с float что с double выполняются примерно 99% с одинаковой скоростью, но бывают ньюансы.
S>я раньше встречал упоминание, что CPU обрабатывает вещественные числе представленные в double
S>и при использовании float перед каждой операцией происходит преобразование типа числа
S>судя по этому документы это уже не так IEEE Floating-Point Representation
S>какой вещественный тип лучше использовать с точки зрения оптимизации по скорости
С точки зрения оптимизации по скорости следует всегда профилировать и всегда контролировать скорость (обычно throughput).
На практике разницу в размере данных кэш процессора сглаживает вполне себе успешно и вычисления что с float что с double выполняются примерно 99% с одинаковой скоростью, но бывают ньюансы.
Re: представление вещественных чисел в Visual Studio
Здравствуйте, sergey2b, Вы писали:
S>я раньше встречал упоминание, что CPU обрабатывает вещественные числе представленные в double
S>и при использовании float перед каждой операцией происходит преобразование типа числа
S>судя по этому документы это уже не так IEEE Floating-Point Representation
S>какой вещественный тип лучше использовать с точки зрения оптимизации по скорости
С точки зрения оптимизации по скорости следует всегда профилировать и всегда контролировать скорость (обычно throughput).
На практике разницу в размере данных кэш процессора сглаживает вполне себе успешно и вычисления что с float что с double выполняются примерно 99% с одинаковой скоростью, но бывают ньюансы.
ps: кстати при распаралеливании можно получать разные результаты так как (a+b)+c != a+(b+c)
S>я раньше встречал упоминание, что CPU обрабатывает вещественные числе представленные в double
S>и при использовании float перед каждой операцией происходит преобразование типа числа
S>судя по этому документы это уже не так IEEE Floating-Point Representation
S>какой вещественный тип лучше использовать с точки зрения оптимизации по скорости
С точки зрения оптимизации по скорости следует всегда профилировать и всегда контролировать скорость (обычно throughput).
На практике разницу в размере данных кэш процессора сглаживает вполне себе успешно и вычисления что с float что с double выполняются примерно 99% с одинаковой скоростью, но бывают ньюансы.
ps: кстати при распаралеливании можно получать разные результаты так как (a+b)+c != a+(b+c)