Информация об изменениях

Сообщение Re: представление вещественных чисел в Visual Studio от 01.07.2020 20:04

Изменено 01.07.2020 20:08 kov_serg

Re: представление вещественных чисел в Visual Studio
Здравствуйте, sergey2b, Вы писали:

S>я раньше встречал упоминание, что CPU обрабатывает вещественные числе представленные в double

S>и при использовании float перед каждой операцией происходит преобразование типа числа

S>судя по этому документы это уже не так IEEE Floating-Point Representation


S>какой вещественный тип лучше использовать с точки зрения оптимизации по скорости


С точки зрения оптимизации по скорости следует всегда профилировать и всегда контролировать скорость (обычно throughput).
На практике разницу в размере данных кэш процессора сглаживает вполне себе успешно и вычисления что с float что с double выполняются примерно 99% с одинаковой скоростью, но бывают ньюансы.
Re: представление вещественных чисел в Visual Studio
Здравствуйте, sergey2b, Вы писали:

S>я раньше встречал упоминание, что CPU обрабатывает вещественные числе представленные в double

S>и при использовании float перед каждой операцией происходит преобразование типа числа

S>судя по этому документы это уже не так IEEE Floating-Point Representation


S>какой вещественный тип лучше использовать с точки зрения оптимизации по скорости


С точки зрения оптимизации по скорости следует всегда профилировать и всегда контролировать скорость (обычно throughput).
На практике разницу в размере данных кэш процессора сглаживает вполне себе успешно и вычисления что с float что с double выполняются примерно 99% с одинаковой скоростью, но бывают ньюансы.

ps: кстати при распаралеливании можно получать разные результаты так как (a+b)+c != a+(b+c)