Re[3]: T-SQL. Деление. Частное - 17 значащих десятичных разр
От: Воронин Иван Россия  
Дата: 22.06.23 17:44
Оценка:
Здравствуйте, Sinclair, Вы писали:

S>Если от вас не требуется оперировать суммами более десяти квадриллионов рублей, то можно просто вычислять вот так:

S>
S>print cast(41761414.14 as dec(19, 2)) * 100 / cast(42183246.61 as dec(19,2))
S>


Пока облом.
Забыл упомянуть, что это не своя ИС, а покупная (OLAP). В редакторе источников данных есть вычисляемые поля.

Попробовал реализовать, и выяснил.
При вычислениях (делении точно) они переводят Numeric во Float. К этому коду у меня доступа нет — это в "движке". Не понял зачем.

Именно поэтому у меня зародилось предположение: "Судя по поведению, Numeric для деления конвертируется туда и обратно в двойную точность."
Отредактировано 22.06.2023 20:27 Воронин Иван . Предыдущая версия .
 
Подождите ...
Wait...
Пока на собственное сообщение не было ответов, его можно удалить.