Re[4]: T-SQL. Деление. Частное - 17 значащих десятичных разр
От: Sinclair Россия https://github.com/evilguest/
Дата: 23.06.23 07:12
Оценка:
Здравствуйте, Воронин Иван, Вы писали:
ВИ>Попробовал реализовать, и выяснил.
ВИ>При вычислениях (делении точно) они переводят Numeric во Float. К этому коду у меня доступа нет — это в "движке". Не понял зачем.
Посмотрите, какой SQL порождает этот движок, при помощи SQL Profiler. Если вычисления делаются внутри движка, а не опускаются на уровень SQL, то упс.
ВИ>Именно поэтому у меня зародилось предположение: "Судя по поведению, Numeric для деления конвертируется туда и обратно в двойную точность."
Ну, по крайней мере, вы знаете, где именно возникла проблема. Теперь можно сосредоточиться на этом месте:
1. Написать здесь или на stackoverflow конкретный вопрос с минимальным примером OLAP-запроса, на котором воспроизводится косяк
3. Написать в поддержку этого OLAP-решения
Уйдемте отсюда, Румата! У вас слишком богатые погреба.
 
Подождите ...
Wait...
Пока на собственное сообщение не было ответов, его можно удалить.