Re: T-SQL. Деление. Частное - 17 значащих десятичных разрядов
От: Воронин Иван Россия  
Дата: 29.05.23 15:39
Оценка:
Сейчас стал перепроверять и обнаружил мне не понятное поведение.
Если играть с точность и масштабом, то точность вычислений меняется и не больше значит больше.
Нужно смотреть реализацию, но мне это не до этого.

declare @N1 Numeric(20,2)
declare @N2 Numeric(20,2)

set @N1 = 42183246.61
set @N2 = 41761414.14

select @N2 * 100 / @N1

результат: 98.99999999075462



declare @N1 Numeric(17,2)
declare @N2 Numeric(17,2)

set @N1 = 42183246.61
set @N2 = 41761414.14

select @N2 * 100 / @N1

результат: 98.99999999075462342


Результат в калькуляторе от Win7 в инженерном режиме: 98,999999990754623426553748609157
 
Подождите ...
Wait...
Пока на собственное сообщение не было ответов, его можно удалить.