Re[3]: Собственный тип данных с плавающей точкой
От: Кодт Россия  
Дата: 23.12.09 15:41
Оценка:
Здравствуйте, toffeeA, Вы писали:

A>Нет, не ошибка набегает. Вычисляются коэффициенты аппроксимационного полинома. И реально не порядка не хватает, а точности мантиссы, знаков после запятой. При определенном раскладе получается так, что циферки сжирают друг друга(складываются и вычитаются) и получается 0, а должен быть не 0! Я уже занялась созданием Double, хотя и не испытываю оптимизма по этому поводу.


Когда циферки сжирают друг друга — это именно что ошибка набегает.
Например, величина ошибки зависит от порядка суммирования. Если суммировать числа по возрастанию абсолютного значения, ошибка будет меньшей, если по убыванию — большей.
Вычисление сходящегося ряда — т.е. сумма убывающей последовательности — в наивной реализации даст большую ошибку.

Глубоко вычислительной математикой не занимался, поэтому не скажу за хорошие методы вычисления коэффициентов. Но они должны быть, надо порыться в гугле и специальной литературе.
... << RSDN@Home 1.2.0 alpha 4 rev. 1237>>
Перекуём баги на фичи!
 
Подождите ...
Wait...
Пока на собственное сообщение не было ответов, его можно удалить.