Здравствуйте, <Аноним>, Вы писали:

А>Исходная задача, есть итерационный алгоритм, и он накапливает погрешность,
А>надо время от времени можно и на каждом шаге, отбрасывать ненужные знаки после запятой,

Но ведь округление только увеличивает погрешность?
А кстати, что за формула?

А>я так посчитал, что это начиная от скажем 10^-3, в принципе и 2^-10 меня тоже устроит.
А>если требования к округлению сместить с десятичной системы в двоичную это поможет предложить более эффективный алгоритм округления?

В принципе, да.
Начиная с того, что можно руками распотрошить двоичное представление числа и обнулить соответствующие разряды мантиссы (в зависимости от порядка, естественно).
Либо похимичить с frexp() / ldexp(). С ходу не скажу формулу.