Здраствуйте,

Сейчас пишу программу в которой идет обработка математической ситсемы (Методом Гауса).

Может уже и поднималась такая тема, но я ее не нашел.

Вот интерестный случай и как с этим бороться.

double a=0.12;
int b = 12;
double c = a - double(b)*0.01;

Теоретически с должна быть равна 0 но на практике получается ~6E-18.