Re: Помогите разобраться с вычислениями
От: zubr Россия  
Дата: 17.03.09 09:17
Оценка:
Здравствуйте, notdefine, Вы писали:

N>Так вот, меня интересуют значения _xPos и _yPos, в каждом примере их значения различаются на величину от 0,0001 до 0,00000006 примерно. Почему так происходит ?

потому что float — вещественный тип, или тип с плавающей точкой. все операции с некоторой погрешностью. http://www.ibm.com/developerworks/java/library/j-jtp0114/
также найдете много информации в JLS.
если вы хотите сравнить два float point, то:
epsilon = 1e-6; //sample

equals a, b => abs(a-b) < epsilon;
 
Подождите ...
Wait...
Пока на собственное сообщение не было ответов, его можно удалить.