Что-то я не могу понять почему это неправильно работает.

Private Sub Form_Load()
   Dim q1 As Double
   Dim q2 As Double
   Dim s1, s2 As String
   Dim q3 As Double
   s1 = "1.1212"
   s2 = "1.1210"
   q1 = s1
   q2 = s2
   q3 = q1 - q2
   MsgBox q3
End Sub

На выходе q3=1.99999999999978E-04, а не 0,0002, почему так происходит и как от этого избавиться? Пока просто округляю до нужного знака.

"Igore" <25308@users.rsdn.ru> schrieb im Newsbeitrag news:1154608@news.rsdn.ru...
> Что-то я не могу понять почему это неправильно работает.
>
>

> Private Sub Form_Load()
>   Dim q1 As Double
>   Dim q2 As Double
>   Dim s1, s2 As String
>   Dim q3 As Double
>   s1 = "1.1212"
>   s2 = "1.1210"
>   q1 = s1
>   q2 = s2
>   q3 = q1 - q2
>   MsgBox q3
> End Sub
>

> На выходе q3=1.99999999999978E-04, а не 0,0002, почему так происходит и как от этого избавиться? Пока просто округляю до нужного знака.

Из-за ограниченной разрядной сетки процессора могут быть такие "неточности" при преобразовании из двоичного в десятичное представление (и наоборот). Нади либо брать целочисленные числа, либо округлять.

Peter

Здравствуйте, Peter Fleischer, Вы писали:

PF>Из-за ограниченной разрядной сетки процессора могут быть такие "неточности" при преобразовании из двоичного в десятичное представление (и наоборот). Нади либо брать целочисленные числа, либо округлять.

PF>Peter


Как выеснилось ошибка еще проще, мне просто интересно, это у меня одного такое или нет.

   Dim q3 As Double
   q3 = 1.1212 - 1.1211
   MsgBox q3 'q3<>0.0001

...
> Как выеснилось ошибка еще проще, мне просто интересно, это у меня одного такое или нет.

>   Dim q3 As Double
>   q3 = 1.1212 - 1.1211
>   MsgBox q3 'q3<>0.0001

Это у всех процессоров X86 так. Если хочешь точно, то примени соответствующие типы, напр. так:

[vb]
   Dim q3 As Double
   q3 = CDec(1.1212) - CDec(1.1211)
   MsgBox q3 'q3=0.0001

Peter

Здравствуйте, Peter Fleischer, Вы писали:


PF>Это у всех процессоров X86 так. Если хочешь точно, то примени соответствующие типы, напр. так:

PF>

PF>   Dim q3 As Double
PF>   q3 = CDec(1.1212) - CDec(1.1211)
PF>   MsgBox q3 'q3=0.0001
PF>

Спасибо так красивее, но почему во всех других языках которые я знаю, результат правильный. При делении ошибки могут накапливаться это ясно, но откуда возникаю ошибки прм таком простом вычитании

...
> Спасибо так красивее, но почему во всех других языках которые я знаю, результат правильный. ...

Какие же языки знаешь для Intel X86?

Проимер на C#, который дает аналогичные результаты:

Double q3;
q3 = 1.1212 - 1.1211;
MessageBox.Show(q3.ToString());
q3 = (Double)(Decimal.Parse("1,1212") - Decimal.Parse("1,1211"));
MessageBox.Show(q3.ToString());

Peter

хм... вот например консолька на С++

#include "stdafx.h"

int _tmain(int argc, _TCHAR* argv[])
{
double d1,d2,d3;
d1 = 1.1212L;
d2 = 1.1211L;
d3 = d1 — d2;
printf("\n res=%e",d3);


return 0;
}

выдает:
res=1.000000e-004

Hello, Igore!

PF>> Это у всех процессоров X86 так. Если хочешь точно, то примени

I> Спасибо так красивее, но почему во всех других языках которые я знаю,
I> результат правильный. При делении ошибки могут накапливаться это ясно,
I> но откуда возникаю ошибки прм таком простом вычитании

Дабл устроен так что физически не может хранить число 0.2 точно, так как получается бесконечная периодическая двоичная дробь.
То есть ошибка получается уже при присваивании doubleVar = 0.2 От используемого языка не зависит, что подтверждается массой подобных вопросов и в конфе С++ и NET и остальных наверно тоже .

да точно
#include "stdafx.h"
#include <stdlib.h>

int _tmain(int argc, _TCHAR* argv[])
{
double d1,d2,d3;

d1 = atof("1.1212");
d2 = atof("1.1211");
d3 = d1 — d2;
printf("\n res=%.40e",d3);

return 0;
}

выдает res=9.9999999999988987000000000000000000000000e-005

от используемого языка зависит точность по умолчанию при преобразовании в строку

"ACR" <11679@users.rsdn.ru> schrieb im Newsbeitrag news:1154897@news.rsdn.ru...
> хм... вот например консолька на С++
>
> #include "stdafx.h"
>
> int _tmain(int argc, _TCHAR* argv[])
> {
> double d1,d2,d3;
> d1 = 1.1212L;
> d2 = 1.1211L;
> d3 = d1 — d2;
> printf("\n res=%e",d3);
>
>
> return 0;
> }
>
> выдает:
> res=1.000000e-004

%e без точночти (precision) выдает результат, округленный до 6 десятичных знаков.

Каков результат, если брать по-больше знаков?

Peter

Здравствуйте, Igore, Вы писали:

I>Что-то я не могу понять почему это неправильно работает.
...
I>На выходе q3=1.99999999999978E-04, а не 0,0002, почему так происходит и как от этого избавиться? Пока просто округляю до нужного знака.
Всё правильно — это же числа с плавающей точкой.
Если нужны числа с фиксированой запятой, то можно глянуть на decimal.
Так получишь 0,0002:

   Dim q1
   Dim q2
   Dim s1, s2 As String
   Dim q3
   s1 = "1.1212"
   s2 = "1.1210"
   q1 = CDec(s1)
   q2 = CDec(s2)
   q3 = q1 - q2
   MsgBox q3