Törölt nick Creative Commons License 2003.08.01 0 0 2
Alapvetően az a probéma, hogy nem minden véges tizedes tört szám ábrázolható véges bináris törtszámként.

Arra nem tudok mit mondani, hogy a két rendszer között mért van különbség. Mivel a probléma ismert, a fordítók programozói megpróbálnak "segíteni" rajta. Ez valószinüleg különbözőképpen sikerül. :-)

(pl. minden művelet után megnézi, hogy a szám 99..99-re végződik. Ha igen, akkor felkerekít.)

A lebegőpontos számokkal való számolásnál alapelv, hogy sohasem vizsgálunk "egyenlőséget".

Kell választani egy e= 0,00000000000....00001 számot és az abs(x-y)

Közismertek a matekban pl. a

(a+b)+c=a+(b+c) és hasonló egyenlőségek. Na ezek a számítástechnikában így nem igazak. Ezekre is figyelni kell. :-(

Előzmény: alfa2 (-)