Törölt nick
2003.08.01
|
|
0 0
2
|
Alapvetően az a probéma, hogy nem minden véges tizedes tört szám ábrázolható véges bináris törtszámként.
Arra nem tudok mit mondani, hogy a két rendszer között mért van különbség. Mivel a probléma ismert, a fordítók programozói megpróbálnak "segíteni" rajta. Ez valószinüleg különbözőképpen sikerül. :-)
(pl. minden művelet után megnézi, hogy a szám 99..99-re végződik. Ha igen, akkor felkerekít.)
A lebegőpontos számokkal való számolásnál alapelv, hogy sohasem vizsgálunk "egyenlőséget".
Kell választani egy e= 0,00000000000....00001 számot és az abs(x-y)Közismertek a matekban pl. a
(a+b)+c=a+(b+c) és hasonló egyenlőségek. Na ezek a számítástechnikában így nem igazak. Ezekre is figyelni kell. :-(
|
Előzmény: alfa2 (-)
|
|