16. Dezimalstelle = 6, wenn nur Nullen kommen?

16/07/2008 - 20:40 von D.J. | Report spam
Wieso ist die 16. Dezimalstelle eine 6, wenn nach dem Komma nur Nullen sind?
Also ich rechne 92,2 - 91,8 = 0,4. Dann lasse ich mir 27 Dezimalstellen
anzeigen und es tritt oben erlàuterter Sachverhalt ein.
Über Ihre Hilfe wàre ich Ihnen dankbar.
MfG
D.J.
 

Lesen sie die antworten

#1 Alexander Wolff
16/07/2008 - 20:46 | Warnen spam
Die Tastatur von D.J. wurde wie folgt gedrückt:
Wieso ist die 16. Dezimalstelle eine 6, wenn nach dem Komma nur
Nullen sind? Also ich rechne 92,2 - 91,8 = 0,4. Dann lasse ich mir 27
Dezimalstellen anzeigen und es tritt oben erlàuterter Sachverhalt ein.
Über Ihre Hilfe wàre ich Ihnen dankbar.
MfG
D.J.



Google mal nach "Genauigkeit" bei Google Groups in dieser Gruppe. Kurz: Die
6 ist ein Artefakt (wie auf einem Foto ein Fussel) ... die Genauigkeit eines
Zellausdrucks betràgt nur 15 Stellen.
Moin+Gruss Alexander - MVP for MS Excel - www.xxcl.de - mso2000sp3 --7-2

Ähnliche fragen