Berechnung nicht nachvollziehbar

02/01/2008 - 14:29 von Stefan M | Report spam
Hallo zusammen,

mir ist mit Schrecken etwas aufgefallen, was ich eigentlich gar nicht
glauben mag:

WinXP Home, Office 2003 bzw. Excel 2003:

Zelle B1 hat den Wert 3554,47;
Zelle C1 hat den Wert 3520,20;
in Zelle D1 wird C1 von B1 subtrahiert (±-C1).

Soweit alles prima, bis ich auf einem anderen Tabellenblatt einen Verweis
auf D1 falsch formatiert habe und dort auf einmal als Ergebnis (mit 13
Nachkommastellen) der Wert 34,2700000000004 erschien.

Ich habe das dann mal in der Ursprungstabelle überprüft (mit ~ 20
Nachkommastellen formatiert) und mit verschiedenen Zahlenwerten gespielt
da kommt (fast) immer sowas krummes raus.

Bin ich zu blöd?!? Oder hat da Excel irgendwo ein Problem?

Danke,
Stefan.
 

Lesen sie die antworten

#1 Thomas Ramel
02/01/2008 - 14:51 | Warnen spam
Grüezi Stefan

Stefan M schrieb am 02.01.2008

mir ist mit Schrecken etwas aufgefallen, was ich eigentlich gar nicht
glauben mag:



Sei froh, dass dem so ist - Excel rechnet mit der vollen Genauigkeit von 15
relevanten Stellen statt nur die angezeigte Genauigekit zu verwenden.

Soweit alles prima, bis ich auf einem anderen Tabellenblatt einen Verweis
auf D1 falsch formatiert habe und dort auf einmal als Ergebnis (mit 13
Nachkommastellen) der Wert 34,2700000000004 erschien.

Ich habe das dann mal in der Ursprungstabelle überprüft (mit ~ 20
Nachkommastellen formatiert) und mit verschiedenen Zahlenwerten gespielt
da kommt (fast) immer sowas krummes raus.

Bin ich zu blöd?!? Oder hat da Excel irgendwo ein Problem?



Nein, weder - noch.
Die Ursache liegt in der Gleitkommaberechnung, was aber nichts mit Excel an
sich zu tun hat, es àussert sich halt in Excel bloss auch.
Kurz gesagt gibt es Werte die binàr nicht endlich dargestellt werden
können, weshalb es bei der Umrechnung dann jeweils 'Verluste' gibt.

Diesem Phànomen ist mit geeigneten Rundungsverfahren aber beizukommen.

Hier die Basics zum Thema (Vorsicht! Teilweise sehr heftig):

http://de.wikipedia.org/wiki/Gleitkommazahl
http://support.microsoft.com/defaul...b;de;42980
http://support.microsoft.com/defaul...b;de;78113
http://support.microsoft.com/?id6652
http://www.fmsinc.com/tpapers/math/index.html



Mit freundlichen Grüssen
Thomas Ramel

- MVP für Microsoft-Excel -
[Win XP Pro SP-2 / xl2003 SP-2]
Microsoft Excel - Die ExpertenTipps

Ähnliche fragen