Rechnet Excel falsch?

30/03/2015 - 09:33 von Udo | Report spam
Hallo,

was rechnet Excel da (Version Excel 2007)?

Eingabe in Zelle A1 die Zahl 90.046
Eingabe in Zelle A2 die Zahl 89.950
Eingabe in Zelle A3 die Formel '¡-A2' (Differenz)

Es sollte jetzt eigentlich in A3 die Differenz 0.096 angezeigt werden, evtl.
mit Nullen dahinter, entsprechend dem Zahlenformat.

Wenn ich allerdings ein 'höheres' Zahlenformat für die Zelle A3, etwa
16 Stellen hinter dem Komma anzeigen lasse, erscheinen
merkwürdige Zahlen, wo die 0 stehen sollte:
Als Ergebnis wird in A3 bei 16 Stellen hinter dem Komma angezeigt

0.0960000000000036 und nicht
0.0960000000000000
Die Differenz ist falsch.

Es wird nicht dividiert, so dass nicht irgendwelche Rundungsfehler
entstehen, sondern einfach nur subtrahiert.

Wieso rechnet Excel hier (und auch bei anderen Zahlen im höheren Zahlenformat)
falsch?

Grüße
Udo
 

Lesen sie die antworten

#1 Claus Busch
30/03/2015 - 10:18 | Warnen spam
Hallo Udo,

Am Mon, 30 Mar 2015 00:33:26 -0700 (PDT) schrieb Udo:

Eingabe in Zelle A1 die Zahl 90.046
Eingabe in Zelle A2 die Zahl 89.950
Eingabe in Zelle A3 die Formel '¡-A2' (Differenz)



das hàngt an der Genauigkeit von 15 Stellen.
Schau hier nach "Gleitkommazahl":
http://de.wikipedia.org/w/index.php...edirect=no
und korrigiere deine Berechnung mit RUNDEN.


Mit freundlichen Grüßen
Claus
Vista Ultimate / Windows7
Office 2007 Ultimate / 2010 Professional

Ähnliche fragen