Komische Komazahlen bei einfachen Rechenoperationen mit ganzen Zahlen.

15/09/2013 - 13:31 von Stefan Hundler | Report spam
Moin!

Ich hab hier seltsame Effekte die ich mir erst mal nicht erklàren kann.
Gegeben sei Excel 2002 und eine CSV-Kontoumsatzdatei der Bank.

Um einen Buchungsfehler zu finden habe, ich die von der Bank erstellten
Zahlen für Betrag und Zwischensumme mit selbst errechneten Werten
verglichen. Bei ca. 50% dieser Berechnungen habe ich ein Ergebnisse sehr
nahe 0, aber eben nicht genau 0. Angezeigt wird mir z.Z.
"4,36983782492462E-13".


Alle Zahlen liegen als Kommazahl mit *2 Stellen* vor.

Ich rechne z.B. 100,00 - 90,01 und Excel gibt mir 9,99 aus.
Diese 9,99 ziehe ich vom Buchungsbetrag 9,99 ab.

Dabei würde ich 0 erwarten, aber keine 0,0000000000000x.


Die Datei wurde als CSV importiert.
Es wurden keine anderen Berechnungen durchgeführt, die solche Rundungsfehler
erklàren könnten.

Die Beteiligten Felder habe ich schon mal als Standard, Zahl oder Wàhrung
formatiert.
Das Ergebnis kann ich mir zwar als 0 darstellen lassen, Abfragen auf 0
bleiden aber falsch.

Jemand ne Idee oder Erklàrung?


CU Stefan
 

Lesen sie die antworten

Ähnliche fragen