Discussion:
Komische Komazahlen bei einfachen Rechenoperationen mit ganzen Zahlen.
(zu alt für eine Antwort)
Stefan Hundler
2013-09-15 11:31:21 UTC
Permalink
Moin!

Ich hab hier seltsame Effekte die ich mir erst mal nicht erklären kann.
Gegeben sei Excel 2002 und eine CSV-Kontoumsatzdatei der Bank.

Um einen Buchungsfehler zu finden habe, ich die von der Bank erstellten
Zahlen für Betrag und Zwischensumme mit selbst errechneten Werten
verglichen. Bei ca. 50% dieser Berechnungen habe ich ein Ergebnisse sehr
nahe 0, aber eben nicht genau 0. Angezeigt wird mir z.Z.
"4,36983782492462E-13".


Alle Zahlen liegen als Kommazahl mit *2 Stellen* vor.

Ich rechne z.B. 100,00 - 90,01 und Excel gibt mir 9,99 aus.
Diese 9,99 ziehe ich vom Buchungsbetrag 9,99 ab.

Dabei würde ich 0 erwarten, aber keine 0,0000000000000x.


Die Datei wurde als CSV importiert.
Es wurden keine anderen Berechnungen durchgeführt, die solche Rundungsfehler
erklären könnten.

Die Beteiligten Felder habe ich schon mal als Standard, Zahl oder Währung
formatiert.
Das Ergebnis kann ich mir zwar als 0 darstellen lassen, Abfragen auf 0
bleiden aber falsch.

Jemand ne Idee oder Erklärung?


CU Stefan
Detlef Lewin
2013-09-15 11:45:40 UTC
Permalink
Hallo Stefan

Ein bekanntes Problem.

http://support.microsoft.com/kb/42980/de
http://support.microsoft.com/kb/214118/de
Stefan Hundler
2013-09-15 20:02:09 UTC
Permalink
Post by Detlef Lewin
Ein bekanntes Problem.
Und wieso tritt das nicht immer auf?

Was man nun diese CSV anderes als meine vielen anderen Dateien?

CU Stefan
Detlef Lewin
2013-09-15 20:49:20 UTC
Permalink
Post by Stefan Hundler
Und wieso tritt das nicht immer auf?
Was man nun diese CSV anderes als meine vielen anderen Dateien?
Ich denke die Erklärung dafür steht im zweiten Link.

Loading...