Rechner.app rechnet falsch

19/06/2008 - 20:35 von iterate5 | Report spam
Ich hab Apples Taschenrechner auf RPN eingestellt, Genauigkeit 5
Stellen.

Die Rechnung
0,5 + 1
ergibt sagenhafte 2

0,5 + 1,1
ergibt hingegen richtige 1,6
und
0,5 * 3
ergibt korrekte 1,5
er rundet also nicht prinzipiell auf 0 Kommastellen.

Schalte ich RPN aus, rechnet er wieder richtig.
Mac OS 10.4.11

Ist das ein bekannter Bug, kennt jemand eine Lösung?

Danke, Michi
 

Lesen sie die antworten

#1 usenet
19/06/2008 - 21:56 | Warnen spam
Michael Hawelka wrote:

Ist das ein bekannter Bug, kennt jemand eine Lösung?



Das riecht nach amerikanischer Rundungsart: bei geradem und ungeradem
Dezimalanteil wird bei Kommafünf mal ab-, mal aufgerundet, um den
Fehleranteil zu mitteln.

Grüße
Götz
http://www.knubbelmac.de/

Ähnliche fragen