Rechengenauigkeit

27/08/2016 - 15:24 von Helmut Schellong | Report spam
Es gibt die realen NPU mit einer bestimmten Anzahl
genauer dezimaler Stellen.
15, 18, 34 Stellen bei 64, 80, 128 Bit.

Nun sagen nicht wenige, 15 Stellen reichen (immer).
Andere sagen das Gegenteil.

Ich weiß, daß es Berechnungen gibt, die kritisch hinsichtlich
ihrer Genauigkeit sind.
Beispielsweise den Wert 1.0000000036 zu einem genauen Resultat
bei Verwendung bestimmter Funktionen zu bringen.

Sind nun 34 Dezimalstellen für viele wünschenswert und
oft erforderlich?
Bei welchen Berechnungen ist die Genauigkeit realer Hardware
kritisch?


Mit freundlichen Grüßen
Helmut Schellong var@schellong.biz
www.schellong.de www.schellong.com www.schellong.biz
http://www.schellong.de/c.htm
 

Lesen sie die antworten

#1 Leo Baumann
27/08/2016 - 19:05 | Warnen spam
Am 27.08.2016 um 15:24 schrieb Helmut Schellong:
Es gibt die realen NPU mit einer bestimmten Anzahl
genauer dezimaler Stellen.
15, 18, 34 Stellen bei 64, 80, 128 Bit.

Nun sagen nicht wenige, 15 Stellen reichen (immer).
Andere sagen das Gegenteil.

Ich weiß, daß es Berechnungen gibt, die kritisch hinsichtlich
ihrer Genauigkeit sind.
Beispielsweise den Wert 1.0000000036 zu einem genauen Resultat
bei Verwendung bestimmter Funktionen zu bringen.

Sind nun 34 Dezimalstellen für viele wünschenswert und
oft erforderlich?
Bei welchen Berechnungen ist die Genauigkeit realer Hardware
kritisch?





Für kritische Berechnungen nehme ich MuPad Computer Aided Math mit max.
2^31 - 1 signifikanten Stellen. Das làuft auf allen Win-Rechnern mit 32
u. 64 Bit. :-)~

Ähnliche fragen