Kommastellen zu ungenau

30/11/2007 - 20:01 von mail | Report spam
Hallo,
ich bin relativ neu in vb.net/2005. ich habe relativ gute
grundkenntnisse, aber im detail hab ich ein problem:
ich will mit visual basic 2005 RSA nachprogrammieren, was einfach an
der rechengenauigkeit scheitert. ich habe es mit double, decimal
probiert.

für 90^113 beispielsweise liefert
- visual basic 2005: 6.7515512184974516E+220
- windows rechner: 6,7515512184974521212979319675987e+220

ich bràuchte einen datentyp der mindestens so genau rechnet wie der
windowsrechner oder besser noch genauer! so etwas muss es doch geben
oder? weil wenn ich diese zahlen mit mod XY verrechne, bekomme ich
klar verschiedene zahlen raus.

jemand eine idee?

mfg simon
 

Lesen sie die antworten

#1 Alekszander Moses, Antifa-Rat Zureich
30/11/2007 - 20:15 | Warnen spam
On 30 Nov., 20:01, wrote:
Hallo,
ich bin relativ neu in vb.net/2005. ich habe relativ gute
grundkenntnisse, aber im detail hab ich ein problem:
ich will mit visual basic 2005 RSA nachprogrammieren, was einfach an
der rechengenauigkeit scheitert. ich habe es mit double, decimal
probiert.

für 90^113 beispielsweise liefert
- visual basic 2005: 6.7515512184974516E+220
- windows rechner: 6,7515512184974521212979319675987e+220

ich bràuchte einen datentyp der mindestens so genau rechnet wie der
windowsrechner oder besser noch genauer! so etwas muss es doch geben



Eher nicht, sowas braucht man auch so ut wie, oder?

Obiges Ergenis von VBasic ist mit Decimal oder Double? Decimal sollte
höhere Genauigkeit liefern.

Evtl nen eigenen Datentyp realisieren (der es irgendwie in Strings
aufteilt und so ausrechnet?)

Ähnliche fragen