Forums Neueste Beiträge
 

Rundungsanfälligkeit?

17/01/2008 - 19:51 von TobWen | Report spam
Hey Leute,

kann es sein, dass die folgende Rechnung nach dem Umformen
rundungsanfàllig ist? Es handelt sich um die Berechnung der
Varianz (N = 815, Mittelwert = 17,8 gerundet)

1/815 * (394 * (15,6 - 17,8)^2 + 421 * (19,8 - 17,8)^2 = 4,406

Wenn ich das Ganze nun umforme (leider ist ja keine
Formelschreibweise im Usenet möglich), sieht es so aus:

1/815 * ((394 * 15,6^2 + 421 * 19,8^2) - 815 * 17,8^2) = 3,228

Die Eingabedaten liegen leider nur bei einer Stelle nach dem
Komma, habe den Mittelwert aber nochmal aufgrund der
Einzelmittelwerte neu berechnet (gewogenes Mittel):

17,76957055

1/815 * ((394 * 15,6^2 + 421 * 19,8^2) - 815 * 17,76957055^2)
= 4,405

Ich habe gehofft, dass die kürzere Schreibweise zum
gleichen Ergebnis führt, wie die lange ... oder habe ich einen
anderen Fehler drin?

Grüße
Tobias
 

Lesen sie die antworten

#1 TobWen
17/01/2008 - 20:04 | Warnen spam
Nachtrag: AFAIK handelt es sich um den Verschiebungssatz!

Ähnliche fragen