Verzerrung einer Schätzfunktion
Die Verzerrung oder auch das Bias oder systematischer Fehler[1] einer Schätzfunktion ist in der Schätztheorie, einem Teilgebiet der mathematischen Statistik, diejenige Kennzahl oder Eigenschaft einer Schätzfunktion, welche die systematische Über- oder Unterschätzung der Schätzfunktion quantifiziert.
Erwartungstreue Schätzfunktionen haben per Definition eine Verzerrung von .
Schätzer können durch Regularisierung absichtlich verzerrt werden, um eine kleinere Varianz des Schätzers zu erreichen – es handelt sich dann um Shrinkage-Schätzer.
Definition
Gegeben sei eine zu schätzende Funktion
sowie ein statistisches Modell und ein Punktschätzer
Dann heißt
die Verzerrung des Schätzers bei .
Dabei bezeichnet den Erwartungswert bezüglich des Wahrscheinlichkeitsmaßes . Man schreibt das in und bei tiefgestellt, um hervorzuheben, dass die Größen vom wahren Wert abhängen.
Die Notation für die Verzerrung ist nicht einheitlich, in der Literatur finden sich u. a. auch , oder .
Die Verzerrung ist der Erwartungswert des Schätzfehlers.
Beispiel
Gegeben seien Zufallszahlen, die gleichverteilt in einem Intervall sind. Aufgabe ist, zu schätzen. Statistisches Modell ist
- ,
wobei und die stetige Gleichverteilung auf ist.
Die zu schätzende Funktion ist , ein möglicher Schätzer wäre
- ,
da die größte ausgegebene Zufallszahl intuitiv "nah" an der unbekannten Obergrenze liegt. Dann ist
für alle . Daraus folgt
- ,
somit ist die Verzerrung
- .
Die Verzerrung kommt hier zustande, da der Schätzer den wahren Wert stets unterschätzt, es ist .
Eigenschaften
Ist die Verzerrung eines Schätzers für alle gleich Null, also
- ,
so nennt man diesen Schätzer einen erwartungstreuen Schätzer.
Der mittlere quadratische Fehler
zerfällt aufgrund des Verschiebungssatzes in Varianz und Verzerrung
Somit entspricht der mittlere quadratische Fehler bei erwartungstreuen Schätzern genau der Varianz des Schätzers.
Sowohl die Verzerrung als auch der mittlere quadratische Fehler sind wichtige Qualitätskriterien für Punktschätzer. Folglich versucht man, beide möglichst klein zu halten. Es gibt aber Fälle, in denen es zur Minimierung des mittleren quadratischen Fehlers sinnvoll ist, Verzerrung zuzulassen.
So ist im Binomialmodell mit ein gleichmäßig bester erwartungstreuer Schätzer gegeben durch
- ,
heißt seine Varianz (und damit auch sein mittlerer quadratischer Fehler) ist für alle kleiner als die jedes weiteren erwartungstreuen Schätzers. Der Schätzer
ist nicht erwartungstreu und folglich verzerrt, besitzt aber für Werte von nahe an einen geringeren mittleren quadratischen Fehler[2].
Es können also nicht immer Verzerrung und mittlerer quadratischer Fehler gleichzeitig minimiert werden, siehe auch Verzerrung-Varianz-Dilemma.
Siehe auch
Weblinks
- M.S. Nikulin: Biased estimator. In: Michiel Hazewinkel (Hrsg.): Encyclopedia of Mathematics. Springer-Verlag und EMS Press, Berlin 2002, ISBN 1-55608-010-7 (englisch, encyclopediaofmath.org).
- Eric W. Weisstein: Estimator Bias. In: MathWorld (englisch).
Literatur
- Hans-Otto Georgii: Stochastik. Einführung in die Wahrscheinlichkeitstheorie und Statistik. 4. Auflage. Walter de Gruyter, Berlin 2009, ISBN 978-3-11-021526-7, doi:10.1515/9783110215274.
- Ludger Rüschendorf: Mathematische Statistik. Springer Verlag, Berlin Heidelberg 2014, ISBN 978-3-642-41996-6, doi:10.1007/978-3-642-41997-3.
- Claudia Czado, Thorsten Schmidt: Mathematische Statistik. Springer-Verlag, Berlin Heidelberg 2011, ISBN 978-3-642-17260-1, doi:10.1007/978-3-642-17261-8.
Einzelnachweise
Auf dieser Seite verwendete Medien
This simple diagram shows two estimators, β1 and β2, of true parameter β0. Although second estimator is biased, it is clearly superior to the former.