Starkes Gesetz der großen Zahlen

Das starke Gesetz der großen Zahlen ist ein mathematischer Satz aus der Wahrscheinlichkeitstheorie, der Aussagen darüber trifft, wann eine Folge von normierten Zufallsvariablen gegen eine Konstante, meist den Erwartungswert der Zufallsvariablen, konvergiert. Das starke Gesetz der großen Zahlen wird mit dem schwachen Gesetz der großen Zahlen zu den Gesetzen der großen Zahlen gezählt und gehört zu den klassischen Grenzwertsätzen der Stochastik. Der Unterschied zwischen der „starken“ und der „schwachen“ Version ist die Art der betrachteten Konvergenz: Das starke Gesetz der großen Zahlen trifft eine Aussage über die P-fast sichere Konvergenz der Zufallsvariablen, das schwache Gesetz der großen Zahlen hingegen über die stochastische Konvergenz der Zufallsvariablen.

Oftmals unterscheidet man mehrere Versionen des starken Gesetzes der großen Zahlen, die sich durch die Allgemeinheit ihrer Formulierung oder die Stärke ihrer Voraussetzungen unterscheiden. So existiert beispielsweise Borels starkes Gesetz der großen Zahlen (nach Émile Borel), Kolmogorovs erstes und zweites starkes Gesetz der großen Zahlen (nach Andrei Nikolajewitsch Kolmogorow) und das starke Gesetz der großen Zahlen von Etemadi (nach Nasrollah Etemadi).

Ist eine Folge ${\displaystyle (X_{n})_{n\in \mathbb {N} }}$ von Zufallsvariablen gegeben, so sagt man, dass diese Folge dem starken Gesetz der großen Zahlen genügt, wenn der Mittelwert der zentrierten Zufallsvariablen

${\displaystyle {\overline {X}}_{n}:={\frac {1}{n}}\sum _{i=1}^{n}\left(X_{i}-\operatorname {E} (X_{i})\right)}$

fast sicher gegen 0 konvergiert. Das bedeutet, dass

${\displaystyle P(\lim _{n\to \infty }{\overline {X}}_{n}=0)=1}$

ist.

Aus dem starken Gesetz der großen Zahlen folgt immer das schwache Gesetz der großen Zahlen.

Im Folgenden sind verschiedene Voraussetzungen, unter denen das starke Gesetz der großen Zahlen gilt, aufgelistet. Dabei steht die schwächste und auch speziellste Aussage ganz oben, die stärkste und allgemeinste ganz unten.

Ist ${\displaystyle (X_{n})_{n\in \mathbb {N} }}$ eine Folge von unabhängigen, zum Parameter ${\displaystyle p\in (0,1)}$ Bernoulli-verteilten Zufallsvariablen, so genügt die Folge dem starken Gesetz der großen Zahlen, das heißt, der Mittelwert der Zufallsvariablen konvergiert fast sicher gegen den Parameter ${\displaystyle p}$^[1].

Diese Aussage wurde 1909 von Émile Borel bewiesen^[2] und entspricht der Formulierung von Bernoullis Gesetz der großen Zahlen als starkes Gesetz der großen Zahlen.

Der Satz von Cantelli liefert die Gültigkeit des starken Gesetzes der großen Zahlen unter Anforderungen an die vierten Momente und die zentrierten vierten Momente. Er wurde 1917 von Francesco Paolo Cantelli bewiesen und gilt als das erste Resultat, das die Gültigkeit des starken Gesetzes der großen Zahl für Folgen von Zufallsvariablen beliebiger Verteilungen liefert^[3].

Ist eine unabhängige Folge von Zufallsvariablen ${\displaystyle (X_{n})_{n\in \mathbb {N} }}$ mit endlicher Varianz gegeben und gilt

${\displaystyle \sum _{n=1}^{\infty }{\frac {\operatorname {Var} (X_{n})}{n^{2}}}<\infty }$,

so genügt ${\displaystyle (X_{n})_{n\in \mathbb {N} }}$ dem starken Gesetz der großen Zahlen.^[4] Dabei wird die obige Bedingung auch Kolmogorow-Bedingung genannt,^[5] sie dient der Abschätzung durch die Kolmogorow-Ungleichung.

Diese Aussage wurde 1930 von Andrei Nikolajewitsch Kolmogorow bewiesen.

Ist die Folge von Zufallsvariablen ${\displaystyle (X_{n})_{n\in \mathbb {N} }}$ unabhängig identisch verteilt und ist ${\displaystyle \operatorname {E} (|X_{n}|)<\infty }$, dann genügt die Folge dem starken Gesetz der großen Zahlen.^[6]

Die Aussage wurde 1933 von Andrei Nikolajewitsch Kolmogorow bewiesen.

Ist die Folge von Zufallsvariablen ${\displaystyle (X_{n})_{n\in \mathbb {N} }}$ identisch verteilt und paarweise unabhängig mit ${\displaystyle \operatorname {E} (|X_{n}|)<\infty }$, so genügt sie dem starken Gesetz der großen Zahlen^[7].

Diese Aussage ist eine echte Verbesserung gegenüber dem zweiten Gesetz der großen Zahlen von Kolmogorow, da aus Unabhängigkeit stets paarweise Unabhängigkeit folgt, der Rückschluss gilt aber im Allgemeinen nicht. Diese Aussage wurde 1981 von Nasrollah Etemadi bewiesen^[8].

Etwas allgemeiner sagt man, dass die Folge der Zufallsvariablen dem starken Gesetz der großen Zahlen genügt, wenn es reelle Folgen ${\displaystyle (b_{n})_{n\in \mathbb {N} }}$ mit ${\displaystyle \lim _{n\to \infty }b_{n}=\infty }$ und ${\displaystyle (a_{n})_{n\in \mathbb {N} }}$ gibt, so dass für die Partialsumme

${\displaystyle S_{n}:=\sum _{i=1}^{n}X_{i}}$

die Konvergenz

${\displaystyle {\frac {S_{n}}{b_{n}}}-a_{n}\rightarrow 0}$

fast sicher gilt.^[9]

Manche Autoren betrachten die fast sichere Konvergenz der gemittelten Partialsummen ${\displaystyle {\frac {1}{n}}\sum _{i=1}^{n}X_{i}}$ gegen ${\displaystyle \operatorname {E} (X_{1})}$. Diese Formulierung setzt jedoch voraus, dass alle Zufallsvariablen denselben Erwartungswert haben.

Eine mögliche Verallgemeinerung des starken Gesetzes der großen Zahlen sind der individuelle Ergodensatz und der Lp-Ergodensatz. Diese Ergebnisse der Ergodentheorie lassen sich auf stationäre stochastische Prozesse ${\displaystyle (X_{n})_{n\in \mathbb {N} }}$ anwenden. Somit ist bei diesen Sätzen stochastische Abhängigkeit der betrachteten Folge von Zufallsvariablen möglich.

Das Gesetz der großen Zahlen lässt sich auch für vektorwertige Abbildungen formulieren. Einige Kriterien hierfür liefert der Satz von Mourier.

• Yu.V. Prokhorov: Strong law of large numbers. In: Michiel Hazewinkel (Hrsg.): Encyclopedia of Mathematics. Springer-Verlag und EMS Press, Berlin 2002, ISBN 1-55608-010-7 (englisch, encyclopediaofmath.org). 
• Eric W. Weisstein: Strong law of large numbers. In: MathWorld (englisch).

• Achim Klenke: Wahrscheinlichkeitstheorie. 3. Auflage. Springer-Verlag, Berlin Heidelberg 2013, ISBN 978-3-642-36017-6, doi:10.1007/978-3-642-36018-3. 
• Hans-Otto Georgii: Stochastik. Einführung in die Wahrscheinlichkeitstheorie und Statistik. 4. Auflage. Walter de Gruyter, Berlin 2009, ISBN 978-3-11-021526-7, doi:10.1515/9783110215274. 
• Christian Hesse: Angewandte Wahrscheinlichkeitstheorie. 1. Auflage. Vieweg, Wiesbaden 2003, ISBN 3-528-03183-2, doi:10.1007/978-3-663-01244-3. 
• Norbert Kusolitsch: Maß- und Wahrscheinlichkeitstheorie. Eine Einführung. 2., überarbeitete und erweiterte Auflage. Springer-Verlag, Berlin Heidelberg 2014, ISBN 978-3-642-45386-1, doi:10.1007/978-3-642-45387-8. 
• Klaus D. Schmidt: Maß und Wahrscheinlichkeit. 2., durchgesehene Auflage. Springer-Verlag, Heidelberg Dordrecht London New York 2011, ISBN 978-3-642-21025-9, doi:10.1007/978-3-642-21026-6. 
• David Meintrup, Stefan Schäffler: Stochastik. Theorie und Anwendungen. Springer-Verlag, Berlin Heidelberg New York 2005, ISBN 978-3-540-21676-6, doi:10.1007/b137972. 

1. ↑ Hesse: Angewandte Wahrscheinlichkeitstheorie. 2003, S. 249.
2. ↑ A.V. Prokhorov: Borel strong law of large numbers. In: Michiel Hazewinkel (Hrsg.): Encyclopedia of Mathematics. Springer-Verlag und EMS Press, Berlin 2002, ISBN 1-55608-010-7 (englisch, encyclopediaofmath.org). 
3. ↑ Yu.V. Prokhorov: Strong law of large numbers. In: Michiel Hazewinkel (Hrsg.): Encyclopedia of Mathematics. Springer-Verlag und EMS Press, Berlin 2002, ISBN 1-55608-010-7 (englisch, encyclopediaofmath.org). 
4. ↑ Kusolitsch: Maß- und Wahrscheinlichkeitstheorie. 2014, S. 251.
5. ↑ Meintrup, Schäffler: Stochastik. 2005, S. 157.
6. ↑ Schmidt: Maß und Wahrscheinlichkeit. 2011, S. 347.
7. ↑ Klenke: Wahrscheinlichkeitstheorie. 2013, S. 114.
8. ↑ Nasrollah Etemadi: An elementary proof of the strong law of large numbers. In: Zeitschrift für Wahrscheinlichkeitstheorie und verwandte Gebiete. (Online-Ausgabe: Probability Theory and Related Fields. Continuation of Zeitschrift für Wahrscheinlichkeitstheorie.). Bd. 55, Nr. 1, 1981, S. 119–122, doi:10.1007/BF01013465.
9. ↑ Hesse: Angewandte Wahrscheinlichkeitstheorie. 2003, S. 249.