Закон больших чисел

Зако́н больши́х чи́сел в теории вероятностей утверждает, что эмпирическое среднее (среднее арифметическое) достаточно большой конечной выборки из фиксированного распределения близко к теоретическому среднему (математическому ожиданию) этого распределения. В зависимости от вида сходимости различают слабый закон больших чисел, когда имеет место сходимость по вероятности, и усиленный закон больших чисел, когда имеет место сходимость почти всюду.

Всегда найдётся такое конечное число испытаний, при котором с любой заданной наперёд вероятностью меньше 1 относительная частота появления некоторого события будет сколь угодно мало отличаться от его вероятности.

Общий смысл закона больших чисел — совместное действие большого числа одинаковых и независимых случайных факторов приводит к результату, в пределе не зависящему от случая.

На этом свойстве основаны методы оценки вероятности на основе анализа конечной выборки. Наглядным примером является прогноз результатов выборов на основе опроса выборки избирателей.

Слабый закон больших чисел

Слабый закон больших чисел также называется теоремой Бернулли, в честь Якоба Бернулли, доказавшего его в 1713 году.

Пусть есть бесконечная последовательность (последовательное перечисление) одинаково распределённых и некоррелированных случайных величин <math>\{X_i\}_{i=1}^{\infty}</math>, определённых на одном вероятностном пространстве <math>(\Omega,\mathcal{F},\mathbb{P})</math>. То есть их ковариация <math>\mathrm{cov}(X_i,X_j) = 0,\; \forall i \not=j</math>. Пусть <math>\mathbb{E}X_i = \mu,\; \forall i\in \mathbb{N}</math>. Обозначим <math>\bar{X}_n</math> выборочное среднее первых <math>n</math> членов:

<math>\bar{X}_n = \frac{1}{n} \sum\limits_{i=1}^n X_i,\; n \in \mathbb{N}</math>.

Тогда <math>\bar{X}_n \to^{\!\!\!\!\!\! \mathbb{P}} \mu</math>.

То есть для всякого положительного <math>\varepsilon</math>,

<math>

   \lim_{n\to\infty}\Pr\!\left(\,|\bar{X}_n-\mu| < \varepsilon\,\right) = 1.
 </math>

Усиленный закон больших чисел

Пусть есть бесконечная последовательность независимых одинаково распределённых случайных величин <math>\{X_i\}_{i=1}^{\infty}</math>, определённых на одном вероятностном пространстве <math>(\Omega,\mathcal{F},\mathbb{P})</math>. Пусть <math>\mathbb{E}X_i = \mu,\; \forall i\in \mathbb{N}</math>. Обозначим <math>\bar{X}_n</math> выборочное среднее первых <math>n</math> членов:

<math>\bar{X}_n = \frac{1}{n} \sum\limits_{i=1}^n X_i,\; n \in \mathbb{N}</math>.

Тогда <math>\bar{X}_n \to \mu</math> почти всегда.

То есть

<math>

   \Pr\!\left( \lim_{n\to\infty} \bar{X}_n = \mu \right) = 1.
 </math>

Замечания

Приведенная формулировка слабого закона больших чисел предполагает, что случайные величины имеют второй момент. Однако это не обязательно. Из усиленного закона больших чисел вытекает, что суммы <math>S_n</math> независимых случайных величин стремятся к нулю и по вероятности при условии существования только первого момента.

Как и любой математический закон, закон больших чисел, может быть применим к реальному миру только при известных допущениях, которые могут выполняться лишь с некоторой степенью точности. Так, например, условия последовательных испытаний часто не могут сохраняться бесконечно долго и с абсолютной точностью. Кроме того закон больших чисел говорит лишь о невероятности значительного отклонения среднего значения от математического ожидания.

См. также

• Центральная предельная теорема
• Закон повторного логарифма
• Теорема Колмогорова о трёх рядах
• Закон малых чисел

Литература

• Ширяев А. Н. Вероятность. — М.: Наука, 1989.
• Чистяков В. П. Курс теории вероятностей. — М.: Наука, 1982.