Закон больших чисел

Поделись знанием:
(перенаправлено с «Слабый закон больших чисел»)
Перейти к: навигация, поиск

Зако́н больши́х чи́сел в теории вероятностей утверждает, что эмпирическое среднее (среднее арифметическое) достаточно большой конечной выборки из фиксированного распределения близко к теоретическому среднему (математическому ожиданию) этого распределения. В зависимости от вида сходимости различают слабый закон больших чисел, когда имеет место сходимость по вероятности, и усиленный закон больших чисел, когда имеет место сходимость почти всюду.

Всегда найдётся такое конечное число испытаний, при котором с любой заданной наперёд вероятностью меньше 1 относительная частота появления некоторого события будет сколь угодно мало отличаться от его вероятности.

Общий смысл закона больших чисел — совместное действие большого числа одинаковых и независимых случайных факторов приводит к результату, в пределе не зависящему от случая.

На этом свойстве основаны методы оценки вероятности на основе анализа конечной выборки. Наглядным примером является прогноз результатов выборов на основе опроса выборки избирателей.





Слабый закон больших чисел

Слабый закон больших чисел также называется теоремой Бернулли[1], в честь Якоба Бернулли, доказавшего его в 1713 году[2].

Пусть есть бесконечная последовательность (последовательное перечисление) одинаково распределённых и некоррелированных случайных величин <math>\{X_i\}_{i=1}^{\infty}</math>, определённых на одном вероятностном пространстве <math>(\Omega,\mathcal{F},\mathbb{P})</math>. То есть их ковариация <math>\mathrm{cov}(X_i,X_j) = 0,\; \forall i \not=j</math>. Пусть <math>\mathbb{E}X_i = \mu,\; \forall i\in \mathbb{N}</math>. Обозначим <math>\bar{X}_n</math> выборочное среднее первых <math>n</math> членов:

<math>\bar{X}_n = \frac{1}{n} \sum\limits_{i=1}^n X_i,\; n \in \mathbb{N}</math>.

Тогда <math>\bar{X}_n \to^{\!\!\!\!\!\! \mathbb{P}} \mu</math>.

То есть для всякого положительного <math>\varepsilon</math>,

<math>
   \lim_{n\to\infty}\Pr\!\left(\,|\bar{X}_n-\mu| < \varepsilon\,\right) = 1.
 </math>

Усиленный закон больших чисел

Пусть есть бесконечная последовательность независимых одинаково распределённых случайных величин <math>\{X_i\}_{i=1}^{\infty}</math>, определённых на одном вероятностном пространстве <math>(\Omega,\mathcal{F},\mathbb{P})</math>. Пусть <math>\mathbb{E}X_i = \mu,\; \forall i\in \mathbb{N}</math>. Обозначим <math>\bar{X}_n</math> выборочное среднее первых <math>n</math> членов:

<math>\bar{X}_n = \frac{1}{n} \sum\limits_{i=1}^n X_i,\; n \in \mathbb{N}</math>.

Тогда <math>\bar{X}_n \to \mu</math> почти всегда.

То есть

<math>
   \Pr\!\left( \lim_{n\to\infty} \bar{X}_n = \mu \right) = 1.
 </math>

Замечания

Приведенная формулировка слабого закона больших чисел предполагает, что случайные величины имеют второй момент. Однако это не обязательно. Из усиленного закона больших чисел вытекает, что суммы <math>S_n</math> независимых случайных величин стремятся к нулю и по вероятности при условии существования только первого момента.

Как и любой математический закон, закон больших чисел, может быть применим к реальному миру только при известных допущениях, которые могут выполняться лишь с некоторой степенью точности. Так, например, условия последовательных испытаний часто не могут сохраняться бесконечно долго и с абсолютной точностью[3][4][5]. Кроме того закон больших чисел говорит лишь о невероятности значительного отклонения среднего значения от математического ожидания[6].

См. также

Напишите отзыв о статье "Закон больших чисел"

Примечания

  1. [habrahabr.ru/post/248173/ Наследие Якоба Бернулли в Wolfram Language (Mathematica)]
  2. [mathworld.wolfram.com/WeakLawofLargeNumbers.html Wolfram] Weak Law of Large Numbers
  3. Колмогоров А. Н. Математика, ее содержание, методы и значение. — 1956. — С. 274-275.
  4. Англ А. Математика для электро- и радиоинженеров. — М.: Наука, 1967. — 779 с. — С. 620
  5. Тутубалин В. Н. Теория вероятностей. — М.: Изд-во Московского университета, 1972. — 230 с. — С. 6-7
  6. Марков А. А. Исчисление вероятностей. — М., 1924. — С. 67.

Литература

  • Ширяев А. Н. Вероятность. — М.: Наука, 1989.
  • Чистяков В. П. Курс теории вероятностей. — М.: Наука, 1982.


Отрывок, характеризующий Закон больших чисел

– Готов, – повторил Долохов, как будто выговаривание этого слова доставляло ему удовольствие, и быстро пошел к пленным, которых окружили спешившиеся казаки. – Брать не будем! – крикнул он Денисову.
Денисов не отвечал; он подъехал к Пете, слез с лошади и дрожащими руками повернул к себе запачканное кровью и грязью, уже побледневшее лицо Пети.
«Я привык что нибудь сладкое. Отличный изюм, берите весь», – вспомнилось ему. И казаки с удивлением оглянулись на звуки, похожие на собачий лай, с которыми Денисов быстро отвернулся, подошел к плетню и схватился за него.
В числе отбитых Денисовым и Долоховым русских пленных был Пьер Безухов.


О той партии пленных, в которой был Пьер, во время всего своего движения от Москвы, не было от французского начальства никакого нового распоряжения. Партия эта 22 го октября находилась уже не с теми войсками и обозами, с которыми она вышла из Москвы. Половина обоза с сухарями, который шел за ними первые переходы, была отбита казаками, другая половина уехала вперед; пеших кавалеристов, которые шли впереди, не было ни одного больше; они все исчезли. Артиллерия, которая первые переходы виднелась впереди, заменилась теперь огромным обозом маршала Жюно, конвоируемого вестфальцами. Сзади пленных ехал обоз кавалерийских вещей.
От Вязьмы французские войска, прежде шедшие тремя колоннами, шли теперь одной кучей. Те признаки беспорядка, которые заметил Пьер на первом привале из Москвы, теперь дошли до последней степени.
Дорога, по которой они шли, с обеих сторон была уложена мертвыми лошадьми; оборванные люди, отсталые от разных команд, беспрестанно переменяясь, то присоединялись, то опять отставали от шедшей колонны.
Несколько раз во время похода бывали фальшивые тревоги, и солдаты конвоя поднимали ружья, стреляли и бежали стремглав, давя друг друга, но потом опять собирались и бранили друг друга за напрасный страх.
Эти три сборища, шедшие вместе, – кавалерийское депо, депо пленных и обоз Жюно, – все еще составляли что то отдельное и цельное, хотя и то, и другое, и третье быстро таяло.
В депо, в котором было сто двадцать повозок сначала, теперь оставалось не больше шестидесяти; остальные были отбиты или брошены. Из обоза Жюно тоже было оставлено и отбито несколько повозок. Три повозки были разграблены набежавшими отсталыми солдатами из корпуса Даву. Из разговоров немцев Пьер слышал, что к этому обозу ставили караул больше, чем к пленным, и что один из их товарищей, солдат немец, был расстрелян по приказанию самого маршала за то, что у солдата нашли серебряную ложку, принадлежавшую маршалу.
Больше же всего из этих трех сборищ растаяло депо пленных. Из трехсот тридцати человек, вышедших из Москвы, теперь оставалось меньше ста. Пленные еще более, чем седла кавалерийского депо и чем обоз Жюно, тяготили конвоирующих солдат. Седла и ложки Жюно, они понимали, что могли для чего нибудь пригодиться, но для чего было голодным и холодным солдатам конвоя стоять на карауле и стеречь таких же холодных и голодных русских, которые мерли и отставали дорогой, которых было велено пристреливать, – это было не только непонятно, но и противно. И конвойные, как бы боясь в том горестном положении, в котором они сами находились, не отдаться бывшему в них чувству жалости к пленным и тем ухудшить свое положение, особенно мрачно и строго обращались с ними.
В Дорогобуже, в то время как, заперев пленных в конюшню, конвойные солдаты ушли грабить свои же магазины, несколько человек пленных солдат подкопались под стену и убежали, но были захвачены французами и расстреляны.
Прежний, введенный при выходе из Москвы, порядок, чтобы пленные офицеры шли отдельно от солдат, уже давно был уничтожен; все те, которые могли идти, шли вместе, и Пьер с третьего перехода уже соединился опять с Каратаевым и лиловой кривоногой собакой, которая избрала себе хозяином Каратаева.