Центральная предельная теорема

К:Википедия:Статьи без источников (тип: не указан)

Центра́льные преде́льные теоре́мы (Ц. П. Т.) — класс теорем в теории вероятностей, утверждающих, что сумма достаточно большого количества слабо зависимых случайных величин, имеющих примерно одинаковые масштабы (ни одно из слагаемых не доминирует, не вносит в сумму определяющего вклада), имеет распределение, близкое к нормальному.

Так как многие случайные величины в приложениях формируются под влиянием нескольких слабо зависимых случайных факторов, их распределение считают нормальным. При этом должно соблюдаться условие, что ни один из факторов не является доминирующим. Центральные предельные теоремы в этих случаях обосновывают применение нормального распределения.

Классическая Ц. П. Т.

Пусть <math>X_1,\ldots, X_n,\ldots</math> есть бесконечная последовательность независимых одинаково распределённых случайных величин, имеющих конечное математическое ожидание и дисперсию. Обозначим последние <math>\mu</math> и <math>\sigma^2</math>, соответственно. Пусть также

<math>S_n = \sum\limits_{i=1}^n X_i</math>.

Тогда

<math>\frac{S_n - \mu n}{\sigma \sqrt n} \to N(0,1)</math> по распределению при <math>n \to \infty</math>,

где <math>N(0,1)</math> — нормальное распределение с нулевым математическим ожиданием и стандартным отклонением, равным единице. Обозначив символом <math>\bar{X}_n</math> выборочное среднее первых <math>n</math> величин, то есть <math>\bar{X}_n = \frac{1}{n} \sum\limits_{i=1}^n X_i</math>, мы можем переписать результат центральной предельной теоремы в следующем виде:

<math>\sqrt{n} \frac{ \bar{X}_n - \mu}{\sigma} \to N(0,1)</math> по распределению при <math>n \to \infty</math>.

Скорость сходимости можно оценить с помощью неравенства Берри — Эссеена.

Замечания

• Неформально говоря, классическая центральная предельная теорема утверждает, что сумма <math>n</math> независимых одинаково распределённых случайных величин имеет распределение, близкое к <math>N(n\mu, n\sigma^2 )</math>. Эквивалентно, <math>\bar{X}_n</math> имеет распределение близкое к <math>N(\mu,\sigma^2/n)</math>.
• Так как функция распределения стандартного нормального распределения непрерывна, сходимость к этому распределению эквивалентна поточечной сходимости функций распределения к функции распределения стандартного нормального распределения. Положив <math>Z_n = \frac{S_n - \mu n}{\sigma \sqrt{n}}</math>, получаем <math>F_{Z_n}(x) \to \Phi(x),\; \forall x \in \mathbb{R}</math>, где <math>\Phi(x)</math> — функция распределения стандартного нормального распределения.
• Центральная предельная теорема в классической формулировке доказывается методом характеристических функций (теорема Леви о непрерывности).
• Вообще говоря, из сходимости функций распределения не вытекает сходимость плотностей. Тем не менее в данном классическом случае это имеет место.

Локальная Ц. П. Т.

В предположениях классической формулировки, допустим в дополнение, что распределение случайных величин <math>\{X_i\}_{i=1}^{\infty}</math> абсолютно непрерывно, то есть оно имеет плотность. Тогда распределение <math>Z_n</math> также абсолютно непрерывно, и более того,

<math>f_{Z_n}(x) \to \frac{1}{\sqrt{2\pi}}\, e^{-\frac{x^2}{2}}</math> при <math>n \to \infty</math>,

где <math>f_{Z_n}(x)</math> — плотность случайной величины <math>Z_n</math>, а в правой части стоит плотность стандартного нормального распределения.

Обобщения

Результат классической центральной предельной теоремы справедлив для ситуаций гораздо более общих, чем полная независимость и одинаковая распределённость.

Ц. П. Т. Линдеберга

Пусть независимые случайные величины <math>X_1,\ldots ,X_n, \ldots</math> определены на одном и том же вероятностном пространстве и имеют конечные математические ожидания и дисперсии: <math> \mathbb{E}[X_i] = \mu_i,\; \mathrm{D}[X_i] = \sigma^2_i</math>.

Пусть <math>S_n = \sum\limits_{i=1}^n X_i</math>.

Тогда <math>\mathbb{E}[S_n] = m_n = \sum\limits_{i=1}^n \mu_i,\; \mathrm{D}[S_n] = s_n^2 = \sum\limits_{i=1}^n \sigma_i^2</math>.

И пусть выполняется условие Линдеберга:

<math>\forall \varepsilon>0,\; \lim\limits_{n\to \infty}\sum\limits_{i=1}^n \mathbb{E}\left[\frac{(X_i-\mu_i)^2}{s_n^2}\, \mathbf{1}_{\{|X_i-\mu_i|> \varepsilon s_n \}}\right] = 0,</math>

где <math> \mathbf{1}_{\{|X_i-\mu_i|> \varepsilon s_n \}}</math> функция - индикатор.

Тогда

<math>\frac{S_n-m_n}{s_n} \to N(0,1)</math> по распределению при <math>n \to \infty</math>.

Ц. П. Т. Ляпунова

Пусть выполнены базовые предположения Ц. П. Т. Линдеберга. Пусть случайные величины <math>\{X_i\}</math> имеют конечный третий момент. Тогда определена последовательность

<math>r^3_n = \sum_{i=1}^n \mathbb{E}\left[|X_i-\mu_i|^3\right]</math>.

Если предел

<math>\lim\limits_{n\to \infty} \frac{r_n}{s_n} = 0</math> (условие Ляпунова),

то

<math>\frac{S_n-m_n}{s_n} \to N(0,1)</math> по распределению при <math>n \to \infty</math>.

Ц. П. Т. для мартингалов

Пусть процесс <math>(X_n)_{n\in \mathbb{N}}</math> является мартингалом с ограниченными приращениями. В частности, допустим, что

<math>\mathbb{E}\left[X_{n+1}-X_n \mid X_1,\ldots,X_n \right] = 0,\; n \in \mathbb{N},\; X_0 \equiv 0,</math>

и приращения равномерно ограничены, то есть

<math>\exists C>0\, \forall n \in \mathbb{N}\; |X_{n+1}-X_n| \le C</math> п.н.

Введём случайные процессы <math>\sigma^2_n</math> и <math>\tau_n</math> следующим образом:

<math>\sigma_n^2 = \mathbb{E} \left[(X_{n+1}-X_n)^2 \mid X_1 ,\ldots, X_n\right]</math>

и

<math>\tau_n = \min\left\{k \left\vert\; \sum_{i=1}^k \sigma^2_i \ge n \right. \right\}</math>.

Тогда

<math>\frac{X_{\tau_n}}{\sqrt{n}} \to N(0,1)</math> по распределению при <math>n \to \infty</math>.

См. также

• Закон больших чисел
• Закон повторного логарифма

Ссылки

• [mathhelpplanet.com/static.php?p=predelnye-tyeoremy-tyeorii-veroyatnostyei Предельные теоремы теории вероятностей. Примеры использования]

Отрывок, характеризующий Центральная предельная теорема

8 го ноября последний день Красненских сражений; уже смерклось, когда войска пришли на место ночлега. Весь день был тихий, морозный, с падающим легким, редким снегом; к вечеру стало выясняться. Сквозь снежинки виднелось черно лиловое звездное небо, и мороз стал усиливаться.
Мушкатерский полк, вышедший из Тарутина в числе трех тысяч, теперь, в числе девятисот человек, пришел одним из первых на назначенное место ночлега, в деревне на большой дороге. Квартиргеры, встретившие полк, объявили, что все избы заняты больными и мертвыми французами, кавалеристами и штабами. Была только одна изба для полкового командира.
Полковой командир подъехал к своей избе. Полк прошел деревню и у крайних изб на дороге поставил ружья в козлы.
Как огромное, многочленное животное, полк принялся за работу устройства своего логовища и пищи. Одна часть солдат разбрелась, по колено в снегу, в березовый лес, бывший вправо от деревни, и тотчас же послышались в лесу стук топоров, тесаков, треск ломающихся сучьев и веселые голоса; другая часть возилась около центра полковых повозок и лошадей, поставленных в кучку, доставая котлы, сухари и задавая корм лошадям; третья часть рассыпалась в деревне, устраивая помещения штабным, выбирая мертвые тела французов, лежавшие по избам, и растаскивая доски, сухие дрова и солому с крыш для костров и плетни для защиты.
Человек пятнадцать солдат за избами, с края деревни, с веселым криком раскачивали высокий плетень сарая, с которого снята уже была крыша.
– Ну, ну, разом, налегни! – кричали голоса, и в темноте ночи раскачивалось с морозным треском огромное, запорошенное снегом полотно плетня. Чаще и чаще трещали нижние колья, и, наконец, плетень завалился вместе с солдатами, напиравшими на него. Послышался громкий грубо радостный крик и хохот.
– Берись по двое! рочаг подавай сюда! вот так то. Куда лезешь то?
– Ну, разом… Да стой, ребята!.. С накрика!
Все замолкли, и негромкий, бархатно приятный голос запел песню. В конце третьей строфы, враз с окончанием последнего звука, двадцать голосов дружно вскрикнули: «Уууу! Идет! Разом! Навались, детки!..» Но, несмотря на дружные усилия, плетень мало тронулся, и в установившемся молчании слышалось тяжелое пыхтенье.
– Эй вы, шестой роты! Черти, дьяволы! Подсоби… тоже мы пригодимся.
Шестой роты человек двадцать, шедшие в деревню, присоединились к тащившим; и плетень, саженей в пять длины и в сажень ширины, изогнувшись, надавя и режа плечи пыхтевших солдат, двинулся вперед по улице деревни.
– Иди, что ли… Падай, эка… Чего стал? То то… Веселые, безобразные ругательства не замолкали.
– Вы чего? – вдруг послышался начальственный голос солдата, набежавшего на несущих.
– Господа тут; в избе сам анарал, а вы, черти, дьяволы, матершинники. Я вас! – крикнул фельдфебель и с размаху ударил в спину первого подвернувшегося солдата. – Разве тихо нельзя?
Солдаты замолкли. Солдат, которого ударил фельдфебель, стал, покряхтывая, обтирать лицо, которое он в кровь разодрал, наткнувшись на плетень.
– Вишь, черт, дерется как! Аж всю морду раскровянил, – сказал он робким шепотом, когда отошел фельдфебель.
– Али не любишь? – сказал смеющийся голос; и, умеряя звуки голосов, солдаты пошли дальше. Выбравшись за деревню, они опять заговорили так же громко, пересыпая разговор теми же бесцельными ругательствами.
В избе, мимо которой проходили солдаты, собралось высшее начальство, и за чаем шел оживленный разговор о прошедшем дне и предполагаемых маневрах будущего. Предполагалось сделать фланговый марш влево, отрезать вице короля и захватить его.
Когда солдаты притащили плетень, уже с разных сторон разгорались костры кухонь. Трещали дрова, таял снег, и черные тени солдат туда и сюда сновали по всему занятому, притоптанному в снегу, пространству.
Топоры, тесаки работали со всех сторон. Все делалось без всякого приказания. Тащились дрова про запас ночи, пригораживались шалашики начальству, варились котелки, справлялись ружья и амуниция.
Притащенный плетень осьмою ротой поставлен полукругом со стороны севера, подперт сошками, и перед ним разложен костер. Пробили зарю, сделали расчет, поужинали и разместились на ночь у костров – кто чиня обувь, кто куря трубку, кто, донага раздетый, выпаривая вшей.


Казалось бы, что в тех, почти невообразимо тяжелых условиях существования, в которых находились в то время русские солдаты, – без теплых сапог, без полушубков, без крыши над головой, в снегу при 18° мороза, без полного даже количества провианта, не всегда поспевавшего за армией, – казалось, солдаты должны бы были представлять самое печальное и унылое зрелище.
Напротив, никогда, в самых лучших материальных условиях, войско не представляло более веселого, оживленного зрелища. Это происходило оттого, что каждый день выбрасывалось из войска все то, что начинало унывать или слабеть. Все, что было физически и нравственно слабого, давно уже осталось назади: оставался один цвет войска – по силе духа и тела.
К осьмой роте, пригородившей плетень, собралось больше всего народа. Два фельдфебеля присели к ним, и костер их пылал ярче других. Они требовали за право сиденья под плетнем приношения дров.
– Эй, Макеев, что ж ты …. запропал или тебя волки съели? Неси дров то, – кричал один краснорожий рыжий солдат, щурившийся и мигавший от дыма, но не отодвигавшийся от огня. – Поди хоть ты, ворона, неси дров, – обратился этот солдат к другому. Рыжий был не унтер офицер и не ефрейтор, но был здоровый солдат, и потому повелевал теми, которые были слабее его. Худенький, маленький, с вострым носиком солдат, которого назвали вороной, покорно встал и пошел было исполнять приказание, но в это время в свет костра вступила уже тонкая красивая фигура молодого солдата, несшего беремя дров.