Распределение вероятностей

Распределение вероятностей — это закон, описывающий область значений случайной величины и вероятности их исхода (появления).

Определение

Определение 1. Пусть задано вероятностное пространство <math>(\Omega, \mathcal{F}, \mathbb{P})</math>, и на нём определена случайная величина <math>X:\Omega \to \mathbb{R}</math>. В частности, по определению, <math>X</math> является измеримым отображением измеримого пространства <math>(\Omega, \mathcal{F})</math> в измеримое пространство <math>(\mathbb{R},\mathcal{B}(\mathbb{R}))</math>, где <math>\mathcal{B}(\mathbb{R})</math> обозначает борелевскую сигма-алгебру на <math>\mathbb{R}</math>. Тогда случайная величина <math>X</math> индуцирует вероятностную меру <math>\mathbb{P}^X</math> на <math>\mathbb{R}</math> следующим образом:

<math>\mathbb{P}^X(B) = \mathbb{P}(X^{-1}(B)),\; \forall B\in \mathcal{B}(\mathbb{R}).</math>

Мера <math>\mathbb{P}^X</math> называется распределением случайной величины <math>X</math>. Иными словами, <math>\mathbb{P}^X(B)=\mathbb{P}(X\in B)</math>, таким образом <math>\mathbb{P}^X(B)</math> задаёт вероятность того, что случайная величина <math>X</math> попадает во множество <math>B\in \mathcal{B}(\mathbb{R})</math>.

Способы задания распределений

Определение 2. Функция <math>F_X(x) = \mathbb{P}^X((-\infty,x]) = \mathbb{P}(X \leqslant x)</math> называется (кумулятивной) функцией распределения случайной величины <math>X</math>. Из свойств вероятности вытекает

Теорема 1. Функция распределения <math>F_X(x)</math> любой случайной величины удовлетворяет следующим трем свойствам:

1. <math>F_X</math> — функция неубывающая;
2. <math>\lim_{x\to -\infty} F_X(x) = 0,\; \lim_{x\to \infty}F_X(x) = 1</math>;
3. <math>F_X</math> непрерывна справа.

Из того факта, что борелевская сигма-алгебра на вещественной прямой порождается семейством интервалов вида <math>\{(-\infty,x]\}_{x\in \mathbb{R}}</math>, вытекает

Теорема 2. Любая функция <math>F(x)</math>, удовлетворяющая трём свойствам, перечисленным выше, является функцией распределения для какого-то распределения <math>\mathbb{P}^X</math>.

Для вероятностных распределений, обладающих определенными свойствами, существуют более удобные способы его задания.

Дискретные распределения

Определение 3. Случайная величина называется простой или дискретной, если она принимает не более, чем счётное число значений. То есть <math>X(\omega) = a_i,\; \forall \omega \in A_i</math>, где <math>\{A_i\}_{i=1}^{\infty}</math> — разбиение <math>\Omega</math>.

Распределение простой случайной величины тогда по определению задаётся: <math>\mathbb{P}^X(B) = \sum_{i:a_i \in B} \mathbb{P}(A_i)</math>. Введя обозначение <math>p_i = \mathbb{P}(A_i)</math>, можно задать функцию <math>p(a_i) = p_i</math>. Очевидно, что <math>\sum_{i=1}^{\infty}p_i = 1</math>. Используя счётную аддитивность <math>\mathbb{P}</math>, легко показать, что эта функция однозначно определяет распределение <math>X</math>.

Определение 4. Функция <math>p(a_i) = p_i</math>, где <math>\sum_{i=1}^{\infty} p_i = 1</math> часто называется дискретным распределением.

Пример 1. Пусть функция <math>p</math> задана таким образом, что <math>p(-1) = \frac{1}{2}</math> и <math>p(1) = \frac{1}{2}</math>. Эта функция задаёт распределение случайной величины <math>X</math>, для которой <math>\mathbb{P}(X=\pm 1) = \frac{1}{2}</math> (распределение Бернулли).

Теорема 3. Дискретное распределение обладает следующими свойствами:

1. <math> p_i \geqslant 0</math>;

2. <math> \sum_{i=1}^{n} p_i = 1</math>.

Решётчатые распределения

Определение 5. Решётчатым называется распределение с дискретной функцией распределения и точки разрыва функции распределения образуют подмножество точек вида <math>a+nh</math>, где <math>a</math> - вещественное, <math>h > 0</math>, <math>n</math> - целое.

Пример 2. Распределение Пуассона является решётчатым.

Пример 3. Биномиальное распределение является решётчатым.

Теорема 4. Для того, чтобы функция распределения <math>F</math> была решётчатой с шагом <math>h</math>, необходимо и достаточно, чтобы её характеристическая функция <math>f</math> удовлетворяла соотношению <math>|f(2 \pi/h)|=1</math>.

Доказательство.

Необходимость. Обозначим как <math>\left \{ a + nh \right \}</math> множество, содержащее все точки разрыва функции <math>F</math> и <math>p_{n}=F(a+nh)-F(a+nh-0)</math>. Тогда характеристическая функция <math>f(t)=\sum_{n}p_{n}\exp\left [ i(a+nh)t \right ]</math>. Следовательно, <math>f(\frac{2\pi}{h}) = \exp(i \frac{2 \pi a}{h})</math> и <math>\left | f(\frac{2\pi}{h}) \right |=1</math>.

Достаточность. Если <math>\left | f(\frac{2\pi}{h}) \right |=1</math>, то <math>f(\frac{2\pi}{h}) = \exp (i \frac{2 \pi a}{h})</math> для некоторого вещественного <math>a</math>. Тогда <math>\int \exp \left [ \frac{i 2 \pi (x-a)}{h}\right ] dF(x)=1</math>. Из этого равенства следует: <math>\int ( 1 - \cos \left [ \frac{2 \pi (x-a)}{h} \right ] ) dF(x) = 0</math> В силу неотрицательности подынтегральной функции, мера множества <math>\left \{ x: 1 - \cos \left [ \frac{2 \pi (x-a)}{h} \right ] > 0\right \}</math> равна нулю. Таким образом, функция распределения <math>F</math> может иметь своими точками роста лишь точки из множества <math>\left \{ a + nh \right \}</math>.

Следствием этой теоремы является следующее свойство решётчатых распределений: если решётчатая функция распределения <math>F</math> c шагом <math>h</math> является свёрткой функций распределения <math>F_{1}</math> и <math>F_{2}</math> <math>F = F_{1} * F_{2}</math>, то <math>F_{1}</math> и <math>F_{2}</math> также являются решётчатыми с шагом <math>h</math>.

Доказательство. Обозначим через <math>f, f_{1}, f_{2}</math> характеристические функции функций распределения <math>F, F_{1}, F_{2}</math>. Тогда <math>\left | f_{1}(\frac{2 \pi}{h}) \right | \left | f_{2}(\frac{2 \pi}{h}) \right | = \left | f(\frac{2 \pi}{h}) \right |</math>. Так как модуль любой характеристической функции на вещественной оси не превосходит <math>1</math>, то <math>\left | f_{1}(\frac{2 \pi}{h}) \right | = \left | f_{2}(\frac{2 \pi}{h}) \right | = 1</math> и доказательство завершено.

Непрерывные распределения

Непрерывное распределение — распределение, не имеющее атомов.

Абсолютно непрерывные распределения

Абсолютно непрерывными называют распределения, имеющие плотность вероятности. Кумулятивная функция таких распределений абсолютно непрерывна в смысле Лебега.

Определение 6. Распределение случайной величины <math>X</math> называется абсолютно непрерывным, если существует неотрицательная функция <math>f_X:\mathbb{R}\to \mathbb{R}_+</math>, такая что <math>\mathbb{P}^X(B) \equiv \mathbb{P}(X\in B) = \int\limits_B f_X(x)\, dx</math>. Функция <math>f_X</math> тогда называется плотностью распределения случайной величины <math>X</math>.

Пример 4. Пусть <math>f(x) = 1</math>, когда <math>0\leqslant x \leqslant 1</math>, и <math>0</math> — в противном случае. Тогда <math>\mathbb{P}(a < X < b) = \int\limits_a^b 1\, dx = b-a</math>, если <math>(a,b) \subset [0,1]</math>.

Очевидно, что для любой плотности распределения <math>f_X</math> верно равенство <math>\int\limits_{-\infty}^{\infty} f_X(x)\, dx = 1</math>. Верна и обратная

Теорема 5. Если функция <math>f:\mathbb{R}\to \mathbb{R}</math> такая, что:

1. <math>f(x) \geqslant 0,\; \forall x \in \mathbb{R}</math>;
2. <math>\int\limits_{-\infty}^{\infty} f(x)\, dx = 1</math>,

то существует распределение <math>\mathbb{P}^X</math> такое, что <math>f(x)</math> является его плотностью.

Просто применение формулы Ньютона-Лейбница приводит к простому соотношению между кумулятивной функцией и плотностью абсолютно непрерывного распределения.

Теорема 6. Если <math>f(x)</math> — непрерывная плотность распределения, а <math>F(x)</math> — его кумулятивная функция, то

1. <math>F'(x) = f(x),\; \forall x \in \mathbb{R},</math>
2. <math>F(x) = \int\limits_{-\infty}^x f(t)\, dt</math>.

При построении распределения по эмпирическим (опытным) данным следует избегать ошибок округления.

Сингулярные распределения

Сингулярными называют распределения, сосредоточенные на множестве нулевой меры (обычно меры Лебега).

Литература

• Рамачандран Б. Теория характеристических функций. — М.: Наука, 1975. — 224 с.

К:Википедия:Статьи без источников (тип: не указан) </center>

Отрывок, характеризующий Распределение вероятностей

Это был порядок, склад обстоятельств.
Порядок какой то убивал его – Пьера, лишал его жизни, всего, уничтожал его.


От дома князя Щербатова пленных повели прямо вниз по Девичьему полю, левее Девичьего монастыря и подвели к огороду, на котором стоял столб. За столбом была вырыта большая яма с свежевыкопанной землей, и около ямы и столба полукругом стояла большая толпа народа. Толпа состояла из малого числа русских и большого числа наполеоновских войск вне строя: немцев, итальянцев и французов в разнородных мундирах. Справа и слева столба стояли фронты французских войск в синих мундирах с красными эполетами, в штиблетах и киверах.
Преступников расставили по известному порядку, который был в списке (Пьер стоял шестым), и подвели к столбу. Несколько барабанов вдруг ударили с двух сторон, и Пьер почувствовал, что с этим звуком как будто оторвалась часть его души. Он потерял способность думать и соображать. Он только мог видеть и слышать. И только одно желание было у него – желание, чтобы поскорее сделалось что то страшное, что должно было быть сделано. Пьер оглядывался на своих товарищей и рассматривал их.
Два человека с края были бритые острожные. Один высокий, худой; другой черный, мохнатый, мускулистый, с приплюснутым носом. Третий был дворовый, лет сорока пяти, с седеющими волосами и полным, хорошо откормленным телом. Четвертый был мужик, очень красивый, с окладистой русой бородой и черными глазами. Пятый был фабричный, желтый, худой малый, лет восемнадцати, в халате.
Пьер слышал, что французы совещались, как стрелять – по одному или по два? «По два», – холодно спокойно отвечал старший офицер. Сделалось передвижение в рядах солдат, и заметно было, что все торопились, – и торопились не так, как торопятся, чтобы сделать понятное для всех дело, но так, как торопятся, чтобы окончить необходимое, но неприятное и непостижимое дело.
Чиновник француз в шарфе подошел к правой стороне шеренги преступников в прочел по русски и по французски приговор.
Потом две пары французов подошли к преступникам и взяли, по указанию офицера, двух острожных, стоявших с края. Острожные, подойдя к столбу, остановились и, пока принесли мешки, молча смотрели вокруг себя, как смотрит подбитый зверь на подходящего охотника. Один все крестился, другой чесал спину и делал губами движение, подобное улыбке. Солдаты, торопясь руками, стали завязывать им глаза, надевать мешки и привязывать к столбу.
Двенадцать человек стрелков с ружьями мерным, твердым шагом вышли из за рядов и остановились в восьми шагах от столба. Пьер отвернулся, чтобы не видать того, что будет. Вдруг послышался треск и грохот, показавшиеся Пьеру громче самых страшных ударов грома, и он оглянулся. Был дым, и французы с бледными лицами и дрожащими руками что то делали у ямы. Повели других двух. Так же, такими же глазами и эти двое смотрели на всех, тщетно, одними глазами, молча, прося защиты и, видимо, не понимая и не веря тому, что будет. Они не могли верить, потому что они одни знали, что такое была для них их жизнь, и потому не понимали и не верили, чтобы можно было отнять ее.
Пьер хотел не смотреть и опять отвернулся; но опять как будто ужасный взрыв поразил его слух, и вместе с этими звуками он увидал дым, чью то кровь и бледные испуганные лица французов, опять что то делавших у столба, дрожащими руками толкая друг друга. Пьер, тяжело дыша, оглядывался вокруг себя, как будто спрашивая: что это такое? Тот же вопрос был и во всех взглядах, которые встречались со взглядом Пьера.
На всех лицах русских, на лицах французских солдат, офицеров, всех без исключения, он читал такой же испуг, ужас и борьбу, какие были в его сердце. «Да кто жо это делает наконец? Они все страдают так же, как и я. Кто же? Кто же?» – на секунду блеснуло в душе Пьера.
– Tirailleurs du 86 me, en avant! [Стрелки 86 го, вперед!] – прокричал кто то. Повели пятого, стоявшего рядом с Пьером, – одного. Пьер не понял того, что он спасен, что он и все остальные были приведены сюда только для присутствия при казни. Он со все возраставшим ужасом, не ощущая ни радости, ни успокоения, смотрел на то, что делалось. Пятый был фабричный в халате. Только что до него дотронулись, как он в ужасе отпрыгнул и схватился за Пьера (Пьер вздрогнул и оторвался от него). Фабричный не мог идти. Его тащили под мышки, и он что то кричал. Когда его подвели к столбу, он вдруг замолк. Он как будто вдруг что то понял. То ли он понял, что напрасно кричать, или то, что невозможно, чтобы его убили люди, но он стал у столба, ожидая повязки вместе с другими и, как подстреленный зверь, оглядываясь вокруг себя блестящими глазами.
Пьер уже не мог взять на себя отвернуться и закрыть глаза. Любопытство и волнение его и всей толпы при этом пятом убийстве дошло до высшей степени. Так же как и другие, этот пятый казался спокоен: он запахивал халат и почесывал одной босой ногой о другую.
Когда ему стали завязывать глаза, он поправил сам узел на затылке, который резал ему; потом, когда прислонили его к окровавленному столбу, он завалился назад, и, так как ему в этом положении было неловко, он поправился и, ровно поставив ноги, покойно прислонился. Пьер не сводил с него глаз, не упуская ни малейшего движения.
Должно быть, послышалась команда, должно быть, после команды раздались выстрелы восьми ружей. Но Пьер, сколько он ни старался вспомнить потом, не слыхал ни малейшего звука от выстрелов. Он видел только, как почему то вдруг опустился на веревках фабричный, как показалась кровь в двух местах и как самые веревки, от тяжести повисшего тела, распустились и фабричный, неестественно опустив голову и подвернув ногу, сел. Пьер подбежал к столбу. Никто не удерживал его. Вокруг фабричного что то делали испуганные, бледные люди. У одного старого усатого француза тряслась нижняя челюсть, когда он отвязывал веревки. Тело спустилось. Солдаты неловко и торопливо потащили его за столб и стали сталкивать в яму.
Все, очевидно, несомненно знали, что они были преступники, которым надо было скорее скрыть следы своего преступления.
Пьер заглянул в яму и увидел, что фабричный лежал там коленами кверху, близко к голове, одно плечо выше другого. И это плечо судорожно, равномерно опускалось и поднималось. Но уже лопатины земли сыпались на все тело. Один из солдат сердито, злобно и болезненно крикнул на Пьера, чтобы он вернулся. Но Пьер не понял его и стоял у столба, и никто не отгонял его.
Когда уже яма была вся засыпана, послышалась команда. Пьера отвели на его место, и французские войска, стоявшие фронтами по обеим сторонам столба, сделали полуоборот и стали проходить мерным шагом мимо столба. Двадцать четыре человека стрелков с разряженными ружьями, стоявшие в середине круга, примыкали бегом к своим местам, в то время как роты проходили мимо них.
Пьер смотрел теперь бессмысленными глазами на этих стрелков, которые попарно выбегали из круга. Все, кроме одного, присоединились к ротам. Молодой солдат с мертво бледным лицом, в кивере, свалившемся назад, спустив ружье, все еще стоял против ямы на том месте, с которого он стрелял. Он, как пьяный, шатался, делая то вперед, то назад несколько шагов, чтобы поддержать свое падающее тело. Старый солдат, унтер офицер, выбежал из рядов и, схватив за плечо молодого солдата, втащил его в роту. Толпа русских и французов стала расходиться. Все шли молча, с опущенными головами.