Плотность вероятности
Эта статью следует сделать более понятной широкому кругу читателей. Пожалуйста, попытайтесь изложить эту статью, чтобы она была понятна неспециалисту. Вам могут помочь советы в этом эссе.
Пояснение: Статья на такую важную тему должна быть понятна старшекласснику. До того, как говорить о σ-алгебрах, надо дать простое определение |
Пло́тность вероя́тности — один из способов задания вероятностной меры на евклидовом пространстве <math>\mathbb{R}^n</math>. В случае, когда вероятностная мера является распределением случайной величины, говорят о плотности случайной величины.
Содержание
Плотность вероятности
Пусть <math>\mathbb{P}</math> является вероятностной мерой на <math>\mathbb{R}^n</math>, то есть определено вероятностное пространство <math>\left(\mathbb{R}^n,\mathcal{B}(\mathbb{R}^n),\mathbb{P}\right)</math>, где <math>\mathcal{B}(\mathbb{R}^n)</math> обозначает борелевскую σ-алгебру на <math>\mathbb{R}^n</math>. Пусть <math>m</math> обозначает меру Лебега на <math>\mathbb{R}^n</math>.
Определение 1. Вероятность <math>\mathbb{P}</math> называется абсолютно непрерывной (относительно меры Лебега) (<math>\mathbb{P} \ll m</math>), если любое борелевское множество нулевой меры Лебега также имеет вероятность ноль:
- <math>\forall B \in \mathcal{B}(\mathbb{R}^n),\; ( m(B) = 0 ) \Rightarrow ( \mathbb{P}(B) = 0 ) .</math>
Если вероятность <math>\mathbb{P}</math> абсолютно непрерывна, то согласно теореме Радона-Никодима существует неотрицательная борелевская функция <math>f\colon\mathbb{R}^n \to [0,\infty)</math> такая, что
- <math>\mathbb{P}(B) = \int\limits_{B} f(x)\, dx</math>,
где использовано общепринятое сокращение <math>m(dx) \equiv dx</math>, и интеграл понимается в смысле Лебега.
Определение 2. В более общем виде, пусть <math>(X, \mathcal F)</math> — произвольное измеримое пространство, а <math>\mu</math> и <math>\nu</math> — две меры на этом пространстве. Если найдется неотрицательная <math>f</math>, позволяющая выразить меру <math>\nu</math> через меру <math>\mu</math> в виде
- <math>\nu(A) = \int_A f d\mu,</math>
то такую функцию называют плотностью меры <math>\nu</math> по мере <math>\mu</math>, или производной Радона-Никодима меры <math>\nu</math> относительно меры <math>\mu</math>, и обозначают
- <math>f=\frac{d\nu}{d\mu}</math>.
Свойства плотности вероятности
- Плотность вероятности определена почти всюду. Если <math>f</math> является плотностью вероятности <math>\mathbb{P}</math> и <math>f(x) = g(x)</math> почти всюду относительно меры Лебега, то и функция <math>g</math> также является плотностью вероятности <math>\mathbb{P}</math>.
- Интеграл от плотности по всему пространству равен единице:
- <math>\mathbb{P}\left(\mathbb{R}^n\right) = \int\limits_{\mathbb{R}^n} f(x)\, dx = 1</math>.
Обратно, если <math>f(x)</math> — неотрицательная п.в. функция, такая что <math>\int\limits_{\mathbb{R}^n}f(x)\, dx = 1</math>, то существует абсолютно непрерывная вероятностная мера <math>\mathbb{P}</math> на <math>\mathbb{R}^n</math> такая, что <math>f(x)</math> является её плотностью.
- Замена меры в интеграле Лебега:
- <math>\int\limits_{\mathbb{R}^n} \varphi(x)\, \mathbb{P}(dx) = \int\limits_{\mathbb{R}^n}\varphi(x)\, f(x)\, dx</math>,
где <math>\varphi:\mathbb{R}^n \to \mathbb{R}</math> любая борелевская функция, интегрируемая относительно вероятностной меры <math>\mathbb{P}</math>.
Плотность случайной величины
Пусть определено произвольное вероятностное пространство <math>(\Omega,\mathcal{F},\mathbb{P})</math>, и <math>X\colon\Omega \to \mathbb{R}^n</math> случайная величина (или случайный вектор). <math>X</math> индуцирует вероятностную меру <math>\mathbb{P}^X</math> на <math>\left(\mathbb{R}^n,\mathcal{B}(\mathbb{R}^n)\right)</math>, называемую распределением случайной величины <math>X</math>.
Определение 3. Если распределение <math>\mathbb{P}^X</math> абсолютно непрерывно относительно меры Лебега, то его плотность <math>f_X = \frac{d\mathbb{P}^X}{dx}</math> называется плотностью случайной величины <math>X</math>. Сама случайная величина <math>X</math> называется абсолютно непрерывной.
Таким образом для абсолютно непрерывной случайной величины имеем:
- <math>\mathbb{P}(X \in B) = \int\limits_{B} f_X(x)\, dx</math>.
Замечания
- Не всякая случайная величина абсолютно непрерывна. Любое дискретное распределение, например, не является абсолютно непрерывным относительно меры Лебега, а потому дискретные случайные величины не имеют плотности.
- Функция распределения абсолютно непрерывной случайной величины <math>X</math> непрерывна и может быть выражена через плотность следующим образом:
- <math>F_X(x_1,\ldots, x_n) = \mathbb{P}\left(X \in \prod\limits_{i=1}^n (-\infty,x_i]\right) = \int\limits_{-\infty}^{x_n} \!\! \ldots \!\! \int\limits_{-\infty}^{x_1} f_X(x'_1,\ldots, x'_n)\, dx'_1\ldots dx'_n</math>.
В одномерном случае:
- <math>F_X(x) = \int\limits_{-\infty}^x f_X(x')\, dx'</math>.
Если <math>f_X \in C(\mathbb{R}^n)</math>, то <math>F_X \in \mathcal{D}(\mathbb{R}^n)</math>, и
- <math>\frac{\partial^n}{\partial x_1 \ldots \partial x_n} F_X(x_1,\ldots, x_n) = f_X(x_1,\ldots, x_n)</math>.
В одномерном случае:
- <math>\frac{d}{dx} F_X(x) = f_X(x)</math>.
- Математическое ожидание функции от абсолютно непрерывной случайной величины может быть записано в виде:
- <math>\mathbb{E}[g(X)] = \int\limits_{\mathbb{R}^n} g(x) \, \mathbb{P}^X(dx) = \int\limits_{\mathbb{R}^n} g(x)\, f_X(x)\, dx</math>,
где <math>g\colon \mathbb{R}^n \to \mathbb{R}</math> — борелевская функция, так что <math>\mathbb{E}[g(X)]</math> определено и конечно.
Плотность преобразования случайной величины
Пусть <math>X\colon\Omega \to \mathbb{R}^n</math> — абсолютно непрерывная случайная величина, и <math>g\colon\mathbb{R}^n \to \mathbb{R}^n</math> — инъективная непрерывно дифференцируемая функция такая, что <math>J_g(x) \not=0,\; \forall x\in \mathbb{R}^n</math>, где <math>J_g(x)</math> — якобиан функции <math>g</math> в точке <math>x</math>. Тогда случайная величина <math>Y = g(X)</math> также абсолютно непрерывна, и её плотность имеет вид:
- <math>f_Y(y) = f_X\left(g^{-1}(y)\right) \vert J_{g^{-1}}(y) \vert</math>.
В одномерном случае:
- <math>f_Y(y) = f_X\left(g^{-1}(y)\right) \left\vert \frac{dg^{-1}}{dy}(y)\right\vert</math>.
Примеры абсолютно непрерывных распределений
- Бета-распределение;
- Распределение Вейбулла;
- Гамма-распределение;
- Распределение Коши;
- Логнормальное распределение;
- Нормальное распределение;
- Непрерывное равномерное распределение
- Распределение Парето;
- Распределение Стьюдента;
- Распределение Фишера;
- Распределение хи-квадрат;
- Экспоненциальное распределение;
- Многомерное нормальное распределение.