Неравенство Йенсена

Нера́венство Йе́нсена — неравенство, введённое Иоганом Йенсеном и тесно связанное с определением выпуклой функции.

Формулировки

Конечный случай

Пусть функция <math>f\left(x\right)</math> является выпуклой на некотором промежутке <math>\mathcal X</math> и числа <math>\ q_1,q_2,\ldots,q_n</math> таковы, что <math>\ q_1,q_2,\ldots,q_n>0</math> и <math>\ q_{1}+q_2+\ldots+q_n=1</math>. Тогда каковы бы ни были числа <math>\ x_1,x_2,\ldots,x_n</math> из промежутка <math>\mathcal X</math>, выполняется неравенство:

<math> f(q_1x_1+q_2x_2+\ldots+q_nx_n)\le q_1f(x_1)+q_2f(x_2)+\ldots+q_nf(x_n)</math>

или

<math>f \left( \sum_{i=1}^{n} q_i x_i \right) \le \sum_{i=1}^{n} q_i f (x_i)</math>.

Замечания:

• Если функция <math>\ f(x)</math> вогнута (выпукла вверх), то знак в неравенстве меняется на противоположный.
• Сам Иоган Йенсен исходил из более частного соотношения, а именно

<math>f \left( \frac {x_1+x_2}{2} \right) \le \frac {f(x_1)+f(x_2)} {2}</math>, оно отвечает случаю <math>q_1=q_2=\frac {1}{2}</math>.

Доказательство  

Доказательство проводится методом математической индукции.

• Для <math>\ n=2</math> неравенство следует из определения выпуклой функции.
• Допустим, что оно верно для какого-либо натурального числа <math>\ n</math>, докажем, что оно верно и для <math>\ n+1</math>, то есть

<math> f(q_1x_1+q_2x_2+\ldots+q_nx_n+q_{n+1}x_{n+1})\le q_1f(x_1)+q_2f(x_2)+\ldots+q_nf(x_n)+q_{n+1}f(x_{n+1})</math>.

С этой целью, заменим слева сумму двух последних слагаемых <math>\ q_nx_n+q_{n+1}x_{n+1}</math> одним слагаемым

<math> (q_n+q_{n+1}) \left( \frac {q_n}{q_n+q_{n+1

x_n+ \frac {q_{n+1}}{q_n+q_{n+1}} x_{n+1} \right)</math>;

это даст возможность воспользоваться неравенством для <math>\ n</math> и установить, что выражение выше не превосходит суммы

<math> q_1f(x_1)+q_2f(x_2)+\ldots+(q_n+q_{n+1}) f\left( \frac {q_n}{q_n+q_{n+1}} x_n+ \frac {q_{n+1}}{q_n+q_{n+1}} x_{n+1} \right)</math>.

Остается лишь применить к значению функции в последнем слагаемом неравенство для <math>\ n=2</math>. Таким образом по методу математической индукции неравенство Йенсена полностью оправдано. }}

Геометрическая интерпретация

Точка <math>(\sum \limits_{i=1}^{n} {q_i x_i};\sum \limits_{i=1}^{n} {q_i f(x_i)})</math> является соответствующей выпуклой комбинацией точек <math>(x_1, f(x_1)), (x_2, f(x_2)), \dots, (x_n, f(x_n))</math>. Из определения выпуклой функции очевидно, что выпуклая оболочка этого множества точек будет совпадать с самим множеством. Значит, из свойств выпуклой комбинации следует, что образованная точка будет лежать внутри многоугольника, построенного на перечисленных точках в указанном порядке (если соединить последнюю с первой).

Геометрически очевидно, что в этом случае точка <math>(\sum \limits_{i=1}^{n} {q_i x_i};\sum \limits_{i=1}^{n} {q_i f(x_i)})</math> будет лежать выше одной из прямых вида <math>(x_i;f(x_i))-(x_{i+1};f(x_{i+1}))</math>. Но у выпуклой функции по определению такая прямая лежит выше графика функции. Значит, и точка <math>(\sum \limits_{i=1}^{n} {q_i x_i};\sum \limits_{i=1}^{n} {q_i f(x_i)})</math> лежит выше этого графика, что и означает, что <math>f(\sum \limits_{i=1}^{n} {q_i x_i}) \le \sum \limits_{i=1}^{n} {q_i f(x_i)}</math>.

Интегральная формулировка

Для выпуклой функции <math>\varphi\left( x \right)</math> и интегрируемой функции <math>f\left( x \right) </math> выполняется неравенство

<math>\varphi\left(\int_a^b f(x)\, dx\right) \le \frac{1}{b-a}\int_a^b \varphi((b-a)f(x)) \,dx. </math>

Вероятностная формулировка

Пусть <math>(\Omega,\mathcal{F},\mathbb{P})</math> — вероятностное пространство, и <math>X\colon\Omega \to \mathbb{R}</math> — определённая на нём случайная величина. Пусть также <math>\varphi\colon\mathbb{R} \to \mathbb{R}</math> — выпуклая (вниз) борелевская функция. Тогда если <math>X, \varphi(X) \in L^1(\Omega,\mathcal{F},\mathbb{P})</math>, то

<math>\varphi(\mathbb{E}[X]) \leqslant \mathbb{E}[\varphi(X)]</math>,

где <math>\mathbb{E}[\cdot]</math> означает математическое ожидание.

Неравенство Йенсена для условного математического ожидания

Пусть в дополнение к предположениям, перечисленным выше, <math>\mathcal{G}\subset \mathcal{F}</math> — под-σ-алгебра событий. Тогда

<math>\varphi(\mathbb{E}[X|\mathcal{G}]) \leqslant \mathbb{E}[\varphi(X)|\mathcal{G}]</math>,

где <math>\mathbb{E}[\cdot|\mathcal{G}]</math> обозначает условное математическое ожидание относительно σ-алгебры <math>\mathcal{G}</math>.

Частные случаи

Неравенство Гёльдера

• Пусть <math>\ f(x)=x^k</math>, где <math>\ x>0,</math> <math>\ k>1</math> (выпуклая функция). Имеем

<math>\left(\sum_{i=1}^{n} {q_ix_i}\right)^k \le \sum _{i=1}^{n} {q_ix_i^k}</math>,      <math>\ q_1,\ldots,q_n>0</math> и <math>\ q_1+\ldots+q_n=1</math>

Обозначим <math>\ q_i=\frac{p_i}{p_1+\ldots+p_n}</math>, где <math>\ p_1,\ldots,p_n </math>- произвольные положительные числа, тогда неравенство запишется в виде

<math>\left(\sum_{i=1}^{n} {p_ix_i}\right)^k \le \left(\sum _{i=1}^{n} {p_i}\right)^{k-1}\sum _{i=1}^{n} {p_ix_i^k}</math>.

Заменяя здесь <math>\ p_i</math> на <math>\ b_i^{\frac {k}{k-1}}</math> и <math>\ x_i</math> на <math>\frac {a_i}{b_i^{\frac{1}{k-1}}}</math>, получаем известное неравенство Гёльдера:

<math>\sum_{i=1}^{n} {a_ib_i} \le \left(\sum _{i=1}^{n} {a_i}^k\right)^\frac{1}{k}\left(\sum _{i=1}^{n} {b_i}^{\frac {k}{k-1}}\right)^\frac{k-1}{k}</math>.

Неравенство Коши

• Пусть <math>\ f(x)=\ln x</math> (вогнутая функция). Имеем

<math>\sum _{i=1}^{n} {q_i\ln x_i}\le \ln\left(\sum_{i=1}^{n} {q_ix_i}\right) </math>, или <math>\ln\prod _{i=1}^{n} {x_i^{q_i}}\le \ln\sum_{i=1}^{n} {q_ix_i} </math>, потенцируя получаем <math>\prod _{i=1}^{n} {x_i^{q_i}}\le \sum_{i=1}^{n} {q_ix_i} </math>.

В частности при <math>q_i=\frac{1}{n}</math> получаем неравенство Коши (среднее геометрическое не превосходит среднего арифметического)

<math>\sqrt[n]{x_1 \ldots x_n}\le\frac{x_1+\ldots+x_n}{n}</math>.

Неравенство между средним гармоническим и средним геометрическим

• Пусть <math>\ f(x)=x\ln x</math> (выпуклая функция). Имеем

<math>\left( \sum_{i=1}^{n} {q_ix_i} \right) \ln \left( \sum_{i=1}^{n} {q_ix_i} \right) \le \sum_{i=1}^{n} {q_ix_i \ln x_i} </math>. Положив <math>q_i=\frac{\frac{1}{x_i}}{\sum_{i=1}^{n} {\frac{1}{x_i}}}</math> и потенцируя, получаем

<math>\frac{n}{\frac{1}{x_1} + \ldots + \frac{1}{x_n}}\le\left( x_1\cdot\ldots\cdot x_n\right)^{1/n} </math> (среднее гармоническое не превосходит среднего геометрического)

Неравенство между средним гармоническим и средним арифметическим

• Пусть <math>\ f(x)=\frac{1}{x}</math> (выпуклая функция). Имеем <math>\frac{1}{\sum_{i=1}^{n} {q_ix_i}} \le \sum_{i=1}^{n} {\frac{q_i}{x_i}} </math>

В частности при <math>q_i=\frac{1}{n}</math> получаем, что среднее гармоническое не превосходит среднего арифметического:

<math>\frac{n}{\frac{1}{x_1} + \ldots + \frac{1}{x_n}}\le\frac{x_1+\ldots+x_n}{n}</math>

См. также

• Неравенство Юнга
• Неравенство Минковского
• Неравенство Гёльдера

Литература

• Зорич В. А. Гл. V. Дифференциальное исчисление // Математический анализ. Часть I. — 6-е изд. — М.: МЦНМО, 2012. — С. 289—290. — 2000 экз. — ISBN 978-5-94057-892-5.
• Фихтенгольц Г. М. Гл. IV. Исследование функций с помощью производных // Курс дифференциального и интегрального исчисления. — 8-е изд. — М.: ФИЗМАТЛИТ, 2001. — Т. 1. — С. 336—337. — 5000 экз. — ISBN 5-9221-0156-0.

Отрывок, характеризующий Неравенство Йенсена

Когда человек находится в движении, он всегда придумывает себе цель этого движения. Для того чтобы идти тысячу верст, человеку необходимо думать, что что то хорошее есть за этими тысячью верст. Нужно представление об обетованной земле для того, чтобы иметь силы двигаться.
Обетованная земля при наступлении французов была Москва, при отступлении была родина. Но родина была слишком далеко, и для человека, идущего тысячу верст, непременно нужно сказать себе, забыв о конечной цели: «Нынче я приду за сорок верст на место отдыха и ночлега», и в первый переход это место отдыха заслоняет конечную цель и сосредоточивает на себе все желанья и надежды. Те стремления, которые выражаются в отдельном человеке, всегда увеличиваются в толпе.
Для французов, пошедших назад по старой Смоленской дороге, конечная цель родины была слишком отдалена, и ближайшая цель, та, к которой, в огромной пропорции усиливаясь в толпе, стремились все желанья и надежды, – была Смоленск. Не потому, чтобы люди знала, что в Смоленске было много провианту и свежих войск, не потому, чтобы им говорили это (напротив, высшие чины армии и сам Наполеон знали, что там мало провианта), но потому, что это одно могло им дать силу двигаться и переносить настоящие лишения. Они, и те, которые знали, и те, которые не знали, одинаково обманывая себя, как к обетованной земле, стремились к Смоленску.
Выйдя на большую дорогу, французы с поразительной энергией, с быстротою неслыханной побежали к своей выдуманной цели. Кроме этой причины общего стремления, связывавшей в одно целое толпы французов и придававшей им некоторую энергию, была еще другая причина, связывавшая их. Причина эта состояла в их количестве. Сама огромная масса их, как в физическом законе притяжения, притягивала к себе отдельные атомы людей. Они двигались своей стотысячной массой как целым государством.
Каждый человек из них желал только одного – отдаться в плен, избавиться от всех ужасов и несчастий. Но, с одной стороны, сила общего стремления к цели Смоленска увлекала каждою в одном и том же направлении; с другой стороны – нельзя было корпусу отдаться в плен роте, и, несмотря на то, что французы пользовались всяким удобным случаем для того, чтобы отделаться друг от друга и при малейшем приличном предлоге отдаваться в плен, предлоги эти не всегда случались. Самое число их и тесное, быстрое движение лишало их этой возможности и делало для русских не только трудным, но невозможным остановить это движение, на которое направлена была вся энергия массы французов. Механическое разрывание тела не могло ускорить дальше известного предела совершавшийся процесс разложения.
Ком снега невозможно растопить мгновенно. Существует известный предел времени, ранее которого никакие усилия тепла не могут растопить снега. Напротив, чем больше тепла, тем более крепнет остающийся снег.
Из русских военачальников никто, кроме Кутузова, не понимал этого. Когда определилось направление бегства французской армии по Смоленской дороге, тогда то, что предвидел Коновницын в ночь 11 го октября, начало сбываться. Все высшие чины армии хотели отличиться, отрезать, перехватить, полонить, опрокинуть французов, и все требовали наступления.
Кутузов один все силы свои (силы эти очень невелики у каждого главнокомандующего) употреблял на то, чтобы противодействовать наступлению.
Он не мог им сказать то, что мы говорим теперь: зачем сраженье, и загораживанье дороги, и потеря своих людей, и бесчеловечное добиванье несчастных? Зачем все это, когда от Москвы до Вязьмы без сражения растаяла одна треть этого войска? Но он говорил им, выводя из своей старческой мудрости то, что они могли бы понять, – он говорил им про золотой мост, и они смеялись над ним, клеветали его, и рвали, и метали, и куражились над убитым зверем.
Под Вязьмой Ермолов, Милорадович, Платов и другие, находясь в близости от французов, не могли воздержаться от желания отрезать и опрокинуть два французские корпуса. Кутузову, извещая его о своем намерении, они прислали в конверте, вместо донесения, лист белой бумаги.
И сколько ни старался Кутузов удержать войска, войска наши атаковали, стараясь загородить дорогу. Пехотные полки, как рассказывают, с музыкой и барабанным боем ходили в атаку и побили и потеряли тысячи людей.
Но отрезать – никого не отрезали и не опрокинули. И французское войско, стянувшись крепче от опасности, продолжало, равномерно тая, все тот же свой гибельный путь к Смоленску.



Бородинское сражение с последовавшими за ним занятием Москвы и бегством французов, без новых сражений, – есть одно из самых поучительных явлений истории.
Все историки согласны в том, что внешняя деятельность государств и народов, в их столкновениях между собой, выражается войнами; что непосредственно, вследствие больших или меньших успехов военных, увеличивается или уменьшается политическая сила государств и народов.
Как ни странны исторические описания того, как какой нибудь король или император, поссорившись с другим императором или королем, собрал войско, сразился с войском врага, одержал победу, убил три, пять, десять тысяч человек и вследствие того покорил государство и целый народ в несколько миллионов; как ни непонятно, почему поражение одной армии, одной сотой всех сил народа, заставило покориться народ, – все факты истории (насколько она нам известна) подтверждают справедливость того, что большие или меньшие успехи войска одного народа против войска другого народа суть причины или, по крайней мере, существенные признаки увеличения или уменьшения силы народов. Войско одержало победу, и тотчас же увеличились права победившего народа в ущерб побежденному. Войско понесло поражение, и тотчас же по степени поражения народ лишается прав, а при совершенном поражении своего войска совершенно покоряется.
Так было (по истории) с древнейших времен и до настоящего времени. Все войны Наполеона служат подтверждением этого правила. По степени поражения австрийских войск – Австрия лишается своих прав, и увеличиваются права и силы Франции. Победа французов под Иеной и Ауерштетом уничтожает самостоятельное существование Пруссии.
Но вдруг в 1812 м году французами одержана победа под Москвой, Москва взята, и вслед за тем, без новых сражений, не Россия перестала существовать, а перестала существовать шестисоттысячная армия, потом наполеоновская Франция. Натянуть факты на правила истории, сказать, что поле сражения в Бородине осталось за русскими, что после Москвы были сражения, уничтожившие армию Наполеона, – невозможно.