Марковский источник информации

Марковский источник информации, или марковский источник — это источник информации, поведение которого определяется стационарной цепью Маркова с конечным числом исходов.

Формальное определение

Источник информации — это последовательность случайных величин, пробегающих конечный алфавит, распределение которых не меняется со временем.

Тогда марковский источник информации — это стационарная марковская цепь, вместе с функцией

<math>f:S\to \Gamma</math>

отображающей состояния S в буквы алфавита Г.

Унифилярный марковский источник — это марковский источник, для которого значения <math>f(s_k)</math> различны всегда, когда состояния <math>s_k</math> достижимы за один шаг из общего исходного состояния. Унифилярные источники хороши тем, что многие их свойства могут быть изучены более легко, чем в общем случае.

Применение

Марковские источники часто используются в теории передачи информации как модель передатчика. Также марковские источники используются в обработке естественного языка для распознавания скрытого значения текста. Задача распознавания марковской цепи по имеющемуся выводу марковского источника информации успешно решена методами скрытых марковских моделей, такими как алгоритм Витерби.

Примечания

• Robert B. Ash, Information Theory, (1965) Dover Publications. ISBN 0-486-66521-6

Отрывок, характеризующий Марковский источник информации

– Ваше благородие, вот он! – проговорил сзади один из гусар.
И не успел еще Ростов разглядеть что то, вдруг зачерневшееся в тумане, как блеснул огонек, щелкнул выстрел, и пуля, как будто жалуясь на что то, зажужжала высоко в тумане и вылетела из слуха. Другое ружье не выстрелило, но блеснул огонек на полке. Ростов повернул лошадь и галопом поехал назад. Еще раздались в разных промежутках четыре выстрела, и на разные тоны запели пули где то в тумане. Ростов придержал лошадь, повеселевшую так же, как он, от выстрелов, и поехал шагом. «Ну ка еще, ну ка еще!» говорил в его душе какой то веселый голос. Но выстрелов больше не было.
Только подъезжая к Багратиону, Ростов опять пустил свою лошадь в галоп и, держа руку у козырька, подъехал к нему.
Долгоруков всё настаивал на своем мнении, что французы отступили и только для того, чтобы обмануть нас, разложили огни.
– Что же это доказывает? – говорил он в то время, как Ростов подъехал к ним. – Они могли отступить и оставить пикеты.
– Видно, еще не все ушли, князь, – сказал Багратион. – До завтрашнего утра, завтра всё узнаем.
– На горе пикет, ваше сиятельство, всё там же, где был с вечера, – доложил Ростов, нагибаясь вперед, держа руку у козырька и не в силах удержать улыбку веселья, вызванного в нем его поездкой и, главное, звуками пуль.
– Хорошо, хорошо, – сказал Багратион, – благодарю вас, г. офицер.