Cтатистическое кодировани

    Назначение: согласование сообщения с каналом для реализации  пропускной способности. Это – неравномерное  кодирование.              

   

    Принципы близкого к эффективному кодирования состоят в том, чтобы:

 

а) длина кодового слова ni  была обратно пропорциональна вероятности

 

соответствующего элемента алфавита хi (т.о.большее число двоичных знаков

 

всегда получит сообщение с наименьшей вероятностью);

 

б) начало более длинного слова не должно совпадать с более коротким (для

 

возможности разделения слов без применения разделительных знаков);

 

в) в длинной последовательности элементы кода должны быть независимы

 

и равновероятны .

                                      Алгоритмы  кодирования

     Алгоритм К.Э.Шеннона — Р.М.Фэно получения близкого к эффективному

бинарного кода состоит в том, что расположенные в порядке убывания

вероятностей элементы алфавита делятся на две группы по возможности равной

суммарной (в каждой группе) вероятности. Все элементы первой (верхней)

группы получают элемент 0 в качестве первой крайней слева позиции кодовых

слов, а все элементы второй (нижней) группы — 1. Далее группы делятся на

подгруппы по тому же правилу примерно равных вероятностей и в каждой

подгруппе заполняется вторая слева позиция кодового слова (0,1). Процесс

повторяется  до закодирования всех элементов алфавита. Таблицы 1 и 1б

иллюстрируют сказанное на примере алфавита из М= 4 и 8 элементов. В этом

примере первая подгруппа при каждом разделении оказывается состоящей из

одного элемента. Ни одна кодовая комбинация при этом не является началом

другой. Поэтому их можно передавать одну за другой без промежутков и

разделительных знаков.

 

    Алгоритм К.Э.Шеннона — Р.М.Фэно применим и при основании кода  q>2. В

 

этом случае алфавит разбивается на q частей примерно одинаковой суммарной

 

вероятности

Ссылка на основную публикацию
Adblock detector