Теория: 1. ИДС и ИНС. Канал связи. Теорема Котельникова.
2. Характеристики канала связи. Деффицит алфавита. Канал без шума. Мгновенные коды. Дерево решения.
3. Неравенство крафта. Коды Фано-Шеннона. Код Хаффмана, его оптимальность. Средняя длина кода. Теорема Шеннона о средней длине мгновенного кода.
4. Количествоинформации. Взаимная и собственная информация. Свойства. Энтропийная функция неприрывной случайной величины. Оптимальные свойства равномерного и нормального распределений.
5. Энтропийная функция
n-символьной последовательности. Удельная энтропия.
6. Канал с шумами. Линейные коды. Порождающая и проверочная матрицы кода. Минимальное кодовое расстояние. Коды, исправляющие
t-ошибок. Лемма о связи
dc и порождающей матрицы кода. Декодирование по лидеру смежного класса. Синдрорм вектора. Код Хемминга. Совершенные коды.
7. Циклические коды. Критерий цикличности. Порождающий мн-н циклического кода. Порождающая и проверочная матрицы циклич. кода.
8. Пакеты ошибок. Св-ва кодов, исправляющих пакеты ошибок. Коды Файра. Построение кодов. исправляющих двойные ошибки.
9. БЧХ-коды, их корректирующая способность. Декодирование БЧК-кодов (две леммы).
Практика
1. Вычисление энтропийной функции Н(х).
2. Кодирование по Фано-Шеннону и Хаффману.
3. Построение проверочной и порождающей матриц над полем Fq.
4. Декодирование линейных (и в частности, циклических кодов) по таблице синдромов ошибок.
5. Построение порождающей и проверочной матриц по порождающему мн-ну циклического кода.
6. Кодирование и декодирование циклических кодов.