Главная » 2010 » Декабрь » 29 » Программа экзамена "Теория информации и кодирования"
Программа экзамена "Теория информации и кодирования"
10:03
Теория: 1. ИДС и ИНС. Канал связи. Теорема Котельникова. 2. Характеристики канала связи. Деффицит алфавита. Канал без шума. Мгновенные коды. Дерево решения. 3. Неравенство крафта. Коды Фано-Шеннона. Код Хаффмана, его оптимальность. Средняя длина кода. Теорема Шеннона о средней длине мгновенного кода. 4. Количествоинформации. Взаимная и собственная информация. Свойства. Энтропийная функция неприрывной случайной величины. Оптимальные свойства равномерного и нормального распределений. 5. Энтропийная функция n-символьной последовательности. Удельная энтропия. 6. Канал с шумами. Линейные коды. Порождающая и проверочная матрицы кода. Минимальное кодовое расстояние. Коды, исправляющие t-ошибок. Лемма о связи dc и порождающей матрицы кода. Декодирование по лидеру смежного класса. Синдрорм вектора. Код Хемминга. Совершенные коды. 7. Циклические коды. Критерий цикличности. Порождающий мн-н циклического кода. Порождающая и проверочная матрицы циклич. кода. 8. Пакеты ошибок. Св-ва кодов, исправляющих пакеты ошибок. Коды Файра. Построение кодов. исправляющих двойные ошибки. 9. БЧХ-коды, их корректирующая способность. Декодирование БЧК-кодов (две леммы).
Практика 1. Вычисление энтропийной функции Н(х). 2. Кодирование по Фано-Шеннону и Хаффману. 3. Построение проверочной и порождающей матриц над полем Fq. 4. Декодирование линейных (и в частности, циклических кодов) по таблице синдромов ошибок. 5. Построение порождающей и проверочной матриц по порождающему мн-ну циклического кода. 6. Кодирование и декодирование циклических кодов.