Количественное определение информации. Энтропия и производительность дискретного источника сообщений

Задание 1. Количественное определение информации.Эта величина называется энтропией источника независимых сообщений.Одной из информационных характеристик дискретного источника является избыточность.Информация символ источник энтропия.Источником информации могут выступать как люди, так и различные технические устройства.Канал связи вместе с источником и получателем сообщений образуют систему связи .Представить структурную схему системы передачи информации.Структурная схема системы передачи информации представлен на рисунке 3.Приемное устройство преобразует принятый сигнал в информацию пригодную для получателя.Рисунок 1. Зависимость энтропии при равновероятном распределении вероятностей.