Рассмотрим общую схему системы передачи информации.
Кодер канала  Модулятор Линия связи  Демодулятор Декодер канала
+--+             +-+  X   +--+ Y       +--+           +--+
|КК+------------>|М+----->|ЛС+-------->|ДМ+---------->|ДК|
++-+             +-+      +--+         +--+           ++-+
 ^                         ^                           |
 |                         |                           v
++-+                      ++-+                        ++--+
|КИ|Кодер источника       |ИП|Источник помех          |ДПр|Декодер приёмника
+--+                      +--+                        ++--+
 |                                                     |
 |z                                                    v
++-+                                                  +-+
|ИИ|Источник информации                               |П|Приёмник
+--+                                                  +-+
z - исходный сигнал
Кодер источника предназначен для устранения избыточности первичного алфавита, то есть для уменьшения среднего числа символов на одну букву сообщения. При отсутствии помех за счёт кодирования сокращается время передачи и объём переданной информации, что повышает эффективность системы. Такое кодирование называют эффективным, или оптимальным.
Кодер канала обеспечивает заданную достоверность приёма и передачи информации путём введения искусственной избыточности. Такое кодирование называется помехоустойчивым.
Модулятор предназначен для формирования физического сигнала.
Линия связи - физическая среда, по которой распространяется сигнал.
Источник помех - всегда существует в реальных условиях.
Демодулятор - выполняет преобразование, обратное тому, которое выполнил модулятор.
Декодер канала - предназначен для выявления и коррекции ошибок передачи. Он обеспечивает помехоустойчивость.
Декодер приёмника - предназначен для представления сообщения в алфавите, понятном для приёмника.
Способы кодирования и представления кода
Табличное представление (перечисление пар), задающих соответствие "символ-код". Любому дискретному сообщению либо букве сообщения можно приписать некоторый порядковый номер. Передача или хранение сообщения при этом сводятся к передаче либо хранению чисел, представленных в требуемой системе исчисления.
А - 00000
Б - 00001
В - 00010
Представление в виде многочлена
Для любой системы счисления с основой x в присутствии n различных цифр любое число может быть представлено в виде многочлена.
F(x)=av0+av1x^1+av2x^2+...+av(n-1)x^(n-1)=(SIGMA)v(i=0)^(n-1)avix^i
    210
П - 105v6
F(x)=5+x^2
Представление в виде геометрической модели
Кодовые комбинации n-значного кода рассматриваются как точки n-мерного пространства. Число градаций по каждой оси соответствует основе системы счисления. Для построения кодового пространства необходимо в строго фиксированной последовательности осуществлять проекцию каждой из n точек на оси n-мерного пространства. При этом значение кодовых комбинаций являются координатами в кодовом пространстве.
       ^3               321
       |                ---
       +-+              000
      /|/|              001
     +-+-+--------->2   110
     |/|/               111
     +-+
    /
   /
  /
 v1
    ^3               321
    |                ---
    |                123v4
    |                ---
   .201v4            201
   |+-+-+-------->2
   + / /
  / / /
 / / /
v1/ /
Кодовое расстояние - это расстояние между точками кодового пространства. Кодовое расстояние показывает, через какое количество расстояний должны пройти качественные признаки кодовой комбинации для того, чтобы перейти в требуемое состояние.
Минимальное кодовое расстояние - это расстояние между самыми ближними точками кодового пространства. Это основной параметр, который определяет помехоустойчивость дискретного кода с произвольной основой.
Представление в виде матрицы
Для полных равномерных кодов несложно заметить, что если взять соответствующую единичную матрицу, то сложение её строк по модулю 2 позволяет получить все комбинации данного кода. Такая матрица называется определяющей либо порождающей. Этот способ используется для построения корректирующих кодов.
Представление кода в виде дерева
В общем виде кодовое дерево может быть представлено как граф. Каждый уровень графа содержит n^m узлов, где n - нормы уровня, а m - значность кода. Для равномерного двоичного кода число узлов на каждом уровне равно 2^n.
         ( )
	/   \
      (0)   (1)
     /   \  |  \
   (00) (01)(10)(11)
  /   \
(000)(001)