1.2.4. МПЗ на базе нейронных сетей
Элемент знаний --- нейрон.
  - - - - - - -
xv1+---+-+      |
---|wv1|(|
xv2+---+S|      |
---|wv2|I|
...+---+G|      |
---|...|M|Y +-+  OUT
...+---+A+--+f+-+-----
---|...|)|  +-+
xvn+---+ |      |
---|wvn| |
   +---+ |      |
 +-|   | |
 | +---+-+      |
  - - - - - - -
Y = (SIGMA)v(i=1)^nwvixvi
OUT = f(Y)
Функция f называется функцией активации нейрона или функцией возбуждения. Существует несколько видов функций возбуждения, рассмотрим 3 основных:
 1) пороговая
OUT
^   +------
|   |
+---+
+--------->Y
    a
 2) линейная
OUT
^     +----
|    /
+---+
+--------->Y
    a b
 3) нелинейная
OUT
^     -----
|    /
+---
+--------->Y
   aabb
    1212
Построение нейронных сетей выполняется в два этапа:
 1) структурный синтез: выбирается:
  а) тип нейрона (количество входов и функция возбуждения);
  б) тип нейронной сети (однослойная, многослойная, с обратными связями, полносвязная);
  в) количество нейронов в сети и в слоях;
 2) параметрический синтез: настройка весовых коэффициентов всех нейронов сети; этот процесс может быть выполнен либо вручную экспертом, либо формально с применением обучающей выборки.
Обучающая выборка --- последовательность пар векторов вида (x^-^i, (OUT)^-^i). Обучающая выборка может быть охарактеризована следующими количественными критериями:
 1) ПОЛНОТА/РЕПРЕЗЕНТАТИВНОСТЬ