Перцептрон (предикатное описание)

Марвин Минский изучал свойства параллельных вычислений, частным случаем которых на то время был перцептрон. Для анализа его свойств ему пришлось переизложить теорию перцептронов на язык предикатов.

Описание

Суть подхода заключалась в следующем: ^{[nb 1][1]}

• множеству сигналов от S-элементов была сопоставлена переменная X;
• каждому A-элементу был сопоставлен предикат φ(X) (фи от икс), названный частным предикатом;
• каждому R-элементу был сопоставлен предикат ψ (пси), зависящий от частных предикатов;
• наконец, перцептроном было названо устройство, способное вычислять все предикаты типа ψ.

Применительно к «зрительному» перцептрону, переменная X символизировала образ какой-либо геометрической фигуры (стимул). Частный предикат позволял «распознавать» каждый свою фигуру. Предикат ψ означал ситуацию, когда линейная комбинация $a_{1}\phi_{1} + \ldots + a_{n}\phi_{n}$ ($a_{i}$ — коэффициенты передачи) превышала некоторый порог θ.

Учёные выделили 5 семейств перцептронов, обладающих, по их мнению, интересными свойствами: ^[2]

1. Перцептроны, ограниченные по диаметру — каждая фигура X, распознаваемая частными предикатами, не превосходит по диаметру некоторую фиксированную величину.
2. Перцептроны ограниченного порядка — каждый частный предикат зависит от ограниченного количества точек из X.
3. Перцептроны Гамбы — каждый частный предикат должен быть линейной пороговой функцией, то есть мини-перцептроном.
4. Случайные перцептроны — перцептроны ограниченного порядка, где частные предикаты представляют собой случайно выбранные булевы функции. В книге отмечается, что именно эта модель наиболее подробно изучалась группой Розенблатта.
5. Ограниченные перцептроны — множество частных предикатов бесконечно, а множество возможных значений коэффициентов $a_{i}$ конечно.

Хотя такой математический аппарат позволил применить анализ только к элементарному перцептрону Розенблатта, он вскрыл много принципиальных ограничений для параллельных вычислений, от которых не свободен ни один вид современных искусственных нейронных сетей.

Литература

• Минский М., Пейперт С. Персептроны = Perceptrons. — М.: Мир, 1971. — 261 с.
• Розенблатт, Ф. Принципы нейродинамики: Перцептроны и теория механизмов мозга = Principles of Neurodynamic: Perceptrons and the Theory of Brain Mechanisms. — М.: Мир, 1965. — 480 с.

Примечания

1. ↑ Изложение в этом разделе несколько упрощено из-за сложности анализа на основе предикатов.

1. ↑ Минский, Пейперт, с. 11—18.
2. ↑ Минский, Пейперт, с. 18.

См. также

• Перцептрон