Карты Кохонена

Карты Кохонена

Самоорганизующаяся карта Кохонена (англ. Self-organizing map — SOM) — соревновательная нейронная сеть с обучением без учителя, выполняющая задачу визуализации и кластеризации. Идея сети предложена финским ученым Т. Кохоненом. Является методом проецирования многомерного пространства в пространство с более низкой размерностью (чаще всего, двумерное), применяется также для решения задач моделирования, прогнозирования и др. Является одной из версий нейронных сетей Кохонена.

Содержание

Структура сети

Самоорганизующаяся карта состоит из компонент, называемых узлами или нейронами. Их количество задаётся аналитиком. Каждый из узлов описывается двумя векторами. Первый — т. н. вектор веса m, имеющий такую же размерность, что и входные данные. Второй — координаты узла на карте, далее вектор r. Обычно узлы располагают в вершинах регулярной решётки с квадратными или шестиугольными ячейками.

Изначально известна размерность входных данных, по ней некоторым образом строится первоначальный вариант карты. В процессе обучения векторы веса узлов приближаются к входным данным. Для каждого наблюдения (сэмпла) выбирается наиболее похожий по вектору веса узел, и значение его вектора веса приближается к наблюдению. Также к наблюдению приближаются векторы веса нескольких узлов, расположенных рядом, таким образом если в множестве входных данных два наблюдения были схожи, на карте им будут соответствовать близкие узлы. Циклический процесс обучения, перебирающий входные данные, заканчивается по достижении картой допустимой (заранее заданной аналитиком) погрешности, или по совершении заданного количества итераций.

Работа сети

  • Инициализация карты, то есть первоначальное задание векторов веса для узлов.
  • Цикл:
    • Выбор следующего наблюдения (вектора из множества входных данных).
    • Нахождение для него лучшей единицы соответствия (best matching unit, BMU, или Winner) — узла на карте, вектор веса которого меньше всего отличается от наблюдения (в метрике, задаваемой аналитиком, чаще всего, евклидовой).
    • Определение количества соседей BMU и обучение — изменение векторов веса BMU и его соседей с целью их приближения к наблюдению.
    • Определение ошибки карты.

Алгоритм

  • Инициализация

Наиболее распространены три способа задания первоначальных весов узлов:

    • Задание всех координат случайными числами.
    • Присваивание вектору веса значение случайного наблюдения из входных данных.
    • Выбор векторов веса из линейного пространства, натянутого на главные компоненты набора входных данных.
  • Цикл

Пусть t — номер итерации (инициализация соответствует номеру 0).

    • Выбрать произвольное наблюдение x(t) из множества входных данных.
    • Найти расстояния от него до векторов веса всех узлов карты и определить ближайший по весу узел Mc(t). Это — BMU или Winner. Условие на Mc(t):
 \| x(t)-m_c(t)\|\leq\| x(t)-m_i(t)\|,
для любого mi(t), где mi(t) — вектор веса узла Mi(t). Если находится несколько узлов, удовлетворяющих условию, BMU выбирается случайным образом среди них.
    • Определить с помощью функции h (функции соседства) соседей Mc и изменение их векторов веса.
      • Задание h
Функция определяет "меру соседства" узлов Mi и Mc и изменение векторов веса. Она должна постепенно уточнять их значения, сначала у большего количества узлов и сильнее, потом у меньшего и слабее. Часто в качестве функции соседства используется гауссовская функция:
h_{ci}(t)=\alpha(t)\cdot\exp(-\frac{\|r_c-r_i\|^2}{2\sigma^2(t)})
где 0 < α(t) < 1 — обучающий сомножитель, монотонно убывающий с каждой последующей итерацией (то есть определяющий приближение значения векторов веса BMU и его соседей к наблюдению; чем больше шаг, тем меньше уточнение);
ri, rc — координаты узлов Mi(t) и Mc(t) на карте;
σ(t) — сомножитель, уменьшающий количество соседей с итерациями, монотонно убывает.
Параметры α, σ и их характер убывания задаются аналитиком.
Более простой способ задания функции соседства:
hci(t) = α(t),
если Mi(t) находится в окрестности Mc(t) заранее заданного аналитиком радиуса, и 0 в противном случае.
Функция h(t) равна α(t) для BMU и уменьшается с удалением от BMU.
      • Изменение векторов веса
Изменить вектор веса по формуле:
m_i(t)=m_i(t-1)+h_{ci}(t)\cdot(x(t)-m_i(t-1))
Т.о. вектора веса всех узлов, являющихся соседями BMU, приближаются к рассматриваемому наблюдению.
    • Вычисление ошибки карты
Например, как среднее арифметическое расстояний между наблюдениями и векторами веса соответствующих им BMU:
\frac{1}{N}\sum_{i=1}^{N}\|x_{i}-m_{c}\|,
где N - количество элементов набора входных данных.

История

Метод был предложен финским учёным Теуво Кохоненом в 1984 году. Существует множество модификаций исходной модели.

См. также

Ссылки

Литература

  • T. Kohonen, Self-Organizing Maps (Third Extended Edition), New York, 2001, 501 pages. ISBN 3-540-67921-9
  • Дебок Г., Кохонен Т. Анализ финансовых данных с помощью самоорганизующихся карт, Альпина Паблишер, 2001, 317 стр. ISBN 5-89684-013-6
  • Зиновьев А. Ю. Визуализация многомерных данных. — Красноярск: Изд. Красноярского государственного технического университета, 2000. — 180 с.

Wikimedia Foundation. 2010.

Смотреть что такое "Карты Кохонена" в других словарях:

  • Карты - получить на Академике актуальный промокод на скидку myToys или выгодно карты купить с дисконтом на распродаже в myToys

  • Самоорганизующиеся карты Кохонена — Самоорганизующаяся карта Кохонена (англ. Self organizing map  SOM)  соревновательная нейронная сеть с обучением без учителя, выполняющая задачу визуализации и кластеризации. Идея сети предложена финским ученым Т. Кохоненом. Является методом… …   Википедия

  • Кохонена карта — Самоорганизующаяся карта Кохонена (англ. Self organizing map  SOM)  соревновательная нейронная сеть с обучением без учителя, выполняющая задачу визуализации и кластеризации. Идея сети предложена финским ученым Т. Кохоненом. Является методом… …   Википедия

  • Нейронная сеть Кохонена — Нейронные сети Кохонена  класс нейронных сетей, основным элементом которых является слой Кохонена. Слой Кохонена состоит из адаптивных линейных сумматоров («линейных формальных нейронов»). Как правило, выходные сигналы слоя Кохонена… …   Википедия

  • Карта Кохонена — Самоорганизующаяся карта Кохонена (англ. Self organizing map  SOM)  соревновательная нейронная сеть с обучением без учителя, выполняющая задачу визуализации и кластеризации. Идея сети предложена финским ученым Т. Кохоненом. Является методом… …   Википедия

  • Самоорганизующаяся карта Кохонена — (англ. Self organizing map  SOM)  соревновательная нейронная сеть с обучением без учителя, выполняющая задачу визуализации и кластеризации. Идея сети предложена финским учёным Т. Кохоненом. Является методом проецирования… …   Википедия

  • Векторное квантование — Нейронные сети Кохонена  класс нейронных сетей, основным элементом которых является слой Кохонена. Слой Кохонена состоит из адаптивных линейных сумматоров («линейных формальных нейронов»). Как правило, выходные сигналы слоя Кохонена… …   Википедия

  • Карта данных — Нейронные сети Кохонена  класс нейронных сетей, основным элементом которых является слой Кохонена. Слой Кохонена состоит из адаптивных линейных сумматоров («линейных формальных нейронов»). Как правило, выходные сигналы слоя Кохонена… …   Википедия

  • Искусственная нейронная сеть — У этого термина существуют и другие значения, см. Нейронная сеть (значения). Схема простой нейросети. Зелёным цветом обозначены входные нейроны, голубым скрытые нейроны, жёлтым  выходной нейрон …   Википедия

  • Искусственная нейросеть — Запрос «Нейронная сеть» перенаправляется сюда. Cм. также другие значения. Схема простой нейросети. Зелёным обозначены входные элементы, жёлтым  выходной элемент Искусственные нейронные сети (ИНС) математические модели, а также их программные или… …   Википедия

  • Нейронные сети — Запрос «Нейронная сеть» перенаправляется сюда. Cм. также другие значения. Схема простой нейросети. Зелёным обозначены входные элементы, жёлтым  выходной элемент Искусственные нейронные сети (ИНС) математические модели, а также их программные или… …   Википедия

Книги



Поделиться ссылкой на выделенное

Прямая ссылка:
Нажмите правой клавишей мыши и выберите «Копировать ссылку»