Нейрокомпьютер

Нейрокомпьютер
Фрэнк Розенблатт и «Марк-1» слева

Нейрокомпьютер — устройство переработки информации на основе принципов работы естественных нейронных систем.[1] Эти принципы были формализованы, что позволило говорить о теории искусственных нейронных сетей. Проблематика же нейрокомпьютеров заключается в построении реальных физических устройств, что позволит не просто моделировать искусственные нейронные сети на обычном компьютере, но так изменить принципы работы компьютера, что станет возможным говорить о том, что они работают в соответствии с теорией искусственных нейронных сетей.

Содержание

История

Термины нейрокибернетика, нейроинформатика, нейрокомпьютеры вошли в научный обиход недавно — в середине 80-х годов XX века. Однако электронный и биологический мозг постоянно сравнивались на протяжении всей истории существования вычислительной техники. Знаменитая книга Н. Винера «Кибернетика» (1948)[2] имеет подзаголовок «Управление и связь в животном и машине».

Первыми нейрокомпьютерами были перцептроны Розенблатта: Марк-1 (1958) и Тобермори (19611967)[3], а также Адалин, разработанный Уидроу (Widrow) и Хоффом (1960) на основе дельта-правила (формулы Уидроу)[4]. В настоящее время Адалин (адаптивный сумматор, обучающийся по формуле Уидроу) является стандартным элементом многих систем обработки сигналов и связи.[5] В этом же ряду первых нейрокомпьютеров находится программа «Кора», разработанная в 1961 году под руководством М. М. Бонгарда[6].

Большую роль в развитии нейрокомпьютинга сыграла монография Розенблатта (1958)[7].

Идея нейро-бионики (создания технических средств на нейро-принципах) стала интенсивно реализовываться в начале 1980-х гг. Импульсом было следующее противоречие: размеры элементарных деталей компьютеров сравнялись с размерами элементарных «преобразователей информации» в нервной системе, было достигнуто быстродействие отдельных электронных элементов в миллионы раз большее, чем у биологических систем, а эффективность решения задач, особенно связанных задач ориентировки и принятия решений в естественной среде, у живых систем пока недостижимо выше.

Другой импульс развитию нейрокомпьютеров дали теоретические разработки 1980-х годов по теории нейронных сетей (сети Хопфилда, сети Кохонена, метод обратного распространения ошибки).

Основная идея — коннекционизм

В отличие от цифровых систем, представляющих собой комбинации процессорных и запоминающих блоков, нейропроцессоры содержат память, распределённую в связях между очень простыми процессорами, которые часто могут быть описаны как формальные нейроны или блоки из однотипных формальных нейронов. Тем самым основная нагрузка на выполнение конкретных функций процессорами ложится на архитектуру системы, детали которой в свою очередь определяются межнейронными связями. Подход, основанный на представлении как памяти данных, так и алгоритмов системой связей (и их весами), называется коннекционизмом.

Три основных преимущества нейрокомпьютеров:

  1. Все алгоритмы нейроинформатики высокопараллельны, а это уже залог высокого быстродействия.
  2. Нейросистемы можно легко сделать очень устойчивыми к помехам и разрушениям.
  3. Устойчивые и надёжные нейросистемы могут создаваться и из ненадёжных элементов, имеющих значительный разброс параметров.

Разработчики нейрокомпьютеров стремятся объединить устойчивость, быстродействие и параллелизм АВМ — аналоговых вычислительных машин — с универсальностью современных компьютеров.[8]

Проблема эффективного параллелизма

На роль центральной проблемы, решаемой всей нейроинформатикой и нейрокомпьютингом, А. Горбань[9] предложил проблему эффективного параллелизма. Давно известно, что производительность компьютера возрастает намного медленнее, чем число процессоров. М. Минский сформулировал гипотезу: производительность параллельной системы растёт (примерно) пропорционально логарифму числа процессоров — это намного медленнее, чем линейная функция (Гипотеза Минского).

Для преодоления этого ограничения применяется следующий подход: для различных классов задач строятся максимально параллельные алгоритмы решения, использующие какую-либо абстрактную архитектуру (парадигму) мелкозернистого параллелизма, а для конкретных параллельных компьютеров создаются средства реализации параллельных процессов заданной абстрактной архитектуры. В результате появляется эффективный аппарат производства параллельных программ.

Нейроинформатика поставляет универсальные мелкозернистые параллельные архитектуры для решения различных классов задач. Для конкретных задач строится абстрактная нейросетевая реализация алгоритма решения, которая затем реализуется на конкретных параллельных вычислительных устройствах. Таким образом нейросети позволяют эффективно использовать параллелизм.

Современные нейрокомпьютеры

Многолетние усилия многих исследовательских групп привели к тому, что к настоящему моменту накоплено большое число различных «правил обучения» и архитектур нейронных сетей, их аппаратных реализаций и приёмов использования нейронных сетей для решения прикладных задач.

Эти интеллектуальные изобретения[10] существуют в виде «зоопарка» нейронных сетей. Каждая сеть из зоопарка имеет свою архитектуру, правило обучения и решает конкретный набор задач. В последнее десятилетие прилагаются серьёзные усилия для стандартизации структурных элементов и превращений этого «зоопарка» в «технопарк»[11]: каждая нейронная сеть из зоопарка реализована на идеальном универсальном нейрокомпьютере, имеющем заданную структуру.

Основные правила выделения функциональных компонентов идеального нейрокомпьютера (по Миркесу):

  1. Относительная функциональная обособленность: каждый компонент имеет чёткий набор функций. Его взаимодействие с другими компонентами может быть описано в виде небольшого числа запросов.
  2. Возможность взаимозамены различных реализаций любого компонента без изменения других компонентов.

Постепенно складывается рынок нейрокомпьютеров. В настоящее время широко распространены различные высокопараллельные нейро-ускорители[12] (сопроцессоры) для различных задач. Моделей универсальных нейрокомпьютеров на рынке мало отчасти потому, что большинство из них реализованы для спецприменений. Примерами нейрокомпьютеров являются нейрокомпьютер Synapse (Siemens, Германия),[13] процессор NeuroMatrix[14]. Издаётся специализированный научно-технический журнал «Нейрокомпьютеры: разработка, применение»[15]. Проводятся ежегодные конференции по нейрокомпьютерам[16]. С технической точки зрения сегодняшние нейрокомпьютеры — это вычислительные системы с параллельными потоками одинаковых команд и множественным потоком данных (MSIMD-архитектура). Это одно из основных направлений развития вычислительных систем с массовым параллелизмом.

Искусственная нейронная сеть может передаваться от (нейро)компьютера к (нейро)компьютеру, так же как и компьютерная программа. Более того, на её основе могут быть созданы специализированные быстродействующие аналоговые устройства. Выделяются несколько уровней отчуждения нейронной сети от универсального (нейро)компьютера[17]: от сети, обучающейся на универсальном устройстве и использующей богатые возможности в манипулировании задачником, алгоритмами обучения и модификации архитектуры, до полного отчуждения без возможностей обучения и модификации, только функционирование обученной сети.

Одним из способов подготовки нейронной сети для передачи является её вербализация: обученную нейронную сеть минимизируют с сохранением полезных навыков. Описание минимизированной сети компактнее и часто допускает понятную интерпретацию.

Новый поворот — «влажный продукт»

В нейрокомпьютинге постепенно созревает новое направление, основанное на соединении биологических нейронов с электронными элементами. По аналогии с Software (программное обеспечение — «мягкий продукт») и Hardware (электронное аппаратное обеспечение — «твёрдый продукт»), эти разработки получили наименование Wetware (англ.) — «влажный продукт».

В настоящее время уже существует технология соединения биологических нейронов со сверхминиатюрными полевыми транзисторами с помощью нановолокон (Nanowire (англ.)).[18] В разработках используется современная нанотехнология. В том числе, для создания соединений между нейронами и электронными устройствами используются углеродные нанотрубки. [19]

Распространено также и другое определение термина «Wetware» — человеческий компонент в системах «человек-компьютер».

Применения

  1. Управление в реальном времени[20][21], в том числе:
    • самолётами и ракетами[22],
    • технологическими процессами непрерывного производства (в энергетике, металлургии и др.)[23],
    • гибридным двигателем автомобиля[24],
    • пневмоцилиндром[25],
    • сварочным аппаратом [26],
    • электропечью[27],
    • турбогенератором[28].
  2. Распознавание образов:
    • изображений[29], человеческих лиц[30], букв и иероглифов, отпечатков пальцев в криминалистике, речи, сигналов радара и сонара,
    • элементарных частиц и происходящих с ними физических процессов (эксперименты на ускорителях или наблюдение за космическими лучами),
    • заболеваний по симптомам (в медицине)[31],
    • местностей, где следует искать полезные ископаемые (в геологии, по косвенным признакам),
    • признаков опасности в системах безопасности,
    • свойств химических соединений по структуре (в хемоинформатике)[32]
  3. Прогнозирование в реальном времени:
    • погоды,
    • курса акций (и других финансовых показателей)[33],
    • исхода лечения,
    • политических событий (результатов выборов, международных отношений и др.)[34][35],
    • поведения противника (реального или потенциального) в военном конфликте и в экономической конкуренции,
    • устойчивости супружеских отношений.
  4. Оптимизация — поиск наилучших вариантов:
    • при конструировании технических устройств,[36]
    • при выборе экономической стратегии,
    • при подборе команды (от сотрудников предприятия до спортсменов и участников полярных экспедиций),
    • при лечении больного.
  5. Обработка сигналов при наличии больших шумов.
  6. Протезирование («умные протезы») и усиление естественных функций[37], в том числе — за счёт прямого подключения нервной системы человека к компьютерам (Нейро-компьютерный интерфейс).
  7. Психодиагностика[38][39][40]
  8. Телекоммуникационное мошенничество, его обнаружение и предотвращение с помощью нейросетевых технологий — по мнению некоторых специалистов[41] являются одной из самых перспективных технологий в области защиты информации в телекоммуникационных сетях.

См. также

Литература

Примечания

  1. Дунин-Барковский В. Л., Нейрокибернетика, Нейроинформатика, Нейрокомпьютеры, В кн.: Нейроинформатика / А. Н. Горбань, В. Л. Дунин-Барковский, А. Н. Кирдин и др. — Новосибирск: Наука. Сибирское предприятие РАН, 1998. — 296 с ISBN 5-02-031410-2
  2. Винер Н., Кибернетика, или Управление и связь в животном и машине. / Пер. с англ. И. В. Соловьева и Г. Н. Поварова; Под ред. Г. Н. Поварова. — 2-е издание. — М.: Наука, 1983. — 344 с.
  3. Neural networks-then and now
  4. Королев Л. Н. Нейрокомпьютинг, нейросети и нейрокомпьютеры
  5. Уидроу Б., Стирнс С., Адаптивная обработка сигналов. — М.: Радио и связь, 1989. — 440 c.
  6. Бонгард М. М., Проблема узнавания М.: Физматгиз, 1967. Другая копия онлайн: [1]
  7. Rosenblatt, F. The Perceptron: A Probabilistic Model for Information Storage and Organization in the Brain. In, Psychological Review, Vol. 65, No. 6, pp. 386—408, November, 1958. Lancaster, PA and Washington, DC: American Psychological Association, 1958. Розенблатт Ф. Принципы нейродинамики. Перцептроны и теория механизмов мозга — М.: Мир, 1965.
  8. Горбань А. Н. Нейрокомпьютер, или Аналоговый ренессанс, Мир ПК, 1994, № 10, 126—130.
  9. Горбань А. Н., Кто мы, куда мы идем, как путь наш измерить?, Пленарный доклад на открытии конференции Нейроинформатика-99, МИФИ, 20 января 1999. Журнальный вариант: Горбань А. Н., Нейроинформатика: кто мы, куда мы идем, как путь наш измерить // Вычислительные технологии. — М.: Машиностроение. — 2000. — № 4. — С. 10-14. = Gorban A.N., Neuroinformatics: What are us, where are we going, how to measure our way? The Lecture at the USA-NIS Neurocomputing Opportunities Workshop, Washington DC, July 1999 (Associated with IJCNN’99)
  10. Савельев А. В., Нейрокомпьютеры в изобретениях // «Нейрокомпьютеры: разработка, применение»., М. Радиотехника, 2004, № 2-3, с. 33-49.
  11. Миркес Е. М., Нейрокомпьютер. Проект стандарта. — Новосибирск: Наука, 1999. — 337 с ISBN 5-02-031409-9 Другие копии онлайн: [2]
  12. Савельев А. В., Нейроускоритель. Neural Network accelerator // Свид. о регистрации программы для ЭВМ № 2003610307, заявка 2002612174, 2003.
  13. Шахнов В., Власов А., Кузнецов А., Нейрокомпьютеры — архитектура и реализация. Часть 1. ChipNews, 2000, N 5; Часть 2. Элементная база нейровычислителей. ChipNews, 2000, N 6; Часть 3.Аппаратная реализация нейровычислителей. ChipNews, 2001, 1.
  14. Процессор цифровой обработки сигналов Л1879ВМ1 (NM6403) НТЦ «Модуль»
  15. Журнал «Нейрокомпьютеры: разработка, применение».
  16. Савельев А.В.X ВСЕРОССИЙСКАЯ НАУЧНАЯ КОНФЕРЕНЦИЯ "НЕЙРОКОМПЬЮТЕРЫ И ИХ ПРИМЕНЕНИЕ" НКП-201
  17. Горбань А. Н. Обучение нейронных сетей, изд. СССР-США СП «Параграф», 1990, 160 с.
  18. Patolsky F., Timko B.P., Yu G., Fang Y., Greytak A.B., Zheng G., and Lieber C.M. «Detection, Stimulation, and Inhibition of Neuronal Signals with High-Density Nanowire Transistor Arrays» (англ.) // Science. — 25 August 2006. — В. 313. — № 5790. — С. 1100—1104. — DOI:10.1126/science.1128640
  19. Mazzatenta A., Giugliano M., Campidelli S., Gambazzi L., Businaro L., Markram H., Prato M., and Ballerini L. «Interfacing Neurons with Carbon Nanotubes: Electrical Signal Transfer and Synaptic Stimulation in Cultured Brain Circuits» (англ.) // The Journal of Neuroscience. — 27 June 2007. — № 27. — С. 6931-6936. — DOI:10.1523/​JNEUROSCI.1051-07.2007
  20. Терехов В. А., Ефимов Д. В., Тюкин И. Ю. Нейросетевые системы управления. — М.: Высшая школа, 2002. — С. 184. — ISBN 5-06-004094-1
  21. Тюкин И. Ю., Терехов В. А., Адаптация в нелинейных динамических системах, (Серия: Синергетика: от прошлого к будущему), Санкт-Петербург: ЛКИ, 2008. — 384 с. ISBN 978-5-382-00487-7
  22. Применение нейрокомпьютеров в ракетно-космической технике. Сборник статей. Ефимов В. В. (ред). — М.: Радиотехника, 2006. — 144 C.
  23. Галушкин А. И. Применение нейрокомпьютеров в энергетических системах, М.: Научный центр нейрокомпьютеров, 1997.
  24. Danil V. Prokhorov. Toyota Prius HEV Neurocontrol and Diagnostics // Neural Networks. – 2008. – No. 21. – P. 458 - 465
  25. Змеу К.В., Марков Н.А., Шипитько И.А., Ноткин Б.С. Безмодельное прогнозирующее инверсное нейроуправление с регенерируемым эталонным переходным процессом // Интеллектуальные системы. – 2009. – № 3. – С. 109 – 117.
  26. D’Emilia G., Marrab A., Natalea E. Use of neural networks for quick and accurate auto-tuning of PID controller // Robotics and Computer-Integrated Manufacturing. – 2007. – Vol. 23. – P. 170 – 179.
  27. Dias F.M., Mota A.M. Comparison between Different Control Strategies using Neural Networks // 9th Mediterranean Conference on Control and Automation. – Dubrovnik, Croatia, 2001
  28. Venayagamoorthy G.K., Harley R.G., Wunsch D.C. Implementation of Adaptive Critic-based Neurocontrollers for Turbogenerators in a Multimachine Power System, IEEE Transactions on Neural Networks. – 2003. – Vol. 14, Issue 5. – P. 1047 – 1064.
  29. Ruaro M.E., Bonifazi P., and Torre V., Toward the Neurocomputer: Image Processing and Pattern Recognition With Neuronal Cultures, IEEE TRANSACTIONS ON BIOMEDICAL ENGINEERING, VOL. 52, NO. 3, MARCH 2005, 371—383.
  30. Micheli-Tzanakou, E., Uyeda, E., Ray, R., Sharma, A., Ramanujan, R., Dong, J., Comparison of Neural Network Algorithms for Face Recognition, SIMULATION 65 (1995), 37-51
  31. Россиев Д. А., Медицинская нейроинформатика, В кн.: Нейроинформатика / А. Н. Горбань, В. Л. Дунин-Барковский, А. Н. Кирдин и др. — Новосибирск: Наука. Сибирское предприятие РАН, 1998. — 296 с.
  32. И. И. Баскин, В. А. Палюлин, Н. С. Зефиров. Применение искусственных нейронных сетей для прогнозирования свойств химических соединений // Нейрокомпьютеры: разработка, применение. - 2005. - № 1 - 2. - С. 98 - 101.
  33. Галушкин А. И., Применения нейрокомпьютеров в финансовой деятельности.
  34. Миркес Е. М.,Логически прозрачные нейронные сети и производство явных знаний из данных, В кн.: Нейроинформатика / А. Н. Горбань, В. Л. Дунин-Барковский, А. Н. Кирдин и др. — Новосибирск: Наука. Сибирское предприятие РАН, 1998. — 296 с ISBN 5-02-031410-2
  35. Borisyuk, R., Borisyuk, G., Rallings, C., and Thrasher, M. Forecasting the 2005 General Election: A Neural Network Approach. British Journal of Politics and International Relations. 7(2) (2005), 199—209.
  36. Терехов С. А., Нейросетевые информационные модели сложных инженерных систем, В кн.: Нейроинформатика / А. Н. Горбань, В. Л. Дунин-Барковский, А. Н. Кирдин и др. — Новосибирск: Наука. Сибирское предприятие РАН, 1998. — 296 с ISBN 5-02-031410-2
  37. Morillas C., Romero S., Martinez A., Pelayo F., Reyneri L., Bongard M., Fernandez, E., A neuroengineering suite of computational tools for visual prostheses, Neurocomput., 70 (16-18) (2007), 2817—2827.
  38. Gorban A.N., Rossiyev D.A., Dorrer M.G., MultiNeuron — Neural Networks Simulator For Medical, Physiological, and Psychological Applications, Wcnn’95, Washington, D.C.: World Congress on Neural Networks 1995 International Neural Network Society Annual Meeting : Renaissance Hotel, Washington, D.C., USA, July 17-21, 1995.
  39. Dorrer M.G., Gorban A.N., Kopytov A.G., Zenkin V.I., Psychological Intuition of Neural Networks. Proceedings of the 1995 World Congress On Neural Networks, A Volume in the INNS Series of Texts, Monographs, and Proceedings, Vol. 1, 1995, 193—196.
  40. Доррер М. Г., Психологическая интуиция искусственных нейронных сетей, Дисс. … 1998. Другие копии онлайн: [3]
  41. Taniguchi M., Haft M., Hollm\'en J., Tresp V., Fraud detection in communications networks using neural and probabilistic methods, In Proceedings of the 1998 IEEE International Conference on Acoustics, Speech and Signal Processing (ICASSP’98), volume II, pages 1241—1244, 1998.

Wikimedia Foundation. 2010.

Синонимы:

См. также в других словарях:

  • Нейрокомпьютер — компьютер, созданный на основе нейронных сетей. См. также: Компьютеры Нейронные сети Финансовый словарь Финам …   Финансовый словарь

  • НЕЙРОКОМПЬЮТЕР — [< гр. neuron нерв + компьютер] инф. электронное устройство, ориентированное на моделирование интеллектуальных систем; усовершенствованный компьютер новейшего класса. Словарь иностранных слов. Комлев Н.Г., 2006 …   Словарь иностранных слов русского языка

  • нейрокомпьютер — сущ., кол во синонимов: 1 • компьютер (52) Словарь синонимов ASIS. В.Н. Тришин. 2013 …   Словарь синонимов

  • нейрокомпьютер —  Neurocomputer  Нейрокомпьютер   Вычислительная машина с архитектурой нейронных сетей. Нейросетевая тематика является междисциплинарной, ею занимаются как разработчики вычислительных систем и программисты, так и специалисты в области медицины,… …   Толковый англо-русский словарь по нанотехнологии. - М.

  • нейрокомпьютер — м. Устройство переработки информации естественных нейронных систем в нейроинформатике. Толковый словарь Ефремовой. Т. Ф. Ефремова. 2000 …   Современный толковый словарь русского языка Ефремовой

  • нейрокомпьютер — нейрокомпью/тер, а …   Слитно. Раздельно. Через дефис.

  • нейрокомпьютер — НЕЙРОКОМПЬЮ/ТЕР а; м. Компьютер, организованный по принципу нейронных систем …   Энциклопедический словарь

  • НЕЙРОКОМПЬЮТЕР — (от греч. neuron нерв и лат. computare считать) электронное устройство, ориентированное на моделирование интеллектуальных систем …   Профессиональное образование. Словарь

  • нейрокомпьютер — а; м. Компьютер, организованный по принципу нейронных систем …   Словарь многих выражений

  • Миркес, Евгений Моисеевич — Евгений Моисеевич Миркес Евгений Моисеевич Миркес, г. Красноярск, 2008 Дата рождения …   Википедия

Книги


Поделиться ссылкой на выделенное

Прямая ссылка:
Нажмите правой клавишей мыши и выберите «Копировать ссылку»