Нейроподобный элемент

 

Использование: изобретение относится к области бионики и кибернетики и используется в адаптивных информационно-управляющих системах, устройствах для распознавания образов и системах ассоциативной памяти. Сущность: поставленная цель достигается введением в нейроподобный элемент узла для формирования разрешения модификации, узла для формирований порога, а также выполнением узла для суммирования.

СОЮЗ СОВЕТСКИХ

СОЦИАЛИСТИЧЕСКИХ

РЕСПУБЛИК,, ЫÄÄ 1816325 А3 (я)5 G 06 G 7/60

ГОСУДАРСТВЕННОЕ ПАТЕНТНОЕ

ВЕДОМСТВО СССР (ГОСПАТЕНТ СССР), /

ОПИСАНИЕ ИЗОБРЕТЕНИЯ—

К ПАТЕНТУ (54) НЕЙРОПОДОБНЫЙ ЭЛЕМЕНТ (57) Использование: изобретение относится к области бионики и кибернетики и используется в адаптивных информационно-управляющих системах, устройствах для распознавания образов и системах.ассоциативной памяти. Сущность: поставленная цель достигается введением в нейроподобный элемент узла для формирования разрешения модификации, узла для формирования порога, а также выполнением узла для суммирования. (21) 4910715/14

{22) 12.02 91 (46) 15.05.93. Бюл. М 18 (76) Е.Г.Литвинов, А.А.Фролов, В.Л.Таубкин и Н.Н.Евтихиев (56) Nevral Computing Theory and Practica.

Philip О.Wasservan Чап Nostrand Reinhold, 1989, р.15 figure 1-3.

Предполагаемое изобретение относится к области бионики и кибернетики и предназначено для использования в адаптивных информационно-управляющих системах, устройствах для распознавания образов и системах ассоциативной памяти.

Цель изобретения — расширение области применения и упрощение элемента за счет использования входных сигналов одного веса, На фиг. 1 приведена схема нейроподобного элемента: на фиг. 2 — вариант реализации узла для формирования выходного сигнала; на фиг, 3. — вариант реализации узла для формирования разрешения модификации; на фиг. 4 — вариант реализации узла для формирования порога; на фиг. 5— схема нейронной сети с использованием заявленного нейроподобного элемента; на фиг. 6 — вариант реализации выходного элемента.

При этом на фигурах обозначено — узел

1. для суммирования входных сигналов, выполненное в виде сумматора количества

„единиц, узел 2 для формирования разрешения модификации, узел 3 для формирования порога, узел 4 для формирования выходного сигнала, вход режима элемента 5, элемент

НЕ 6, группа элементов И 7, функциональный преобразователь 8, группа элементов И

9, компаратор 10, формирователь импульсов 11, счетчик 12, элемент HE 13, группа элементов И 14, входной регистр 15, нейроподобные элементы 16, выходные элементы

17, элементы WIN 18, пороговый сумматор

19, информационные входы 20 элемента, выход 21 элемента, первый информационный вход 22 узла 4, второй информационный вход 23 узла 4. выход 24 узла 2. Цепи сброса и установки элементов схемы в исходное состояние условно не показаны.

Нейроподобный элемент работает следующим образом. у элемента имеется два режима работы, режим записи (обучение) и режим воспроизведения. В режиме записи на входы элемента поступает бинарный код с выходов элементов предыдущего слоя, с которыми связан данный элемент. Сумматор 1 единиц подсчитывает число единиц в этом коде, которое поступает на узел 2 для формирования разрешения модификации, которое может быть выполнено как показа1816325 но на фиг. 3. Группа элементов И 9 служит входным ключом узла, компаратор 10 определяет превышение количества единиц над заранее заданным, в случае превышения формирователь импульсов 11 вырабатывает сигнал разрешения модификации, который обеспечивает изменение параметра узла 3 для формирования параметра, которое может быть BblnollHGHo как показано на фиг. 4, Следует отметить, что новое состояние узла 10

3 определяется только его текущим состоянием.

В режиме воспроизведения сигнал с выхода сумматора 1 подается на один из входов узла для формирования выходного 15 сигнала, которое может быть выполнено как показано на фиг. 2. Количество единиц с сумматора 1 и значение параметра с выхода счетчика 12 образуют код аргумента функционального преобразователя 8. В частном 20 случае преобразователь 8 может бытьтвыполнен на основе постоянного запоминающего устройства (ПЗУ) с соответствующей прошивкой, Использование ПЗУ позволяет легко задавать требуемый закон преобразо- 25 вания, который может быть любым. С выхода функционального преобразователя 8 сигнал поступает по линиям связи с нейроподобным элементом следующего слоя.

Нейронные сети из таких нейроподоб- 30 ных элементов в состоянии выполнять многие функции по переработке информации, типичные для нейрокомьютеров. В качестве примера на фиг. 5 показана нейронная сеть, выполняющая функции автоассоциативной 35 памяти. Она содержит слои входных и,выходных элементов и промежуточный слой нейроподобных элементов. Число входных и выходных элементов одинаково, а их связи с промежуточным слоем полагаются зер- 40 кально симметричными. В простейшем случае для выполнения сетью функций ассоциативной памяти достаточно, чтобы функциональный преобразователь 8 каждого нейроподобного элемента выполнял в ре- 45 жиме воспроизведения следующее преобразование: А-1 при Р=1 и С > C*, А=О во всех остальных случаях, где А — сигнал на выходе функционального преобразователя 8, содержимое узла 3 для формирования пара- 50 метра, С вЂ” содержимое сумматора единиц, С* — заранее заданное пороговое значение

С для активации функционального преобразователя 8, узел формирования параметра выполнял следующее преобразование: Р=1 при Р-О и $=1, Р=О во всех остальных случаях, где S — сигнал на выходе узла 2 для формирования разрешения модификации; а зел 2 для формирования разрешения модификации выполнял следующее преобразованив: $-1 при С > С**, где С** — заранее заданное пороговое значение С для появления на выходе указанного узла сигнала разрешения модификации.

В режиме записи на входном слое такой сети последовательно активируются предназначенные для записи бинарные вектора. называемые в дальнейшем эталонами. Активным элементам входного слоя ставится в соответствие 1, э неактивным — О. Сигналы от активных элементов входного слоя по системе связей поступают на входы нейроподобных элементов и далее происходит описанная выше процедура модификации содержимого узла 3 для формирования параметров элементов. В качестве входных элементов могут быть использованы триггеры.

В режиме воспроизведения на входном слое сети последовательно активируются некоторые бинарные вектора. Если такой вектор по заданной мере близок к одному из записанных эталонов, он называется "своим", если далек — "чужим". Так же, как в режиме записи, сигналы от активных входных элементов поступают на входы нейроподобных элементов и далее происходит описанная выше процедура установления сигналов на выходах функциональных преобразователей 8, По системе связей, которая, как указывалось, является зеркально .симметричной относительно связей нейроподобных элементов с входными элементами, сигналы с выходов функциональных преобразователей 8 поступают на выходные элементы сети, которые могут быть выполнены, как показано на фиг. 6. Элементы

ИЛИ 18 используются при многоразрядном выходе функционального преобразователя

8, Однако, в частном случае выход преобразователя 8 может быть и одноразрядным, в этом случае каждый выходной элемент вырождается в пороговый сумматор. Сигналы, поступившие к каждому выходному элементу суммируются и активируют по заданному порогу сигнал на его выходе: О, если сумма входных сигналов меньше пороговой; 1, если равна или больше, При подаче на входной слой "своего" вектора активности, на выходном слое активируется вектор к нему близкий, при подаче "чужого" — от него далекий. Тем самым по критерию близости выходного и входного сигнала удается отличить "свои" и "чужие" входные сигналы. Если входной сигнал "свой", то на выходном слое активируется сигнал, более близкий к эталону, чем входной.

Информационную емкость такой нейронной сети, измеряемую максимальным объемом информации, которую можно запи1816325 сать в сеть с хорошим качеством ее воспроизведения, можно в два раза увеличить. изменив закон преобразования информации функциональным преобразователем 8 нейроподобного элемента, положив: А = 1 при

Р=О и С > С*, и инвертируя сигналы выходных элементов.

Положив, что функциональный преобразователь осуществляет следующее преобразование: А=Р*С, а узел 2 для формирования параметра: Р=1 ° можно обеспечить способность сети обучаться при предъявлении многих зашумленных вариантов каждого эталона, причем при произвольном и неизвестном для сети порядке предъявления. Такую же способность сеть приобретает, если узел 2 формирования параметра работает по-прежнему, а узел разрешения модификации работает стохастически, устанавливая на своем выходе 1 не всякий раз при выполнении условия

С < С*, а с некоторой заданной вероятностью.

В зависимости от задачи, поставленной перед сетью, можно менять правила преобразования информации ее отдельными блоками, а также конструкцию системы связей между ее элементами для достижения оптимальных условий функционирования.

Формула изобретения

1. Нейроподобный элемент. содержащий узел для суммирования входных сигналов, входы которого являются входами элемента, а также узел для формирования выходного сигнала, выход которого является выходом элемента, отл ича ю щи и с я тем, что, с целью упрощения и расширения области применения, элемент содержит узел для формирования разрешения модификации и связанный с ним узел для формирования порога, выход которого соединен с одним из информационных входов узла формирования выходного сигнала, второй информационный вход которого соединен с выходом узла для суммирования входных сигналов и информационным входом узла для формирования разрешения модифика5

- первыми входами элементов И группы. вторые входы которых соединены с выходом счетчика, суммирующий вход которого является информационным входом узла, а выходы элементов И группы являются выходом узла. ции, выход которого соединен с информационным входом узла для формирования порога, вход режима которого обьединен с входом режима узла для формирования разрешения модификации и узла для формирования выходного сигнала и является входом режима элемента, при этом узел для суммирования входных сигналов выполнен в виде сумматора количества единиц.

2. Элемент по п.1, о тл и ч а ю щи и ся тем, что узел для формирования выходного сигнала содержит функциональный преобразователь, группу элементов И и элемент

НЕ, вход которого является входом режима узла, а выход соединен с первыми входами элементов И группы, вторые входы которых образуют второй информационный выход узла, а выходы элементов и группы подключены к первой rpynne входов функционального преобразователя, вторая группа входов которого является первым информационным входом узла.

3. Элемент поп.1,отлич а ющийся тем, что функциональный преобразователь выполнен в виде постоянного запоминающего блока.

4. Элемент по п.1, отличающийся тем, что узел для формирования разрешения модификации содержит группу элементов И, компаратор и формирователь импульсов, выход которого является выходом узла, а вход соединен с выходом компаратора. вход которого соединен с выходами элементов И группы, первые входы которых объединены и являются входом режима узла, а вторые входы элементов И группы являются информационным входом узла.

5. Элемент по п.1, отличающийся тем, что узел для формирования порога выполнен в виде счетчика, группы элементов

И и элемента НЕ, вход которого является входом режима узла. а выход соединен с

1816325

Эиа 4

1816325

Составитель E. Литвинов

Техред M. Моргентал Корректор Л. Филь

Редактор

Производственно-издательский комбинат "Патент", r. Ужгород, ул.Гагарина, 101

Заказ 1651 Тираж Подписное

ВНИИПИ Государственного комитета по изобретениям и открытиям при ГКНТ СССР

113035, Москва, Ж-35. Раушская наб., 4/5