Нейроинформатика

       

Сети Хопфилда


Наиболее известной сетью ассоциативной памяти является сеть Хопфилда [8.1]. В основе сети Хопфилда лежит следующая идея - запишем систему дифференциальных уравнений для градиентной минимизации "энергии" H (функции Ляпунова). Точки равновесия такой системы находятся в точках минимума энергии. Функцию энергии будем строить из следующих соображений:

  1. Каждый эталон должен быть точкой минимума.
  2. В точке минимума все координаты образа должны иметь значения
    Сети Хопфилда

Функция

Сети Хопфилда

не удовлетворяет этим требованиям строго, но можно предполагать, что первое слагаемое обеспечит притяжение к эталонам (для вектора x фиксированной длины максимум квадрата скалярного произведения

Сети Хопфилда
достигается при x=xi), а второе слагаемое
Сети Хопфилда
- приблизит к единице абсолютные величины всех координат точки минимума. Величина
Сети Хопфилда
характеризует соотношение между этими двумя требованиями и может меняться со временем.

Используя выражение для энергии, можно записать систему уравнений, описывающих функционирование сети Хопфилда:

Сети Хопфилда
(1)

Сеть Хопфилда в виде (1) является сетью с непрерывным временем. Это, быть может, и удобно для некоторых вариантов аналоговой реализации, но для цифровых компьютеров лучше воспользоваться сетями, функционирующими в дискретном времени - шаг за шагом.

Построим сеть Хопфилда с дискретным временем. Сеть должна осуществлять преобразование входного вектора

Сети Хопфилда
так, чтобы выходной вектор
Сети Хопфилда
был ближе к тому эталону, который является правильным ответом. Преобразование сети будем искать в следующем виде:

Сети Хопфилда
(2)

где

Сети Хопфилда
- вес
Сети Хопфилда
-го эталона, характеризующий его близость к вектору
Сети Хопфилда
Сети Хопфилда
- нелинейный оператор, переводящий вектор с координатами
Сети Хопфилда
в вектор с координатами
Сети Хопфилда
.

Функционирование сети. Сеть работает следующим образом:

  1. На вход сети подается образ
    Сети Хопфилда
    а на выходе снимается образ
    Сети Хопфилда
  2. Если
    Сети Хопфилда
    то полагаем
    Сети Хопфилда
    и возвращаемся к шагу 1.
  3. Полученный вектор
    Сети Хопфилда
    является ответом.

Таким образом, ответ всегда является неподвижной точкой преобразования сети (2) и именно это условие (неизменность при обработке образа сетью) и является условием остановки.



Содержание раздела