Нейроуправление

Нейроуправление (англ. Neurocontrol) — частный случай интеллектуального управления, использующий искусственные нейронные сети для решения задач управления динамическими объектами. Нейроуправление находится на стыке таких дисциплин, как искусственный интеллект, нейрофизиология, теория автоматического управления, робототехника. Нейронные сети обладают рядом уникальных свойств, которые делают их мощным инструментом для создания систем управления: способностью к обучению на примерах и обобщению данных, способностью адаптироваться к изменению свойств объекта управления и внешней среды, пригодностью для синтеза нелинейных регуляторов, высокой устойчивость к повреждениям своих элементов в силу изначально заложенного в нейросетевую архитектуру параллелизма. Термин «нейроуправление» впервые был использован одним из авторов метода обратного распространения ошибки Полом Дж. Вербосом в 1976 году. Известны многочисленные примеры практического применения нейронных сетей для решения задач управление самолётом, вертолётом, автомобилем-роботом, скоростью вращения вала двигателя, гибридным двигателем автомобиля, электропечью, турбогенератором, сварочным аппаратом, пневмоцилиндром, системой управления вооружением легкобронированных машин, моделью перевернутого маятника.

Методы нейроуправления

Схема прямого нейроуправления с обратной связью. На такте k нейроконтроллер получает на вход уставочное значение r(k+1) и оценку текущего состояния объекта S(k) и генерирует управляющее воздействие u(k), переводя объект управления в новое положение y(k+1).

По способу использования нейронных сетей методы нейроуправления делятся на прямые и непрямые. В прямых методах нейронная сеть обучается непосредственно генерировать управляющие воздействия на объект, в непрямых методах нейронная сеть обучается выполнять вспомогательные функции: идентификация объекта управления, подавление шума, оперативная настройка коэффициентов ПИД-контроллера. В зависимости от числа нейросетей, составляющих нейроконтроллер, системы нейроуправления делятся на одномодульные и многомодульные. Системы нейроуправления, которые применяются совместно с традиционными регуляторами, называются гибридными.

В области управления искусственные нейронные системы (ИНС) находят применение в задачах идентификации объектов, в алгоритмах прогнозирования и диагностики, а также для синтеза оптимальных Автоматических Систем Регулирования (АСР). Для реализации АСР на основе ИНС в настоящее время интенсивно развивается производство нейрочипов и нейроконтроллеров (НК).

В определённом смысле ИНС является имитатором мозга, обладающего способностью к обучению и ориентации в условиях неопределенности. Искусственная нейросеть сходна с мозгом в двух аспектах. Сеть приобретает знания в процессе обучения, а для сохранения знаний использует не сами объекты, а их связи — значения коэффициентов межнейронных связей, называемые синаптическими весами или синаптическими коэффициентами.

В задачах нейроуправления для представления объекта управления используют модель чёрного ящика, в котором наблюдаемыми являются текущие значения входа и выхода. Состояние объекта считается недоступным для внешнего наблюдения, хотя размерность вектора состояний обычно считается фиксированной. Динамику поведения объекта управления можно представить в дискретном виде:

${\begin{matrix}S(k+1)=\Phi (S(k),u(k)))\\y(k+1)=\Psi (S(k))\end{matrix}}$

где: $S(k)\in \mathbb {R} ^{N}$ — состояние объекта управления порядка $N$ на такте $k$; $u(k)\in \mathbb {R} ^{P}$ — значение $P$-мерного вектора управления на такте $k$, $y(k+1)\in \mathbb {R} ^{V}$ — значение $V$-мерного выхода объекта управления на такте $k+1$.

Для оценки текущего состояния объекта управления $S(k)$может быть использована модель NARX, состоящая из прошлых положений объекта $y$ и задержанных сигналов управления $u$:

$S(k)=[y(k)~y(k-1)~y(k-2)~\ldots ~y(k-N)~u(k-1)~u(k-2)~\ldots ~u(k-Q)]^{T}$

Вектор оценки состояния $S$ может быть также представлен без использования задержанных сигналов:

$S(k)=[y(k)~y(k-1)~y(k-2)~\ldots ~y(k-N)]^{T}$

Также возможно представить состояние объекта как мгновенный снимок его фазовой траектории:

$S(k)=[y(k)~y(k)'~\ldots ~y(k)^{(N)}]^{T}$

Подражающее нейроуправление

Схема подражающего нейроуправления: слева — режим обучения нейронной сети; справа — режим управления

Подражающее нейроуправление (Neurocontrol learning based on mimic, controller modeling, supervised learning using an existing controller) охватывает системы нейроуправления, в которых нейроконтроллер обучается на примерах динамики обычного контроллера по обратной связи, построенного, например, на основе обычной ПИД-схемы управления. После обучения нейронная сеть в точности воспроизводит функции исходного контроллера. В качестве примеров динамики контроллера может быть использована запись поведения человека-оператора. Обычный контроллер по обратной связи (или человек-оператор) управляет объектом управления в штатном режиме. Значения величин на входе и выходе контроллера протоколируются, и на основе протокола формируется обучающая выборка $U=\{P_{i},T_{i}\}_{i=1}^{M}$ для нейронной сети, содержащая $M$ пар значений входа $P_{i}$ и ожидаемых реакций $T_{i}$ нейросети:

${\begin{matrix}P_{i}=[r(i+1)~S(i)]^{T}\\T_{i}=u(i)\end{matrix}}$

После обучения с помощью, например, метода обратного распространения ошибки, нейронная сеть подключается вместо исходного контроллера. Полученный нейроконтроллер может заменить человека в управлении устройством, а также быть более выгодным экономически, чем исходный контроллер.

Обобщённое инверсное нейроуправление

Схема обобщённого инверсного нейроуправления: слева — режим обучения инверсного нейроэмулятора; справа — режим управления объектом

В схеме обобщённого инверсного нейроуправления (generalized inverse neurocontrol, direct inverse neurocontrol, adaptive inverse control) в качестве контроллера используется нейронная модель инверсной динамики объекта управления, называемая инверсный нейроэмулятор. Инверсный нейроэмулятор представляет собой нейронную сеть, обученную в режиме офлайн имитировать обратную динамику объекта управления на основе записанных траекторий поведения динамического объекта. Для получения таких траекторий на объект управления в качестве управляющего сигнала подают некоторый случайный процесс. Значения управляющих сигналов и ответных реакций объекта протоколируют и на этой основе формируют обучающую выборку $U=\{P_{i},T_{i}\}_{i=1}^{M}$:

${\begin{matrix}P_{i}=[y(i)~S(i-1)]^{T}\\T_{i}=u(i)\end{matrix}}$

В ходе обучения нейронная сеть должна уловить и запомнить зависимость значений управляющего сигнала $u(k-1)$ от последующего значения реакции объекта управления $y(k)$, находящегося перед этим в состоянии $S(k-1)$. При управлении объектом инверсный нейроэмулятор подключается как контроллер, получая при этом на вход $x(k)$ значения уставки (некоторой величины или параметра, по достижении которого происходит изменение состояния системы) $r(k+1)$ и состояния объекта управления $S(k)$, поступающего по каналу обратной связи:

$x(k)=[r(k+1)~S(k)]^{T}$

Предполагается, что сформированная при обучении инверсная модель объекта управления является адекватной, следовательно, сигнал управления, выдаваемый нейронной сетью, обеспечит переход объекта в положение, заданное уставкой.

Специализированное инверсное нейроуправление

Специализированное инверсное нейроуправление (specialised inverse neurocontrol) использует методику обучения нейроконтроллера в режиме онлайн, используя текущую ошибку отклонения положения объекта от уставки $e(k)=r(k)-y(k)$. Схема подключения нейроконтроллера такая же, как в методе обобщённого инверсного нейроуправления. На вход сети подается вектор $x(k)$:

$x(k)=[r(k+1)~S(k)]^{T}$

Нейронная сеть генерирует управляющий вектор $u(k)$, который переводит объект управления в положение $y(k+1)$. Далее вычисляется текущая ошибка работы нейроконтроллера

$e(k)=r(k+1)-y(k+1)$

Вычисляется градиент изменения весов

$\Delta w=e(k){\frac {\partial y(k+1)}{\partial u(k)}}{\frac {\partial u(k)}{\partial w(k)}}$

Затем производится коррекция весов нейроконтроллера по методу наискорейшего спуска или каким-либо другим градиентным методом.

Производная ${\frac {\partial y(k+1)}{\partial u(k)}}$ представляет собой якобиан объекта управления, значение которого задается аналитически по заданной математической модели объекта управления. Однако, на практике, для получения приемлемого качества управления часто бывает достаточно вычислить лишь знак якобиана. Итерации коррекции значений коэффициентов продолжаются до достижения приемлемого качества управления.

Метод обратного пропуска ошибки через прямой нейроэмулятор

Метод обратного пропуска ошибки через прямой нейроэмулятор: слева — схема обучения прямого нейроэмулятора; справа — схема обучения нейроконтроллера

Метод обратного пропуска ошибки через прямой нейроэмулятор (backpropagation through time, model reference adaptive control, internal model control) основан на идее применения тандема из двух нейронных сетей, одна из которых выполняет функцию контроллера, а вторая — модели объекта управления, которая носит название прямой нейроэмулятор. Прямой нейроэмулятор служит для вычисления градиента ошибки нейроконтроллера в процессе его обучения и далее не используется. Можно сказать, что нейроконтроллер и нейроэмулятор представляют собой единую нейросеть, при этом при обучении нейроконтроллера веса прямого нейроэмулятора «замораживаются». Прямой нейроэмулятор обучается первым. Для этого на вход объекта управления подаётся случайный управляющий сигнал $u$, изменяющий положение объекта управления $y$, и формируется обучающая выборка $U=\{P_{i},T_{i}\}_{i=1}^{M}$:

${\begin{matrix}P_{i}=[u(i)~S(i-1)]^{T}\\T_{i}=y(i)\end{matrix}}$

Обучение прямого нейроэмулятора выполняется в режиме офлайн. Прямой нейроэмулятор считается обученным, если при одинаковых значениях на входах нейроэмулятора и реального объекта отличие между значениями их выходов становится незначительным. После завершения обучения прямого нейроэмулятора проводится обучение нейроконтроллера. Обучение выполняется в режиме онлайн по такой же схеме, как и в случае специализированного инверсного нейроуправления. Сначала (на такте $k$) на вход нейроконтроллера поступает желаемое положение объекта управления для следующего такта $r(k+1)$. Нейроконтроллер генерирует сигнал управления $u(k)$, который поступает на входы объекта управления и нейроэмулятора. В результате управляемый объект переходит в положение $y(k+1)$, а нейроэмулятор генерирует реакцию ${\hat {y}}(k+1)$. Далее вычисляется ошибка управления $e(k)={\widehat {y}}(k+1)-y(k+1)$ и пропускается в обратном направлении по правилу обратного распространения. Весовые коэффициенты связей нейроэмулятора при этом не корректируются. Механизм обратного прохождения ошибки через прямой нейроэмулятор реализует локальную инверсную модель в текущей точке пространства состояний объекта управления. Пройдя через нейроэмулятор, ошибка далее распространяется через нейроконтроллер, но теперь её прохождение сопровождается коррекцией весовых коэффициентов нейроконтроллера. Прямой нейроэмулятор при этом выполняет функции дополнительных слоев нейроной сети нейроконтроллера, в которых веса связей не корректируются.

Метод нейроуправления с эталонной моделью

Нейроуправление с эталонной моделью

Метод нейроуправления с эталонной моделью (model reference adaptive control, neural adaptive control) — вариант нейроуправления по методу обратного пропуска ошибки через прямой нейроэмулятор с дополнительно внедрённой в схему эталонной моделью (reference model) динамической системы, имитировать поведение которой обучается нейроконтроллер. Это делается в целях повышения качества переходного процесса: в случае, когда переход объекта в целевое положение за один такт невозможен, траектория движения и время осуществления переходного процесса становятся плохо прогнозируемыми величинами и могут привести к неустойчивости переходного процесса. Для уменьшения этой неопределенности вводится эталонная модель, представляющая собой, как правило, устойчивую линейную динамическую систему первого или второго порядка. В ходе обучения эталонная модель на такте $k$ получает на вход уставку $r(k+1)$ и генерирует опорную траекторию $y'(k+1)$, которая сравнивается с положением объекта управления $y(k+1)$ с целью получить ошибку управления $e(k+1)$, минимизировать которую обучается нейроконтроллер.

Метод нейросетевой фильтрации внешних возмущений

Схема метода нейросетевой фильтрации внешних возмущений

Метод нейросетевой фильтрации внешних возмущений (adaptive inverse control based on linear and nonlinear adaptive filtering, internal model control) служит для улучшения качества работы контроллера в цепи управления. Изначально эта схема была предложена Б. Уидроу для использования совместно с нейроконтроллерами, обученными по методу обобщенного инверсного нейроуправления. В более поздней работе им были применены нейроконтроллеры, обученные по методу обратного распространения ошибки через прямой нейроэмулятор. В принципе, нейросетевую фильтрацию ошибок можно использовать для повышения качества работы контроллера любого типа, не обязательно нейросетевого. В этой схеме используется две предварительно обученных нейронных сети: инверсный нейроэмулятор, обученный так же, как это делается в методе обобщенного инверсного нейроуправления и прямой нейроэмулятор, обученный так же, как это делается в методе обратного распространения ошибки через прямой нейроэмулятор. Пусть на объект управления поступает управляющий сигнал ${\hat {u}}_{F}(k)$, явившийся результатом суммирования сигнала контроллера ${\hat {u}}(k)$ и корректирующего сигнала системы фильтрации внешних возмущений ${\hat {u}}_{C}(k)$, вычисленного на предыдущем такте. Сигнал направляется на прямой нейроэмулятор объекта управления, а реакция прямого нейроэмулятора сравнивается с реальным положением системы $y(k)$. Разница этих величин $e(k)$ трактуется как нежелательное отклонение системы, вызванное внешним возмущением. Для подавления нежелательного эффекта сигнал поступает на инверсный нейроэмулятор, который рассчитывает корректирующий сигнал ${\hat {u}}_{C}(k+1)$ для корректировки управляющего сигнала нейроконтроллера ${\hat {u}}(k+1)$ на следующем такте.

Для использования этого метода объект управления должен обладать обращаемой динамикой, а также необходимо иметь адекватную математическую или имитационную модель объекта управления для обучения прямого и инверсного нейроэмуляторов.

Прогнозирующее модельное нейроуправление

Схема прогнозирующего модельного нейроуправления

Прогнозирующее модельное нейроуправление (NN predictive control, model predictive control, neural generalized predictive control) минимизирует функционал стоимости интегральной ошибки $Q(k)$, прогнозируемой на $L=max(L_{2},L_{3})$, $0\leq L_{1}\leq L_{2}$ тактов вперед:

$Q(k)=\sum _{i=L_{1}}^{L_{2}}e(k+i)^{2}+\rho \sum _{i=0}^{L_{3}}(u(k+i)-u(k+i-1))^{2}.$

Здесь $e(k)$ — ошибка выхода системы, $\rho$ — вклад изменения управляющего сигнала в общий функционал стоимости $Q(k)$. Для прогнозирования будущего поведения системы и вычисления ошибок используется прямой нейроэмулятор, обученный так же, как в методе обратного распространения ошибки через прямой нейроэмулятор. Примечательность рассматриваемого метода состоит в том, что в нём отсутствует обучаемый нейроконтроллер. Его место занимает оптимизационный модуль, работающий в режиме реального времени, в котором может быть использован, например, симплекс-метод или квази-Ньютоновский алгоритм.

Оптимизационный модуль получает на такте целевую траекторию на $L$ тактов вперед, а если её нет, то $L$ раз дублирует значение текущей уставки $r(k+1)$ и использует это в качестве целевой траектории. Далее, для выбора оптимального управляющего воздействия, вычисления происходят во внутреннем цикле системы нейроуправления (его итерации обозначаются как $j$). За время одного такта управления оптимизационный модуль подаёт на вход нейроэмулятора серию различных воздействий ${\hat {u}}(k+t,j)$, где $t$ — глубина прогнозирования, $0\leq t\leq L-1$ , получает различные варианты поведения системы, вычисляет для них функцию стоимости $Q(k)$ и определяет наилучшую стратегию управления $ST=\{{\hat {u}}(k,j_{1})~{\hat {u}}(k,j_{2})~\ldots ~~{\hat {u}}(k,j_{L})\}$. В итоге, на объект подается управляющий сигнал ${\hat {u}}(k,j_{1})$. На следующем такте стратегия $ST$ пересчитывается заново.

Адаптивные критики

Схема адаптивной критики: слева — этап управления; справа — этап обучения

Методы нейроуправления на основе адаптивной критики (adaptive critics), которые также известны как приближенное динамическое программирование (approximated dynamic programming, ADP), в последние годы весьма популярны. Системы адаптивной критики выбирают управляющий сигнал на основе минимизации функционала оценок ошибок будущего с бесконечным горизонтом:

$J(k)=\sum _{i=0}^{\infty }\gamma ^{i}e(k+i)^{2}.$

Здесь $\gamma$ — коэффициент забывания, $0<\gamma \leq 1$, $e(k)=r(k+1)-y(k+1)$ — отклонение траектории объекта управления от уставки, вычисляемое на каждом такте работы системы. Система включает два нейронных модуля: нейроконтроллер и модуль критики (критик). Модуль критики выполняет аппроксимацию значений функционала стоимости $J(k)$, нейроконтроллер обучают минимизировать функционал стоимости $J(k)$.

В режиме управления объектом на вход нейроконтроллера поступает вектор $x(k)=[r(k+1)~S(k)]^{T}$, вызывающий появление на его выходе сигнала управления $u(k)$, в результате чего объект управления переходит в положение $y(k+1)$. Далее производится вычисление значения текущей ошибки управления $e(k)$. Модуль критики, получая на входе вектор $z(k)=[r(k+1)~u(k)~S(k)]^{T}$, производит оценку функции стоимости $J(k)$. На следующем такте процесс повторяется: вычисляются новые значения $e(k+1)$ и $J(k+1)$. Обучение системы нейроуправления происходит в режиме онлайн и состоит из двух этапов: обучения модуля критики и обучения нейроконтроллера. Сначала рассчитывается ошибка временной разности $\delta w(k)=e(k)+\gamma J(k+1)-J(k)$. Затем по методу наискорейшего спуска выполняется коррекция веса связей для модуля критики $w_{critic}$:

$\Delta w_{critic}(k)=-{\alpha }_{1}\delta (k){\frac {\partial J(k)}{\partial w_{critic}(k)}}$

Значение градиента ${\frac {\partial J(k)}{\partial w_{critic}(k)}}$ рассчитывается по методу обратного распространения ошибки. Коррекция веса связей нейроконтроллера $\Delta w_{control}$ производится аналогично:

$\Delta w_{control}(k)=-{\alpha }_{2}{\frac {\partial J(k)}{\partial u(k)}}{\frac {\partial u(k)}{\partial w_{control}(k)}}$

Значение производной ${\frac {\partial J(k)}{\partial u(k)}}$ находят путём обратного распространения величины через модуль критики, а значение градиента ${\frac {\partial u(k)}{\partial w_{control}(k)}}$ — путём обратного распространения ошибки через модуль контроллера. Коррекция весов продолжается, пока система не достигнет требуемого уровня качества управления. Таким образом, на каждом шаге улучшается закон управления, путём обучения нейроконтроллера (итерация по стратегиям, policy iteration), а также повышается способность системы оценивать ситуацию, путём обучения критика (итерация по значениям, value iteration). Конкретная схема построения системы адаптивной критики может отличаться от вышеописанной, носящей название эвристическое динамическое программирование (heuristic dynamic programming, HDP). В методе дуального эвристического программирования (dual heuristic programming, DHP) модуль критики вычисляет производную функционала глобальной стоимости ${\frac {\partial J}{\partial t}}$, а в методе глобального дуального эвристического программирования (global dual heuristic programming, GHDP) критиком вычисляются как сам функционал функции стоимости $J$, так и его производная ${\frac {\partial J}{\partial t}}$. Известны модификации метода, в которых модуль критики принимает решения исключительно на основе управляющего сигнала. Их англоязычные аббревиатуры имеют приставку AD (action dependent): ADHDP, ADDHP, ADGDHP. В некоторых версиях адаптивной критики модуль критики состоит из двух частей: собственно, модуля критики и прямого нейроэмулятора. Последний выдает предсказания поведение объекта управления, на основе которых критик формирует оценку функции стоимости $J$. Такие версии носят название основанные на модели (model based).

Гибридное нейро-ПИД управление

Схема гибридного нейро-ПИД управления

Гибридное нейро-ПИД управление (NNPID auto-tuning, neuromorphic PID self-tuning) позволяет осуществлять самонастройку ПИД-регулятора в режиме онлайн путём использованием нейронных сетей. Настройка ПИД-регулятора выполняется в режиме онлайн, по текущей ошибке управления $e(k)=r(k+1)-y(k+1)$. На такте $k$ нейронная сеть получает уставку $r(k+1)$ и генерирует коэффициенты управления ПИД-контроллера $K_{1}$ (пропорциональный), $K_{2}$ (интегральный), $K_{3}$ (дифференциальный), которые поступают на ПИД-контроллер вместе со значением текущей ошибки обратной связи $e(k)$. В ходе работы, ПИД-контроллер рассчитывает текущий управляющий сигнал $u(k)$ по рекуррентной формуле:

$u(k)=u(k-1)+K_{1}(k)(e(k)-e(k-1))+K_{2}(k)e(k)+K_{3}(k)(e(k)-2e(k-1)+e(k-2))$

применяемой для дискретных ПИД-контроллеров и подает его на объект управления.

Обучение нейросети происходит в режиме реального времени по ошибке обратной связи, методом наискорейшего спуска.

$\Delta w(k)=-\alpha e(k){\frac {\partial y(k+1)}{\partial u(k)}}{\frac {\partial u(k)}{\partial K(k)}}{\frac {\partial K(k)}{\partial w(k)}}$

Здесь $K(k)=[K_{1}(k)~K_{2}(k)~K_{3}(k)]^{T}$ — вектор выходов нейронной сети, поступающий на ПИД-контроллер.

${\frac {\partial u(k)}{\partial K_{i}(k)}}={\Bigg \{}{\begin{matrix}e(k)-e(k-1)&for~i=1;\\e(k)&for~i=2;\\e(k)-2e(k-1)+e(k-2)&for~i=3.\end{matrix}}$

Градиенты ${\frac {\partial K_{i}(k)}{\partial w(k)}}$ вычисляют методом обратного распространения ошибки. Якобиан объекта управления ${\frac {\partial y(k+1)}{\partial u(k)}}$ ли его знак находится аналитически, на основе математической модели объекта управления.

Гибридное параллельное нейроуправление

Схема гибридного параллельного нейроуправления

Методы гибридного параллельного нейроуправления (parallel neurocontrol, stable direct adaptive control, additive feedforward control) предусматривают параллельное использование нейроконтроллеров и обычных контроллеров для управления динамическими объектами. При этом нейроконтроллер и обычный контроллер, в роли которого выступает, например, ПИД-контроллер, получают одинаковые значения уставки. Возможны следующие варианты совместного подключения обычного контроллера и нейроконтроллера:

1. к объекту управления подключается обычный контроллер, после чего нейроконтроллер обучается управлять уже замкнутой обычным контроллером системой. После обучения нейроконтроллер подключается к системе, а управляющие сигналы обоих контроллеров суммируются;
2. нейроконтроллер учится управлять объектом управления, после обучения начинает функционировать в штатном режиме. Далее для управления замкнутой нейроконтроллером системой настраивается обычный контроллер. После настройки обычный контроллер подключается к системе, управляющий сигнал обоих контроллеров суммируется;
3. области действия обычного контроллера и нейроконтроллера разграничиваются. Например, в пространстве состояний объекта управления для нейроконтроллера выделяется отдельная область $LS$:

$LS=[(y_{1}-d_{1};y_{1}+d_{1})~\ldots ~(y_{N}-d_{N};y_{N}+d_{N})]^{T}$

При этом обычный контроллер рассчитывается на управление объектом вне этой области пространства состояния. При параллельной работе обоих контроллеров управляющий сигнал поступает на объект либо от нейроконтроллера, если текущее состояние системы находится в пределах области $LS$, либо, в противном случае, от обычного контроллера. Гибридное параллельное нейроуправление представляет компромиссное решение для внедрения нейроуправления в промышленность и перехода от обычных контроллеров к нейросетевым.

Ссылки

• А. Н. Чернодуб, Д. А. Дзюба. Обзор методов нейроуправления // Проблемы программирования. — 2011. — No 2. — С. 79-94.
• Hagan M.T., Demuth H.B. Neural networks for control // Proceedings of the American Control Conference. — San Diego, USA, 1999. — Vol. 3. — P. 1642—1656.

Литература

• Сигеру Омату, Марзуки Халид, Рубия Юсоф. Нейроуправление и его приложения = Neuro-Control and its Applications. — 2-е. — М.: ИПРЖР, 2000. — С. 272. — ISBN ISBN 5-93108-006-6.
• В. А. Терехов, Д. В. Ефимов, И. Ю. Тюкин. Нейросетевые системы управления. — 1-е. — Высшая школа, 2002. — С. 184. — ISBN 5-06-004094-1.
• Хайкин С. Нейронные сети: полный курс = Neural Networks: A Comprehensive Foundation. — 2-е. — М.: «Вильямс», 2006. — С. 1104. — ISBN 0-13-273350-1.
• Omidvar O., Elliott D.L. eds. Neural Systems for Control. — New York: Academic Press, 1997. — С. 358. — ISBN 0-12-526430-5.