УДК:
004.8, 004.94, 51-74, 621.37
ПОСТРОЕНИЕ
НЕЙРОННЫХ СЕТЕЙ ПРЯМОГО РАСПРОСТРАНЕНИЯ С ИСПОЛЬЗОВАНИЕМ АДАПТИВНЫХ
ЭЛЕМЕНТОВ
Е.
Н. Ефимов, Т. Я. Шевгунов
Московский
авиационный институт
(национальный
исследовательский университет)
Получена
13 августа
2012 г.
Аннотация.
В данной работе рассматриваются сети прямого распространения сигнала,
обучение
которых проводится с использованием методов, основанных на процессе
обратного
распространения ошибки. Нейронная сеть описывается в виде системы
связанных
двунаправленными сигнальными связями адаптивных элементов,
обеспечивающих
преобразования сигналов при прямом и обратном распространении. Ключевым
преимуществом такого подхода является то, что элементы, входящие в
состав сети,
могут представлять собой не только классические нейроны или их слои, но
могут
быть сложными подсистемами, реализующими требуемые передаточные
функции.
Разработанная методика построения нейронной сети реализована в виде
прототипа
программного обеспечения, включающего библиотеку классов адаптивных
элементов.
В работе приведены результаты численного моделирования для решения
задачи
аппроксимации сверхкороткоимпульсного радиолокационного сигнала и
классификации
случайного процесса.
Ключевые
слова:
нейронная сеть; обратное распространение ошибки; адаптивный элемент;
сигналы и
системы; метод градиентного спуска; SageMath; Python.
Abstract.
This article deals with feedforward artificial neural networks learned
by supervised
methods based on the error backpropagation. The artificial neural
networks of
mentioned type can be defined as the systems of interconnected adaptive
elements transforming signals in two concurrent directions: either
backward or
forward. The key advantage of approach proposed is that the single
adaptive
element is no longer necessary to be a classical neuron or a layer of
neurons,
but it can be an arbitrary subsystem with any desirable transfer
function. The presented
method of neural network design is implemented in the developed
software
prototype along with the library of common adaptive elements. This paper also demonstrates the
comparison of the results obtained by numerical simulation of the
ultra-short-pulse
radar response and by the classification of two random processes.
Keywords: neural
network, backpropagation, adaptive element, signals and systems,
gradient
descent, Sage Math, Python.