Using generative-adversarial neural networks to expand training (test) samples
Abstract
The article is devoted to the formation of the initial data set for training neural networks. The main methods of formation and expansion of training (test) samples are presented, in particular with the help of augmentation, mathematical modeling methods, as well as generative-adversarial neural networks. The principle of operation of GAN networks is considered, the algorithm of operation of the generator and discriminator according to the minimax game method, the Wasserstein method and the "penalty gradients" method is described. A digital simulation of the GAN network was performed using a minimax model trained on the MNIST dataset. Conclusions are drawn regarding the possibility of using the developed generative-adversarial neural network in order to expand the bank of training (test) samples.
- neural networks
- recognition
- generative modeling
- training sample
- test sample
Аннотация (на русском)
Использование генеративно-состязательных нейронных сетей для расширения обучающих (тестовых) выборок
Статья посвящена вопросам формирования исходного набора данных для обучения нейронных сетей. Представлены основные способы формирования и расширения обучающих (тестовых) выборок, в частности с помощью аугментации, методов математического моделирования, а также генеративно-состязательных нейронных сетей. Рассмотрен принцип работы GAN-сетей, описан алгоритм работы генератора и дискриминатора по методу минимаксной игры, методу Вассерштейна и методу «штрафных градиентов». Произведено цифровое моделирование GAN-сети по минимаксной модели, обученной на наборе данных MNIST. Сделаны выводы относительно возможности применения разработанной генеративно-состязательной нейронной сети с целью расширения банка обучающих (тестовых) выборок.
For citation
Belokopytov M.L. Using generative-adversarial neural networks to expand training (test) samples // Journal of Radio Electronics. – 2023. – No. 2. https://doi.org/10.30898/1684-1719.2023.2.7
References
- Малыхина Г.Ф., Меркушева А.В. Элементы статистической концепции обучения нейронной сети и прогнозирование ее функционирования. Научное приборостроение. 2005. Т.15. №1. С.29-45.
- Белокопытов М.Л., Шленских Д.А., Морозов С.В., Сирота С.В. Мониторинг объектов морского судоходства по аэрокосмическим данным дистанционного зондирования в СВЧ диапазоне с применением нейросетевых технологий. Журнал радиоэлектроники [электронный журнал]. 2022. №4. https://doi.org/10.30898/1684-1719.2022.4.2
- Окунев С.В. Рассмотрение способов формирования наборов данных для обучения нейронных сетей. Вестник науки и образования. 2020. Т.3 №2. С.16-19.
- Ананьин Э.В., Андрющенко М.С. Методы исследований радиолокационной сигнатуры при разработке малозаметных образцов военной техники. Вопросы оборонной техники. Серия 16: технические средства противодействия терроризму. 2015. №87-88. С.102-108.
- Тертышник В.В., Зиновьев В.В. Методика расчета радиолокационных портретов аэродинамических объектов. Международная научно-техническая конференция, посвященная 15-летию кафедры радиотехники. Саратов. 2004. С.11-24.
- Филиппских Е.Э., Попов А.В., Галкин Ф.А. Модельно-ориентированная методика расчета радиолокационных портретов (сигнатур) металлических объектов. Журнал радиоэлектроники [электронный журнал]. 2022. №3. https://doi.org/10.30898/1684-1719.2022.3.5
- Гарсия Глория Буэно. Обработка изображений с помощью OpenCV. Москва, ДМК Пресс. 2015. 387 c.
- Jonathan Hui. GAN - Wasserstein GAN [web]. Medium. Дата обращения: 11.11.2022. URL: https://jonathan-hui.medium.com/gan-wasserstein-gan-wgan-gp-6a1a2aa1b490
- Ishaan Gulrajani, Faruk Ahmed, Martin Arjovsky, Vincent Dumoulin, Aaron Courville. Improved Training of Wasserstein GANs [web]. NIPS 2017. Дата обращения: 21.11.2022. URL: https://proceedings.neurips.cc/paper/2017/file/892c3b1c6dccd52936e27cbd0ff683d6-Paper.pdf