ЖУРНАЛ РАДИОЭЛЕКТРОНИКИ. ISSN 1684-1719. 2021. №11
Оглавление выпускаТекст статьи (pdf)
DOI: https://doi.org/10.30898/1684-1719.2021.11.15
УДК: 681.3, 004.8
М. И. Костючек, А. В. Макаренко
Институт проблем управления им. В. А. Трапезникова Российской академии наук, 117997, Москва, ул. Профсоюзная, д. 65
Статья поступила в редакцию 30 октября 2021 г.
Аннотация. Рассматривается применение свёрточных глубоких нейронных сетей для решения задачи классификации и распутывания траекторий. Объекты классифицируются по кинематическим характеристикам. Для задачи классификации разработана модель типа Res-Net с функцией потерь перекрёстная энтропия. Нам удалось добиться качество классификации 0.883 по F_1-метрике. Показано, что лучше всего модель классифицирует объекты по скорости, при этом модель с высокой точностью отличает объекты от помех. Модель для классификации протестирована на устойчивость к шуму, который добавляется к данным в виде случайных точек, либо некоторые точки траектории убираются. Модель обучена на данных с десятью шумовыми точками, и протестирована на данных с большим числом шумовых точек. Показано, что качество классификации уменьшается «гладко» при увеличении количества шумовых точек, без резких скачков. Траектории объектов для задачи классификации могут иметь разрывы. Распутываются траектории двух объектов. Для задачи распутывания разработана модель типа UNet, с функцией потерь в виде комбинации перекрёстной энтропии и Tversky loss. Также разработанная модель возвращает оценку скорости объекта на основе скрытых признаков, для учёта динамики. Для задачи распутывания нам удалось добиться качество классификации 0.911 по F_1-метрике. Модели обучены и протестированы на синтетическом наборе данных.
Ключевые слова: классификация объектов, распутывание траекторий, глубокое обучение, синтетический набор данных, свёрточная нейронная сеть.
Abstract. The application of convolutional deep neural networks for solving the problem of classification and untangling of trajectories is considered. Objects are classified by their cinematic characteristics. Res-Net type model with the cross-entropy loss function has been developed for the classification problem. We have achieved 0.883 classification quality according to the F_1-metric. The model classifies objects by speed better than by other cinematic characteristics. The model distinguishes objects from noise with high accuracy. The model for classification is tested for resistance to noise. Noise is added to the data in the form of random points, or some points of the trajectory are removed. The model is trained on data with ten noise points and tested on data with a large number of noise points. Classification quality decreases "smoothly" with an increase in the number of noise points, without sharp jumps. Object trajectories for classification can have break points. The trajectories of two objects are untangled. For the untangling problem, a UNet-type model has been developed. Loss function in the form of a combination of cross-entropy and Tversky loss has been used. Also, the developed model returns an estimate of the speed of an object based on hidden features. It was used to account for the dynamics. We have achieved 0.911 classification quality according to the F_1-metric for the untangling problem. The models are trained and tested on a synthetic dataset.
Key words: object classification, trajectory untangling, deep learning, synthetic dataset, convolutional neural network.
Литература
1. Казаков И.Е., Мальчиков С.В. Анализ стохастических систем в пространстве состояний. Москва, Наука. 1983. 384 с.
2. Ярлыков М.С., Миронов М.А. Марковская теория оценивания случайных процессов. Москва, Радио и связь. 1993. 464 с.
3. Марковская теория оценивания в радиотехнике, под ред. М.С. Ярлыкова. Москва, Радиотехника. 2004. 504 с.
4. Татузов А.Л. Нейронные сети в задачах радиолокации. Москва, Радиотехника. 2009. 432 с.
5. Goodfellow I., Bengio Y., Courville A. Deep Learning. Cambridge, Massachusetts, USA, MIT Press. 2016. 800 p.
6. Portsev R.J., Makarenko A.V. Convolutional Neural Network for Noise Signal Recognition. 2018 IEEE 28th International Workshop on Machine Learning for Signal Processing (MLSP). Aalborg, Denmark. 2018. P.1-6. https://doi.org/10.1109/MLSP.2018.8516920
7. Makarenko A.V. Deep Convolutional Neural Networks for Chaos Identification in Signal Processing. 2018 26th European Signal Processing Conference (EUSIPCO). Rome, Italy. 2018. P.1481-1485. https://doi.org/10.23919/EUSIPCO.2018.8553098
8. Бобин А.В., Азаров В.А., Булгаков С.А., Савин Д.А. Методика распознавания летательных аппаратов и радиолокационных ловушек в контуре управления системы контроля воздушного пространства на основе нейросетевой технологии. Известия МГТУ «МАМИ». 2013. Т.4 №1. С.123-130.
9. Park S.H., Kim B., Kang C.M., Chung C.C., Choi J.W. Sequence-to-Sequence Prediction of Vehicle Trajectory via LSTM Encoder-Decoder Architecture, 2018 IEEE Intelligent Vehicles Symposium. Changshu, China. 2018. P.1672-1678. https://doi.org/10.1109/IVS.2018.8500658
10. Khosroshahi A., Ohn-Bar E., Trivedi M.M. Surround Vehicles Trajectory Analysis with Recurrent Neural Networks. 2016 IEEE 19th International Conference on Intelligent Transportation Systems (ITSC). Rio de Janeiro, Brazil. 2016. P.2267-2272. https://doi.org/ 10.1109/ITSC.2016.7795922
11. Wang L., Zhang L, Yi Z. Trajectory Predictor by Using Recurrent Neural Networks in Visual Tracking. IEEE Transactions on Cybernetics. 2017. Vol.47. P.3172-3183. https://doi.org/10.1109/TCYB.2017.2705345
12. Liu Y., Hansen M. Predicting Aircraft Trajectories: A Deep Generative Convolutional Recurrent Neural Networks Approach. CoRR. 2018. https://arxiv.org/abs/1812.11670
13. Костючек М.И., Макаренко А.В. Classification of observable 3D moving object by their kinematic characteristics by deep convolution neural network. Proceedings of the 5th International Conference on Stochastic Methods (ICSM-5, 2020). Москва. 2020. С.326-330.
14. Костючек М.И., Макаренко А.В. Метод генерации в кинематическом приближении синтетических трехмерных траекторий подвижных объектов. Материалы 15-й Международной конференции «Устойчивость и колебания нелинейных систем управления» (конференция Пятницкого) (Москва, 2020). Москва. 2020. С.219-221.
15. He K., Zhang X., Ren S., Sun J., Deep residual learning for image recognition. CoRR. 2015. https://arxiv.org/abs/1512.03385
16. Lin M., Chen Q. Yan S. Network in network. 2nd International Conference on Learning Representations (ICLR) 2014. Banff, AB, Canada. 2014. https://arxiv.org/abs/1312.4400
17. Ioffe S., Szegedy C. Batch Normalization: Accelerating Deep Network Training by Reducing Internal Covariate Shift. Proceedings of the 32nd International Conference on Machine Learning, PMLR. Lille, France. 2015. Vol.37. P.448-456.
18. Hinton G.E., Srivastava N., Krizhevsky A., Sutskever I., Salakhutdinov R., Improving neural networks by preventing co-adaptation of feature detectors. CoRR. 2012. http://arxiv.org/abs/1207.0580
19. Polyak, B. T. Some methods of speeding up the convergence of iteration methods. USSR Computational Mathematics and Mathematical Physics. 1964. Vol.4. P.1–17. https://doi.org/10.1016/0041-5553(64)90137-5
20. Ronneberger O., Fischer P. Brox T. U-Net: Convolutional Networks for Biomedical Image Segmentation. CoRR. 2015. http://arxiv.org/abs/1505.04597
21. Salehi S.S.M., Erdogmus D. Tversky loss function for image segmentation using 3D fully convolutional deep networks. 2017. http://arxiv.org/abs/1706.05721
Для цитирования:
Костючек М.И., Макаренко А.В. Применение свёрточных глубоких нейронных сетей для решения некоторых задач анализа траекторных данных. Журнал радиоэлектроники [электронный журнал]. 2021. №11. https://doi.org/10.30898/1684-1719.2021.11.15