Исследование бинарных классификаторов, базирующихся на разных математических подходах при распознавании моторных образов двигательной активности в интерфейсе "мозг-компьютер" асинхронного типа
Аннотация
В настоящее время, предпринимается множество попыток создать интерфейс «мозг-компьютер» асинхронного типа, который мог бы осуществлять распознавание моторных образов с высокой точностью. Однако на практике добиться точности распознавания даже более чем 60 % в режиме «онлайн» является сложной задачей, особенно при использовании переносной регистрирующей аппаратуры. В данной работе предпринята попытка создания переносного малогабаритного интерфейса «мозг-компьютер» асинхронного типа, предназначенного для распознавания моторных образов в режиме реального времени с точностью бинарной классификации не менее 65 %. Для достижения поставленной цели был создан макет аппаратуры, передающий в режиме «онлайн» регистрируемые электроэнцефалографические сигналы на персональный компьютер по радиоканалу стандарта Wi-Fi. Автономный макет аппаратуры располагался на переносной нейрогарнитуре с резистивно-емкостными электродами «сухого» типа. В работе рассмотрены теоретические аспекты используемых подходов, представлена структурная схема программной системы, реализующей распознавание, проанализированы результаты экспериментального применения предлагаемой системы. На языке Python разработано программное обеспечение, предназначенное для предобработки сигналов, выделения признаков и их классификации. В рамках работы было проведено исследование нескольких классификаторов, базирующих на разных математических подходах: линейный дискриминантный анализ (LDA), многослойный персептрон, сверточная нейронная сеть, представляющая собой повторяющиеся части архитектуры, которые состоят из некоторого набора различных слоев (ResNet). Разработана архитектура сети, состоящей их восемнадцати слоев. Также были исследованы методы оптимизации первого и второго порядков. Оценка влияния алгоритмов оптимизации на работу нейросетевых классификаторов была проведена с использованием метрик Accuracy, Precision, Recall и F1 мера. Всего было исследовано четыре алгоритма оптимизации: алгоритм адаптивной оптимизации импульсов (ADAM), алгоритм Левенберга-Марквардта (LM), алгоритм стохастического градиентного спуска (SGD), алгоритм Бройдена-Флетчера-Гольдфарба-Шанно (BFGS). Предложена модернизация алгоритма Левенберга-Марквардта применительно к задачам классификации моторных образов. Наивысшую точность классификации (метрика Accuracy) моторных образов удалось достичь при использовании классификатора на основе ResNet и алгоритма оптимизации ADAM. Точность классификации в режиме «офлайн» составила 68,31 % (метрика Accuracy) и 68,80 % (метрика Recall), в режиме «онлайн» 65,92 % и 66,20 % соответственно.
- интерфейс "мозг-компьютер"
- моторные образы
- градиентный спуск
- алгоритм Левенберга-Марквардта
- сверточная нейронная сеть
- ResNet
- линейный дискриминантный анализ
- полносвязный персептрон
- алгоритмом оптимизации BFGS
Abstract (in English)
The study of binary classifiers based on different mathematical approaches when performing tasks of recognizing motor images in an asynchronous brain-computer interface
Currently, many attempts are being made to create an asynchronous brain-computer interface that could recognize motor patterns with high accuracy. However, in practice, achieving recognition accuracy of even more than 60 % online is a difficult task. Especially when using portable equipment. In this paper, an attempt is made to create a portable small-sized asynchronous brain-computer interface designed for real-time recognition of motor imagery with a binary classification accuracy of at least 65 %. To achieve this goal, a mock-up of equipment was created that transmits online recorded electroencephalographic signals to a personal computer via a Wi-Fi radio channel. The standalone model of the equipment is placed on a portable neural headset with resistive-capacitive electrodes of the “dry” type. The paper considers the theoretical aspects of the approaches used. A block diagram of a software system implementing motor imagery recognition is presented. The results of the experimental application of the proposed system are analyzed. Software has been developed in Python for signal preprocessing, feature extraction, and classification. As part of the work, several classifiers based on different mathematical approaches were studied: linear discriminant analysis (LDA), multilayer perceptron, convolutional neural network, which is a repeating part of the architecture that consists of a set of different layers (ResNet). The architecture of the network consisting of eighteen layers has been developed. Optimization methods of the first and second orders were also investigated. The evaluation of the influence of optimization algorithms on the work of neural network classifiers was carried out using the metrics Accuracy, Precision, Recall and F1 measure. In total, four optimization algorithms were studied: the adaptive impulse optimization algorithm (ADAM), the Levenberg-Marquardt algorithm (LM), the stochastic gradient descent algorithm (SGD), and the Broyden-Fletcher-Goldfarb-Shanno algorithm (BFGS). The modernization of the Levenberg-Marquardt algorithm is proposed in relation to the tasks of classifying motor imagery. The highest classification accuracy (Accuracy metric) of motor imagery was achieved using a classifier based on ResNet and the ADAM optimization algorithm. The classification accuracy in offline mode was 68.31 % (Accuracy metric) and 68.80 % (Recall metric), while in online mode it was 65.92 % and 66.20 %, respectively.
Для цитирования
Журавлев Д.В., Резниченко А.А., Голубинский А.Н., Толстых А.А. Исследование бинарных классификаторов, базирующихся на разных математических подходах при распознавании моторных образов двигательной активности в интерфейсе "мозг-компьютер" асинхронного типа // Журнал радиоэлектроники. – 2025. – № 11. https://doi.org/10.30898/1684-1719.2025.11.34
Литература
- Журавлев Д.В. Система передачи буквенно-цифровой информации на основе частотно-временного анализа сигнала электроэнцефалограммы // Журнал радиоэлектроники. - 2025. - №. 7. https://doi.org/10.30898/1684-1719.2025.7.15
- Suryotrisongko H., Samopa F. Evaluating openbci spiderclaw v1 headwear's electrodes placements for brain-computer interface (BCI) motor imagery application // Procedia Computer Science. - 2015. - Т. 72. - С. 398-405.
- Kapralov N.V., Nagornova Z.V., Shemyakina N.V. Classification methods for EEG patterns of imaginary movements // Informatics and Automation. - 2021. - Т. 20. - №. 1. - С. 94-132.
- Журавская А., Станкевич Л.А. Применение неинвазивного интерфейса "мозг-компьютер" для классификации воображаемых движений нижних конечностей человека // Системный анализ в проектировании и управлении. - 2021. - Т. 25. - №. 3. - С. 146-158.
- Павленко Д.В., Татарис Ш.Э., Овчаренко В.В. Применение глубокого обучения в интерфейсах мозг-компьютер для распознавания движений // Программные продукты и системы. - 2024. - Т. 37. - №. 2. - С. 164-169.
- Echtioui A. et al. A novel convolutional neural network classification approach of motor-imagery EEG recording based on deep learning // Applied Sciences. - 2021. - Т. 11. - №. 21. - С. 9948.
- Руннова А.Е. и др. Классификация паттернов двигательной активности на ЭЭГ-данных // Вестник российских университетов. Математика. - 2017. - Т. 22. - №. 5-2. - С. 1127-1132.
- Асадуллаев Р.Г., Афонин А.Н., Щетинина Е.С. Распознавание паттернов двигательной активности нейронной сетью по непрерывным данным оптической томографии fNIRS // Экономика. Информатика. - 2021. - Т. 48. - №. 4. - С. 735-746.
- Официальный сайт проекта "OpenBCI". URL: https://github.com/OpenBCI/(дата обращения: 01.09.2025).
- Журавлев Д.В., Голубинский А.Н., Толстых А.А. Разработка методики настройки параметров интерфейсов "мозг-компьютер" для проведения экспериментов по классификации моторных образов в программе OpenVibe // Биомедицинская радиоэлектроника. - 2025. - Т. 28. - № 3. - С. 15-30.
- Гудфеллоу Я., Иошуа Б., Курвилль А. Глубокое обучение. - Litres, 2017.
- Shafiq M., Gu Z. Deep residual learning for image recognition: A survey // Applied sciences. - 2022. - Т. 12. - №. 18. - С. 8972.
- Heuts S. et al. Bayesian analytical methods in cardiovascular clinical trials: why, when, and how // Canadian Journal of Cardiology. - 2025. - Т. 41. - №. 1. - С. 30-44.
- Li Q., Shao J. Sparse quadratic discriminant analysis for high dimensional data // Statistica Sinica. - 2015. - С. 457-473.
- Хайкин С. Нейронные сети: полный курс, Издательский дом "Вильямс" // Москва. - 2006. - Т. 1. - С. 104.
- Буре В.М., Парилина Е.М., Свиркин М.В. Теория вероятностей. - 2008.
- Miconi T. Hebbian learning with gradients: Hebbian convolutional neural networks with modern deep learning frameworks // arXiv preprint arXiv:2107.01729. - 2021.
- Siri B. et al. A mathematical analysis of the effects of Hebbian learning rules on the dynamics and structure of discrete-time random recurrent neural networks // Neural computation. - 2008. - Т. 20. - №. 12. - С. 2937-2966.
- Nawi N.M., Ransing M.R., Ransing R.S. An improved learning algorithm based on the Broyden-Fletcher-Goldfarb-Shanno (BFGS) method for back propagation neural networks // Sixth International Conference on Intelligent Systems Design and Applications. - IEEE, 2006. - Т. 1. - С. 152-157.
- Ashby W. Design for a brain: The origin of adaptive behaviour. - Springer Science & Business Media, 2013.
- Ji L. et al. An intelligent diagnostic method of ECG signal based on Markov transition field and a ResNet // Computer Methods and Programs in Biomedicine. - 2023. - Т. 242. - С. 107784.
- Simonyan K., Zisserman A. Very deep convolutional networks for large-scale image recognition // arXiv preprint arXiv:1409.1556. - 2014.
- Krizhevsky A., Sutskever I., Hinton G.E. Imagenet classification with deep convolutional neural networks // Advances in neural information processing systems. - 2012. - Т. 25.
- Ioffe S., Szegedy C. Batch normalization: Accelerating deep network training by reducing internal covariate shift // International conference on machine learning. - pmlr, 2015. - С. 448-456.
- Nguyen N., Han S. AET-SGD: Asynchronous Event-triggered Stochastic Gradient Descent // arXiv preprint arXiv:2112.13935. - 2021.
- Kingma D.P. Adam: A method for stochastic optimization // arXiv preprint arXiv:1412.6980. - 2014.
- Going deeper with convolutions | IEEE Conference Publication | IEEE Xplore. URL: https://ieeexplore.ieee.org/document/7298594 (дата обращения: 10.09.2025).
- Shepherd A.J. Second-order methods for neural networks: Fast and reliable training methods for multi-layer perceptrons. - Springer Science & Business Media, 2012.
- Smith J.S., Wu B., Wilamowski B.M. Neural network training with Levenberg-Marquardt and adaptable weight compression // IEEE transactions on neural networks and learning systems. - 2018. - Т. 30. - №. 2. - С. 580-587.
- Голубинский А.Н., Толстых А.А. Гибридный метод обучения сверточных нейронных сетей // Информатика и автоматизация. - 2021. - Т. 20. - №. 2. - С. 463-490.
- PyTorch. URL: https://pytorch.org/(дата обращения: 10.09.2025).