Развитие импульсных нейросетей открывает возможность для внедрения онлайн-обучения моделей, в частности, для классификации текстовой информации. Целью работы является анализ возможности и определение ограничений онлайн-обучения, базирующегося на правиле Хебба, для модели на основе импульсных нейронов на примере задачи классификации текста. В статье описываются изменения в жизненном цикле модели нейросети с импульсными нейронами по сравнению с таковым у обычных нейросетей при внедрении использования онлайн-обучения (обучения в процессе эксплуатации). Также приводятся результаты сравнения ключевых метрик при классификации текстов для классической нейросети и импульсной нейросети, обученной методом STDP. Использование методов онлайн-обучения модели, основанных на правиле Хебба, в импульсных моделях нейросетей потенциально способно сократить трудозатраты на обучение и поддержку модели ИИ, поскольку обучение в таком случае будет происходить в процессе эксплуатации.
< ... >
The aim of paper is to analyze the possibilities and limitations of online learning based on the Hebbian rule for a spiking neuron-based model using the example of text classification. The article describes changes in the lifecycle of a spiking neural network model compared to conventional neural networks when implementing online learning (learning during operation). It also presents the results of comparing key metrics for text classification between a classical neural network and a spiking neural network trained using the Spike-Timing-Dependent Plasticity (STDP) method. The use of online learning methods based on the Hebbian rule in spiking neural network models has the potential to reduce the labor costs for training and maintaining AI models, as training in such cases will occur during operation.
Keywords:
artificial neural networks (ANN), spiking neural networks (SNN), Hebbian rule, STDP, text classification, lifecycle
Полную версию статьи смотрите на страницах журнала «Защита информации. Инсайд»
