О многоклассовой классификации слов рекуррентной нейронной сетью с памятью (LSTM) применительно к задаче распознавания именованных сущностей

Abstract

В работе исследуются вопросы обучения нейронных сетей с обратным распространением ошибки распознаванию именованных сущностей при использовании многослойных архитектур нейронных сетей и различных признаковых пространств, образованных на символьных цепочках. В статье приводятся результаты экспериментов, показывающих зависимость прогностических свойств от пересечения множества именованных сущностей между обучающим и тестовым набором при стандартной постановке задачи поиска именованных сущностей. Также предлагается способ улучшения прогностических свойств моделей для обнаружения именованных сущностей, ранее не предъявленных при обучении. The paper addresses the issues of training back propagation neural networks for recognition of named entities using multilayer architectures and various feature spaces formed on symbolic chains. The article presents the results of experiments showing the dependence of predictive properties on the intersection of a set of named entities between the training and test set in the standard formulation of the named entity search problem. We also propose a way to improve the predictive properties of models for detecting named entities that were not previously presented during training.