Вычисление степени уверенности предсказания нейронной сети

Abstract

При работе с глубокими нейронными сетями зачастую возникает необходимость анализа уверенности сделанного моделью предсказания. В частности, данная задача имеет высокую значимость при анализе изображений, поскольку некоторые классы, соответствующие изображению, поданному на вход модели, могут отсутствовать в обучающей выборке. В таких случаях модель возвращает заведомо некорректный результат. В данной работе предлагается решение описанной проблемы при помощи специальной архитектуры нейронной сети, позволяющей совместно с предсказанием возвращать и степень уверенности в данном предсказании. Также данная архитектура позволит автоматизировать процесс анализа медицинских данных. В случае низкой уверенности в ответе сети на входном изображении, данное изображение направляется на рассмотрение специалисту и, возможно, попадает в дообучающую выборку. Помимо прочего, предлагаемый подход возможно использовать для поиска аномалий в анализируемых данных. Often there is a need for an analysis of the confidence made by the neural model. This problem is of high importance in the analysis of images, because the classes of images supplied to the network may be absent in the training set and be perceived by the network, with a deliberately incorrect answer. The solution of such a problem is considered in this work with the help of a special neural network architecture, which allows, together with the prediction, to return a degree of confidence in this prediction. Also, this approach allows semi-automating the process of diagnostics and recommendations to a medical specialist on the medical data under consideration. In the case of an uncertain response from the network, the processed example is submitted to a specialist for review and goes to the pre-training sample. Also with the help of this approach, we can screen anomalies in the analyzed data.