Отрывок: Увеличение функции потерь будет минимальным, если мы изменим только наименее важные веса. Следуя работе [8], мы назвали этот метод методом эластичной консолидации весов (МЭКВ). Для оценки изменения функции потерь, мы разложили ее в ряд Тейлора относительно весов нейросети. Для сети 𝐴, например, это разложение выглядит следующим образом: 𝐿𝐴(𝜽) ≈ 𝐿(𝜽𝐴) + � 𝜕𝐿𝜕𝜃𝑖�𝜃𝑖=𝜃𝐴,𝑖 �𝜃𝑖 − 𝜃𝐴,𝑖�𝑖 ...
Название : Проблема нейросетевых коммуникаций
Другие названия : The problem of neural networks communication
Авторы/Редакторы : Леонтьев, М.Ю.
Ислентьева, В.Ю.
Михеев, А.В.
Святов, К.В.
Сухов, С.В.
Leontev, M.Iu.
Islenteva, V.Iu.
Mikheev, A.V.
Sviatov, K.V.
Sukhov, S.V.
Дата публикации : Май-2019
Издательство : Новая техника
Библиографическое описание : Леонтьев М.Ю. Проблема нейросетевых коммуникаций / Леонтьев М.Ю., Ислентьева В.Ю., Михеев А.В., Святов К.В., Сухов С.В. // Сборник трудов ИТНТ-2019 [Текст]: V междунар. конф. и молодеж. шк. "Информ. технологии и нанотехнологии": 21-24 мая: в 4 т. / Самар. нац.-исслед. ун-т им. С. П. Королева (Самар. ун-т), Ин-т систем. обраб. изобр. РАН-фил. ФНИЦ "Кристаллография и фотоника" РАН; [под ред. В.А. Фурсова]. - Самара: Новая техника, 2019. – Т. 4: Науки о данных. - 2019. - С. 543-550.
Аннотация : Несмотря на успешное использование искусственных нейронных сетей (ИНС) для решения множества задач (прогнозирование, языковой перевод, распознавание изображений и голоса и т.д.), ИНС являются обособленными единицами неспособными к коммуникации и обмену какой-либо информацией. В то же время способность к коммуникации является критичной для дальнейшего развития методов искусственного интеллекта. В данной работе предложены и протестированы несколько методов коммуникации и переноса информации между ИНС. Методы не требуют наличия изначальных тренировочных данных и используют для обмена информацией только внутренние параметры сетей. Предложены как итеративные, так и неитеративные методы передачи информации. Разработанные методы показывают точность классификации на тестовых наборах данных, схожую с точностью, получаемой при использовании ансамблей нейронных сетей. In spite of successful application of artificial neural networks (ANNs) for the solution of multiple problems (forecasting, language translation, classification of images, voice recognition etc.), ANNs are still autonomous units incapable of communication or exchange of information. In the meantime, the ability to communicate for artificial neural networks is critical for further development of methods of artificial intelligence. In this work we propose and test several methods of communication and information exchange between ANNs. These methods do not require the presence of initial training data and use only internal parameters of ANNs to perform information exchange. We propose both iterative and non-iterative methods of communication. The developed methods show the classification accuracy similar to that provided by an ensemble of ANNs.
URI (Унифицированный идентификатор ресурса) : http://repo.ssau.ru/handle/Informacionnye-tehnologii-i-nanotehnologii/Problema-neirosetevyh-kommunikacii-75704
Другие идентификаторы : Dspace\SGAU\20190421\75704
Располагается в коллекциях: Информационные технологии и нанотехнологии

Файлы этого ресурса:
Файл Описание Размер Формат  
paper66.pdfОсновная статья467.87 kBAdobe PDFПросмотреть/Открыть



Все ресурсы в архиве электронных ресурсов защищены авторским правом, все права сохранены.