Title: Cравнительный анализ тематического дрейфа в моделях LLaMA-3, дообученных на синтетических диалоговых данных
Authors: Килбас И. А.
Мигалин И. В.
Парингер Р. А.
Keywords: comparative analysis
DiaSynth
large language models
LLaMA-3
model fine-tuning
multi-turn dialogue
SBERT
synthetic data
topic drift
UltraChat
большие языковые модели
дообучение моделей
многошаговый диалог
синтетические данные
сравнительный анализ
тематический дрейф
Issue Date: 2026
Citation: Мигалин, И. В. Cравнительный анализ тематического дрейфа в моделях LLaMA-3, дообученных на синтетических диалоговых данных = Comparative analysis of topic drift in LLaMA-3 models fine-tuned on synthetic dialogue data / И. В. Мигалин, И. А. Килбас, Р. А. Парингер // Volga Cyber Week : материалы Всерос. II молодеж. науч.-практ. конф. по информатике и кибернетике (Самара, 12-15 мая 2026 г.) / М-во науки и высш. образования Рос. Федерации, Самар. нац. исслед. ун-т им. С. П. Королева (Самар. ун-т) ; под общ. ред. А. В. Куприянова. - Самара : Изд-во Самар. ун-та, 2026. - С. 283-286.
Abstract: В работе исследуется влияние методологии генерации синтетических обучающих данных на тематический дрейф в диалогах больших языковых моделей. Сравниваются две методологии генерации: пошаговый обмен репликами между двумя моделями (UltraChat) и одномоментная генерация всей структуры диалога с жестким ролевым шаблоном (DiaSynth). Оценка дообученной LLaMA-3-8B с помощью SBERT выявила идентичную динамику потери контекста: значения косинусного сходства составили 0,51 и 0,49 на 8-м шаге. Результаты подтверждают, что методология DiaSynth обеспечивает сопоставимую стабильность темы при меньших затратах по сравнению с ресурсозатратным методом пошагового взаимодействия моделей.
URI: http://repo.ssau.ru/jspui/handle/123456789/64075
ISBN: 
ISSN: 
ISMN: 
Other Identifiers: RU\НТБ СГАУ\590075
Appears in Collections:VOLGA CYBER WEEK

Files in This Item:
File SizeFormat 
file-283-286.pdf1.28 MBAdobe PDFView/Open


Items in Repository are protected by copyright, with all rights reserved, unless otherwise indicated.