| Title: | Cравнительный анализ тематического дрейфа в моделях LLaMA-3, дообученных на синтетических диалоговых данных |
| Authors: | Килбас И. А. Мигалин И. В. Парингер Р. А. |
| Keywords: | comparative analysis DiaSynth large language models LLaMA-3 model fine-tuning multi-turn dialogue SBERT synthetic data topic drift UltraChat большие языковые модели дообучение моделей многошаговый диалог синтетические данные сравнительный анализ тематический дрейф |
| Issue Date: | 2026 |
| Citation: | Мигалин, И. В. Cравнительный анализ тематического дрейфа в моделях LLaMA-3, дообученных на синтетических диалоговых данных = Comparative analysis of topic drift in LLaMA-3 models fine-tuned on synthetic dialogue data / И. В. Мигалин, И. А. Килбас, Р. А. Парингер // Volga Cyber Week : материалы Всерос. II молодеж. науч.-практ. конф. по информатике и кибернетике (Самара, 12-15 мая 2026 г.) / М-во науки и высш. образования Рос. Федерации, Самар. нац. исслед. ун-т им. С. П. Королева (Самар. ун-т) ; под общ. ред. А. В. Куприянова. - Самара : Изд-во Самар. ун-та, 2026. - С. 283-286. |
| Abstract: | В работе исследуется влияние методологии генерации синтетических обучающих данных на тематический дрейф в диалогах больших языковых моделей. Сравниваются две методологии генерации: пошаговый обмен репликами между двумя моделями (UltraChat) и одномоментная генерация всей структуры диалога с жестким ролевым шаблоном (DiaSynth). Оценка дообученной LLaMA-3-8B с помощью SBERT выявила идентичную динамику потери контекста: значения косинусного сходства составили 0,51 и 0,49 на 8-м шаге. Результаты подтверждают, что методология DiaSynth обеспечивает сопоставимую стабильность темы при меньших затратах по сравнению с ресурсозатратным методом пошагового взаимодействия моделей. |
| URI: | http://repo.ssau.ru/jspui/handle/123456789/64075 |
| ISBN: | |
| ISSN: | |
| ISMN: | |
| Other Identifiers: | RU\НТБ СГАУ\590075 |
| Appears in Collections: | VOLGA CYBER WEEK |
Files in This Item:
| File | Size | Format | |
|---|---|---|---|
| file-283-286.pdf | 1.28 MB | Adobe PDF | View/Open |
Items in Repository are protected by copyright, with all rights reserved, unless otherwise indicated.