Выбор и настройка больших языковых моделей для классификации текстов социальных медиа

Abstract

В статье рассматривается задача классификации текстов социальных медиа с применением больших языковых моделей (LLM). Изучены различные методы классификации, включая традиционные модели, такие как CNN, LSTM, GRU, а также современные подходы с использованием LLM. Рассмотрены проблемы дисбаланса классов данных и методы их решения, включая SMOTE и генерации/классификации данных с помощью LLM. В ходе исследования проводился анализ влияния различных параметров моделей на качество классификации текстов. Также в работе представлены результаты экспериментов по классификации текстовых данных, извлеченных из комментариев к тематическим видео русскоязычного YouTube, основанием для которого стало наличие в тексте мотивации бросать/не бросать курить.