A model for constructing neural network systems for recognizing emotionsof text fragments

Abstract

Emotion Recognition in text is a crucial task in Natural Language Processing, particularly relevant given the exponential growth of textual data from social media and voice interfaces. However, developing effective emotion recognitionsystems for low-resource languages, such as Ukrainian, faces significant challenges, including linguistic informality, dialectal variations, and cultural specificities. This paper introduces a modular model (framework) for developing neural network-based tools for recognizing emotions in Ukrainian text fragments. The model encompasses a comprehensive data preprocessing pipeline, flexible architectural choices (including approaches based on Wordto Vector, Long Short-Term Memory, and Transformers), and rigorous validation using standard metrics and interpretability methods. As part of an experimental study, two prototypes wereimplemented and compared: a lightweight classifier based on FastText and a more powerful classifier based on pretrained RoBERTa-base, both trained to recognize seven basic emotions. The results demonstrate that RoBERTa-base achieves high accuracy, significantly outperforming FastText and a baseline translation-based approach, yet it demands substantially more computational resources for inference. The study underscores the importance of creating Ukrainian-language corpora to enhance recognition capabilities and highlights the critical trade-off between accuracy and efficiency. It provides practical recommendations for model selection based on resource constraints and performance requirements for emotion analysis tasks in the Ukrainian language.

Розпізнавання емоційного забарвлення тексту є ключовою задачею в обробці природної мови, особливо актуальною в умовах експоненційного зростання текстових даних із соціальних мереж та голосових інтерфейсів. Однак розробка ефективних системрозпізнавання емоційдля мов з обмеженими ресурсами, таких як українська, стикається зі значними викликами, включаючи неформальність мови, діалектні варіації та культурну специфіку. Ця робота представляє модульну модель (фреймворк) для побудови нейромережевих засобів розпізнавання емоцій у фрагментах україномовних текстів. Модель охоплює комплексний конвеєр препроцесингу даних, гнучкий вибір архітектури (включаючи підходи на основі Word2Vec, LSTM та Transformer), та ретельну валідацію з використанням стандартних метрик та методів інтерпретації. В рамках експериментального дослідження було реалізовано та порівняно два прототипи: легковаговий класифікатор на основі FastText та потужний класифікатор на основі RoBERTa-base, навчені розпізнавати сім базових емоцій. Результати демонструють, що RoBERTa-base досягає високої точності , значно перевершуючи FastText та базовий підхід з перекладом, але потребує суттєво більших обчислювальних ресурсів. Дослідження підкреслює критичний компроміс між точністю та ефективністю, надаючи практичні рекомендації щодо вибору моделі залежно від ресурсних обмежень та вимог до продуктивності для задач аналізу емоцій в українській мові.