АКТИВНОЕ ОБУЧЕНИЕ ДЛЯ КЛАССИФИКАЦИИ НАМЕРЕНИЙ В КОНТЕКСТНОМ ОБУЧЕНИИ БОЛЬШИХ ЯЗЫКОВЫХ МОДЕЛЕЙ

Дранга Даниил Игоревич

В современной обработке естественного языка большие языковые модели продемонстрировали высокую эффективность в различных задачах, включая классификацию намерений пользователя в диалоговых системах. Однако выбор оптимального набора примеров для контекстного обучения остается вызовом, особенно при ограниченном бюджете на разметку данных. В данной работе предлагается адаптированный алгоритм активного обучения для эффективного подбора примеров в контекстном обучении больших языковых моделей для задачи классификации намерений. Предложенный метод учитывает неопределенность модели и обеспечивает разнообразие выбранных примеров, способствуя улучшению точности классификации. Экспериментальные исследования показали, что разработанный подход превосходит альтернативные методы, обеспечивая более высокое качество классификации как для закрытых моделей (например, GPT-4), так и для открытых моделей, демонстрирующих хорошие результаты на русском языке (например, Gemma 2 27b).

Ключевые слова:активное обучение, контекстное обучение, большие языковые модели, классификация намерений, few-shot обучение, оценка неопределенности