ИСПОЛЬЗОВАНИЕ ГЕНЕРАТИВНЫХ АЛГОРИТМОВ ДЛЯ ФОРМИРОВАНИЯ ДОКУМЕНТОВ

Касымов Алексей Алексеевич, Максимов Юрий Максимович

В данной статье представлен краткий обзор последних моделей классификации текста с акцентом на поток данных, от необработанного текста до выходных меток. Подчеркиваются различия между более ранними методами и более поздними методами, основанными на глубоком обучении, как в их функционировании, так и в том, как они преобразуют входные данные. Чтобы дать лучшее представление о классификации текстов, предоставляется обзор наборов данных для языка, а также инструкции по синтезу двух новых наборов данных с несколькими метками. В конце описан обзор новых экспериментальных результатов и обсуждаем проблемы открытых исследований, связанные с языковыми моделями, основанными на глубоком обучении.

Ключевые слова:классификация текстов; токенизация; маркировка темы; классификация новостей; трансформатор; поверхностное обучение; глубокое обучение; многокомпонентные корпуса