3.2. Автоматическое назначение меток тем
Тематическое моделирование является одним из способов выявления скрытых тем в текстах, однако данный метод имеет существенный недостаток: с его помощью нельзя автоматически обобщить содержание темы документа, так как алгоритм в исходном виде не производит подбор меток тем и лишь упорядочивает слова внутри темы по вероятностям и присваивает каждой теме номер. Сам пользователь имеет возможность вручную обобщить темы, однако исследователи в области тематического моделирования не раз предпринимали попытки разработать процедуру автоматического назначения меток тем. Автоматический метод помогает сэкономить время на ручной ввод и облегчить интерпретацию данных. Одна из первых работ по автоматическому назначению меток тем появилась в 2007 г. [Mei, Shen, Zhai, 2007]. Проблема определения тем формулируется как присваивание семантических помет данному множеству слов. Хорошая семантическая метка должна полностью охватывать тему. Исследователи предложили два метода: извлечение фраз и получение n-грамм. Преимущество первого метода заключается в том, что полученные фразы уже содержат в себе грамматическую и осмысленную цельнооформленность, а преимуществом второго метода является независимость от обучаемой области, однако с точки зрения лингвистики они не всегда могут быть семантически целостными, а их грамматическая составляющая может быть нарушена (например, в результате лемматизации элементы n-грамм теряют исходные согласовательные связи).  Ранжирование кандидатов происходило с помощью релевантности нулевого порядка, которая предполагает выбор метки с наибольшим весом, определяемым по формуле: Score=logp(l|θ)p(l)= 0≤i≤mlogp(ui|θ)p(ui)∙                                 (5) В этой формуле l – кандидат в метку темы, θ – множество слов, образующих тему, ui – i слово в теме. Через два года была предпринята попытка улучшить качество получаемых меток. В статье [Magatti, Calegari, Ciucci, 2009] возможные кандидаты отражались в дереве тем (Topics Tree). Для работы с деревом был использован сервис Google Directory, каждый узел дерева – это метка-концепт. Последующее ранжирование производилось с помощью пяти различных метрик схожести: косинус, коэффициент Шимкевича-Симпсона («показатель родового сходства»), мера Жаккара, коэффициент Танимото и матрица взаимного сходства. Если большинство метрик выбирали одну метку как истинную тему, то она просто присваивается. При отрицательном результате подключались семантические анализаторы. Одна из основополагающих работ появилась в 2011 г. [Lau, Grieser, Newman, 2011]. Информация о кандидатах в метки была взята из внешних источников – электронного справочного ресурса Wikipedia на английском языке и с сайтов, которые были выданы информационно-поисковой системой (ИПС) Google. Для проверки взаимосвязанности кандидатов и совокупности тематических слов и дальнейшего ранжирования использовались такие статистические метрики, как критерий Стьюдента, критерий 𝝌² Пирсона, функция правдоподобия и т.д. В [Aletras, Stevenson, 2013] для решения задачи автоматического именования авторы пытаются извлечь метки из изображений, отвлекаясь от субъективных текстовых материалов. По мнению исследователей, данный метод имеет преимущество по сравнению со статистическими методами, так как изображения не зависят от языка. Из пяти тематических слов составляется запрос в ИПС Google и извлекаются первые 20 изображений. Из них извлекается текстовая информация и визуальная информация, в результате чего формируется визуальный мешок слов (bag-of-visual words, BOVW).  Процесс ранжирования меток также заключается в виде построения графа, узлы которого – изображения. Алгоритм PageRank ранжирует изображения с точки зрения близости к множеству тематических слов. Для взвешивания рёбер графа авторы прибегают к методу точечной взаимной информации, семантическому анализу, а также к визуальным особенностям изображения. В последнее десятилетие учёные стали чаще прибегать к нейросетевым алгоритмам. Компания Google представила нейронный машинный перевод. Практически в это же время появились и первые попытки адаптировать нейронный сети под процесс автоматического наименования тем. В [Bhatia, Lau, Baldwin, 2016] авторы модифицируют метод, описанный в [Lau, Grieser, Newman, 2011], и создают векторные представления (word2vec, doc2vec), чтобы извлечь из статей Wikipedia возможных кандидатов. Для ранжирования и выбора метки с помощью заранее размеченных вручную текстов и кандидатов была обучена машина опорных векторов, которая извлекает наилучший вариант. В [Mehdi, Seyedamin, Kochut, 2017] был предложен способ назначения меток в тем с использованием онтологий, а процесс ранжирования опирался на иерархию меток-концептов в самой онтологии. Среди отечественных лингвистов также проводились эксперименты по автоматическому наименованию тем на русскоязычном материале. В [Ерофеева, Митрофанова, 2019] приводятся этапы работы по созданию выбора метки для множества слов и оценки результатов. Сама процедура включает извлечение кандидатов в метки тем с использованием морфологических фильтров и алгоритма PageRank и ранжированием полученных кандидатов. В [Kriukova, Erofeeva, Mitrofanova, 2018; Mirzagitova, Mitrofanova, 2016] были представлены два алгоритма, названных Labels-ESA и Labels-Y. Labels-Y назначает метки в результате выдачи запросов ИПС Yandex, а Labels-ESA отбирает метки тем из заголовков статей русскоязычного сегмента «Википедии» с помощью алгоритма ESA (Explicit semantic analysis). В работе [Mitrofanova, Sampetova, Mamaev, 2020] предлагается извлекать метки из тем с помощью дистрибутивных моделей, а также с помощью внешних источников для извлечения родо-видовых отношений. Поскольку опыты проводились на русскоязычной сети Пикабу, то эталоном для сравнения меток являлись предварительно обработанные пользовательские хэштеги. Извлечение родо-видовых связей было также описано в [Tikhomirov, Loukachevitch, Parkhomenko, 2020; Yadrintsev, Ryzhova, Sochenkov, 2020; Arefyev, Fedoseev, Kabanov, 2020]: для этого привлекались алгоритмы word2vec, нейронная сеть Bert, а также русскоязычный онлайн-ресурс Wiktionary. Авторы отмечают, что применение этих методов позволяет улучшить интерпретируемость неразмеченного корпуса текстов Опираясь на вышеизложенные теоретические описания, можно сделать вывод, что все существующие алгоритмы делятся на два типа: алгоритмы, работающие с внешними источниками (информационно-поисковые системы, справочные ресурсы и пр.), и алгоритмы, работающие с внутренними источниками (сам корпус). Комбинация полученных меток из разных источников позволит улучшить интерпретируемость темы. 
В статье рассматривается проблема автоматического наименования тем в русскоязычных текстах. Описываются существующие методы и алгоритмы, которые могут быть использованы для решения данной задачи. Особое внимание уделяется нейросетевым алгоритмам, которые могут быть адаптированы для работы с русскоязычным контентом.