Текстовый анализ новостей в применении к прогнозированию банкротства компаний

Размещено на http://www.allbest.ru/

3

Размещено на http://www.allbest.ru/

1

ПРАВИТЕЛЬСТВО РОССИЙСКОЙ ФЕДЕРАЦИИ

ФЕДЕРАЛЬНОЕ ГОСУДАРСТВЕННОЕ АВТОНОМНОЕ ОБРАЗОВАТЕЛЬНОЕ УЧРЕЖДЕНИЕ ВЫСШЕГО ОБРАЗОВАНИЯ

«НАУЧНО-ИССЛЕДОВАТЕЛЬСКИЙ УНИВЕРСИТЕТ

«ВЫСШАЯ ШКОЛА ЭКОНОМИКИ»

ФАКУЛЬТЕТ ЭКОНОМИЧЕСКИХ НАУК

Образовательная программа «Экономика»

ВЫПУСКНАЯ КВАЛИФИКАЦИОННАЯ РАБОТА

По направлению подготовки 38.03.01 «Экономика»

На тему:

ТЕКСТОВЫЙ АНАЛИЗ НОВОСТЕЙ В ПРИМЕНЕНИИ К ПРОГНОЗИРОВАНИЮ БАНКРОТСТВА КОМПАНИЙ

Выполнил:

Студент 4 курса бакалавриата группы БЭК151

Ишутин Сергей Александрович

Рецензент: Доцент, к.э.н.

Степанова Анастасия Николаевна

Научный руководитель: Профессор, д.э.н.

Федорова Елена Анатольевна

Москва 2019



Данная работа охватывает четыре модели прогнозирования банкротства компаний: логистическая регрессия, многослойный персептрон, метод опорных векторов и случайный лес. Основной ее целью является проверка применимости текстового анализа новостей к повышению точности моделей предсказания банкротства. В конечную спецификацию моделей вошло 17 финансовых,4 рыночных и 3 макроэкономических фактора, а также несколько наборов переменных тональности, извлеченных с помощью метода мешка слов из корпуса заголовков новостей, предоставленного Thomson Reuters. При этом были использован гарвардский словарь тональности, словарь NRC и финансовый словарь Loughran&McDonald. Все четыре модели сравниваются друг с другом с учетом и без учета переменных тональности на разных горизонтах предсказания. Выборка фирм-банкротов, предоставленная UCLA-LoPucki BRD, состоит из 137 крупных публичных американских фирм, объявивших себя банкротами между 2011 и 2018 годами включительно, к которым были подобраны их финансово стабильные аналоги, случайно выбранные из листингов NYSE и NASDAQ. Выдвинутые гипотезы подтвердились частично. Лучшим словарем тональности оказался словарь L&M, а лучшей моделью - многослойный персептрон. Достигнутую точность предсказания в90-95% на однолетнем горизонте удалось повысить за счет переменных тональности лишь незначительно и не во всех случаях.

Ключевые слова: прогнозирование банкротства, текстовый анализ, анализ тональности, логит, нейронная сеть, опорные вектора, случайный лес

This study encompasses four models of corporate default prediction: logit regression, multilayer perceptron, support-vector machine, and random forest.Its main purpose is to determine whether textual analysis of news can be successfully applied to bankruptcy prediction models so as to improve their accuracy. The predictor set consisted of 17 financial, 4 market, and 3 macroeconomic variables. In addition, a number of sets of sentiment variables derived from news headliners database provided by Thomson Reuters was introduced.Word lists of Harvard GI, NRC, and Loughran & McDonald's were used. All four models are tested against each other, with and without textual factors, on different prediction horizons. The sample of bankrupt firms was provided by UCLA-LoPucki BRD. It consists of 137large-sized public US firms that filed bankruptcy between 2011 and 2018 inclusively, to which financially stable counterparts randomly drawn from NYSE and NASDAQ listings were added. Study resultsconfirmed the raised hypotheses only partially. L&M dictionary was found to be the most effective, while the most accurate model of prediction was the MLP. The accuracy scores of 90-95% achieved on one-year horizon were only slightly and occasionally improved after introduction of sentiment variables.

Keywords: bankruptcy prediction, textual analysis, sentiment analysis, logit, neural network, support-vector machine, random forest

логистическая регрессия персептрон новости банкротство



Содержание

• 1. Введение
• 2. Проблематика прогнозирования банкротства
• 2.1 Детерминанты вероятности банкротства
• 2.2 Гипотезы исследования
• 3. Обзор моделей прогнозирования банкротства
• 3.1 Линейные подходы
• 3.2 Нелинейные подходы
• 3.3 Текстовый анализ
• 4. Методология исследования
• 4.1 Работа с текстом
• 4.2 Моделирование
• 5. Описание данных
• 6. Результаты исследования
• 6.1 Выбор нетекстовых факторов и словаря
• 6.2 Обучение и тестирование моделей
• 7. Заключение
• 8. Список литературы
• 9. Приложения
• 9.1 Приложение А. Данные по нетекстовым факторам
• 9.2 Приложение Б. Данные по текстовым факторам
• 9.3 Приложение В. Значимость и выбор факторов
• 9.4 Приложение Г. Результаты обучения моделей
• 9.5 Приложение Д. Листинг
• 9.6 Приложение Е. Состав выборок

1. Введение

В современной экономике, развивающейся в условиях финансовой глобализации и возрастающего влияния финансового сектора, трудно отыскать отрасль или характер взаимодействий между агентами, где не существует кредитного риска в том или ином его виде. Даже если некоторый агент не вступает ни в какие долговые отношения, ассоциированные с ним денежные потоки все равно так или иначе интегрированы в экономику страны и мира - а ее благосостояние напрямую зависит от платежеспособности системообразующих игроков, особенно в банковской сфере, не говоря уже о государстве как таковом. Понимание причин, ведущих к потере агентом финансовой стабильности и невозможности для него исполнить свои обязательства, позволяет снизить неопределенность и сделать кредитный риск квантифицируемым и управляемым. Это особенно важно во время рецессии или экономической нестабильности, когда запрос на средства снижения неопределенности особенно велик (Martin, 1977).

Действительно, по крайней мере с 60-х годов исследователи стремились отыскать наиболее точную и надежную модель предсказания финансовой нестабильности фирмы, которая позволила бы улучшить корпоративный риск-менеджмент, разработать эффективные нормы регулирования финансового и банковского сектора, предоставить возможности для более разумных инвестиционных решений(Altman, 1993). Как правило, целью исследований в данной области является либо экономический или статистический анализ взаимоотношений между вероятностью банкротства фирмы и некоторыми объясняющими переменными, и тогда их значимость является в первую очередь научной, либо разработка моделей раннего предупреждения (earlywarningmodel), которые позволили бы риск-менеджерам компаний на практике оценить их финансовую стабильность и понять, с какими показателями следует работать ради ее повышения. На данный момент толькоосновных типов моделей предсказания банкротства существует около десятка, причем многие из них могут демонстрировать точность, превышающую 80-90% (Adnan Aziz & Dar, 2006), однако разные модели показывают лучшие результаты в разных условиях и вопрос нахождения оптимальной универсальной модели еще не закрыт.

Основным трендом развития данной области исследований является нахождение и использование новых источников информации с целью повышения предсказательной силы моделей: от финансовых коэффициентов, содержащихся в отчетности компаний, до рыночных факторов, извлекаемых из динамики цен акций, и макроэкономических показателей. На данный момент одним из наиболее перспективных и не исчерпанных источников информации можно назвать текстовые данные, полученные из материалов раскрытия корпоративной информации, потоков новостей и даже сообщений в социальных сетях (Guo, Shi, & Tu, 2017). Анализ тональности новостей успешно применяется для предсказания финансовых показателейи(Hajek, Olej, & Myskova, 2014) динамики цен акций(Mai, Tian, Lee, & Ma, 2018), однако на момент написания данного исследования было опубликовано очень небольшое число статей, прилагающих его к предсказанию банкротства.

Основной целью данной работы, проистекающей из вышеприведенных соображений, является проверка предположения о том, что добавление объясняющих переменных тональности, полученных путем текстового анализа новостных сообщений, в спецификацию существующих моделей предсказания вероятности банкротства компании может повысить их предсказательную силу. Соответственно, объектом данной работы является феномен корпоративного дефолта, а предметом - методы предсказания его вероятности с использованием информации, полученной посредством анализа текстовых данных. Задачи исследования подробно описываются в разделе методологии.

Методологической основой данной работы являются три описанных в литературе метода машинного обучения и две модели бинарного выбора, которые используются в качестве бенчмарков.Для извлечения переменных тональности из текста используется метод мешок слов(Loughran & McDonald, 2016), который нуждается в заранее заданном словаре тональностей. Общепринятым в финансовых исследованиях является словарь Loughran &McDonald, однако в силу того, что характер данных не является чисто финансовым, оправдано использование некоторых других популярных словарей: гарвардского словаря GI и словаря NRC. С помощью бенчмарк-модели среди них выбирается лучший словарь и далее исключительно используется во всех других моделях.

Научная значимость данной работы обусловлена, с одной стороны, предоставлением новой и перспективной точки приложения текстового анализа и введением в методологию предсказания банкротства нового источника информации. Действительно, хотя анализ новостей уже был успешно применен в финансах, например, в работе (Heston & Sinha, 2016), его использование для предсказания банкротства - новая и актуальная идея, в то время как иные источники текстовой информации уже исследованы(Mai et al., 2018). Практическая значимость исследования заключаетсяв нахождении модели предсказания финансовой нестабильности, обладающей наибольшей предсказательной силой среди выбранных моделей на данной выборке.

Основная часть данной работы состоит из пяти разделов. Во втором разделе осуществляется постановка проблематики банкротства, изучается экономический смысл взаимосвязей между вероятностью банкротства и внешними и внутренними факторами по их категориям, а также приводятся и обосновываются гипотезы исследования. В третьем разделе приводится обзор литературы по эмпирическим исследованиям и классификация различных подходов и моделей предсказания банкротства. В четвертом разделе ставятся задачи исследования и описывается его методология. В пятом разделе приводится описание использованной выборки компаний и объясняющих переменных. Шестой раздел содержит результаты исследования по анализу данных и обработке текста, нахождению лучшего словаря, обучению и сравнению всех моделей.

2. Проблематика прогнозирования банкротства

Банкротство компании - в общем случае, ее неспособность выполнить свои финансовые обязательства перед кредиторами. По поводу конкретного определения данного явления, однако, консенсуса среди исследователей не существует.Можно выделить, по крайней мере, три варианта:

(1) Технический дефолт - еще в статье (Beaver, 1966)было замечено, что невыполнение фирмой любого своего обязательства, будь то перед кредиторами, держателям облигаций или привилегированными акционерами, может считаться банкротством вне зависимости от юридических последствий.

(2) Легальное банкротство - банкротство как состояние, в котором пребывает фирма во время и после соответствующей юридической процедуры, причем в некоторых случаях она может считаться банкротом сразу после ее начала, а в некоторых других - только после ее завершения(Shumway, 2001).

(3) Финансовая нестабильность - экономическое состояние фирмы, выражающееся, как правило, в падении некоторых финансовых коэффициентов ниже заданного исследователем порога, вследствие чего, как предполагается, неизбежен запуск процедуры банкротства в ближайшем будущем(Nick Wilson & Hernandez, 2013).

Различия между этими явлениями, впрочем, не так часто осмыслялись в литературе, существенно не влияя на практическую ценность полученных результатов(Martin, 1977). В данном исследовании, в соответствии с наиболее распространенным подходом(Altman, 1993), банкротство, дефолт и финансовая нестабильность (bankruptcy, defaultи financialdistress, соответственно), понимаются как одно и то же явление, а именно объявление компанией банкротства согласно 7-й или 11-й главе соответствующего Кодекса США с последующей ликвидацией или реструктуризацией фирмы. Из этого также следует, что выбытие фирмы из генеральной совокупности по иным причинам в нем никак не затрагивается, хотя успешные попытки предсказать вероятность событий такого рода с помощью того же инструментария имеют место(Duan, Sun, & Wang, 2012). Все такие фирмы, выбывшие за период исследования, в выборку не вошли.

Так или иначе, прогнозирование банкротства - это либо оценка его вероятности для некоторой компании или выборки компаний в течение определенного периода времени(Duan et al., 2012), либо решение задачи о разделении выборки компаний на класс банкротов и класс небанкротов(Salchenberger, Cinar, & Lash, 1992), либо, в случае более ранних исследований, качественная оценка шансов банкротства компании (Altman, 1968) с использованием некоторой шкалы. Для выполнения этих задач в литературе применяются разнообразные алгоритмы, которые можно разбить на две основные группы:

(1) Теоретические (априорные) методы - те, что подразумевают выведение явным образом вероятности банкротства или некой ее прокси-переменной из строгой экономической модели, основанной на некоторых предпосылках. Такие модели, как правило, не требуют обучения и имеют заранее известную спецификацию. Следует упомянутьтри группы таких методов:

a. Группа подходов, основанных на модели ценообразования опционов Блэка-Шоулза, первый из которых был представлен в работе(Merton, 1974), гдебыла предложена оценка вероятности банкротства компании, вычисленная как мера риска по европейскому опциону callна всю сумму долга компании.

b. Модели, основанные на решении задачи о разорении игрока (gambler'sruintheory), которая была описана еще в работе (Feller, 1970).

c. Модели, основанные на теории об оптимальной структуре капитала, которая применяется, например, в статье(Scott, 1976).

(2) Эмпирические (апостериорные) методы- те, что подразумевают использование статистических моделей для регрессионной оценки вероятности банкротства или методов машинного обучения для осуществления бинарной классификации. При этом, как правило, используется набор объясняющих переменных, подобранный вручную или с помощью специальных алгоритмов так, чтобы постфактум максимизировать предсказательную силу модели.

В конце концов, теоретические модели не завоевали большой популярности - возможно, из-за своих нереалистичных предпосылок. Как подчеркивается в(Scott, 1981). теоретическое исследование проблематики банкротства неизбежно оказывается зависимым от результатов эмпирических изысканий, и в большинстве статей, содержащих какую-то теоретическую интерпретацию проблемы банкротства, само исследование на нее не полагается. Более того, эти результаты зачастую используются для объяснения аномалий, наблюдаемых в смежных областях, таких как предсказание доходности акций в рамках CAPM(Campbell, Hilscher, & Szilagyu, 2008).

В свою очередь, теоретическое осмысление текстового анализа, как правило, связано с исследованием иррационального поведения агентов, что объясняется, например, в статье(F. Li, 2011). Так, материалы раскрытия корпоративной информации могут нести в себе указания на всевозможные поведенческие паттерны менеджмента, свойственные более или менее финансово благоприятным ситуациям. Игроки на финансовом рынке могут как воспринимать эти сигналы верно, так и формировать, сознательно или бессознательно, ту или иную необоснованную предвзятость по отношению к компании, что может стать причиной возникновения аномалий в динамике цен акций, необъяснимых в рамках фундаментального анализа. Анализ тональности, однако, оказывается способным извлечь данную предвзятость из тональности текстов(Kearney & Liu, 2014)и объяснить, откуда у инвесторов берутся представления, не основанные на численных данных. Новости, возможно, при этом играют еще большую роль, нежели корпоративная отчетность (L. Chen, Wang, Deng, Xie, & Li, 2014), являясь одним из основных источников формирования настроения у инвесторов касательно тех или иных компаний и ценных бумаг.

В следующих разделах данной работы будут описываться и применяться только эмпирические модели предсказания банкротства. Их проблематика заключается, в основном, в двух задачах: нахождение оптимального набора факторов - объясняющих переменных, содержащих как можно больше информации о вероятности дефолта, и выбор алгоритма, позволяющего извлечь как можно больше информации из этих переменных и тем самым достичь максимальной точности предсказания.

2.1. Детерминанты вероятности банкротства

Так как эмпирические модели не обладают строго заданной спецификацией, их применение неразрывно связано с поиском оптимального набора объясняющих переменных, который позволил бы максимизировать их предсказательную силу. Этот поиск также мотивирован стремлением понять экономические механизмы, ведущие к ослаблению финансовой стабильности фирмы и выраженные в изменении тех или иных внутренних или внешних показателей. Агрегируя накопленную к данному моменту литературу, можно выделить следующие категории факторов, обыкновенно значимых при предсказании корпоративного дефолта:

(1) Финансовые - извлекаются из финансовой отчетности компании и обычнопредставляют собой различные соотношения между элементами баланса или ОФР, описывая функционирование компании изнутри.

Примеры: D/E, DSCR, EBITDA/Revenue, ROE, log(Total assets)

(2) Рыночные - имеют дело с данными, полученными с фондового рынка, такими как цена и доходность акции за определенный период времени, а также соотношениями этих показателей с бухгалтерскими.

Примеры: полная и дивидендная доходность, P/B, P/E, доля в капитализации индекса

(3) Макроэкономические - описывают экономическую конъюнктуру, в которой существует компания и которая по-разному в разное время может влиять на ее финансовую стабильность, что особенно важно при анализе временных рядов и панельных данных.

Примеры: инфляция, рост ВВП, безрисковая ставка

(4) Корпоративногоуправления- предоставляют некоторую информацию о внутренней среде компании, эффективности работы ее сотрудников и менеджмента.

Примеры: число сотрудников, производительность труда, доля менеджеров среди сотрудников, доля женщин в совете директоров

(5) Качественные - прочие факторы, выражающиеся, как правило, с помощью категориальных и фиктивных переменных.

Примеры: год, страна, сектор, размер, структура собственности

Отдельно следует упомянуть факторы, предоставляемые текстовым анализом, которые по своей природе являются, как правило, качественными, однако имеют простое численное выражение. Ими могут являться (1) читаемость текста, которая, как оказывается, может быть использована для объяснения финансовых показатель фирмы(You & Zhang, 2009), (2) наличие в тексте ключевых фраз (F. Li, 2008), и (3) настроение инвесторов, в качестве прокси-переменной для которого служит настроение или тональность новостных сообщений, статей или материалов раскрытия корпоративной информации (Loughran & McDonald, 2016).

Помимо того, наиболее интересны представители обширной первой категории, простота вычисления которых сопряжена с обыкновенно высокой корреляцией с объясняемой переменной. Обоснование использования конкретных финансовых переменных при предсказании банкротств неоднократно приводилось еще в эпоху одномерного дискриминантного анализа(Beaver, 1968);вместе с появлением МДА, однако, возникли различные подходы ких классификации и экономической интерпретации.



Таблица 1. Классификации финансовых факторов

Источник	Категории	Пример
(Courtis, 1978)	Прибыльность (profitability)	ROE
	Продуктивность (managerial performance)	Retained earnings/Net income
	Платежеспособность (solvency)	DSCR
(Salchenberger, 1992)	Структура капитала (capital adequacy)	Net worth/Total assets
	Качество активов (asset quality)	Real estate owned/Total assets
	Продуктивность (management efficiency)	Net margin
	Рентабельность (earnings quality)	ROA
	Ликвидность (liquidity)	Liquid assets/Total assets
(Altman, 2007)	Финансовый рычаг (leverage)	Short-term debt/Equity
	Ликвидность (liquidity)	Cash/Total assets
	Прибыльность (profitability)	EBITDA/Total assets
	Покрытие (coverage)	Retained earnings/Total assets
	Активность (activity)	EBITDA/Interest expenses

Основываясь на существующих исследованиях и экономической интуиции, можно привести следующую интерпретацию влияния различных финансовых коэффициентов на вероятность банкротства компании:

(1) Финансовый рычаг- это степень закредитованности фирмы, порождающая долговое бремя большей или меньшей тяжести по отношению к бизнесу в целом, неадекватность которого является первопричиной дефолта. Предполагаемая корреляция с вероятностью банкротства: положительная.

Примеры: отношение долга к активам и к собственному капиталу

(2) Платежеспособность- это возможность фирмы финансировать выплату процентов по долгу и тела долга за счет своих собственных средств, что является основополагающим фактором недопущения банкротства в каждом отчетном периоде. Выражается в отношении свободного денежного потока к стоимости обслуживания долга за рассматриваемый период. Предполагаемая корреляция с вероятностью банкротства: отрицательная.

Примеры: коэффициенты покрытия процентов и обслуживания долга

(3) Ликвидность- это мера относительного объема активов, которые могут быть быстро обращены в денежные средства в случае, если текущего денежного потока, получаемого от операционной активности становится недостаточно для выплаты долга. Достаточная ликвидность поддерживает платежеспособность. Предполагаемая корреляция с вероятностью банкротства: отрицательная.

Примеры: коэффициенты текущей, быстрой и наличной ликвидности

(4) Прибыльность-это способность фирмы использовать свой капитал и активы для генерации выручки, а также способность извлекать чистую прибыль из выручки.Достаточная прибыльность поддерживает постоянное наличие запаса денежных средств и других ликвидных активов. Предполагаемая корреляция с вероятностью банкротства: отрицательная.

Примеры: рентабельность капитала и активов, операционная и чистая рентабельность

(5) Продуктивность- это мера эффективности бизнес-процессов фирмы и скорости протекания ее производственных циклов. Обеспечивает достаточную прибыльность. Предполагаемая корреляция с вероятностью банкротства: отрицательная.

Примеры: оборачиваемость запасов и оборотного капитала, доля оборотного капитала в активах

(6) Размер - величина бизнеса компании, которая непосредственно влияет как на норму прибыли, так и на финансовую устойчивость: согласно общеизвестным эмпирическим наблюдениям, маленькие и молодые компании склонны иметь более высокую маржинальность, но и меньшую устойчивость. Предполагаемая корреляция с вероятностью банкротства: отрицательная.

Примеры: активы, выручка (обычно под логарифмом)

Полный список финансовых и нефинансовых факторов, рассмотренных для ознакомления, приведен в Приложении 5.Частота использования конкретных финансовых факторов в литературе была изучена в таких исследованиях, как (Bellovary, Giacomino, & Akers, 2007) и(Dimitras, Zanakis, & Zopounidis, 1996). Проблематика включения нефинансовых факторов была рассмотрена, например, в статьях(Altman, Sabato, & Wilson, 2010) по отношению к макроэкономическим переменным;(Campbell et al., 2008)и(N Wilson & Altanlar, 2014)по отношению к рыночным;(Rees & Maddala, 1985) по отношению к качественным. Переменные, описывающие генерируемые фирмой денежные потоки, были детально исследованы в работе(Aziz & Lawson, 1989).

2.2. Гипотезы исследования

Ожидается, что результаты исследования подтвердят ряд предположений, каждое из которых основана на существующей литературе. В тех или иных условиях схожие предположения уже были исследованы, однако они остаются актуальными относительно текстового анализа в применении к предсказанию банкротства компаний.Два основных предположения непосредственно относятся к цели работы:

H1. Введение текстовых факторов в форме переменных тональности увеличиваетпрогнозную силу существующих моделей оценки вероятности банкротства, основанных на финансовых, макроэкономических и рыночных факторах (Mai et al., 2018).

H2. Знаки коэффициентов при переменных тональности, оцененные с помощью бинарной регрессии, соответствуют экономическому смыслу этих переменных: положительные тональности (оптимизм, доверие, радость) уменьшают вероятность банкротства, а отрицательные (пессимизм, сомнение, спорность) - увеличивают (Loughran & McDonald, 2016).

Кроме того, также имеет смысл выдвинуть следующие предположения:

H3. Финансовый словарьтональностей, представленный и обоснованныйвработе(Loughran & McDonald, 2011),позволяет получить наивысшую предсказательную силу при оценке вероятности банкротства по сравнению с другими, неспециализированными словарями. Это не столь очевидно, так как семантика новостных сообщений может отличаться от таковой в финансовых отчетах; так, например, в исследовании новостей (L. Chen et al., 2014)не было обнаружено существенной разницы в предсказательной силе гарвардского словаря и словаря Loughran&McDonald, несмотря на убедительную критику последнего, в том числе, в (Loughran & McDonald, 2016). В то же время в работе(Федорова, Демин, & Рогов, 2019) наиболее эффективным оказывается словарь NRC.

H4. Предсказательная сила всех моделей сокращается с увеличением горизонта предсказания. Это предположение часто подтверждается в исследованиях, имеющих дело с разными горизонтами; этот феномен описывается, например, в работах(Duan et al., 2012) и(M. Y. Chen, 2011). Тем не менее, в некоторых случаях результаты неоднозначны(Martin, 1977), а иногда вообще противоположны(Mselmi, Lahiani, &Hamza, 2017). Теоретически это предположение может исходить из того, что находящиеся в неопределенном финансовом состоянии компании склонны скорее улучшать его, чем ухудшать, что не так очевидно, особенно во время рецессии.

H5. Категориальная переменная отрасли экономики является значимой в логит-модели. Это подтверждается во многих исследованиях по многим странам, например, в(Hajek et al., 2014) по США, (Z. Li, Crook, & Andreeva, 2014)по Китаю,(Демешев & Тихонова, 2014a) по России. Устранение отраслевых различий является актуальной проблемой с самого начала исследований банкротства(Beaver, 1966). Тем не менее, большое число исследований не содержит эту переменную ни напрямую, ни косвенно- за счет формирования индустриально однородных выборок.

Эти предположения не следует понимать как строгие статистические гипотезы. В силу того, что методы машинного обучении яобладают чисто эмпирической природой, во многих случаях единственным способом оценки истинности гипотез является непосредственное сравнение предсказательной силы разных моделей.

3. Обзор моделей прогнозирования банкротства

Общеэкономическая значимость явления корпоративного дефолта, переоценить которую сложно, объясняет традиционно высокий и до сих пор не ослабевающий интерес к теме объяснения и предсказания банкротства в академической литературе.

Существует немало обзорной литературы, обобщающей результаты предыдущих исследований. Одной из первых подобных работ стала статья(Scott, 1981), в которой сравнивались теоретический и эмпирический подходы к предсказанию банкротства и была обоснована как практическая применимость первых, так и соответствие вторых экономической теории. Более поздние обзорыбыли сосредоточены, в основном, на компиляции численных результатов опубликованных моделей и обобщении их спецификаций. Отдельно от них стоит обширная работа(Altman, 1993), описывающая не только несколько сотен исследований в 10 странах, но и предоставляющая исчерпывающий теоретический базис и рекомендации к практическому применению. В работе(Dimitras et al., 1996) рассматривается 154 исследования в 12 странах и описывается, среди прочего, общая среди их видов методология. В статье (Adnan Aziz & Dar, 2006)приводится усредненная информация о результативности и предсказательной силе, полученной в 89 исследованиях, сгруппированных в 10 видов в зависимости от методологии, а также подробная классификация моделей предсказания банкротства. В свою очередь,(Ravi Kumar & Ravi, 2007)предоставляет обзор более десятка применяемых в литературе методов машинного обучения. Наконец, обзор (Gissel, Giacomino, & Akers, 2007)обобщает практические результаты 165 исследований и предоставляет статистику использования различных факторов и методик прогнозирования.

Существующие эмпирические работы могут быть поделены на три категории согласно их методологии:

(1) Статистические исследования, отыскивающие линейную зависимость между вероятностью банкротства и неким набором финансовых и нефинансовых факторов;

(2) Исследования, применяющие различные методы машинного обучения с учителем и без него для осуществления бинарной классификации выборки на банкротов и небанкротов;

(3) Гибридные исследования, объединяющие несколько методов предсказания, агрегируя их выводы с помощью алгоритма, подобного экспертной системе.

Далее будет предоставлена информация по первым двум категориям, а также отдельно рассмотрено применение текстового анализа в финансах.

3.1. Линейные подходы

Хотя первые формальные методы оценки финансовой стабильности компании на основе ее финансовых показателей были разработаны только в 60-х годах прошлого века, внимание к данной проблематике имело место в литературе, как минимум, еще за тридцать лет до этого. Вработе(Fitzpatrick, 1932)был, скорее всего, впервые озвучен важнейший принцип, который далее лег в основу всех исследований банкротства: если, как показывает практика, финансовые коэффициенты фирм коррелированы с их финансовой стабильностью, то они могут быть использованы для предсказания вероятности банкротства отдельной фирмы. Впервую очередь речь шла о коэффициентах ликвидности, таких как currentratioи quickratio: приведенная выборка из 19 пар компаний-банкротов и их финансово стабильных аналогов демонстрировала однозначную связь между высокими коэффициентами ликвидности и финансовой нестабильностью. Подобная практика сравнения пар аналогичных по размеру и роду деятельности компаний легла в основу традиционного метода предсказания банкротства - дискриминантного анализа.

Дискриминантныйанализпредполагаетчисленное оценивание финансовой стабильности компании путем вычисления линейной комбинации некоторых факторов с некоторыми коэффициентами. Полученное число затем сравнивается с некой шкалой, разделенной на несколько зон, ассоциированных с разной вероятностью банкротства; в простейшем случае - на две, и тогда процедуру сравнения можно назвать дихотомическим тестом: фирма должна либо обанкротиться в течение заданного периода, или нет. Такой тест был применен в классической работе(Beaver, 1966) и подразумевал вычисление отдельных оценок на основании каждого из использованных факторов, то есть представлял собой одномерный дискриминантный анализ. Несмотря на всю примитивность и неформальность метода, доля верно классифицированных фирм на горизонте в один год достигла, в некоторых случаях, 87%. Охват использованных факторов был с некоторым успехом расширен за счет добавления доходности акций (Beaver, 1968).

Дальнейшие исследования были связаны с объединением информации, содержащейся во всех факторах, с целью получения более однозначной и строгой оценки. Многомерный (multivariate) дискриминантный анализ ранее применялся как за пределами финансов(Fisher, 1936), так и внутри их - например, для анализа EPSкомпаний(Walter, 1959); в области предсказания банкротства он был впервые задействован во влиятельной работе(Altman, 1968). В ней была разработана так называемая Z-модель Альтмана, вычисляющая оценку на основании комбинации пяти факторов, коэффициенты при которых были получены путем ручной подгонки под исследованную выборку. Каждый из факторов, тем не менее, получил некоторое теоретическое обоснование. Результативность на «обучающей» выборке оказалась крайне высокой: уже 95% фирм были правильно классифицированы. Недостатком такого подхода стала привязка коэффициентов к этой выборке, в некотором смысле неизбежно порождавшая сильное переобучение: на «тестовой» выборке ошибка второго рода составила уже 27%, а первого рода - 6%.

Модель Альтмана породила множество аналогов, построенных на других, предположительно, более репрезентативных выборках с использованием более или менее отличающихся наборов факторов, однако имеющих схожую результативность.

В упомянутой обзорной литературе, как правило, в качестве классических МДА-моделей приводятся следующие:

Таблица 2. Классические модели МДА

Источник	Название	Факторы
(Altman, 1968)	Altman Z-score	Working capital/Assets, Retained earnings/Assets, EBIT/Total assets, Capitalization/Debt, Revenue/Assets
(Altman, Haldeman, & Narayanan, 1977)	ZETA	EBIT/Assets, Stability of earnings, EBIT/Interest expense, Retained earnings/Assets, Working capital/Assets, Current ratio, Common equity/Capital, Assets
(Taffler & Tisshaw, 1977)	Taffler Z-score	EBIT/Current liabilities, Current assets/Assets, Current liabilities/Current assets, Revenue/Assets
(Springate, 1978)	Springate score	Working capital/Assets, EBIT/Assets, EBT/Short-term debt, Revenue/Assets
(Ohlson, 1980)	Ohlson O-score	Assets/GNP deflator, Liabilities/Assets, Working capital/Assets, Current liabilities/Current assets, Net income/Total assets, CFFO/Liabilities, Increase in net income
(Fulmer, 1984)	Fulmer H-factor	Retained earnings/Assets, Revenue/Assets, EBIT/Equity, CFFO/Debt, Debt/Equity, Current liabilities/Assets,Tangible assets, Working capital/Debt, EBIT/Interest expense
(Zmijewski, 1984)	Zmijewski score	Net income/Assets, Liabilities/Assets, Current assets/Current liabilities

Многие из этих моделей имели шкалу, состоящую из несколько зон - диапазонов для оценки финансовой нестабильности, например, greenzone, yellowzoneи redzone. Если оценка попадала в среднюю зону, то она считалась нейтральной, из-за чего формально высокая точность предсказания могла быть скомпрометирована наличием неопределенных наблюдений, исключаемых из выборки при подсчете точности.

Главным недостатком МДА является невозможность получения оценок коэффициентов математически строгим образом: так как поставленная задача предполагает двоичную классификацию, необходима модель бинарного выбора. Кроме того, вызывает проблемы предположение о нормальности факторов и одинаковости корреляционных матриц для обеих групп наблюдений, как указывается, например, в (Ohlson, 1980).

Несмотря на долгую историю и повсеместное применение в статистике логистической функции, лишь в работе(Martin, 1977) было предложено ее применение к линейной комбинации факторов, традиционных для МДА, для получения оценки вероятности банкротства вместо абстрактного числа, сравниваемого с выбранной наугад шкалой. Эта же работа была одной из первых (по крайней мере, среди значимых), четко определивших практическое приложение исследований банкротства: разработка «модели раннего предупреждения», которая позволила бы фирме заранее и с высокой точностью определять грядущую финансовую нестабильность у себя самой, своих контрагентов или у эмитентов активов, содержащихся в ее портфеле. Используя набор факторов, описывающих рискованность активов, ликвидность, платежеспособность и прибыльность компании, на широкой выборке американских банков с долей банкротов около 1%, однозначных результатов получить не удалось. Предсказательная сила была невелика как для логит-, так и для МДА-модели: реалистичная доля банкротов и репрезентативность выборки, в отличие от построения искусственных пар аналогов при дискриминантном анализе, породили очень высокую ошибку второго рода, достигающую 40% в некоторых случаях. Эта проблема была адресована, например, в статьях(Zmijewski, 1984), (Chawla, Bowyer, Hall, & Kegelmeyer, 2002)и (Sanchez, Barandela, Rangel, & Garcia, 2003). Она должна разрешаться путем многократного учета наблюдений из меньшего класса тем или иным образом при нахождении оценок коэффициентов с помощью метода максимального правдоподобия.

Более явные результаты, оправдывающие практическое использование логистической регрессии, были получены в работе(Ohlson, 1980).Подлежащая линейная комбинация была так называемой O-моделью, девять факторов которой укладывалось в стандартную классификацию факторов МДА. Ошибка второго рода уже была меньше 30% для лучших отсечений, а сравнение логистической регрессии с МДА выявили устойчивое, хоть и небольшое, превышение предсказательной силы первой. Среди прочих исследований, использующих логит-модели, следует упомянуть(Foreman, 2003), получившее высокие результаты на выборке из телеком-компаний, и(Youn & Gu, 2010), в котором доказывалось, что в некоторых случаях логистическая регрессия может быть предпочтительнее методов машинного обучения. Также в статье (Altman & Sabato, 2007) был предложен логистический аналог модели Альтмана на выборке компаний малого и среднего бизнеса. Несмотря на размер выборки, состоящей из более чем 2000 компаний, причем только 6% из них были банкротами, достигнутая точность предсказания на тестовой выборке составила 87% для логит-модели и 67% для МДА-модели. Таким образом, результаты, полученные в 60-х годах для искусственно сбалансированных выборок с нереалистичными предположениями и отсутствием формального метода нахождения коэффициентов, был повторен без всех этих и многих других недостатков, что стало возможно благодаря моделям бинарного выбора.

Популярный в статистике аналог логистической функции, вероятностная или пробит-функция, для предсказания банкротства использовалась для предсказания банкротства довольно редко. В качестве примера можно привести книгу(Rees & Maddala, 1985), в которой также исследуется применение некоторых качественных переменных, и статью (Zmijewski, 1984).

Поворотным моментом стала публикация статьи(Shumway, 2001). Она содержала в себе критику методологии предыдущих моделей предсказания банкротства, которые учитывали информацию только за один период. Построенная в статье hazardmodelоказалась эквивалентна обыкновенной логит-регрессии с учетом лагов всех факторов за определенный промежуток времени, но была более устойчива и показывала более высокую предсказательную силу.В дальнейшем эта тема была развита во многих методологических исследованиях - например, в(Nick Wilson & Hernandez, 2013) и(Tian & Yu, 2017). Далее в статье(Duan et al., 2012), которая опиралась на работу(Duffie, Leandro, & Wang, 2007), описавшую расстояние до дефолта, было доказано превосходство многопериодной интенсивной модели предсказания банкротства.

Помимо МДА и бинарных регрессий существуют и большое количество более специальных методов предсказания банкротства. Среди них следует упомянуть, по крайней мере, анализ среды функционирования, описанный вработе (Charnes, Cooper, Lewin, & Seiford, 1997) и эффективно примененный в(Z. Li et al., 2014); метод распознавания признаков, описанный, например, в статье(Kolari, Caputo, & Wagner, 1996); а также большую группу методов, основанных на построении экспертных систем, обзор которых дается, например, в (Adnan Aziz & Dar, 2006).

Для российского читателя особый интерес представляют отечественные исследования в области прогнозирования банкротства. Значительная их доля посвящена простейшим МДА-моделям и особенностям их применения на российских выборках, что может исходить из того, что Z-модель Альтмана до сих пор применяется в регулировании российской банковской сферы(Федорова & Тимофеев, 2015a). Среди ранних исследований следует упомянуть (Зайцева, 1998), в котором одномерный и многомерный дискриминантный анализ рассматривался как один из инструментов антикризисного менеджмента.Также существует набор исследований, подробно рассматривающих конкретные кейсы - как, например, (Воронина, 2007), в котором предсказания моделей Альтмана, Таффлера и Спрингейта сопоставлялись с реальностью на примере четырех предприятий и давалось обоснование их удовлетворительным результатам.

В России был разработан ряд моделей, учитывающих особенности отечественных компаний и имеющие более высокую предсказательную силу, чем классические МДА-модели. Так, в статье(Давыдова, 1999), однако, критиковалась применимость модели Альтмана на российском рынке - или, скорее, несоответствие предложенных авторами коэффициентов и сравнительной шкалы современным российским реалиям: на 1992 год 84% российских предприятий, согласно их Z-счету, должны были обанкротиться, однако этого не произошло и к 1998 году. С другой стороны, еще более простая четырехфакторная МДА-модель («модель ИГЭА»), разработанная авторами специально для российских компаний (все ее коэффициенты, в отличие от большинства классических моделей, были равны единице после масштабирования переменных), имела точность около 70-80%. Однако анализ классических МДА-моделей и модели ИГЭА в разрезе по двум секторам, представленный в статье(Федорова & Тимофеев, 2015b), не подтвердил выводы Зайцевой на более крупной (и более поздней) выборке: классические модели были вполне состоятельны с точностью 60-70%, а в некоторых случаях превышали по точности модель ИГЭА.

Действительно, несостоятельность западных моделей может быть связана не с особенностями российской экономики как таковой, а со спецификой ее состояния в 90-х - начале 2000-х годов. Также была разработана еще одна модель на основе логит-регрессии и корреляционного анализа всех факторов, входящих в исследованные спецификации, точность которой достигла 80-90%. С другой стороны, еще до этого в статье(Lugovskaya, 2010) было исследовано 25 классических финансовых факторов МДА-моделей, после чего с применением метода главных компонент и корреляционного анализа было отобрано 11 факторов. Построенный на их основе аналог Z-модели позволил достичь точности около 80%.

Логистическая регрессия применялась и в некоторых других исследованиях. Например,(Жданов & Афанасьева, 2011) подтвердило превосходство логит-модели по сравнению с МДА-аналогами той же спецификации. Похожие результаты были получены в статьях(Богданова, 2008, 2011), в которых также был предложен оригинальный алгоритм классификации на основании интегрирования показателей нескольких классических моделей предсказания банкротства. Наконец, в статье(Федорова, Лазарев, & Федин, 2016) была разработана логит-модель высокой прогнозной силы (85-90%) для строительной отрасли на оригинальном наборе финансовых переменных.

3.2. Нелинейные подходы

Ближе к началу XXIвека, научно-технический прогресс в области вычислительной техники позволил применять в академических исследованиях более ресурсоемкие методы поиска статистических взаимосвязей. Машинноеобучение, тоестьрешениезадачобученияна примерах численными методами, в контексте предсказания вероятности банкротства компаний обладает рядом особенностей:

Таблица 3. Машинное обучение в сравнении с регрессионным анализом

Достоинства	Недостатки
(1) Способность учитывать нелинейные зависимости между объясняющими и объясняемой переменной, что особенно существенно для многопериодных моделей и ввиду наличия неочевидных связей между финансовыми показателями	(1) Отсутствие возможности теоретической интерпретации и трудоемкость понимания зависимостей между переменными на основе результатов работы моделей - и, как следствие, практическая невозможность использования этих результатов для разработки конкретных мер антикризисного менеджмента, в то время как классические методы способны служить в качестве инструментов раннего предупреждения для менеджеров
(2) Нетребовательность к входным данным: отсутствие, например, предпосылок о характере распределении анализируемых величин и об их ковариационных матрицах, свойственных теоретическим моделям	(2) Практически неограниченная сложность как в плане технической реализации, так и в плане методологии, что серьезно ограничивает практическую применимость моделей, особенно в таких консервативных отраслях, как государственное регулирование и риск-менеджмент в банковской сфере
(3) Хорошая результативность на очень больших выборках и на пространствах высоких размерностей - в том числе, большое число способов введения регуляризации, предотвращения переобучения и отделения незначимых факторов

Среди первопроходцев оказалась статья(Odom & Sharda, 1990), непосредственно сравнивающая предсказательную силу Z-модели Альтмана и однослойного персептрона, построенного на тех же самых пяти факторах. В соответствии с методологией Альтмана, была отобрана небольшая (64х2) выборка из пар аналогичных компаний-банкротов и небанкротов. Результаты оказались неоднозначными, однако нейросеть продемонстрировала более высокую предсказательную силу на более реалистичных пропорциях банкротов и небанкротов (85% при 80/20). Таким образом было подтверждено, что из одной и той же спецификации, даже в корне устаревшей, нелинейный алгоритм извлекает больше информации.В работах(Coats & Fant, 1993) и(R. L. Wilson & Sharda, 1994) были приведены оригинальные алгоритм построения однослойной нейросети, который оказался уже более предпочтителен МДА-аналогу, оказавшись более устойчивым во времени. Далее была опубликована статья(Salchenberger et al., 1992), в которой удалось добиться значительно лучших результатов: при прогнозировании банкротства финансовых компаний нейросеть оказалась эффективнее логит-модели. Был приложен алгоритм BPNN (backpropagationneuralnetwork), который далее получил большую популярность в литературе.

Среди более современных работ по нейросетям следует упомянуть(Wu, Liang, & Yang, 2008), в которой был разработан более продвинутый алгоритм - PNN (probabilisticneuralnetwork) и применен с использованием собственной спецификации финансовых и макроэкономических факторов.Техника LSM (learningsubspace), представляющая собой некоторый род вводимой в функцию потерь регуляризации, позволила нейросети автоматически отбирать значимые факторы. Оказалось, что PNNобладает большей прогнозной силой, нежели BPNN, и достигает точности в 85% на горизонте в один год.Также в работе(McNelis, 2005) представлен обширный обзор методологии и результативности применения нейронных сетей в финансах вообще. Существует и ряд специальных исследований с применением нейросетей, как, например, (Tobback, Bellotti, Moeyersoms, Stankova, & Martens, 2017), в котором используются методы интеллектуального анализа данных для построения графов связей между аффилированными компаниями, свойства которых затем используются в качестве входных данных для предсказания банкротства с помощью нейросети.

Благодаря своей эффективности на больших выборках, искусственные нейронные сети часто использовались для предсказания банкротства компаний малого и среднего бизнеса. Например, в статье(Ciampi & Gordini, 2012) удалось добиться точности около 70% на разнородной и крупной выборке (около 7 тысяч фирм), причем тестирование на поделенных по размеру подвыборках показало, что нейросеть показывает лучшие результаты, чем МДА и логит-регрессия, для самых маленьких фирм. Возможно, одной из причин являлось большое количество пропусков в данных по малым фирмам, собирать которые гораздо сложнее, нежели в случае с публичными фирмами: уже было показано, что нейросеть лучше, чем обыкновенная регрессия, справляется с пропусками в данных. При этом авторы отмечают, что все три метода на подвыборках работают лучше.

Другим базовым методом машинного обучения являются решающие деревья, позволяющие классифицировать выборку за некоторое число шагов.Решающие деревья и их комбинации - случайный лес - часто используются в составе гибридных классификаторов, производя переменные, которые далее используются в других алгоритмах. Следует упомянуть крупное исследование(Chandra, Ravi, & Bose, 2009), предложившее интеллектуальную систему предсказания банкротства, основанную на агрегировании показаний нескольких моделей - в том числе, глубокой нейросети, случайного леса и логистической регрессии. Кроме того, в работе(M. Y. Chen, 2011) был представлен классификатор, основанный на трех алгоритмах решающих деревьев (C5.0, CHAIDи CART) и логит-регрессии. Было показано, что все три алгоритма почти во всех случаях превосходят ее в предсказательной силе, достигая точности в 85-95%; использованная выборка, однако, содержала только 25 пар компаний-аналогов.

Несмотря на все их достоинства, применение решающих деревьев осложнено их потребностью в большой обучающей выборке и склонностью застревать в локальных минимумах, как указано, например, в статье(Mselmi et al., 2017). Среди непараметрических методов, не подверженных этим недостаткам, следует выделить метод опорных векторов, общая методология которого была описана в статье(Cortes & Vapnik, 1995). Их приложение к предсказанию банкротства было рассмотрено, например, в исследовании(K.-S. Shin, Lee, & Kim, 2005), где обосновывались достоинства опорных векторов по сравнению с BPNN на малых выборках и была получена точность в 60-70%. Продвинутый метод гладких опорных векторов (smoothsupport-vectormachine) был предложен в работе(Hдrdle, Lee, Schдfer, & Yeh, 2009) вместе с техникой, позволяющей несколько раз учитывать наименьший класс в выборке (oversampling), что позволило SSVMпродемонстрировать значительно большую предсказательную силу, чем таковая у логит-регрессии, на несбалансированных выборках. Далее эта тема была развита в статье(Dong, Xiao, & Xiao, 2014), где был представлен другой схожий алгоритм и сравнивалась результативность Опорные вектора, нейросети и логит-регрессии. Проблематика выбора спецификации модели, существенная для предсказательной силы Опорные вектора, была рассмотрена в статье(Zhou, Lai, & Yen, 2012).

Другими относительно популярными в литературе методами машинного обучения являются генетические алгоритмы, наивные байесовские классификаторы и kближайших соседей (k-NN), однако обычно они не превосходят в своей предсказательной силе различные алгоритмы нейросетей или опорных векторов.

...