Первым делом было решено посмотреть на активность стран, которые включены в исследуемую базу данных. Это действие играет большую роль, поскольку оно поможет понять, на потребителях каких стран следует сфокусироваться при построении модели. Очевидно, ввиду ограничения по вычислительной мощности машины, анализировать целиком все данные неэффективно. Количество зафиксированных транзакций по каждой стране потребителей представлено на рисунке 3.3.

Рисунок 3.3 - Распределение покупок по странам

Из гистограммы видно, что подавляющее большинство заказов осуществлялось потребителями из Соединенного Королевства. Такой перевес заказов к одной стране может сильно исказить процесс обучения машины на данных и, следовательно, негативно сказаться на сами предсказаниях и работе рекомендательной системы в целом. В этой связи было принято решение исключить покупки потребителей Соединенного Королевства. Получившийся новый график представлен на рисунке 3.4.

Рисунок 3.4 - Распределение покупок по странам, за исключением Соединенного Королевства

Данная гистограмма более информативна, однако также содержит избыточное количество стран: некоторые из них содержат слишком малое количество заказов, что говорит о низкой популярности данного магазина среди потребителей. В конечном итоге было принято решение рассмотреть такие страны, для потребителей которых имеет смысл строить рекомендательную систему: Австралия, Бельгия, Ирландия (EIRE), Франция, Германия, Нидерланды, Португалия, Испания и Швейцария. Таким образом, совокупный объем данных сократился до 37060 строк, что значительно облегчает машине осуществлять все вычисления. Конечное распределение покупок среди выбранных стран для построения модели представлено на рисунке 3.5.

Рисунок 3.5 - Распределение покупок по странам, вошедшим в аналитическую предиктивную модель

Из рисунка видно, что три наиболее активно пользующиеся страны в рассматриваемой группе - Ирландия, Франция и Германия. Таким образом, было выдвинуто предположение, что наиболее актуальным будет применять модель для потребителей именно этих стран. Потребители каждой страны из оставшейся части совершили не более 2500 покупок за рассматриваемый период.

Чтобы убедиться в верности предположения, было решено исследовать поведение потребителей выбранных стран с точки зрения стоимости и объема их заказов. Очевидно, достаточно трудно обнаружить зависимость между страной и ценовой категорией покупки в сфере интернет торговли, поскольку все представленные страны входят в список развитых и реальная покупательская способность населения каждой страны позволяет ее гражданам приобретать товар из любой линейки магазина. Аналогичный вывод можно сделать, если рассмотреть рисунок 3.6, на котором представлено распределение ценовой категории по каждой стране.

Рисунок 3.6 - Распределение цен за единицу товара среди потребителей каждой страны

Данный рисунок представлен в виде боксплота (boxplot, или "ящик с усами"). Белые прямоугольники отражают ценовой диапазон, в которой охватывает подавляющее большинство сделанных покупок. Жирная поперечная линия соответствует среднему уровню ценовой категории. Черные точки - "выбросы" или "шумы", которые можно интерпретировать как единичные случаи покупки товара по завышенным ценам. Из рисунка видно, что большинство с покупок данного интернет-магазина было совершено в диапазоне 1,5 - 3,75 долларов США за единицу, а средняя значение почти для каждой страны находится рядом с отметкой в 1,75 долларов США за единицу. Только потребители Голландии покупали товар чуть более низкой ценовой категории, чем большинство других стран.

Однако если рассмотреть поведение потребителей с точки зрения объемов заказов, разброс по странам будет более очевиден. Представленный далее рисунок ставит выдвинутое предположение под сомнение.

Рисунок 3.7 - Распределение объемов заказов по потребителям каждой страны

Несмотря на то, что чаще всего совершают покупки потребители Германии, Франции и Ирландии, относительно объемов заказов эти страны занимают слабые позиции, в то время как голландские и австралийские потребители имеют явную склонность совершать оптовые покупки: средний объем одного заказа составляет около 60 и 25 товарных позиций соответственно. Возможно, этим объясняется относительно менее высокая средняя стоимость их заказов: за большие объемы они могут получать скидку от интернет-магазина.

Чтобы окончательно определиться, с какими из стран рассматриваемому магазину сотрудничать наиболее выгодно, было решено добавить новый столбец, "OrderSum", который выводится путем произведения удельной стоимости заказа (UnitPrice) на объем заказа (Quantity). Таким образом, массив данных имеет теперь следующую размерность: 37060 строк и 10 столбцов.

Рисунок 3.8 - Фрагмент данных после добавления столбца "OrderSum"

Рассмотрим выведенный показатель валовых сумм более подробно. Для этого построим еще один график в виде боксплота.

Рисунок 3.9 - Распределение валовых сумм заказов по странам

Очевидно, ввиду больших объемов заказов потребители из Голландии и Австралии принесли за рассматриваемый период наибольшую прибыль данному интернет-магазину. Однако фокусироваться исключительно на этих странах было бы неправильным, поскольку и на этом рисунке, и на рисунке 3.7 видно, что представители всех стран так или иначе совершают периодически покупки в больших объемах и готовы за это отдавать соответствующие суммы.

Последним действием в рамках исследовательского анализа собранных данных стало построение сводного графика, отображающего все вышеупомянутые особенности и тенденции.

Построение модели осуществляется по схеме, представленной на рисунке 3.10. Cначала база данных делится на две выборки: тренировочную и тестовую. Тренировочная выборка составляет 60-80% от общего объема данных и служит для обучения модели. В зависимости от особенностей данных и параметров прогноза, для этого могут использоваться такие методы, как классификационные деревья (classification tree), метод опорных векторов (support vector machines), метод ближайших соседей (k-nearest neighbors), метод случайного леса (random forest) и др. Происходит этап машинного обучения, в рамках которого машина исследует существующие закономерности, связи и зависимости между существующими переменными.

После обучения модели происходит проверка точности ее прогноза на этой же выборке. Если результаты проверки удовлетворительны, модель проверяется на тестовой выборке, которая составляет оставшуюся часть (40-20%) имеющихся данных. Поскольку данные о тестовой выборке известны, на ней также можно проверять точность прогноза. При этом проверка на тестовой выборке считается более важной, поскольку лучше отражает фактические свойства модели. Примечательно, что на тестовой выборке машина не обучается, а только применяет свой алгоритм. В случае если на этой выборке точность прогноза оказалась ниже допустимого уровня, принимается решение о необходимости улучшения модели. Для этого модель вновь настраивается и обучается на тренировочной выборке, в нее добавляются новые критерии и алгоритмы, позволяющие осуществлять более точный прогноз. Затем модель вновь проверяется на точность прогноза на тестовой выборке. Так происходит до тех пор, пока модель не покажет удовлетворительной точности предсказания на тестовой выборке.

После этого модель считается настроенной и готовой осуществлять реальные прогнозы на новых данных. На этом этапе у модели уже не будет заранее известного ответа в виду новизны данных, поэтому успех будет зависеть от того, насколько хорошо модель была настроена на имеющихся данных.

Рисунок 3.10 - Блок-схема, отображающая алгоритм построения предиктивной модели

Перед разбиением выборки на обучающую и тестовую, в данных было решено произвести некоторые преобразования. Сначала были исключены все "шумовые" значения валовых и удельных сумм, а также объемов заказов. Таким образом, с 37060 данные были сокращены до 31068 строк. Также в целях упрощения процедуры работы машины было решено разбить столбец InvoiceDate на столбцы и "Month", "Year", DCategory и HCategory. Так количество столбцов было увеличено до 21.

Еще одно значительное изменение связано с параметрами StockCode и Description. Поскольку уникальных товаров (соответственно, и их описаний) во всех данных - очень большое количество, вычислительные возможности машины не позволяют ей обрабатывать такой массив данных совместно с другими параметрами прогноза, которые также имеют множество значений. В этой связи было принято решение вычленить из данных наиболее популярные категории всех существующих товарных позиций, чтобы дать машине возможность быстро совершать вычисления.

Таким образом, была создана новая переменная, "Categories", в рамках которой удалось выделить следующие типы покупаемых товаров:

ѕ bag (сумки разных размеров и артикулов) - около 2000 заказов;

ѕ cake (изделия для кулинарии) - около 1250 заказов;

ѕ card (карточки) - 500-750 заказов;

ѕ child (детские товары) - 500-750 заказов;

ѕ Christmas (товары к Рождеству) - около 1000 заказов;

ѕ clock (часы) - около 500 заказов;

ѕ doll (куклы) - около 1000 заказов;

ѕ holders (вешалки и изделия для вешания) - около 500 заказов;

ѕ lantern (светильники) - около 100 заказов;

ѕ light (другая категория светильников и ламп) - 500-750 заказов;

ѕ lunch (товары для ланча) - 500-750 заказов;

ѕ paper (изделия из бумаги) - около 1000 заказов;

ѕ tea (товары для чая) - около 1000 заказов.

Помимо параметра Categories в модель было решено включить следующие: Country, Quantity, UnitPrice, Month, UnitWHCosts, Year, HCategory, DCategory и OrderSum.

Таким образом, конечная размерность данных, которые были использованы для осуществления анализа составила 11351 строчку и 10 столбцов.

Для построения модели было принято решение разделить данные на тренировочную и тестовую выборку в пропорции 70: 30 Таким образом, 7946 строк вошли в тренировочную выборку, а 3405 - в тестовую.

Рисунок 3.11 - Разбиение данных на выборки

Вначале был применен метод классификационных деревьев. Этот метод подходит для задач классификации, когда нужно определить, к какому текстуальному типу будет относиться прогнозируемый параметр. В случае данной работы речь пойдет о двух категорийных переменных: страна (Country) и тип товара (Category). Визуально работу данного алгоритма можно представить в виде "дерева", что и обуславливает название метода. Классификационные деревья для определения страны и типа товара представлены на рисунках 3.12 и 3.13 соответственно.

Рисунок 3.12 - Классификационное дерево для определения страны заказа

Рисунок 3.13 - Классификационное дерево для определения категории заказываемого товара

Для определения страны модель анализирует параметры количества и категории товаров. Для определения категории товара модель анализирует в большей степени показатель UnitPrice и Quantity. Например, модель определила, что если удельная цена товара больше 0,59 долларов США, но меньше 2,6 долларов США и при это количество заказываемого товара меньше 11 штук, то этот товар относится к категории Bag (сумки).

Применив данный метод для предсказания страны заказа, выяснилось, что модель осуществляет прогнозы с точностью 36% на тренировочной выборке и с той же точностью - на тестовой. Результаты применения данного метода для предсказания типа товара более оптимистичны: 47% на тренировочной выборке и 48% - на тестовой. Такие исходы можно было предположить исходя из самих рисунков "деревьев": чем оно "пышней" и ветвистей и чем больше уровней оно показывает, тем точнее будет прогноз.

Затем был применен метод опорных векторов (Support Vector Machine). Данный метод также подходит для задач классификации, к которой относится наша задача. Если визуально представить, что исследуемые объекты для классификации представляют собой точки, находящиеся на плоскости, пространстве или гиперпространстве, которое задается параметрами классификации (в нашем случае, это - параметры-столбцы типа CustomerID, Quantity и др.), то между ними можно провести линию таким образом, чтобы она смогла верно разделить все существующие точки на два кластера. Затем каждый из кластеров может тоже делиться в зависимости от сложности поставленной задачи. Пример простейшего разбиения представлен на рисунке 3.14.

Рисунок 3.14 - метод опорных векторов для определения пола по весу и росту

Линия должна быть максимально удалена от двух классов и ближайших к ней точек. Такие ближайшие к разделяющей линии точки каждого класса и есть опорные векторы. Соответственно, вне зависимости от размерности пространства такая линия (плоскость или гиперплоскость) существует лишь одна.

Данный метод можно применять с несколькими типами ядер: линейным, полиномиальным, радиальным и сигмовидным. Результаты прогнозов применения данного метода с каждым типом ядра представлен в таблице 3.4.

Таблица 3.4 - показатели точности прогнозов модели с помощью метода Support Vector Machines

Напоследок было решено использовать метод случайного леса. Данный метод считается наиболее эффективным, так как зачастую показывает самые высокие точности прогноза, но и при этом самым громоздким с точки зрения вычислительной сложности. Основная идея данного метода - сочетать в себе множество решений, предложенных простыми деревьями решений (см. рисунок 3.12 и 3.13). Зачастую такие отдельные деревья сами по себе показывают не самый удовлетворительный результат. Однако данный метод сочетает в себе большой ансамбль этих классификационных деревьев. Поэтому за счет большого масштаба применения данный метод может достигать высоких точностей прогноза. Модели получаются большими, с хорошей точностью прогнозирования, но в то же время громоздким и длительными для вычисления.

Поскольку в нашей работе объем данных невелик, данный метод не должен перегрузить машину. Применив данный метод, были получены следующие результаты. Для определения страны на тренировочной выборке точность прогноза достигла 88%, а на тестовой - 58%. Для определения категории товара на тренировочной выборке точность достигла 86%, а на тестовой - 68%. Такая большая разница в прогнозах говорит о том, что модель ведет себя нестабильно.

Все полученные результаты прогнозов для тренировочной и тестовых выборок при определении категории страны и типа товара представлены в сводной таблице 3.5.

Таблица 3.5 - сводная таблица показаний точности прогнозов при определении страны и категории товара различными методами

3.3 Интерпретация, анализ и представление полученных результатов