меняются после обучения модели, ее нужно будет переподготовить, чтобы добавить в нее новую информацию.

Различие между классификаторами и регрессорами

В модели МО целевой переменной может быть категориальная переменная (category variable) или же непрерывная переменная (continuous variable). Тип переменной определяет тип модели. Существуют два типа моделей МО с учи­ телем.

zz Классификаторы. Если целевая переменная является категориальной пере­ менной, модель МО называется классификатором. Классификаторы могут быть использованы для ответа, например, на следующие вопросы:

yy Является ли аномальный рост ткани злокачественной опухолью?

yy Будет ли завтра дождь‚ если исходить из текущих погодных условий?

yy Основываясь на профиле конкретного заявителя, следует ли одобрить его заявку на ипотеку?

zz Регрессоры. Если целевая переменная является непрерывной, модель МО является регрессором.

Регрессоры могут быть использованы для ответа, например, на следующие вопросы:

yy Исходя из текущих погодных условий, какое количество осадков ожидать завтра?

yy Сколько будет стоить конкретный дом с определенными характеристи­ ками?

Давайте рассмотрим как классификаторы, так и регрессоры более подробно.

АЛГОРИТМЫ КЛАССИФИКАЦИИ

Если целевая переменная в машинном обучении с учителем является категори­ альной, то модель называется классификатором. При этом:

zz целевая переменная называется меткой;

zz исторические данные называются размеченными данными;

zz данные, для которых необходимо предсказать метку, называются неразмеченными данными.

Способность точно размечать данные с помощью обученной модели — это и есть главная сила алгоритмов классификации. Классификаторы предсказывают метки для неразмеченных данных, отвечая тем самым на конкретный бизнес-вопрос.

Прежде чем углубиться в детали работы алгоритмов классификации, рассмотрим бизнес-задачу, на которой мы продемонстрируем работу классификаторов. Мы используем шесть различных алгоритмов для решения одной и той же задачи, что поможет нам сравнить их методологию, подход и производительность.

Задача классификации

Общую задачу для тестирования алгоритмов классификации назовем задачей классификации. Применение нескольких классификаторов для решения одной и той же задачи эффективно по двум причинам.

zz Все входные переменные должны быть обработаны и собраны в виде сложной структуры данных — вектора признаков. Использование одного вектора для всех шести алгоритмов позволит избежать повторной подготовки данных.

zzМы сможем сравнить производительность различных алгоритмов, посколь­ ку на входе будем использовать один и тот же вектор признаков.

Задача классификации состоит в том, чтобы предсказать вероятность того, что человек совершит покупку. В розничной торговле залогом увеличения продаж является понимание поведения покупателей. Для этого необходимо проанали­ зировать закономерности в исторических данных. В первую очередь сформу­ лируем задачу.

Постановка задачи

Задача: имея некоторые исторические данные, обучить бинарный классифика­ тор прогнозировать покупку товара на основе профиля клиента.

Прежде всего рассмотрим размеченный набор данных, доступный для решения этой задачи:

x € b, y € {0,1}.

Для случая, когда y = 1, назовем это положительным классом, а когда y = 0, то отрицательным.

Хотя положительный и отрицательный классы можно выбирать про­ извольно, рекомендуется определять положительный класс как со­ бытие, представляющее интерес. Если в интересах банка мы пытаемся выявить мошенничество, то положительным классом (y = 1) должна стать мошенническая транзакция, а не наоборот.

Используем метки:

zz фактическая метка, обозначаемая y; zzпредсказанная метка, обозначаемая y′.

Обратите внимание, что для нашей задачи фактическое значение метки, най­ денной в примерах, представлено y. Если в нашем примере кто-то купил товар, мы говорим, что y = 1. Предсказанные значения представлены символом y′. Входной вектор признаков x имеет размерность 4. Нам необходимо определить, какова вероятность того, что пользователь совершит покупку, с учетом конкрет­ ных входных данных.

Итак, нам требуется рассчитать вероятность того, что y = 1 при определенном значении вектора признаков x. Математически это можно представить так:

y′ = P(y = 1| x), где x € nx.

Теперь научимся обрабатывать и преобразовывать различные входные перемен­ ные в вектор признаков x. В следующем разделе подробно обсуждается методо­ логия сборки различных частей x с использованием конвейера обработки.

Конструирование признаков с использованием пайплайна обработки данных

Подготовка данных для выбранного алгоритма называется конструированием признаков (feature engineering) и является важной частью жизненного цикла машинного обучения. Процесс конструирования разбит на разные этапы, или фазы. Многоступенчатый код, используемый для обработки данных, в совокуп­ ности называется пайплайном данных (data pipeline). Создание пайплайна данных с применением стандартных этапов обработки, где это возможно, по­ зволяет использовать его многократно и сокращает затраты ресурсов на обуче­ ние моделей. Использование хорошо протестированных программных модулей также повышает качество кода.