Этика и алгоритмы |
353 |
6.Теперь создадим экземпляр объяснителя LIME с требуемыми параметрами конфигурации. Обратите внимание, что наша метка — 'price'. Именно она представляет цены на дома в Бостоне:
myexplainer = ex(X_train, feature_names=housing.feature_names, class_names=['price'], categorical_features=cat_col, mode='regression')
7.Попробуем детально разобраться в предсказаниях. Для этого сначала им портируем pyplot из matplotlib в качестве графической библиотеки:
exp = myexplainer.explain_instance(X_test[25], regressor.predict, num_features=10)
exp.as_pyplot_figure()
from matplotlib import pyplot as plt plt.tight_layout()
8.Поскольку объяснитель LIME работает с отдельными предсказаниями, нужно выбрать прогнозы для анализа. Выбираем прогнозы, проиндексиро ванные как 1 и 35 (рис. 14.3).
Попробуем проанализировать объяснение LIME, которое говорит нам сле дующее:
zz Список признаков, используемых в отдельных прогнозах. Они указаны на оси y
на рис. 14.3.
zz Относительная важность признаков при определении решения. Чем больше столбец, тем больше значение. Значение числа находится на оси x.
zz Положительное или отрицательное влияние каждого входного признака на метку. Полосы слева от вертикальной оси показывают отрицательное влия ние, а справа — положительное влияние определенного признака.
ЭТИКА И АЛГОРИТМЫ
Представление закономерностей в виде алгоритма может прямо или косвенно привести к принятию неэтичных решений. При разработке алгоритма трудно предвидеть весь спектр потенциальных этических последствий. Особенно это касается крупномасштабных алгоритмов, в создании которых могут участвовать несколько разработчиков. Это еще более затрудняет анализ влияния человече ской субъективности.
354 |
Глава 14. Практические рекомендации |
|
|
|
|
Рис. 14.3
Все больше компаний делают этический анализ алгоритма частью его проектирования. Но истина в том, что проблемы могут не проявиться, пока мы не столкнемся с ними на практике.
Проблемы обучающихся алгоритмов
Алгоритмы, способные адаптироваться в соответствии с изменяющимися за кономерностями в данных, называются обучающимися алгоритмами. Они обу чаются в режиме реального времени. В результате это может привести к спорным
Этика и алгоритмы |
355 |
решениям с этической точки зрения. Алгоритмы обучения созданы таким об разом, чтобы непрерывно развиваться, поэтому проводить их этический анализ на постоянной основе практически невозможно.
По мере роста сложности алгоритмов становится все труднее полно стью понять долгосрочные последствия их работы для отдельных лиц и социальных групп.
Понимание этических аспектов
Алгоритмические решения — это сухие математические формулировки. Раз работчики несут ответственность за то, чтобы алгоритмы соответствовали этическим нормам в контексте задачи. Эти соображения зависят от типа алго ритма.
Рассмотрим некоторые алгоритмы и их этические аспекты. Ниже приведены примеры мощных алгоритмов, для которых необходима тщательная этическая проработка:
zz Алгоритмы классификации в случае применения к обществу определяют способы организации и управления отдельными лицами и группами.
zz Алгоритмы, используемые в рекомендательных системах, сопоставляют резюме с соискателями как в случае отдельных лиц, так и групп.
zz Алгоритмы майнинга данных используются для получения информации от пользователей и предоставления этих данных лицам, принимающим решения, и правительствам.
zzАлгоритмы МО начинают использоваться правительствами для выдачи или отказа в выдаче виз заявителям.
Таким образом, этические аспекты алгоритмов зависят от конкретного случая и лиц, на которых они прямо или косвенно влияют. Прежде чем использовать алгоритм для принятия важных решений, необходимо провести тщательный этический анализ. В следующих разделах мы рассмотрим факторы, которые следует учитывать при подробном анализе алгоритмов.
Неубедительные доказательства
Данные, используемые для обучения алгоритма МО, могут быть спорными. Например, в клинических испытаниях эффективность препарата может быть