Главные идеи книги

Убийственные большие данные

Кэтрин О'Нил, 2016

Почему хорошую учительницу увольняют по решению программы, а водитель с безупречной историей платит за страховку больше, чем водитель с судимостью за пьяную езду? Кэтрин О'Нил, математик, работавшая в хедж-фонде, показывает, как модели, которые никто не может проверить, решают, кого нанять, кому дать кредит и кому дать срок побольше. Ты узнаешь три признака опасного алгоритма и научишься видеть чьё-то мнение за беспристрастной цифрой.

Кому подойдёт

Для тех, кого хоть раз оценивала программа: при найме, в банке, в страховой или в школе. И для тех, кто сам строит рейтинги, отчёты и модели и не хочет, чтобы они стали оружием.

Привилегированных, как мы ещё не раз увидим, обрабатывают люди, а массы — машины.

Лучшая учительница, которую уволила программа

В 2011 году в Вашингтоне уволили учительницу пятых классов Сару Высоцки. Директор хвалил её уроки, родители были довольны, в одном отзыве её назвали одной из лучших учительниц, каких автор отзыва встречал. Но решение принимали не они. Его принял балл, который выставила компьютерная система оценки учителей. По тому же баллу вместе с ней уволили ещё более двухсот человек. Почему программа решила иначе, чем все, кто видел работу учительницы, внятно объяснить никто не мог. К этому вопросу мы ещё вернёмся.

Кэтрин О'Нил — математик, защитившая диссертацию в Гарварде. Она преподавала, потом ушла в хедж-фонд D.E. Shaw строить модели для финансового рынка. После кризиса 2008 года она стала одним из самых известных критиков того, как математику применяют к людям. В 2016 году вышла эта книга.

Главная находка О'Нил — особый вид моделей, которые решают судьбы людей. Таким моделям она дала имя: оружие математического поражения, по созвучию с оружием массового поражения. У него три признака. Оно непрозрачно: человек не знает, как именно его оценили. Оно масштабно: один и тот же расчёт применяют к миллионам. И оно причиняет вред, чаще всего тем, у кого и так меньше всего возможностей.

Дальше будут истории из школ, судов, банков, отделов кадров и даже выборов. В каждой цифра, которой все верят, тихо решает чью-то судьбу. Ты научишься задавать любой оценке неудобные вопросы и увидишь, где за объективным баллом прячется чьё-то мнение.

Ужин для детей — тоже математическая модель

О'Нил начинает с самой домашней сцены. Каждый вечер она решает, чем накормить семью. В голове у неё модель: кто что любит, что лежит в холодильнике, сколько стоят продукты, какой сегодня день. Когда дети морщатся или просят добавки, модель уточняется сама собой.

Самое интересное в ней — что считать успехом. Дети с радостью ели бы каждый день сладкие пирожные Pop-Tarts. Если бы успехом считалась их радость, модель кормила бы их сладким. Но для О'Нил успех — это сытые дети, которые едят и овощи. Определение успеха — это выбор, а не вычисление, и делает его тот, кто строит модель.

Отсюда её знаменитая формула: модели — это мнения, встроенные в математику. Любая модель упрощает мир и решает, что важно, а что можно отбросить. В самом упрощении нет ничего плохого: без него модель бесполезна. Опасно другое: когда чьё-то мнение выдают за беспристрастную цифру.

Противоположный пример автор находит в бейсболе. Там модели прозрачны: статистику видит любой болельщик. Данных много, они описывают саму игру, и каждый матч показывает, ошиблась ли модель. Хорошая модель всё время узнаёт, где была неправа. Плохая не узнаёт этого никогда.

Читать в Livria

Об авторе

Кэтрин (Кэти) О'Нил — американский математик, защитившая диссертацию в Гарварде. Преподавала в Барнард-колледже, работала аналитиком в хедж-фонде, а после кризиса 2008 года стала одним из самых известных критиков непрозрачных алгоритмов.

Все книги автора: Кэтрин О'Нил

Тест по книге «Убийственные большие данные»

Понятия из книги

Обама
Pop-Tarts
Биполярное расстройство
Хедж-фонд
Тейлор
Клиффорд
Starbucks
рейтинговые агентства
FICO
Петля обратной связи
Высоцки: Сара Высоцки, учительница из Вашингтона, которую в 2011 году уволили по баллу системы оценки учителей IMPACT. Её история открывает книгу.
D.E. Shaw: Американский хедж-фонд, известный тем, что торгует с помощью математических моделей. О'Нил работала там аналитиком с 2007 года.
Оружие математического поражения: Образ из книги, а не научный термин: так О'Нил называет модели, которые непрозрачны, применяются массово и причиняют вред.
IMPACT: Система оценки учителей в школах Вашингтона, введённая в 2009 году. Половину балла учителя в ней давала модель добавленной ценности.
Модель добавленной ценности: Способ оценивать учителя по тому, насколько результаты его учеников за год выросли сверх прогноза.
Ипотечные ценные бумаги: Финансовые бумаги, собранные из пакетов ипотечных кредитов. Доход по ним идёт из платежей заёмщиков. Стали одной из причин кризиса 2008 года.
RiskMetrics: Американская компания, которая считала риски для банков и инвестиционных фондов. О'Нил работала там после D.E. Shaw.
U.S. News & World Report: Американский журнал, с 1983 года публикующий самый влиятельный рейтинг университетов США.
Прокси: Косвенный показатель: то, что легко посчитать, вместо того, что хотят измерить на самом деле.
Техасский христианский университет: Частный университет в Форт-Уэрте, штат Техас. Поднялся в рейтинге, вложившись в спорт и привлекательность для абитуриентов.
Коммерческие колледжи: Частные учебные заведения в США, работающие ради прибыли. Значительную часть денег получают через государственные студенческие кредиты.
Лиды: Маркетинговое слово: контакты людей, которые могут стать клиентами. Их собирают и продают компаниям.
Рединг: Город в штате Пенсильвания, США. Его полиция одной из первых стала пользоваться программой PredPol.
Хайм: Уильям Хайм, начальник полиции Рединга, который поставил программу прогноза преступлений PredPol.
PredPol: Американская программа прогнозной работы полиции: по прошлым данным подсказывает, где вероятнее преступление в ближайшие часы.
Остановить и обыскать: Практика полиции Нью-Йорка: останавливать и досматривать прохожих по подозрению. Применялась массово в 2000-х и начале 2010-х годов.
Рецидив: Повторное преступление человека, который уже был осуждён.
LSI-R: Анкета для оценки риска повторного преступления, которой пользуются суды и тюрьмы в США. Расшифровывается как пересмотренный перечень уровня обслуживания.
Бем: Кайл Бем, студент, которого отсеивал личностный тест при найме, и его отец Роланд Бем, юрист, выступивший против таких тестов.
Сент-Джордж: Больница в Лондоне с медицинской школой, чья программа отбора абитуриентов в 1980-х дискриминировала женщин и людей с иностранными именами.
Наварро: Жаннетт Наварро, бариста Starbucks, о графике которой в 2014 году написала The New York Times.
Клопенинг: Смена, когда работник закрывает заведение поздно вечером и открывает его рано утром следующего дня.
Электронные баллы: Непрозрачные оценки человека по косвенным данным: почтовому индексу, покупкам, поведению в сети.
Микротаргетинг: Показ каждому избирателю или покупателю своего сообщения, подобранного по данным о нём.
Гани: Райид Гани, аналитик данных, руководивший работой с данными в кампании Обамы 2012 года.

Все понятия