Общество контроля. Как сохранить конфиденциальность в эпоху тотальной слежки - Джон Фасман

следует посадить за решетку, чтобы обеспечить безопасность общества. Но большинство людей таковыми не являются. Сотрудники фондов, образованных для внесения залогов, скажут вам, что самый эффективный способ заставить человека явиться на суд – это просто напомнить ему об этом: позвонить, написать сообщение, постучать утром в дверь. Возможно, электронный мониторинг обходится дешевле тюрем, но текстовые сообщения и телефонные звонки стоят еще дешевле и не подвергают постоянному наблюдению невиновных людей.

8. Черный ящик правосудия

В расово стратифицированном мире любой метод прогнозирования проецирует неравенство прошлого в будущее.

Сцена первая. Зал муниципального суда в Трентоне, штат Нью-Джерси, хмурое ноябрьское утро 2017 года. Тощий, как грабли, бородатый мужчина в оранжевом комбинезоне и наручниках сидит тихо, как тюремный терпила, пока его адвокат выкрикивает судье разные цифры: «В списке он был указан как тройка, ваша честь. Первичный балл у него двойка. По шкале общественной опасности пятерка». Это было досудебное слушание в самом начале смелого эксперимента: одиннадцатью месяцами ранее, 1 января, Нью-Джерси стал первым штатом, который почти полностью отменил денежный залог. Вместо того чтобы полагаться на интуицию, усмотрение суда или фиксированную таблицу, в которой каждому преступлению соответствует некая сумма, судьи теперь вычисляют размер залога с помощью нового алгоритма. Используются девять факторов оценки риска, что подозреваемый скроется или причинит вред другому лицу, если будет отпущен на свободу до суда.

В тюрьмах Нью-Джерси большинство заключенных находились не по причине общественной опасности, а из-за бедности. Анализ численности заключенных в этом штате, проведенный в 2013 году Альянсом по борьбе с наркотиками, показал, что 1547 человек, или около 12 % от общего числа заключенных, содержались под стражей потому, что не могли позволить себе залог в размере 2500 долларов или меньше. Около 800 из них были в тюрьме, потому что не смогли найти 500 долларов[162]. У богатых людей такой проблемы нет: Харви Вайнштейн внес свой залог в миллион долларов одним чеком. Законодателям Нью-Джерси показалось, что алгоритмы, основанные на личной истории подозреваемых, позволят лучше определять, кто способен скрыться или нарушить общественную безопасность и потому должен до суда оставаться под стражей, а кто нет.

* * *

Сцена вторая. Конференц-зал, расположенный на высоте восьми этажей над центром Лос-Анджелеса, февраль 2018 года. Напряженный мужчина с орлиными чертами лица и идеально выбритой головой пристально смотрит в ноутбук, стоящий перед ним на столе. Это Шон Малиновски, тогдашний начальник отдела расследований полицейского управления Лос-Анджелеса. В передней части комнаты – большой экран, на котором воспроизводится картинка с дисплея ноутбука, карта участка Футхилл, самого восточного из семи районов, входящих в состав бюро Вэлли, к северу от Северного Голливуда и Глендейла. До того как стать начальником отдела расследований в центре города, Малиновский занимал две командные должности в округе. Он хорошо знает этот район.

Карта сплошь покрыта цветными точками – это различные виды зарегистрированных преступлений. Рядом с некоторыми точками расположены красные квадратики, каждый из которых обозначает площадку размером 150 на 150 метров. Это места, которые программа для прогнозирования преступности PredPol, используемая полицией Лос-Анджелеса и многими другими правоохранительными органами по всему миру, отметила как области повышенного риска.

Районам, где прогнозируется высокий уровень преступности, назначается дополнительная доза – патрульным офицерам предписывается проводить там больше времени, передвигаясь пешком или на автомобилях. Малиновски говорит, что, отвечай он за охрану порядка в подразделении Футхилл, попросил бы офицеров как можно чаще проезжать через эти районы, чтобы оказываться там в случайном порядке – это сбивает преступников с толку. На машинах установлены GPS-трекеры, и потому командование может отслеживать, сколько времени офицеры проводят в назначенных им секторах. В связи с этими алгоритмами часто вспоминается фильм Стивена Спилберга «Отчет меньшинства», снятый в 2002 году. Там полиция арестовывает людей за преступления, которые спрогнозированы заранее. Но PredPol – это не Саманта Мортон в ванной, посылающая полицию арестовывать конкретных людей, которые собирались совершить конкретные преступления. PredPol фокусируется на географии, а не на отдельных людях. Идея состоит не в том, чтобы брать кого-то с поличным, а в том, чтобы сдерживать преступность за счет усиления полицейского присутствия.

Программы, выявляющие потенциальную преступность, прогнозируют, где могут произойти преступления. Девятифакторная программа оценки риска в Нью-Джерси использует алгоритмы, с высокой долей вероятности предсказывающие, кто из обвиняемых скроется или причинит вред людям. В использовании алгоритмов нет ничего плохого, в конце концов, это просто набор шагов, предназначенных для ответа на некий вопрос или выполнения определенной задачи (например, алгоритмом является кулинарный рецепт). И нет ничего плохого в том, что полиция действует активно, а не просто реагирует. Люди все время принимают решения, основанные на интуиции. В каком-то смысле алгоритмы – это просто интуиция в вечернем платье.

Сторонники использования алгоритмов в правоохранительных органах говорят, что их программы исключают – или хотя бы сводят до минимума – этнические и расовые предубеждения, а также обычные человеческие ошибки, и обеспечивают более последовательные результаты, свободные от предвзятости. Это достойная цель. Предвзятостью заражена вся американская система уголовного правосудия. Например, белые и афроамериканцы употребляют марихуану примерно с одинаковой частотой, однако вероятность, что афроамериканца арестуют за преступление, связанное с марихуаной, почти в четыре раза выше[163]. Дорожная полиция остановит и обыщет водителя-афроамериканца с большей вероятностью, чем белого[164].

Исследование, проведенное в Майами и Филадельфии экономистами Дэвидом Арнольдом и Уиллом Добби и профессором права Кристал Янг, выявило доказательства предвзятого отношения к чернокожим обвиняемым со стороны судей любой этнической принадлежности: чернокожим обычно назначали более высокий залог, их чаще оставляли под стражей до суда[165]. Стремление преодолеть такие предубеждения не просто похвально – оно необходимо, чтобы система осуществляла реальное правосудие. Но недостаточно просто взять и заменить суждение человека суждением машины.

* * *

История предиктивной аналитики в правоохранительной деятельности началась в 1990-х годах с процесса, разработанного Департаментом полиции Нью-Йорка. Сегодня Нью-Йорк – один из самых безопасных мегаполисов Америки. В 2018 году в пяти районах было убито 289 человек. Уровень убийств в городе – 3,31 на 100 000 человек – был самым низким за последние пятьдесят лет[166].

В 1990 году это был другой город: 2245 убийств, что составляет около 31 на 100 000 человек за год (сравнивая цифры, будем учитывать, что за прошедшие 28 лет население города заметно увеличилось)[167]. Вот что в конце 1990 года писала о родном городе газета «Нью-Йорк таймс»: «Улицы уже напоминают Нью-Калькутту, кишащую попрошайками. Преступность и страх перед ней добавляют городу оттенки Нью-Бейрута. А теперь заканчивается поток денег и налогов, которые помогли городу сделать эти улицы терпимыми. Безопасные улицы