Общество контроля. Как сохранить конфиденциальность в эпоху тотальной слежки - Джон Фасман

class="p1">И даже если алгоритмы распознавания лиц будут все точнее определять каждую демографическую группу, их все равно можно использовать предвзято: например, непропорционально устанавливая их в небелых районах (как в наши дни некоторые агентства развертывают патрульные силы). Программа, которая успешно идентифицирует 99,8 % всех лиц, попавших в ее поле зрения, но в основном используется для идентификации темнокожих людей, становится просто очередным инструментом для увековечения расовых предубеждений. Как и любая другая технология, которая используется неправильно, распознавание лиц рискует усугубить, а не смягчить предрассудки общества. Это утверждение поднимает важный вопрос: а как его использовать правильно?

* * *

Возможно, наиболее узкая и конкретная цель полиции при распознавании лиц – это генерирование следственных зацепок. Департамент шерифа округа Вашингтон в Орегоне первым из всех правоохранительных органов Америки начал использовать Rekognition, инструмент распознавания лиц от компании Amazon. Согласно его веб-сайту, а также докладу старшего информационного аналитика Управления шерифа округа Вашингтон Криса Адзимы, представленному в мае 2019 года на конференции по полицейским технологиям, в этом департаменте не используют распознавание лиц для наблюдения за людьми, когда те занимаются обычными повседневными делами.

Департамент составил инструкцию, в которой прямо говорилось, что сотрудники не будут использовать эту технологию без законного обоснования, базирующегося на связи с преступлениями, что эта технология не будет применяться для ведения массовой слежки и что распознавание лиц не может использоваться для наблюдения за лицами или группами исключительно по причине их религиозной, политической или иной деятельности, защищенной конституцией. В инструкции также говорится, что результатами поиска по распознаванию лиц являются потенциальные зацепки, требующие дальнейшего расследования, и сами по себе эти результаты не могут считаться достаточным основанием[117].

Если подозреваемый попадает на камеру во время совершения того, что выглядит как преступная деятельность, офицер с одобрения начальников сравнивает его изображение с фотографиями преступников из базы данных, которая ведется с 2001 года. Фотография, с которой начинается расследование, может быть получена любым из множества способов: например, нападавший попал в кадр камеры слежения, или кто-то снял его на камеру мобильного телефона, или подозреваемый согласился, чтобы его сфотографировал полицейский, или его арестовали и сфотографировали, но он отказывается предоставить удостоверение личности. Проводить обыски разрешается только подготовленным офицерам.

За нарушение этой инструкции полагаются штрафы – своего рода дисциплина по обстоятельствам. Все запросы на выполнение поиска подлежат аудиту, а фотографии, к которым не нашлось совпадений, хранятся в течение года и затем удаляются с сервера. Для инструкции по пользованию системой распознавания лиц это неплохо, но на самом деле не так уж и хорошо. Наказания расплывчаты, и – при самых благих намерениях и самом внимательном подходе – округ все-таки создает базу данных, которую впоследствии кто-то сможет использовать в более широких и не столь филантропических целях.

На той же конференции, где Адзима представил свой доклад, я познакомился с Дэниелом Стивзом, начальником информационной службы в полицейском управлении Оттавы. Бородатый, рассудительный, мягкий и ироничный, он воплощает в себе все, чего можно ожидать от старшего офицера канадской полиции. Его департамент запустил такую же пилотную программу, какую тестировали в округе Вашингтон: двадцать пять сотрудников отдела по расследованию ограблений прошли обучение, а затем им дали доступ к базе данных и разрешили просматривать изображения людей, снятых камерами наблюдения во время деятельности, которая выглядела преступной – Стивз упомянул кражи в винных магазинах и на заправках.

«Не будь системы распознавания лиц, – объяснил Стивз, – какой-нибудь офицер разослал бы электронное письмо с текстом: кто-нибудь узнает этого парня? В итоге на изображение, которое должны видеть всего три сотрудника, смотрели бы две тысячи человек». Он указал на проблемы конфиденциальности, связанные с этой распространенной практикой, и добавил: на ручной поиск в базе фотографий преступников, в которой содержится пятьдесят тысяч изображений, могут уйти несколько недель. Программа распознавания лиц выдала возможные совпадения за считаные секунды.

«Однако это ускорение идентификации подозреваемых создало другую проблему, – отметил Стивз. – Теперь нужно выделить сотрудника, который задержит подозреваемого или разберется в ситуации. Когда идентификация пошла так быстро, полицейские обнаружили, что не выдерживают этого темпа из-за недостатка офицеров, способных тут же выйти и произвести арест. Как выяснилось, мы определяем лица с такой скоростью, что у нас не хватает офицеров для оперативного реагирования». Он также сказал, что распознавание лиц позволяет полиции быстро выявлять серийных преступников и убирать их с улицы, прежде чем они совершат новые преступления.

В статье, опубликованной в «Нью-Йорк таймс» 9 июня 2019 года, комиссар Управления полиции Нью-Йорка Джеймс О’Нил подробно рассказал, как его департамент использовал распознавание лиц – результаты были примерно те же, что и у вашингтонских шерифов и полиции Оттавы. Возможные совпадения здесь рассматривают как зацепку, сравнимую со звонком на горячую линию. Как бы убедительно ни звучала информация, ее необходимо проверить, чтобы обеспечить достаточное основание для ареста. В руководстве для патрульных полицейских Нью-Йорка, опубликованном в марте следующего года, сказано нечто похожее: «Процесс распознавания лиц сам по себе не устанавливает достаточного основания для ареста или получения ордера на обыск, но он может генерировать следственные зацепки с помощью комбинации автоматизированных биометрических сравнений и анализа, выполняемого человеком». По словам О’Нила, в 2018 году Отдел идентификации лиц выполнил по запросам расследователей 7024 поиска по базе данных, что привело к 1851 возможному совпадению и 998 арестам[118].

О’Нил утверждает, что, помимо всего прочего, программное обеспечение для распознавания лиц снимало с людей подозрения. При этом он не приводит никаких примеров, только пару оптимистичных логических заключений: распознавание лиц снизит вероятность осуждения невиновных, поскольку, согласно команде проекта Innocence, которая добивается оправдания жертв судебных ошибок, 71 % документально подтвержденных ложных обвинений вытекает из ошибок свидетелей при опознании.

Прежде всего, нынешняя точная скорость распознавания лиц, особенно небелых, показывает, что все это будет функционировать не так идеально. Во-вторых, О’Нил описывает эту технологию слишком противоречиво. С одной стороны, распознавание лиц – всего лишь зацепка, ничем не отличающаяся от звонка бдительного гражданина. Но при этом она настолько мощная и точная, что с ее помощью можно снимать подозрение с невиновных. Эта формулировка неявно подразумевает, что полицейские должны скептически относиться к подтверждающим доказательствам, но принимать доказательства, которые противоречат их же собственным выводам… На самом деле человеческая природа устроена совсем не так.

Когда детективы в ходе расследования получают полезное изображение, они передают его обученным офицерам из отдела идентификации лиц. Те прогоняют снимок через базу фотографий преступников? «Нет, – возражает комиссар О’Нил в своей статье, – это другая база. Там хранятся кадры из Департамента транспортных средств, из сети Facebook[119], с придорожных камер и бесчисленных потоков материалов с камер