Общество контроля. Как сохранить конфиденциальность в эпоху тотальной слежки - Джон Фасман

гарантиями? Кто решает, когда его удалять? И как его могут использовать? Это не академический вопрос: что происходит, когда по пути на акцию протеста вы минуете полицейского, а у него на одежде закреплен видеорегистратор с приложением для распознавания лиц?

В следующей главе обсуждаются дроны, которые дают полиции всевидящее небесное око. Более удобных технологий на свете почти нет. Дроны могут летать над пожарами, и при этом никакой пилот не рискует жизнью и здоровьем. Оснастите дрон термочувствительной камерой – и он безошибочно отыщет людей, заблудившихся зимой где-то в глуши. Но дроны могут с такой же легкостью подвергнуть город, как вы читали выше, постоянному наблюдению. И их несложно вооружить.

Затем я рассматриваю электронный мониторинг – технологию, которую большинство граждан знает как мониторы на лодыжках. Эта технология открывает огромные перспективы в качестве альтернативы тюремному заключению как для осужденных, так и для лиц, ожидающих суда (что политически более оправданно): людям лучше оставаться дома, поддерживать связь с семьей и, возможно, даже ездить каждый день на работу с разрешения суда, чем месяцами сидеть в криминогенной тюрьме. Но даже в качестве досудебной альтернативы тюрьме электронный мониторинг подвергает людей, еще не осужденных за преступления, постоянному и обременительному государственному надзору.

В книге исследуется распознавание лиц – из всех технологий, о которых я писал, оно, вероятно, представляет собой самую опасную и долговременную угрозу. Когда я начал свое исследование, распознавание лиц все еще было чем-то вроде журавля в небе, по крайней мере, для широкой публики. Сегодня оно применяется в аэропортах и полицейских управлениях, оно стало частью китайской архитектуры контроля и репрессий. Его все чаще запрещают. Поначалу это казалось мне паникерством – теперь представляется здравым смыслом.

Затем я описываю алгоритмы, используемые в работе полиции и призванные предсказывать, где и когда произойдет преступление, а также алгоритмы, используемые судами при вынесении приговоров и призванные предсказывать, насколько велик риск повторного совершения преступления. Сторонники использования первых алгоритмов говорят, что система помогает им лучше распределять патрульные силы. Сторонники вторых утверждают, что она устраняет человеческий фактор при вынесении приговоров и принятии решений о предварительном заключении под стражу: судья, который, сознательно или нет, предвзято относится к подсудимым определенной этнической принадлежности, больше не сможет действовать в соответствии с этим предубеждением.

Но алгоритмы работают непрозрачно и опираются на данные, которые десятилетиями собирают люди со всей их предвзятостью. Они даже не пытаются избавиться от предубеждений, напротив, есть риск, что они зацементируют свои жесткие концепции во имя науки и объективности, и это лишь усложнит борьбу с шаблонными подходами.

В книге рассматривается шифрование и инструменты, которые помогают его обойти и тем самым лишают смысла защиту конфиденциальности. Правительства и полиция часто утверждают, что им нужен черный ход к зашифрованным коммуникационным сервисам, таким как WhatsApp и Signal: плохие парни не должны иметь возможности хранить свои сообщения в секрете. Но ослабление защиты конфиденциальности подозреваемых ослабляет ее для всех нас.

И когда полиция сможет применять эти инструменты? Когда они начнут использовать Stingray, систему сбора метаданных всех телефонов на определенной территории? Полицейские будут применять эти средства, чтобы подслушивать тех, кого у них есть веские основания подслушивать. Но что происходит с остальными нашими данными, попавшими в эту сеть?

Я также разбираюсь в том, что может случиться, когда все эти технологии будут объединены и переданы в руки правительства, которое мало заботится о гражданских свободах своих граждан. Я не смог сделать репортаж из Китая по причинам, которые объясню позже, и поэтому отправился в Эквадор, чтобы изучить созданную китайцами систему управления чрезвычайными ситуациями, централизующую потоки с тысяч камер по всей стране. Она позволяет полиции, пожарным частям и станциям «скорой помощи» лучше реагировать на чрезвычайные ситуации. Но она так же эффективно осуществляет централизованный мониторинг: с ее помощью правительство может шпионить практически за кем угодно, в любое время и в любом общественном месте.

И, наконец, я расскажу о том, что сделали жители одного города – Окленда в штате Калифорния – для защиты своих гражданских свобод и налаживания более продуктивных отношений с полицией города. Их пример, я надеюсь, составляет сердцевину книги.

Некоторые могут обвинить меня в попытках запугивания. Виноват. Вероятно, вы напуганы. Но я хочу не только напугать вас. Я хочу, чтобы вы начали действовать – использовать доступную вам демократию наиболее эффективным способом. Полицейское государство уже здесь, и мы должны его остановить.

В конечном счете эта книга не столько о технологиях, сколько о демократии. Меня в меньшей степени интересует, как функционируют различные технологии наблюдения, и в большей – опасность, которую они представляют для граждан открытых либеральных демократий. Писать книгу о технологиях – дело рискованное, потому что они быстро устаревают, их вытесняют с рынка новые достижения. Но я верю, что мой основной тезис защитит эту книгу от такой судьбы, по крайней мере на какое-то время. Я хочу предоставить гражданам эвристику, структуру и инструменты, необходимые, чтобы в обозримом будущем решительно разобраться с технологиями наблюдения в любой их форме.

Надеюсь, во время чтения вы будете помнить о трех показателях для оценки новых технологий.

Во-первых, подумайте, на кого новая технология возлагает ответственность за принятие решений. Если перед посадкой в самолет агент службы безопасности выводит вас из очереди в аэропорту для повторного обыска, вы знаете, кто принял это решение, и можете спросить, почему. Если то же самое делает машина, использующая распознавание лиц, – кто, в конце концов, решил, что вы должны пройти дополнительную проверку?

Если за несколько лет выяснится, что машины распознавания лиц в аэропорту города N отбирают для вторичного досмотра непропорционально большое количество людей с определенным цветом кожи – кто в этом виноват? Авиакомпания, использующая систему? Агенты, которые следуют рекомендациям машин? Программисты, создавшие алгоритм? Будут ли они все переводить стрелки друг на друга? Если пассажирка считает, что с ней обошлись несправедливо, к кому ей обращаться за возмещением ущерба?

Могут ли авиакомпании и агенты просто обвинять алгоритм? Если да, что происходит в этом случае? Технологические фирмы часто считают свои алгоритмы коммерческой тайной и опасаются, что раскрытие данных поставит их в невыгодное положение по отношению к конкурентам или позволит преступникам обмануть систему. Последнее всегда казалось мне крайне неправдоподобным: покажите мне грабителя или автоугонщика, который сознательно меняет охотничьи угодья, поскольку знает, какие районы полицейский алгоритм прогнозирования ежедневно помечает как требующие особого внимания.

Что имеют право знать граждане об алгоритмах, решающих их судьбу? На мой взгляд, они должны получать очень много информации. Но значительная часть технологических компаний с этим не согласится, и до сих пор ни один механизм не заставил