Бог, человек, животное, машина. Технология, метафора и поиск смысла - Меган О'Гиблин

"Это бунт, - говорит Алеша.

Иван, вместо того чтобы защищать свои мотивы, заставляет брата признать, что и ему в какой-то степени эта логика кажется отвратительной. Он бросает Алеше вызов: Представь, что ты создаешь мир и исторический план с целью сделать людей в конце концов счастливыми, но для этого необходимо замучить всего одного ребенка. Согласились бы вы на такую сделку?

Алеша вынужден ответить честно. Нет, - тихо говорит он, - он не согласится.

Когда мы обсуждали роман в классе, ни профессор, ни мои одноклассники не были заинтересованы в том, чтобы ответить на обвинения Ивана в адрес Бога и на то, что Алеша, моральный центр романа, по сути, подтвердил их справедливость. Вместо этого обсуждение сосредоточилось на моменте, который я совершенно упустил из виду, - простом жесте, который происходит в конце сцены. Когда Иван заканчивает свой спор, Алеша встает, чтобы уйти, и кланяется, чтобы поцеловать брата в губы. Это единственный ответ, который он дает: никаких слов, никакой логической защиты, только простой жест любви. К концу нашей беседы мне стало ясно, что это и есть истинная защита автора: вера непонятна и абсурдна, это прыжок, который невозможно свести к принципам разума.

Это была книга Иова: Наш разум - неисправный инструмент. Божья воля совершенна. Все, что мы можем сделать, - это покориться. Но на этот раз я не мог смириться с таким выводом. Роман дал мне понять, что я глубоко восхищаюсь Иваном в его бунте, так же как восхищался Иовом в его бунте. Обсуждение в классе не смогло изменить того факта, что Иван показался мне более героическим и принципиальным, чем его набожный брат, более готовым довести сложные истины религии до логического завершения и отстоять свои глубоко укоренившиеся убеждения. В этом было что-то мужественное - и как же так получилось, что человеческое мужество оказалось более совершенным, чем божественная справедливость? Я уже знал христианский ответ на этот вопрос: это был еще один признак моей слабой веры, доказательство того, что я тоже восстал против Бога. Но к тому моменту было уже слишком поздно. Иван подсказал мне выход - или, возможно, просто дал язык, чтобы его сформулировать. Книга открыла новое измерение проблемы, которую я представлял себе строго в бинарных терминах. Я не мог спорить с божественной справедливостью или доказывать, что Бог - тиран. Но я мог настаивать на обоснованности человеческой морали. Я тоже мог вернуть свой билет.

-

Только спустя годы я понял, что моим противником в этой игре был не всемогущий Бог, а система человеческого мышления. Кальвинистский акцент на инаковости Бога, его возвышенности, заслонял тот факт, что эта доктрина была создана и увековечена людьми и окрашена их субъективными интересами. Не случайно новый кальвинизм с его карающим, мужественным Богом процветал в первые годы тысячелетия, когда страна в целом поддалась воинственности и регрессивным героическим мифам. Когда я вспоминаю разглагольствования моего профессора против терапевтического деизма и феминизированного Христа, я не могу не видеть искажения политики эпохи Буша, в которой обещания сострадательного консерватизма рухнули в беззаконный вигилантизм "шока и трепета".

Чем больше мы стараемся избавить мир от нашего образа, тем больше окрашиваем его человеческими недостатками и фантазиями. Чем больше мы настаиваем на исключении себя и своих интересов из уравнения, тем больше мы получаем всемогущих систем, которые кишат человеческими предрассудками и предубеждениями. Это парадокс, на который Арендт обратила внимание в своем эссе об освоении космоса, парадокс, который она позаимствовала у Вернера Гейзенберга. Гейзенберг утверждал, что квантовая механика усложнила наши поиски некой "истинной реальности", которая скрывается за воспринимаемым нами миром. Когда человек пытается выйти за пределы своей собственной точки зрения, утверждал он, он неизбежно "сталкивается с самим собой в одиночестве". Арендт распространила эту идею на современные технологии. Мы создаем инструменты, которые должны быть исключительно объективными. Но поскольку эти инструменты сделаны по нашему образу и подобию и созданы в определенном историческом контексте, современный технологический субъект, подобно человеку Гейзенберга, "тем реже встречается с чем-либо, кроме себя и рукотворных вещей, чем сильнее он желает исключить все антропоцентрические соображения из своей встречи с окружающим его нечеловеческим миром". Мы все время пытаемся выйти за пределы себя и своих интересов, но чем больше мир становится населенным нашими инструментами и технологиями, тем маловероятнее, "что человек встретит в окружающем его мире что-то, что... в конечном счете, не является им самим в другом обличье".

В наши дни нетрудно найти примеры технологий, которые содержат нас самих "в другом обличье". Хотя самые впечатляющие технологии машинного обучения часто описываются как "инопланетные" и не похожие на нас, они подвержены ошибкам, которые слишком похожи на человеческие. Поскольку алгоритмы опираются на исторические данные - используют информацию о прошлом, чтобы сделать прогноз на будущее, - их решения часто отражают предубеждения и предрассудки, которые уже давно окрасили нашу социальную и политическую жизнь. Алгоритмы Google показывают женщинам больше объявлений о низкооплачиваемой работе, чем мужчинам. Было установлено, что алгоритмы доставки Amazon в течение одного дня обходят стороной черные районы. В отчете ProPublica было обнаружено, что система оценки вынесения приговора COMPAS с гораздо большей вероятностью назначает чернокожим обвиняемым более высокие показатели рецидивизма, чем белым обвиняемым. Эти системы не нацелены на конкретные расы или полы и даже не учитывают эти факторы. Но они часто ориентируются на другую информацию - почтовые индексы, доходы, предыдущие встречи с полицией, - которая несет в себе историческое неравенство. Эти решения, принимаемые машиной, в конечном итоге усиливают существующее социальное неравенство, создавая петлю обратной связи, которая еще больше затрудняет преодоление давней истории структурного расизма и человеческих предрассудков в нашей культуре.

На самом деле общественность все больше обеспокоена проблемой предвзятости алгоритмов, хотя многие из предлагаемых решений только запутывают моральные параметры дискуссии. В большинстве случаев компаниям предлагается сделать свое программное обеспечение менее склонным к ошибкам или использовать наборы данных, более точно отражающие население, что особенно подчеркивается в разговорах о технологиях распознавания лиц, которые печально известны тем, что неверно идентифицируют черные и коричневые лица, что привело в 2020 году к первому ложному аресту, произведенному с помощью алгоритма. История Роберта Джулиана-Борчака Уильямса, чернокожего мужчины из Детройта, который был арестован после того, как программа распознавания лиц ошибочно идентифицировала его с изображением магазинного вора, заснятого камерами наблюдения, была показана во многих национальных новостных изданиях и вызвала бесконечные стенания экспертов в области права, требующих улучшения алгоритмов. Но во многих