Бог, человек, животное, машина. Технология, метафора и поиск смысла - Меган О'Гиблин

часто использовался как ругательство, способ отвергнуть мнение, которое человек считает "настолько возмутительным, что не может придерживаться его из лучших побуждений". Представитель Twitter, ответивший на этот вопрос из другого источника, поддержал это мнение, заявив, что приписывание мнений машинам - это способ для "тех, кто находится у политической власти, запятнать взгляды людей, которые могут не соглашаться с ними, или общественное мнение в Интернете, которое не является благоприятным".

Я заметил в своем кругу общения эту тенденцию не принимать во внимание неприглядные политические взгляды как сбой в системе. В какой-то момент той весной, в те бредовые первые недели пандемии, когда эфир был наполнен слухами о сетях торговли детьми и секс-культах знаменитостей, возникло общее недоверие к некоторым позициям, которые стали казаться немыслимыми, до такой степени, что трудно было упомянуть о безумном посте, увиденном в Facebook или Twitter, не получив вопроса: "Это был кто-то, кого вы действительно знаете?" В большинстве случаев подразумевалось, что это мнение, скорее всего, принадлежит машине, то есть не является мнением вообще, хотя формулировка была достаточно расплывчатой, чтобы ее можно было истолковать более широко, как полное отрицание политической реальности, лежащей за пределами собственной социальной сети. Как и большинство людей, живущих в университетских городах, я вращаюсь в замкнутых и политически однородных кругах, хотя даже эта среда была менее однородной, чем эхо-камеры, в которых каждый из нас обитал в Интернете. Однажды на встрече во дворе я услышал, как одна женщина сказала, что вся идея о том, что некоторые прогрессисты отказываются голосовать в том году за кандидата от демократов, - чистая выдумка, что единственные пользователи, выражающие подобные мнения в сети, - боты, на что другая женщина ответила, несколько защищаясь, что она сама является одним из таких избирателей.

С момента выборов 2016 года рядовые граждане остро ощущают, что эти бессознательные агенты каким-то образом "подрывают демократию". Но разговоры об этой угрозе часто ограничиваются ее самыми прямыми и непосредственными последствиями. Проблема не только в том, что общественное мнение формируют роботы. Дело в том, что стало невозможно отличить идеи, представляющие законную политическую волю, от тех, которые бездумно распространяются машинами. Эта неопределенность создает эпистемологический разрыв, который делает практически невозможным назначение виновных и позволяет легко забыть о том, что эти идеи высказываются и распространяются членами нашей демократической системы - проблема, которая имеет гораздо более глубокие корни и укоренилась, и для которой нет быстрых и легких решений. Вместо того чтобы смириться с этим фактом, все чаще говорят о том, что виноваты сами платформы, хотя никто не может прийти к единому мнению, где именно кроется проблема: Алгоритмы? Структура? Отсутствие цензуры и вмешательства? О ненавистнической риторике часто говорят так, будто это ошибка кодирования - "кошмар модерации контента", "общеотраслевая проблема", как ее описывают руководители различных платформ, которую необходимо решать с помощью "различных технических изменений", большинство из которых направлены на ублажение рекламодателей. Такие разговоры лишь укрепляют убежденность в том, что коллективная подноготная экстремистов, иностранных агентов, троллей и роботов - это эмерджентная черта самой системы, фантом, таинственно возникающий из кода, как Грендель, пробуждающийся из болота.

Самого Дональда Трампа, человека, чьему приходу к власти, возможно, помогли, а возможно, и нет, машины, часто включают в этот цифровой фантом, еще одно эмерджентное свойство озадачивающей сложности сети. Часто говорят, что он политик, который лучше других понимает или, по крайней мере, интуитивно понимает, как манипулировать системой, работающей на пустых знаках, - системой, которая настолько оторвалась от семантического смысла, настолько сведена к синтаксису, что можно просто бросить в эфир кучу бессмысленных фраз - то, что журналистка Маша Гессен называет "кучами слов", - и увести повествование от его первоисточника. Роберт А. Бертон, известный невролог, утверждал, что Трамп так хорошо разбирается в алгоритмах, потому что он сам является алгоритмом. В своей статье для New York Times в 2017 году Бертон утверждал, что президент обретает смысл, как только вы перестаете воспринимать его как человека и начинаете видеть в нем "рудиментарную обучающуюся машину на основе искусственного интеллекта". Как и системы глубокого обучения, Трамп действовал вслепую, методом проб и ошибок, записывая, какие ходы сработали в прошлом, и используя их для оптимизации своей стратегии, подобно AlphaGo, системе искусственного интеллекта, которая победила на чемпионате по го в Сеуле. Причина, по которой он так озадачил нас, заключается в том, что мы постоянно пытались антропоморфировать его, приписывая его решениям намерения и идеологию, как будто они проистекали из последовательной программы действий. Системы искусственного интеллекта добились такого дикого успеха, потому что они не обременены никакими рациональными или моральными соображениями - им не нужно думать о том, что является социально приемлемым, или принимать во внимание последующие последствия. У них есть одна цель - победа, и этот строгий единоличный интерес постоянно обновляется благодаря положительной обратной связи. Совет Бертона историкам и политикам - рассматривать Трампа как "черный ящик". "Поскольку в действиях сети нет логических обоснований, - писал он, - невозможно провести реинжиниринг сети, чтобы выяснить "почему" то или иное решение".

 

-

Несмотря ни на что, в той весне было что-то странно-чудесное. Это было не более чем ощущение, которое трудно выразить словами и которое всплывало лишь на короткое время, в паузах между нарастающими волнами паники. Оно было как-то связано с тишиной, опустившейся на мир: пустота улиц, некогда кишащих транспортом, затемненные витрины магазинов и ресторанов, неподвижность, которая, казалось, обитала в самом воздухе, качество которого, как утверждали, улучшилось из-за сокращения использования ископаемого топлива. Полагаю, это было чувство удивления от того, что вся система - все переплетающиеся сети, цепочки поставок и глобальные потоки капитала - была остановлена простым императивом сохранения человеческой жизни. Нас заставляли верить, что это невозможно сделать, но когда пришло время, это каким-то образом произошло. Мы просто выдернули вилку из розетки. Это было утверждение, что жизнь - не средство, а цель, - кредо, которое будет подтверждено еще раз тем же летом, во время протестов против убийства Джорджа Флойда, восстания, в котором осуждение исторической несправедливости и систематического расового насилия черпало свою энергию и моральное возмущение в лишении человека жизни.

Когда студенты уехали, университетский городок превратился в мертвую зону бруталистских зданий и неухоженных газонов. Ходить среди теней этих пустующих строений было все равно что бродить по руинам погибшей цивилизации: единственным признаком жизни был случайный робот, доставляющий еду, который все еще выполнял заказы. В какой-то момент люди начали выходить на улицу, и именно тогда, в течение не более