Бог, человек, животное, машина. Технология, метафора и поиск смысла - Меган О'Гиблин

и обнаружения определенной области или системы, которая отвечает за сознание. Вместо этого сознание - это своего рода структурный паттерн, который возникает из сложности всей сети, включая системы, существующие за пределами мозга и распределенные по всему телу.

Хотя эмерджентизм уходит корнями в физикализм, критики часто утверждают, что в этой теории есть что-то мистическое, особенно когда утверждается, что эти модели высшего уровня способны контролировать или направлять физические процессы. Философ искусственного интеллекта Марк А. Бедау утверждал, что эмерджентность в своих самых сильных итерациях "неуютно похожа на магию", поскольку предполагает, что нематериальное свойство (сознание) способно каким-то образом причинно воздействовать на материальную субстанцию (мозг). Более того, немногим эмерджентистам удалось точно сформулировать, какой тип структуры может порождать сознание у машин; в некоторых случаях разум представляется просто как свойство "сложности" - термина, который является весьма расплывчатым. Некоторые критики утверждают, что эмерджентизм - это всего лишь обновленная версия витализма - древнего представления о том, что мир одушевлен жизненной силой или энергией, которая пронизывает все вещи.

Вплоть до XVII века витализм был онтологией по умолчанию практически во всех человеческих культурах: в большинстве случаев оживляющей силой считалась душа, которая существовала во всех вещах, проявлявших признаки жизни. Только после Декарта витализм был сформулирован как научная позиция, как возражение против популярного мнения, что люди - это просто машины. Виталисты настаивали на том, что организм - это нечто большее, чем совокупность его частей, что помимо физической структуры должен существовать некий "живой принцип", или élan vital. Эта теория была убедительной отчасти потому, что она была интуитивной. Машина всегда остается просто машиной, но мертвому животному явно не хватает чего-то - жизни, тепла, - что когда-то оживляло его живую форму, даже если все материальные части остаются на месте. Виталисты выдвинули гипотезу, что этим принципом жизни, возможно, является эфир или электричество, и их научные усилия по обнаружению этой субстанции часто переходили в стремление воссоздать ее искусственно. Итальянский ученый Луиджи Гальвани провел ряд широко разрекламированных экспериментов, в ходе которых он пытался оживить расчлененные лягушачьи лапки с помощью электрического тока. Отчеты об этих экспериментах вошли в научную литературу, вдохновившую Мэри Шелли на создание романа "Франкенштейн", герой которого, безумный ученый, погружен в виталистскую философию своего времени.

Хотя эмерджентизм сосредоточен именно на сознании, а не на жизни как таковой, эта теория подвержена той же критике, которая долгое время преследовала витализм: это попытка получить "нечто из ничего". Она выдвигает гипотезу о некой дополнительной, невидимой силе, существующей внутри механизма, подобно призраку в машине. Когда я читал о Бруксе и его команде в Массачусетском технологическом институте, у меня часто возникало ощущение, что они занимаются своего рода алхимией, продолжая наследие тех магов-виталистов, которые вдохновили Виктора Франкенштейна оживить свое существо из мертвой материи, и рискуя столкнуться с теми же опасностями. В конце концов, самый мистический аспект эмерджентности заключается в том, что мы можем создавать вещи, которые до конца не понимаем. На протяжении десятилетий критики утверждали, что искусственный интеллект общего назначения - машинный интеллект, функционально эквивалентный человеческому, - невозможен, потому что мы еще не знаем, как работает человеческий мозг. Но возникновение в природе демонстрирует, что сложные системы могут самоорганизовываться неожиданным образом, не будучи задуманными или спроектированными. Порядок может возникать из хаоса. В области машинного интеллекта сохраняется надежда на то, что если мы правильно соберем все части - благодаря изобретательности или чистой случайности, - то сознание просто возникнет как побочный эффект сложности. В какой-то момент природа вмешается и завершит работу.

Это кажется невозможным. Но, с другой стороны, разве не все творческие начинания основаны на процессах, которые остаются загадочными для создателя? Художники давно поняли, что творчество - это неуловимое занятие, которое делает художника неподвластным большим силам, возникающим как бы извне. Философ Джиллиан Роуз однажды описала акт письма как "смесь дисциплины и чуда, которая оставляет вас под контролем, даже если то, что появляется на странице, возникло из неподвластных вам областей". Я часто сталкиваюсь с этим странным явлением в своей работе. Я всегда сажусь за стол с видением и планом. Но в какой-то момент то, что я создал, открывает рот и начинает издавать собственные указы. Слова словно обретают собственную жизнь, так что, когда я заканчиваю работу, трудно объяснить, как она стала такой, какой стала. Писатели часто рассказывают о таком опыте с удивлением и благоговением, но я всегда относился к нему настороженно. Я задаюсь вопросом, хорошо ли для художника или любого другого творца быть таким пористым, даже если вмешательство бога - это не более чем законы физики или работа его бессознательного. Если то, что получается в результате таких усилий, приходит, как выражается Роуз, "из областей, неподвластных вам", то в какой момент готовый продукт выходит за рамки ваших желаний? В какой момент вы, создатель, теряете контроль?

 

-

Позже, весной, я узнал, что роботы-доставщики еды действительно прибыли во время каникул. Мой друг, который провел зиму в кампусе, рассказал мне, что в течение нескольких недель они бродили по пустым университетским тротуарам в качестве своеобразной тренировки, изучая все маршруты и отмечая важные препятствия. У машин были нейронные сети, и они учились ориентироваться в окружающей среде благодаря многократному взаимодействию с ней. Друг работал во время перерыва в одном из опустевших зданий рядом с озером и рассказывал, что часто выглядывал из окна своего кабинета и видел, как они проносятся внизу. Однажды он застал их всех в кругу посреди торгового центра кампуса. "У них был какой-то симпозиум, - сказал он. Подобно сети деревьев, охватывающей большой лес, их интеллект был распределен по всей системе. Они сообщали друг другу об опасностях и дистанционно передавали информацию, чтобы помочь адаптироваться к новым вызовам окружающей среды". Когда весной того года началось строительство одного из самых больших зданий, информация об этом распространилась по сети роботов - или, как выразилась одна из местных газет, "роботы сделали перепланировку и "рассказали" об этом друг другу".

Однажды я проходил через кампус, возвращаясь домой из библиотеки. Был ранний вечер, примерно в то время, когда заканчивались последние дневные занятия, и тротуары были переполнены студентами. Я ждал у светофора, чтобы пересечь главную магистраль - оживленную четырехполосную улицу, которая раздваивала кампус, - вместе с десятками других людей. Дальше по улице был еще один пешеходный переход, но он не был освещен. Это был печально известный опасный перекресток, особенно в ночное время, когда случайные студенты в последнюю минуту бросались через него,