Технологии против человека - Герд Леонгард

Торговля счастьем ради высокотехнологичного гедонизма?

Представьте, если можно было бы имитировать чувство близости с партнером с помощью привлекательного, сложного секс-робота, управляемого искусственным интеллектом (эта отрасль, кстати, стремительно развивается)183.

В любом случае секс с роботами определенно квалифицируется как гедонистический. Возникает вопрос: будем ли мы также заинтересованы в достижении истинного счастья и полноценного сексуального опыта в настоящих, реальных отношениях между людьми, где нам действительно нужно бороться, чтобы всё заработало? Или мы привыкнем к легкости, с которой секс-роботы будут доступны, и тогда просто выберем удобство? Как заманчиво было бы прибегнуть к такому потребительскому отношению к сексу? И, напротив, кто мы такие, чтобы лишить людей права пользоваться тем, чем они хотят?

Разумеется, вы могли бы сказать, что мы всё равно будем замечать разницу, и с этим не поспоришь. Но насколько нас, наше сознание изменит постоянное использование секс-роботов? Не вызовет ли это путаницу в голове и не исказит ли восприятие реальности – понимание того, каким является мир на самом деле?

Исследования людей, которые регулярно смотрят порнографию, показали, что такие частые просмотры оказывают значительное влияние на стимуляцию, необходимую для возбуждения, и на то, что требуется для достижения оргазма184. Только представьте, насколько могут усугубить проблему секс-роботы, которые наверняка станут очень умными, дешевыми и невероятно похожими на людей, – просто посмотрите несколько серий «Людей» телеканала AMC, чтобы понять, к чему это может привести185.

Означает ли это, что мы должны запретить секс-роботов, потому что они ведут нас к бесчеловечной практике? Я бы предположил, что не будет никакого вреда, если запретить следующие поколения человекоподобных роботов в социальном и ином плане, но, конечно, это вряд ли сделает их менее доступными. Это всего лишь один пример того, как экспоненциальные технологические достижения (в данном случае искусственная кожа, робототехника и ИИ) могут повести нас к пути гедонистического счастья всё более быстрыми темпами, с меньшими затратами и широкой доступностью.

Таким образом, ключевой вопрос заключается в том, будут ли экспоненциальные технологии способствовать нашему благополучию, и если будут, то кто будет отвечать за то, чтобы они не сошли с ума, непреднамеренно или из-за дизайна? Кто решает, что считать человеком, а что нет, и в какой момент мы пересекаем линию, которая отличает нас от инструментов, которые мы создали?

Эти внутренние противоречия между человеком и машиной, которые не смогут разрешить технологии, даже если весь человеческий мозг и его 100 миллиардов нейронов в конечном итоге удастся смоделировать. Сострадание и счастье, как и сознание, не могут просто существовать в биологическом или химическом плане – они существуют в целостном взаимодействии всего человеческого.

Машины никогда не смогут испытать этих чувств, даже если научатся идеально их имитировать. Безусловно, компьютерные программы уже могут измерить и считать сострадание с помощью методов распознавания лиц, а программное обеспечение, вероятно, может имитировать сострадание после рассмотрения триллионов вариаций мимики и лингвистических показателей.

Попытки сначала определить и затем спрограммировать такую человеческую характеристику, как сострадание или что-то такое же таинственное, как сознание, кажутся неправдоподобной и неосуществимой идеей в обозримом будущем. Но опять же: возникнет ли реальная опасность того, что такая имитация вполне сможет удовлетворять потребности большинства из нас?

Меня все больше беспокоит мысль о том, что рано или поздно нас может устроить, если у нас просто будет что-то похожее.

Поставить технологии на свое место

Я абсолютно уверен, что компьютеры, компьютерные программы, алгоритмы и роботы вряд ли когда-либо смогут развить сострадание и сочувствие, как у людей. Роботы и искусственный интеллект отлично могут функционировать в качестве помощников и прислуги, но конечно, никак не в качестве хозяев.

Действительно ли нужно пытаться использовать математические модели или машинный интеллект для оптимизации эмоциональных результатов? И действительно ли нужно в условиях машинного мышления пытаться применять лучшие технологии для того, чтобы решить социальные или политические проблемы – например, использовать государственные методы слежения, чтобы положить конец терроризму?

Сложные андроритмические ценности должны оставаться в сфере человеческих взаимоотношений, во-первых, потому что мы лучше формируем их детальное выражение, во-вторых, потому что непосредственное участие в этих проблемах является ключом к развитию эвдемонизма – более глубокого ощущения счастья.

Я часто задаюсь вопросом, будет ли экспоненциальный технологический прогресс обеспечивать экспоненциальное счастье для всех людей, а не только для 1 % – тех, кто будет создавать, владеть такими потрясающими чудо-машинами и получать от них прибыль. Добродетельной ли целью является создание совершенной человеческой машины, которая может быть освобождена от всех ее недостатков и неэффективности, чтобы мы могли наконец стать богами, что бы это ни значило?

Не знаю, как вы, но это не тот мир, который я бы хотел построить. Предложить нам последовать по этому пути – как играть в азартные игры с нашим будущим и потенциально отравлять благополучие наших детей и будущих поколений.

Счастье нельзя запрограммировать в машинах, автоматизировать или продать. Его нельзя скопировать, кодифицировать или тщательно изучить. Оно должно исходить от нас и расти внутри нас и между нами, и технологии нужны здесь, чтобы помочь нам – как инструмент. Мы биологический вид, который пользуется технологиями, а не вид, которому суждено быть (стать) технологиями.

Наконец, подумайте о следующем: само слово «счастье» происходит от слова викингов, обозначавшего удачу. Это также относится к понятию случайности, или случая. Апологеты технологий могут утверждать, что они устраняют негативные проявления случайности из человеческих жизней – а имя им легион, от болезней и нищеты до смерти. Однако при этом они могут систематически менять способность людей испытывать ощущение счастья на более глубоких уровнях, которые не зависят от поддающихся измерению обстоятельств. Да, давайте обязательно пользоваться технологиями, чтобы устранить риски для человечества на планете Земля. Но давайте не станем инструментами для наших инструментов и не отдадим свое сознание и суверенную волю кучке безделушек и дешевых острых ощущений, как невинные выходцы из какого-то Нового Света.

У технологий нет этики, но человечество зависит от них

Давайте произведем некоторые экспоненциальные расчеты. Если мы продолжим идти тем же путем, то всего за восемь или 12 лет – в зависимости от того, когда начнем считать, – общий технологический прогресс совершит скачок от сегодняшней точки разворота от четырех до 128. В то же время сфера нашей этики будет продолжать ограничиваться линейным, поэтапным и человеческим масштабом улучшения, от четырех до пяти или шести, если повезет, ситуация немного изменится, когда мы адаптируемся к новой структуре.