Homo Roboticus? Люди и машины в поисках взаимопонимания - Джон Маркофф

На взгляд Моравека, расширение возможностей – промежуточный этап технологического развития, необходимый лишь кратковременно, пока люди могут делать то, чего не умеют машины. Наряду с Ликлайдером он полагает, что машины будут совершенствоваться все быстрее и быстрее, тогда как люди эволюционируют постепенно. Пусть не к 2020 г. (а было время, когда он считал, что к 2010 г.), но довольно скоро появятся так называемые универсальные роботы, способные выполнять широкий набор базовых задач. Эту идею Моравек выдвинул еще в 1991 г., изменялись только сроки. Раньше или позже машины станут настолько совершенными, что начнут учиться на собственном опыте и постепенно приспосабливаться к существующим условиям. Моравек все еще верит в три закона робототехники Азимова. Рынок заставит роботов быть гуманными – тех, которые причиняют вред людям, просто не будут покупать. В какой-то момент возникнет и машинное сознание.

В книге «Робот: От простой машины до совершенного разума» также есть идея о необходимости жесткого регулирования полностью автоматизированных компаний. Законы должны ограничивать рост этих компаний и подконтрольных им роботов и не допускать концентрации слишком большого могущества. Как только какая-то из них станет слишком крупной, автоматически должны включиться антимонопольный механизм и произойти принудительное разделение. В мире Моравека компании будут находиться под надзором общества интеллектуальных компаний, стоящего на страже коллективного блага. В его мировоззрении нет ничего романтического: «Мы не можем быть слишком сентиментальными по отношению к роботам, поскольку, в отличие от людей, у них нет истории эволюции, главным в которой было выживание». Он по-прежнему считает, что появление компаний с искусственным интеллектом и универсальных роботов ознаменует реализацию утопической идиллии, где удовлетворяются любые желания человека.

Но мировоззрение Моравека не полная идиллия. У его будущего с искусственным интеллектом и роботами есть и мрачная сторона. Роботы будут осваивать Солнечную систему, добывать полезные ископаемые на астероидах и самовоспроизводиться. Вот тут его идеи начинают смахивать на антиутопический фильм Ридли Скотта «Бегущий по лезвию» (Blade Runner), в котором андроиды начинают колонизировать Солнечную систему. «Что-то может пойти не так, и там появятся роботы-преступники, – говорит Моравек. – Дело кончится тем, что пояс астероидов и то, что находится за ним, превратится в дикий мир без ограничений, которые сдерживают послушных роботов на Земле». Понадобится ли нам планетарная система обороны от нашего потомства? Возможно, нет, рассуждает он. Остается надеяться, что эта новая технологическая форма жизни будет больше заинтересована в освоении Вселенной.

В уютном отшельническом командном центре Моравека в пригороде Питтсбурга, в комнате, полной мониторов, довольно легко поверить в его научно-фантастические представления. Но пока что у нас практически нет надежных свидетельств быстрого ускорения развития технологий, которое приведет к созданию робототехнического рая при его жизни. Хотя у нас до сих пор нет беспилотных автомобилей, а сроки реализации прогнозов приходится отодвигать все дальше, Моравек показывает кривые на своих гигантских мониторах и твердо стоит на том, что общество по-прежнему идет по пути создания вида, который станет нашим преемником.

Разделят ли люди это грандиозное видение? Хотя в книге «Дети разума» излагается идея загрузки разума человека в компьютер, Моравек не сторонник цели Рэя Курцвейла «жить достаточно долго, чтобы стать вечным». Курцвейл идет на экзотические и сомнительные медицинские процедуры для продления своей жизни. Моравек в расчете дожить хотя бы до 2050 г. ограничивается правильным питанием и частыми прогулками. Ему 64 года, и у него, пожалуй, неплохие шансы прожить достаточно долго.

В 1970-х и 1980-х гг. соблазн создания искусственного интеллекта привлек в эту область целое поколение великолепных инженеров, но принес разочарование. Когда искусственный интеллект не оправдал ожиданий, многие переключились на другой идеал – усиление интеллекта.

Шелдон Брейнер вырос в еврейской семье среднего класса в Сент-Луисе и с раннего возраста увлекался практически всем, с чем соприкасался. В 1950-х гг. он выбрал колледж в Стэнфорде в какой-то мере ради того, чтобы быть подальше от семейной пекарни. Он хотел посмотреть мир и еще в средней школе понял, что, если останется в Сент-Луисе, отец, скорее всего, заставит его заняться семейным бизнесом.

Закончив колледж, он съездил в Европу, провел некоторое время в армейском резерве, а затем вернулся в Стэнфорд, чтобы стать геофизиком. Ему давно не давала покоя идея, что магнитные силы играют какую-то роль в возникновении землетрясений и могут помочь предсказывать их. В 1962 г. он начал работать в Varian Associates, одной из первых компаний Кремниевой долины, выпускавшей магнитометры. Его задачей был поиск новых применений для этих приборов, позволявших обнаруживать незначительные изменения в магнитном поле Земли. Varian идеально соответствовала всестороннему интеллекту Брейнера. Как раз в то время высокочувствительные магнитометры стали портативными и открылись широкие перспективы для их применения в самых разных областях – от разведки нефти до обеспечения безопасности в аэропортах. Годы спустя Брейнер станет эдаким высокотехнологичным Индианой Джонсом, использующим технологические достижения для исследования археологических объектов. В руках Брейнера магнитометры Varian будут находить жертв лавин, клады, пропавшие подводные лодки и даже погребенные города. Первый эксперимент в полевых условиях он провел в районе Стэнфорда, измерив электромагнитный импульс 1,4-мегатонного ядерного взрыва на высоте 250 км над землей. Секретные испытания, известные как Starfish Prime, дали новые представления о воздействии ядерных взрывов на расположенную на земле электронику.

Работая над докторской диссертацией в 1967 г., Брейнер начал выяснять, можно ли использовать незначительные изменения магнитного поля в недрах земли для предсказания землетрясений. Он разместил группу магнитометров на грузовиках вдоль 200-километрового участка разлома Сан-Андреас и использовал телефонные линии для передачи данных в лабораторию в старом домике в кампусе Стэнфорда. Там он установил перьевой самописец для регистрации сигналов магнитометров. Это было громоздкое устройство, которое проталкивало, а не протягивало бумажную ленту под пятью цветными перьями. Чтобы менять ленту и отмечать время, был нанят подросток из местной школы, но устройство постоянно зажевывало бумагу. Тогда Брейнер приспособил для записи новый цифровой принтер Hewlett-Packard, и школьник, менявший ленту за доллар в день, стал одной из первых жертв автоматизации.

Позже Брейнера пригласила Hughes Corp. с целью разработки глубоководного морского магнитометра для судна Glomar Explorer. По официальной версии, он предназначался для поиска полезных ископаемых – марганцевых конкреций на океаническом дне на глубине 3000–3500 м. Десятилетие спустя выплыла информация, что реально это делалось в рамках операции ЦРУ по поиску и подъему затонувшей советской подводной лодки со дна Тихого океана. В 1968 г. после убийства Роберта Кеннеди советник Белого дома по науке попросил Брейнера порекомендовать технические средства для обнаружения спрятанного оружия. Тот явился в Исполнительное управление президента с относительно простой системой из четырех магнитометров, ставшей основой для современных металлодетекторов, которые широко используются в аэропортах и общественных зданиях и по сей день{113}.