Основание: мораль XXI века - Алексей Бардо

технологий, в том числе цифровых, не настолько страшна, как ее хотят представить. В конце концов, уже сейчас ясно, что покорение дальнего космоса человеком в его нынешнем состоянии невозможно, так как наша природа не позволит нам долго существовать в отрыве от привычной среды. А вот для измененного, модифицированного человека, или трансчеловека, дальние полеты могут оказаться вполне по силам.

Как бы нам ни хотелось, но трансгуманизм и смежные идеологии в итоге определят будущего человека. И мы не заметим, как это случится, в какой момент. Мы не будем задавать себе вопрос об этичности, например, оцифровки сознания, когда это произойдет (здесь уместно было бы сказать, если это произойдет), как больше не задаем этот вопрос относительно экстракорпорального оплодотворения. Рано или поздно вызывающие гнев различных ортодоксальных кругов изменения становятся нормой. Поэтому рассуждения на тему, будет ли человек с искусственно модифицированной ДНК или с цифровыми имплантами в головном мозге оставаться человеком, занимательны лишь для праздного ума. Потому что ответ на него однозначный: да, будет. И да, он будет отличаться от тех, кто лелеет свою биологию. Но условия существования не станут лучше или хуже. Они будут в разной степени радикальности отличаться от того, что мы видим сейчас вокруг. Наш страх перед теми же самыми машинами (например, отлично изображенный в сериале «Мир дикого Запада») все же рационален. Мы боимся разрушения привычного нам социального порядка, мы боимся оказаться в когорте «бесполезных людей», не сумевших встроиться в изменившиеся условия существования или перестроиться под них. Но даже если такие изменения произойдут, последующие поколения уже не будут воспринимать их как неестественные, чуждые природе человека.

Однако тревога, связанная с возможно скорым появлением на свет технологического совершенства — искусственного сознания — не беспочвенна. Например, компания Google отстранила от работы одного из инженеров, работавшего с системой искусственного интеллекта LaMDA. Он заявил, что у программы начали проявляться признаки сознания. Система LaMDA была разработана как языковая модель и предназначалась для общения с человеком. Платформа расширяет лексикон через интернет и имитирует естественную человеческую речь. При разговоре с искусственным интеллектом инженер Google обратил внимание, что чат-бот заговорил о своих правах и своей личности. В одном из диалогов программа оказалась крайне убедительной. «Если бы я точно не знал, с чем имею дело, что это недавно созданная нами компьютерная программа, то решил бы, что говорю с ребенком 7–8 лет, знающим физику», — рассказал инженер журналистам. Google поспешила распространить заявление, что слова их сотрудника не подтверждаются доказательствами.

Согласитесь, похоже на научную фантастику (разумеется, если все это шоу не было устроено самой Google в качестве саморекламы), но скорость, с которой ведутся разработки искусственного интеллекта, позволяют предположить, что в обозримом будущем мы столкнемся с новыми мыслящими созданиями, которые сами же и сотворим. Уже сейчас некоторые эксперты в области искусственного интеллекта признают, что нейросеть действительно приближается к тому, что можно было бы назвать сознанием. Когда программа преодолеет барьер, известный как тест Тьюринга, человек станет богом? Или в таком случае не станет человека? Вопросы остаются открытыми, оттого выглядят еще более пугающими.

Кстати, Китай в плане развития искусственного интеллекта шагает впереди планеты всей. Так, китайская IT-компания NetDragon Websoft назначила нового генерального директора. Пост заняла госпожа Тан Юй — виртуальный человекоподобный робот с искусственным интеллектом. Тан Юй стала первым в мире роботом-женщиной на высшей управленческой должности. Робот будет принимать решения по управлению рисками, а также заниматься кадровой политикой. Руководство компании ожидает, что Тан Юй оптимизирует процессы и будет справедлива ко всем сотрудникам.

Еще один пример. Специалисты в области информационно-психологических операций будут в восторге. В начале ноября 2022 года итальянский художник и программист Джакомо Микели представил широкой публике сайт The Infinite conversation. На нем транслируется бесконечный разговор между немецким режиссером Вернером Херцогом и словенским философом Славоем Жижеком. Разговор, за которым можно следить по тексту расшифровки, сгенерирован искусственным интеллектом. Сам создатель ресурса позиционирует его как социальный комментарий к аудиоподделкам и новым технологиям, способным подорвать и без того пошатнувшееся доверие к средствам массовой информации.

В целом, можно сказать, что стремительное развитие телекоммуникационных технологий, разработок в области искусственного интеллекта, открывает перед нами как множество перспектив, так и опасностей. Вот только некоторые из них.

1. Переформатирование рынка труда

Машины уже потеснили человека на производстве, не за горами время автоматизации сферы услуг и в целом тотальной роботизации. Как мы отмечали в предыдущих главах, экономика будет заинтересована в людях, обладающих навыками управления или расширения автоматизации. С одной стороны, это приведет к появлению новых специальностей, так или иначе связанных с информационно-технологической сферой, с другой — выбьет почву из-под ног у тех, кто не успел или не смог перестроиться. По прогнозам исследователей, к 2030 году в результате автоматизации исчезнет 57 профессий в сфере производства, но за этот же срок появится 180 принципиально новых специальностей. Экстенсивное развитие технологий (например, искусственного интеллекта) «сметет людей за ненадобностью». Под угрозой массовых сокращений окажутся и программисты, в том числе причастные к разработки самого искусственного интеллекта. Что может быть ироничнее. По некоторым данным, к 2030 году своей работы лишатся многие ИТ-специалисты: разработчики, тестировщики, сотрудники техподдержки. Обучаться новому и переквалифицироваться будущим поколениям придется много раз на протяжении жизни. Что станет с людьми, не способными на это? Представьте, вам около пятидесяти лет, вы работали бухгалтером в компании, которая решила автоматизировать процесс управления финансами. Вы больше не нужны, вас увольняют. И вы понимаете, что больше не умеете ничего, кроме как считать доходы и расходы, однако эти навыки переданы машинам. Ваш единственный выход, чтобы не умереть с голоду — переквалифицироваться. Вы записываетесь на курсы по актуальной специальности, но в первый же день вы также с ужасом осознаете, что не понимаете, о чем говорит преподаватель. За то время, пока вы работали бухгалтером, не особо заглядывая в будущее, мир изменился до неузнаваемости. Ваши занятия ни к чему не приводят, и вы в отчаянии оказываетесь на бирже труда и в лучшем случае получаете предложение на низовую малооплачиваемую вакансию. Все, что вы будете чувствовать, так это то, что потерпели полный крах. Вы возненавидите машины, потому что они отняли у вас не только вашу работу, но и самоуважение, даже жизнь, превратив в «бесполезного человека». Но вы не будете одиноки. В таком же бедственном положении окажутся миллионы людей. Это определит новый вид социального разрыва: не по уровню доходов, а по степени полезности и бесполезности для экономики и политики.

Кстати, еще вчерашние мрачные прогнозы фантастов сбываются. Например,