Основание: мораль XXI века - Алексей Бардо

в СМИ просочилась информация, что компания Amazon внедрила алгоритм подбора персонала Automated Applicant Evaluation. Программа способна прогнозировать дальнейшую деятельности в компании соискателя на различные вакансии. То есть рекрутеры («кадровики») Безосу больше не понадобятся. Скорее всего, не только ему. Если программа докажет свою эффективность на практике (а она обязательно докажет), аналогичные ИИ-алгоритмы станут внедряться повсеместно.

2. Цифровая диктатура

Это чистой воды уничтожение частной жизни по схожим сценариями Замятина (роман «Мы») и Оруэлла («1984»). Если данные будут контролироваться десятком мега-корпораций или государствами, то это высокий риск развития цифровых диктатур. Здесь довольно обширная область для спекуляций, но наша задача не фантазировать, а прогнозировать, опираясь на текущие тенденции. Итак, что мы имеем? Сейчас мы доверяем различным алгоритмам, подсказывающим нам исходя из анализа запросов в поисковых системах, интересов в соцсетях и так далее, какую книгу прочесть, какой товар приобрести, на какой фильм обратить внимание, на какого блогера подписаться, чтобы не отстать от трендов. То есть мы как бы доверили делать выбор за нас алгоритмам. И сейчас мы сохраняем свободу воли. Например, мы можем отказаться от рекомендации. В будущем же алгоритмы могут понимать нас лучше, чем мы сами: знать психологические особенности личности, политические взгляды, слабые места, мечты, надежды, провалы, достижения, научатся точно предсказывать наши чувства и действия, манипулировать нами, принимать решения за нас, создавая иллюзию свободы воли. В будущем мы рискуем потерять контроль над своей жизнью. Можно предположить, что технологии будут предопределять судьбу человека, едва ли не с младенчества, моделируя ее на основании таких данных, как место рождения, социальный статус родителей, генетические особенности, потенциальные интеллектуальные способности, предрасположенность к заболеваниям. Вы будете всю свою жизнь работать на социальный рейтинг — что-то вроде цифрового досье. В него будут вноситься все ваши достижения, неудачи, места работы, сделанные заказы услуг и товаров, данные о расходах, нарушениях правил дорожного движения, словом, каждый шаг с самого раннего возраста будет записан в персональную электронную летопись. К ней будут иметь доступ другие люди, потенциальные работодатели, правительство. Это открывает как возможности для принципиально новых социальных взаимодействий, так и угрозы в виде манипулирования вашими данными или намеренного их повреждения. Кроме того, и правительства смогут вас с легкостью отсортировать по выбранным критериям, допустим, в класс граждан с низким уровнем благонадежности.

Представьте, что уже сейчас данные о вас собираются через гаджеты, скрупулезно сортируются программами и оседают на серверах технологических корпораций. Они хотят знать о вас все, предугадывать ваше поведение, пока только в интересах маркетинга. Но что будет, когда накопится критическая масса данных? В их руках будет портрет человечества со всеми его пороками и достоинствами. Возможно, тогда откроется тайна, которая пугает и завораживает нас — ответ на вопрос: кто мы? Может быть, окажется, что человек довольно примитивное существо, возможно, напротив, откроются новые неизвестные горизонты человеческой психики.

В будущем вероятнее всего жизнь большинства людей будет вписана в рамки персонального сценария. И алгоритмы будут решать, стоит ли в вас инвестировать средства: давать доступ к хорошему образованию, карьере или оставить барахтаться на дне без особой цели и перспективы. Таким образом, продуктом информационно-технологической индустрии станет сам человек. Человек, лишенный свободы воли, погруженный в иллюзию осмысленного существования. На самом же деле человек станет обслуживающим персоналом алгоритмов, которые незаметно захватят власть над миром. Впрочем, революция, поднятая машинами, уже началась. Но ее мало кто замечает. Добро пожаловать в дивный новый мир!

Не меньше опасности представляет массовая имплантация подкожных чипов, с помощью которых можно не только улучшить работу системы здравоохранения, например, но и поставить людей под тотальный контроль, вплоть до отслеживания ваших нервных и физиологических реакций. Здесь стоит добавить еще две детали. На Всемирном экономическом форуме 2022 года генеральный директор Nokia Пекка Лундмарк заявил, что к 2030 году «смартфоны будут имплантированы непосредственно в тело». Это совпадет с появлением технологии 6G, которая, как ожидается, будет запущена к концу десятилетия. Также на встрече в Давосе президент Alibaba Group Дж. Майкл Эванс объявил о разработке «индивидуального углеродного трекера» для мониторинга того, что вы покупаете, что едите, где и как путешествуете.

Еще одна связанная угроза — цифровое правосудие. В этой области опять лидирует Китай. С недавних пор судьи этой страны должны прислушиваться к мнению искусственного интеллекта при вынесении приговоров. Таким образом, китайские власти намерены избежать человеческих ошибок во время судебных процессов. Но что, если ошибаться начнет искусственный интеллект? Притом, намеренно.

3. Уничтожение человеческого

Выше мы уже определились, что при всех сохраняющихся условиях, частичное или полное замещение биологии человека техникой — неизбежная траектория нашей эволюции. Поэтому когда мы говорим об уничтожении человеческого, мы не подразумеваем не телесные модификации, а изменение глубинной основы человека — души. Эксперты в области искусственного интеллекта и биотехнологий полагают, что в недалеком будущем человечество будет технически готово к созданию андроидов, обладающих сознанием. В свою очередь правительства, транснациональные корпорации, военные, международные структуры и так далее, могут использовать возможности новых технологий для улучшения человеческих навыков, сбрасывая со счетов такие «ненужные» проявления человечности, как, например, сострадание, восхищение, сопереживание и другие. На что будут способны такие модифицированные люди, понятно без лишних объяснений — на все.

Это лишь одни из немногих, но наиболее значительных вызовов, формирующихся под влиянием развития технологий. Нетрудно заметить, что все они — о тотальном контроле со стороны алгоритмов и подчинении им человека. Иными словами, о машине, знающей все и о каждом. Кто ею владеет, тот подобен богу. Вопрос лишь в том, добродетельному или жестокому? По сути, это наш бессознательный страх — оказаться во власти всевидящего бездушного существа, от которого невозможно скрыться ни во сне, ни наяву. Впрочем, философствовать на эту тему можно бесконечно долго, вызывая в воображении все более ужасные и фантастические сценарии конфликта машин и людей. Сейчас уже очевидна диспропорция в данных между странами первого и третьего мира, что дает первым еще больше военных, экономических и политических преимуществ. Кроме этого, опираясь на данность, мы можем с уверенностью говорить, что приведенные три глобальные угрозы человечеству будут реализованы с высокой степенью вероятности. Наша задача справиться с ними. Иначе никто не останется в выигрыше.

Рассматривая будущее, нельзя обойти стороной еще одну важную проблему — демографическую. Население Земли достигло 8 миллиардов человек. По данным демографического отдела ООН, к 2050 году нас будет 9,7 миллиардов, а к концу столетия уже 11 миллиардов. Ценность жизни человека будет подвержена еще большей инфляции, чем сейчас. Она попросту обесценится до уровня биомассы. Кроме того, это чрезвычайно высокая нагрузка