Технологии против человека - Герд Леонгард

7. Нам нужно сохранить четкое разграничение между тем, что реально, и тем, что является копией или моделированием. Полное взаимодействие, думающие машины, умное облако и когнитивные вычисления – это наше неизбежное будущее, но мы не должны отказываться от разграничения между (компьютерным) моделированием и бытием (dasein), между вычислениями и чувством, между сообществом машин (machine-kind) и человечеством. Погружение в мир удивительных моделей может быть очень полезно для обучения, развлечения или работы, но должно ли это становиться образом жизни в целом?

Могут ли эти технологии стать своего рода универсальным лекарством, которое мы будем постоянно принимать, чтобы сделать нашу жизнь более полной? Нужны ли нам ограничения и регулирование того, сколько нам разрешено использовать и насколько далеко мы можем зайти? Если технологии действительно не то, что мы ищем, а то, как мы ищем, нам, наверное, понадобится помощь, чтобы продолжать разграничивать эти инструменты и нашу истинную цель? Выстраивание отношений с людьми должно оставаться более важным, чем выстраивание отношений с машинами. Используйте технологии, но не становитесь ими.

8. Нам необходимо начать спрашивать, «почему» и «кто», а не только «если» или «как». Будущие стратегические решения, касающиеся разработки и внедрения технологий, должны в большей степени ориентироваться на осмысление, контекст, цель, значение и актуальность, а не просто концентрироваться на осуществимости, стоимости, масштабе, прибыли и вкладе в развитие. Вопрос «как» нужно заменить вопросом «почему».

9. Мы не должны позволить Кремниевой долине, технологам, военным или инвесторам управлять человечеством, независимо от того, в какой стране они находятся. Те, кто финансирует, создает и продает экспоненциальные технологии, вряд ли захотят ограничить свою власть или масштабы потенциальных применений. Те, кто строит машины для войны, не станут теми, кто сосредоточится на человеческом счастье. Те, кто вкладывает средства в разрушительные технологии для получения стократной отдачи, не будут вкладывать средства в построение будущего подлинно человеческого общества ради коллективного блага. Те, кто создает инструменты, имеют свою собственную повестку дня, и это в основном касается монетизации и власти, – где же в процессе принятия решений представительство тех, кто использует эти инструменты?

Оценка экспоненциальных технологий: семь важных вопросов

С учетом того, что большая часть этой книги посвящена тому, как человечество может победить в предстоящей битве с экспоненциальными технологиями, здесь представлены семь вопросов, которые, я считаю, мы должны задать при оценке масштабов радикальных изменений. Я понимаю, что во многих случаях правильный ответ может быть либо «оба», либо «по-разному». Однако я считаю, что, просто остановившись, чтобы задать эти вопросы, мы могли бы более четко понять их плюсы и минусы.

1. Будут ли технологии непреднамеренно или специально умалять человечность? Будут ли они стремиться заменить важное взаимодействие между людьми, которое не должно быть ими опосредовано? Будут ли они автоматизировать что-то уникально человеческое, что действительно не должно быть автоматизировано? Эти технологии освободят нас от ненужных и бесполезных тягот или соблазнят нас пропустить действительно нечто человеческое? Это червоточина или катализатор?

2. Будут ли эти технологии способствовать истинному человеческому счастью? Заставит ли это нас больше довольствоваться тем, что есть, позволит ли нам достичь эвдемонизма и сделать больше вклад в него? Будет ли это выходить далеко за рамки простого предоставления гедонических удовольствий, или, если это в основном гедонический инструмент, будет ли он стремиться привести нас к путанице с более глубоким чувством счастья?

3. Есть ли у этих технологий какие-либо случайные и потенциально катастрофические побочные эффекты? Отнимут ли они у нас у всех власть, или же они наделят нас властью? Окажут ли они значительное воздействие на экосистемы, имеющие решающее значение для многих людей, и если да, то включат ли они учет этих внешних факторов в свои бизнес-модели?

4. Будут ли технологии наделять чрезмерными полномочиями себя и другие алгоритмы, боты и машины? Появится ли у пользователей соблазн отказаться от своих полномочий, используя их? Будут ли нас подстрекать к передаче наших мыслей на аутсорсинг? Будут ли эти технологии служить нам, или они в основном окажутся самообслуживанием, т. е. будут в основном получать, а не повышать ценность?

5. Позволят ли нам эти технологии выйти за их пределы, или они сделают нас зависимыми от них? Заставят ли технологии людей выполнять подчиненную роль – специально или случайно? Превзойдут ли технологии наши возможности настолько, что мы будем вынуждены беспрекословно следовать их указаниям и решениям?

6. Понадобится ли людям существенно измениться или дополниться, чтобы в действительности использовать эти технологии? Ведут ли эти технологии нас к обновлению нашего тела или чувств, или они работают в существующих пределах того, кем мы являемся? Заставит ли это нас модернизироваться и дополняться, если мы хотим получить доступ к рабочим местам, образованию и здравоохранению?

7. Будут ли эти технологии в открытом доступе, или они будут в собственности? Сможем ли мы изменять их, или они будут заблокированы? Будут ли они доступны для всех, или только для 1 % элиты? Увеличат ли они неравенство или уменьшат его? Как мы узнаем уровень богатства, накопленного доминирующими поставщиками, если технологии будут контролировать наш доступ к информации?

Вы в команде людей?

Я впервые услышал об этой перспективной идее от Дугласа Рашкоффа202 и сразу подумал, что это было бы отличным девизом на пути к будущему.

Вот что значит «быть в команде людей» для меня:

• Поставить коллективное процветание человечества на первое место и выше всех других проблем.

• Позволить андроритмам, этим уникальным человеческим качествам, таким как воображение, случайности, ошибки и неэффективность, и далее играть важную роль, даже если они нежелательны или несовместимы с технологиями.

• Бороться с распространением машинного мышления, т. е. не менять то, за что мы боремся и в чем нуждаемся как люди, потому что иначе это может облегчить задачу порабощения человечества технологиями, окружающими нас.

• Не поддаваться искушению предпочесть технологическое волшебство, т. е. великолепное моделирование реальности, самой реальности и не увлекаться технологиями.

• Не отдавать предпочтение отношениям с экранами и машинами вместо отношений, которые у нас могут быть с реальными людьми.

Как я уже говорил в начале, моя цель состояла в том, чтобы привлечь внимание к проблеме, начать обсуждение и спровоцировать энергичный ответ. Что вы сделаете, чтобы продолжить разговор в вашей организации, сообществе, семье и дружеском кругу?

Со своей стороны, я продолжу исследовать, что значит «быть в команде людей», в ходе моей текущей работы в качестве лектора, советника, писателя и режиссера. Пожалуйста, присоединяйтесь к обсуждению на сайте книги www.techvshuman.com и на специализированном сайте www.onteamhuman.com.