Роботы-убийцы против человечества. Киберапокалипсис сегодня - Елена Ларина

a) подчеркивать необходимость обеспечения полной транспарентности применительно ко всем аспектам разработки роботизированных систем оружия;

b) добиваться от государств большей международной транспарентности относительно их процедур проведения обзора вооружений, в том числе процедур обзора на основании статьи 36 Дополнительного протокола I к Женевским конвенциям.

B. Региональным и другим межправительственным организациям

116. Поддержать предложения, изложенные в рекомендациях в адрес Организации Объединенных Наций и государств, в частности призыв к введению мораториев в качестве немедленной меры.

117. Когда необходимо, принимать инициативные меры, аналогичные или параллельные инициативам Организации Объединенных Наций.

C. Государствам

118. Ввести национальный мораторий в отношении БАРС в соответствии с предложением, содержащимся в пункте 114.

119. Заявить – в одностороннем порядке и в рамках многосторонних форумов – о приверженности соблюдению норм МГП и МППЧ во всей деятельности, связанной с роботизированными системами оружия, и принять и применять строгие процедуры соблюдения данных норм на всех стадиях разработки таких систем.

120. Взять обязательство обеспечивать максимально возможную степень транспарентности применительно к своим внутренним процедурам обзора вооружений, включая параметры, используемые при испытаниях роботизированных систем. Государствам следует как минимум обеспечить в интересах международного сообщества транспарентность относительно процедур (если и не существа результатов деятельности), которых они придерживаются, и взять обязательство проводить как можно более строгий обзор вооружений.

121. Принимать участие в международных обсуждениях и в межправительственном диалоге по вопросам БАРС и быть готовыми к обмену передовыми методами с другими государствами и сотрудничать с группой высокого уровня по вопросам БАРС.

D. Разработчикам роботизированных систем

122. Принять кодекс или кодексы поведения, этики и/или практики, определяющие содержание ответственного поведения в отношении БАРС в соответствии с МГП и МППЧ, либо усилить существующие кодексы.

E. НПО, гражданскому обществу и правозащитным группам и МККК

123. Рассматривать последствия применения БАРС для прав человека и для людей в ситуациях вооруженного конфликта и вести просветительскую работу по данному вопросу.

124. При любой возможности помогать государствам и взаимодействовать с ними в деле приведения их процедур и деятельности в данной области в соответствие с нормами МГП и МППЧ.

125. Призывать государства к обеспечению максимально возможной транспарентности в отношении их процедур обзора вооружений.

126. Поддерживать работу группы высокого уровня по вопросам БАРС.

По мере быстрого развития и быстрого увеличения количества автоматизированного оружия, оружие начинает на поле боя брать на себя некоторые функции солдат. Эксперты в области вооружений и робототехники предсказывают, что в течение 20-30 лет может быть разработано полностью автономное оружие (или «роботы-убийцы»), которое сможет выбирать и поражать цели по своему усмотрению без человеческого вмешательства. В настоящее время военные официальные лица говорят, что люди пока еще сохраняют возможность выбора при принятии решения: использовать (по умолчанию – смертельное) оружие или нет. Но однажды роботы смогут делать этот выбор по своему усмотрению.

Данный доклад был подготовлен негосударственными организациями «Human Rights Watch» («Наблюдение за правами человека») и «International Human Rights Clinic» («Интернациональная клиника гуманитарных прав», подразделение Гарвардской школы права). Первоочередной задачей этих организаций является: оценить, какое влияние полностью автономное оружие оказало бы на гарантии защиты мирного населения во время войны.

Этот отчет анализирует: выполняли бы «роботы-убийцы» требования международного гуманитарного права и давали ли бы они возможность проверять факты убийства гражданских лиц на соответствие нормам международного гуманитарного права.

Похоже, что полностью автономное оружие не только будет неспособно соответствовать юридическим стандартам, но также подорвет существенные неюридические гарантии безопасности для гражданских лиц. Авторы доклада приходят к заключению, что полностью автономное оружие не будет совместимо с международным гуманитарным правом. Его применение существенно увеличит риск гибели или ранения мирных жителей во время вооруженного конфликта. Поэтому необходим запрет на разработку, изготовление и использование такого оружия. И правительства всех стран должны срочно добиваться этого.

Полностью автономного оружия, которому уделяется основное внимание в этом отчете, еще не существует, но соответствующая технология развивается. И предшественники роботов-убийц уже используются. Многие страны используют системы оборонительного оружия, которые запрограммированы так, чтобы автоматически уничтожать воздушные цели. Другие предшественники полностью автономного оружия (использующиеся или находящиеся в разработке) предназначены для уничтожения живой силы и могут быть мобильным оружием нападения. Вооруженные силы дают высокую оценку такому оружию, потому что оно снижает риск поражения собственных солдат. Примеры, описанные в этом докладе, показывают, что много стран, и прежде всего США, близки к созданию роботов-убийц и имеют большой интерес к достижению этой цели.

Классификация оружия по степени автономности

Автоматизированное оружие, которое является «беспилотным», т. е. управляется удаленно оператором, часто делится на три категории по степени человеческого участия в его действиях:

• Человек В системе управления оружием (условно, IN): роботы применяют оружие только после человеческой команды;

• Человек НА системе управления оружием (условно, ON): роботы выбирают цели и применяют оружие самостоятельно, но под наблюдением человека, который может отменить действия робота;

• Человек ВНЕ системы управления оружием (условно, OUT): роботы выбирают цели и применяют оружие самостоятельно, без какого-либо человеческого участия. Человек не может отменить действий робота.

Примечания. В этом отчете термины «робот» и «роботизированное оружие» охватывают все три типа автоматизированного оружия. Другими словами, все, начиная от беспилотных самолетов с дистанционным управлением и заканчивая полностью автономным оружием – «роботами-убийцами». Хотя эксперты обсуждают точное определение, что такое робот, по существу роботы – это машины, которые работают на основании того, как они запрограммированы. Некоторые роботы обладают определенной степенью автономии, что означает способность машины работать без человеческого наблюдения/участия. Уровень автономии робота может измениться в очень широких пределах. Данная классификация и тенденция в развитии оружия являются прекрасным примером для ТРИЗ (теория решения изобретательских задач) на линию развития «вытеснение человека из технической системы».