Роботы-убийцы против человечества. Киберапокалипсис сегодня - Елена Ларина

106. Статья 36 Первого Дополнительного протокола к Женевским конвенциям является особенно актуальной, предусматривая на этот счет, что «при изучении, разработке, приобретении или принятии на вооружение новых видов оружия, средств или методов ведения войны Высокая Договаривающаяся Сторона должна определить, подпадает ли их применение, при некоторых или при всех обстоятельствах, под запрещения, содержащиеся в настоящем Протоколе или в каких-либо других нормах международного права, применяемых к Высокой Договаривающейся Стороне».

107. Этот процесс имеет характер не внешней инспекции, а внутренней интроспекции и основан на добросовестности сторон[88]. Соединенные Штаты, хотя и не являются государством-участником, еще в 1947 году создали официальные обзорные механизмы по вопросам вооружений. Хотя государства нельзя обязать предавать гласности результаты проводимых ими обзоров, одним из способов обеспечения большего контроля в сфере появления новых видов вооружений, таких как БАРС, будет побуждение их к большей открытости в вопросах процедуры, которой они придерживаются при проведении общих обзоров на основании статьи 36.

108. В 2012 году Соединенные Штаты, с принятием министерством обороны соответствующей директивы, приступили к реализации важного процесса саморегулирования в связи с БАРС, признав необходимость национального контроля за их производством и развертыванием и введя определенного рода мораторий[89]. Этой директивой предусматривается, что автономные системы оружия «должны быть спроектированы таким образом, чтобы позволить командирам и операторам осуществлять надлежащую степень человеческого контроля в отношении применения силы[90]. В ней определяются конкретные уровни, на которых дается официальная санкция на разработку и принятие на вооружение разных видов роботов[91]. В частности, в директиве предусмотрен запрет на разработку и развертывание БАРС, если не соблюдены определенные процедуры[92]. Эта важная инициатива одного из крупных потенциальных производителей БАРС должна быть одобрена и может открыть возможности для мобилизации международной поддержки в пользу национальных мораториев.

109. Есть, несомненно, убедительные доводы в пользу проявления большой осмотрительности в подходе к возможному созданию БАРС. Их применение может иметь далеко идущие последствия для социальных ценностей, в том числе глубоко повлиять на защиту жизни и принцип ценности человеческой жизни, равно как и на международную стабильность и безопасность. Хотя в настоящее время не ясно, как БАРС смогут во многих отношениях удовлетворять требования МГП и МППЧ, можно предвидеть, что при определенных обстоятельствах они смогут соблюдать эти требования, особенно если они будут использоваться бок о бок с солдатами. Даже если это так, существует широко распространенное беспокойство в связи с тем, что наделение БАРС возможностью убивать людей может принизить ценность самой жизни. Неустающие военные машины, готовые к применению нажатием кнопки, создают опасность перманентного вооруженного конфликта (хотя и низкой интенсивности), устраняя возможность послевоенного восстановления. Тем, кто хочет принять БАРС на вооружение, придется доказывать, что конкретные виды их применения в тех или иных конкретных условиях следует разрешить. Ввиду далеко идущих последствий их применения для защиты человеческой жизни потребуются убедительные доказательства.

110. Если слишком долго оставлять этот вопрос без внимания, он в буквальном смысле будет вырван из рук человека. Кроме того, следуя по пятам проблемного применения и оспариваемых обоснований беспилотников и прицельного уничтожения, БАРС могут серьезно подорвать способность мировой правовой системы сохранять минимальный мировой порядок.

111. Некоторые меры необходимо принять немедленно, тогда как другие могут последовать позднее. Если опыт беспилотников считать показательным, то необходимо будет с самого начала поставить на повестку дня задачу обеспечения транспарентности, ответственности и верховенства права. Потребуются моратории для того, чтобы не допустить принятия мер, которые позднее могут оказаться необратимыми, а всеохватывающий процесс принятия решения относительно подхода к этому вопросу должен идти одновременно на национальном, межгосударственном и международном уровнях.

112. Чтобы инициировать этот процесс, потребуется создать международный орган для мониторинга ситуации и выработки вариантов действий на более далекую перспективу. Непрекращающаяся работа этого органа, или его преемника, по вопросам, возникающим в связи с БАРС, будет иметь крайне важное значение ввиду постоянной эволюции технологии и необходимости обеспечить защиту права на жизнь – чтобы не допустить ни индивидуальных случаев произвольного лишения жизни, ни обесценения жизни в более широком плане.

А. Организации Объединенных Наций

113. Совет по правам человека должен призвать все государства объявить и соблюдать национальные моратории, по крайней мере, на испытания, производство, сборку, передачу, приобретение, принятие на вооружение и применение БАРС до тех пор, пока не будет разработана согласованная на международном уровне рамочная система в отношении будущего БАРС.

114. Предложить Верховному комиссару по правам человека в приоритетном порядке созвать группу высокого уровня по вопросам БАРС, состоящую из экспертов в различных областях, таких как право, робототехника, компьютерная наука, военные операции, дипломатия, управление конфликтами, этика и философия. Эта группа должна опубликовать свой доклад в течение одного года, и ее мандат должен включать:

a) проведение анализа технических достижений, имеющих отношение к БАРС;

b) оценку правовых и этических вопросов и вопросов политики, касающихся БАРС;

c) выработку рамочной основы, позволяющей международному сообществу эффективно решать правовые вопросы и вопросы политики, возникающие в связи с БАРС, и разработку на этот счет конкретных рекомендаций по вопросам существа и процедуры; в своей работе группа должна стремиться содействовать широкому международному диалогу;

d) оценку достаточности или недостатков существующих международно-правовых и национальных нормативных основ регулирования БАРС;

e) подготовку предложений относительно последующей деятельности по итогам работы группы.

115. Все соответствующие учреждения и органы Организации Объединенных Наций должны, когда это уместно, в своих отношениях со сторонами, ведущими работу в области робототехниче-ского оружия: