Роль искусственного интеллекта в международном гуманитарном праве

Размещено на http://allbest.ru

Дальневосточный федеральный университет

Роль искусственного интеллекта в международном гуманитарном праве

Сикач Артём Сергеевич

Студент 3 курса Юридической школы

Россия, г. Владивосток

Аннотация

В данной статье рассматривается роль автономной системы вооружения, оснащённые искусственным интеллектом, во время проведения исследования применялись нормативно-правовые акты, конвенции, регламентирующие насчёт применения оружия во время ведения военных действий, приводятся подробности типов автономных систем вооружений с ИИ. Приводится заключение по данной теме.

Ключевые слова: автономные системы вооружения, оснащённые искусственным интеллектом, международное гуманитарное право, вооружённый конфликт, Международный Комитет Красного Креста, искусственный интеллект.

Annotation

This article examines the role of autonomous weapons systems equipped with artificial intelligence, during the study, regulatory legal acts, conventions regulating the use of weapons during the conduct of hostilities were applied, details of the types of autonomous weapons systems with AI are given. The conclusion on this topic is given.

Keywords:autonomous weapons systems equipped with artificial intelligence, international humanitarian law, armed conflict, International Committee of the Red Cross, artificial intelligence.

В результате научно - технического прогресса возникли новые инновационные технологии, изменившие жизнь всего общества, а также внедрившаяся во многие сферы жизнедеятельности. Вот только остаётся актуальным вопрос о том, соответствует ли использование искусственного интеллекта принципам международного гуманитарного права.

Здесь речь идёт о применении автономных систем вооружений, оснащённых искусственным интеллектом.

Уже сегодня имеющее место применение подобных автономных систем вооружений в рамках вооружённых конфликтов и контртеррористических операций поднимает серьёзные этические вопросы. Вопрос о том, позволяют ли принципы гуманности принимать машинам решения по поводу жизни и смерти в рамках вооружённых конфликтов без участия человека в процессе принятия таких решений [1].

Филип Олстон в Промежуточном докладе Специального докладчика по вопросу о внесудебных, суммарных и произвольных казнях № А/65/321 от 23.08.2010 на Шестьдесят пятой сессии Генеральной Ассамблеи ООН отметил, что быстрое развитие технологий в области робототехники и автономных устройств, особенно тех, которые можно использовать для военных целей и в режиме пониженной управляемости со стороны человека - оператора, даёт основание для серьёзных опасений, которые почти не изучены правозащитниками или специалистами по гуманитарной деятельности [2,14]. В настоящее время вопросы применения искусственного интеллекта и автономных систем вооружений нормами международного гуманитарного права не урегулированы.

МККК определяет такую систему как «систему вооружений с автономией в её важнейших функциях. То есть система вооружения способна отбирать (т.е. искать или обнаруживать, идентифицировать, отслеживать, выбирать) и селективно атаковать (т.е. использовать силу, нейтрализовать, разрушать или уничтожать) цели без непосредственного человеческого вмешательства».

Автономность является важнейшей функцией систем искусственного интеллекта, которые при этом наделены и другими способностями, например, способностью к самообучению.

Такое оружие не будет соответствовать нормам международного гуманитарного права и увеличит риски причинения смерти или вреда здоровью мирному населению в период вооружённого конфликта [3, с. 49]. В п. 623 Сводной доктрины Великобритании 2011 г. «Подход Соединённого Королевства к беспилотным летательным аппаратам» отмечается, что истинный искусственный интеллект, благодаря которому машина будет обладать способностью мыслить, большей, чем человеческая. Будет полным изменением игры не только в военной отрасли, но и во всех аспектах современной мысли, а изменение парадигмы технологий искусственного интеллекта было бы разрушительным при их военном применении [4].

МГП нацелено на защиту человеческого достоинства и защиту жертв вооружённого конфликта посредством введения разных ограничений на применение силы. Международное гуманитарное право, в том числе, запрещает использование определённых средств и методов ведения войны.

Ключевым свойством АСВ, обусловливающее отдельное рассмотрение с точки зрения МГП, является их неподконтрольность человеку, приводящая к разрушительным последствиям, и с этой точки зрения следует рассматривать неподконтрольное человеку оружие как способное нанести вред гражданскому населению, а также вред комбатантам. Ч. 4 ст. 51 Протокола I запрещает нападения неизбирательного характера для целей обеспечения защиты гражданского населения. Согласно п. «в» ст. 23 Положения о законах и обычаях сухопутной войны (приложение к Конвенции о законах и обычаях сухопутной войны от 18 октября 1907 г.) запрещается убивать или ранить неприятеля, который, положив оружие или не имея более средств защищаться, сдался.

Автономная система вооружения, оснащённая искусственным интеллектом, не в состоянии учитывать законы человечности. Ведь для того чтобы АСВ считалась используемой для ведения военных действий, человеческие агенты воюющей стороны должны осуществлять непосредственный контроль над этой системой, чтобы использовать её в качестве средства ведения войны, т.е. не на всякое совершение действий АСВ даже в рамках вооружённого конфликта будет распространяться действие положений и требований МГП.

Автономные ударные системы с использованием искусственного интеллекта создают угрозы, которые можно разделить на три группы [5, с. 5152]: война международный право гуманность интеллект

1. Первая группа включает риски, связанные с исключением человека из цикла принятия решений на применение оружия -- так называемая «проблема значимого человеческого контроля».

Представители мировой общественности (неправительственные организации «Stop Killer Robots», «Article 36», «International Committee for Robot Arms Control», бизнесмены и ученые, в частности, Стивен Хокинг, Илон Маск, Стив Возняк) считают, что полностью автономное оружие с большой вероятностью не будет в состоянии соответствовать международному гуманитарному праву и правам человека, создаст проблему с определением ответственных лиц в случае противоправных действий автономных аппаратов. Боевым роботам ставится в вину неспособность испытывать сочувствие, то есть то человеческое чувство, которое нередко выступает сдерживающим фактором в отношении применения оружия. Еще один аргумент против САС -- их использование противоречит принципу гуманности и требованиям общественного сознания.

2. Вторая группа угроз связана с риском нарушения стратегической стабильности. Элементы автономности и искусственного интеллекта приходят во все сферы военного противостояния. Так, в ядерной сфере появляются высокоточные тактические ядерные бомбы и гиперзвуковые аппараты с новыми ядерными боеголовками; в космической области -- беспилотные космические дроны, системы низкоорбитальных спутников наблюдения и связи; в сфере ПРО -- связка системы слежения и наблюдения с системой управления и связи; в киберсфере -- кибероружие и автоматизированная система ответного киберудара. Некоторые из этих видов вооружений, как, например, гиперзвуковые ракеты или средства кибернападения, могут служить инструментом стратегического сдерживания наряду с ядерным оружием. То есть даже у неядерных стран возникает возможность резкого наращивания как потенциала сдерживания, так и ударных возможностей. За этими тенденциями стоит серия рисков:

— риск установления технологического и военного глобального превосходства одной из стран;

— новая гонка вооружений;

— повышение региональной и международной напряженности;

— сокращение транспарентности военных программ;

— игнорирование международного права;

— распространение опасных технологий среди негосударственных субъектов.

Основываясь на опыте военного использования военных и коммерческих дистанционно управляемых беспилотных летательных аппаратов (БПЛА), исследователи делают вывод о том, что технологии производства САС, их компоненты и программное обеспечение получат значительное распространение в мире, что станет толчком для гонки вооружений, приводящей к усилению нестабильности и эскалации разнообразных рисков.

Некоторые эксперты полагают, что поддержание стратегической стабильности в ближайшие десятилетия потребует пересмотра основ теории сдерживания в многополярном мире.

3. Третья группа угроз вытекает из радикального сокращения времени на принятие стратегических решений в рамках системы сбора и анализа разведывательной информации (Intelligence, Surveillance & Reconnaissance (ISR)) и военного управления и связи (Communications, Command and Control (C3)). Главный недостаток человека в сравнении с машиной состоит в том, что человеческому мозгу необходимо слишком много времени для оценки ситуации и принятия верного решения. Целый ряд военных программ в ведущих государствах мира (в частности программы Пентагона Maven, COMPASS, Diamond Shield) нацелен на то, чтобы суперкомпьютеры взяли на себя работу по анализу различных данных и подготовке сценариев для политического и военного руководства.

С этим связаны, как минимум, такие риски:

— нехватка времени для принятия осмысленных решений,

— недостаточный контроль над ситуацией со стороны человека,

— принятие стратегических решений на основе математических алгоритмов и систем машинного обучения, а не человеческой логики,

— отсутствие взаимопонимания между машиной и человеком. Нейронные сети пока не в состоянии объяснить закономерности своей работы на человеческом языке.

Справедливости ради следует отметить, что глобализация и развитие трансграничных проектов, социальных сетей, транснациональных корпораций, международной кооперации, спутников наблюдения, радиоэлектронных средств слежения сделали мир более прозрачным. В мире появилось много сигнальных датчиков, которые сообщают о появлении новых угроз еще до того, как они материализуются.

Относительно ответственности за причинение ущерба автономными интеллектуальными системами вооружений МГП, в частности его положения, касающиеся ответственности государств, не содержит никаких прямых указаний относительно того, как следует трактовать использование автономных интеллектуальных систем вооружений, но в то же время и не устанавливает напрямую, что государство не несёт ответственности за действия таких систем.

Джон Уивер отмечает, что стандарт применения АИСВ, согласно которому они должны никогда не ошибаться при различении комбатантов и гражданского населения, кажется не совсем корректным, так как даже люди не всегда могут его придерживаться.

Автономная система вооружения имеет много преимуществ в применении для вооружённого конфликта, но многие хотят приостановить производство автономного вооружения. Ведь проблемой применения автономного вооружения состоит в установлении того, как и кем будут соблюдаться нормы международного гуманитарного права. Сможет ли робот провести должное различие между комбатантом и некомбатантом? Для соблюдения норм МГП необходимо, чтобы машины могли адекватно «оценивать» обстановку, оперативно реагировать на её изменения, действовать в соответствии с конкретными обстоятельствами.

Уровень автономности военного вооружения может нести в себе угрозу постоянного ослабления контроля человека за применением силы, что является недопустимым. Применение автономного вооружения может быть разрешено только, если они будут соблюдать принципы МГП. Для этого необходимо в соответствующие механизмы вооружения заложить в обязательном порядке информацию о нормах МГП и алгоритм их неукоснительного соблюдения.

Конкретной нормы, которая относится к автономным система вооружения, не существует. Согласно ст. 36 Дополнительного протокола № 1 к Женевским конвенциям: «При изучении, разработке, приобретении или принятии на вооружение новых видов оружия, средств или методов введения войны Высокая Договаривающаяся Сторона должна определить, подпадает ли их применение, при некоторых или при всех обстоятельствах, под запрещения, содержащиеся в настоящем Протоколе или в каких - либо других нормах международного права, применяемых к Высокой Договаривающейся Стороне» [6]. Давно установившиеся нормы МГП, регулирующие ведение военных действий, в частности, принципы различения целей, соразмерности и принятия предосторожностей при нападении, относятся ко всем новым видам оружия и техническим инновациям в области ведения войны, в том числе, и к автономным системам вооружения.

Самая трудная задача для любого государства, разрабатывающего автономную систему вооружения, заключается в том, чтобы обеспечить её способность функционировать в соответствии со всеми этими принципами. Например, как такое оружие может проводить различие между гражданским лицом и комбатантом, как того требует принцип различения целей. Ведь от такого оружия может потребоваться, чтобы оно различало комбатантов, которые активно принимают участие в военных действиях, и теми, кто выбыл из строя или сдающимися в плен, а также между гражданскими лицами, принимающими непосредственное участие в вооружённых столкновениях и вооружёнными гражданскими лицами - такими как сотрудники правоохранительных органов или охотники - которые остаются под защитой и по которым нельзя наносить удар. Также автономной системе вооружения необходимо будет действовать в соответствии с принципом соразмерности, согласно которому случайные потери среди гражданского населения, ожидаемые в результате нанесения удара по военному объекту, не должны быть чрезмерными по сравнению с предполагаемым конкретным и непосредственным военным преимуществом.

Иными словами, государства, прежде чем принять на вооружение те или иные АСВ, должны предварительно удостовериться в том, что их применение не вступить в противоречие с основополагающими принципами МГП, такими, как различение целей, соразмерность и принятие предосторожностей при падении [7, с. 188].

Автономная система вооружения имеет свои плюсы и минусы, имеется преимущества, а где-то опасение насчёт того, что автономная система вооружения может выйти из - под контроля, из-за чего может привести к нарушению закона войны, а также к обстрелу не только противников, но и мирного населения. А также может произойти так, что автономная система вооружения пойдёт войной на людей, в том числе на своих создателей. Но не стоит думать, что может ничего хорошего произойти со стороны автономной системы вооружения, ведь она может быть не только инструментом, но и соратником для военных, а также граждан, если вспомнить три закона робототехники писателя фантаста Айзека Азимова, звучат так: Первый закон категорически запрещает роботу вредить людям, второй - приказывает роботу подчиняться людям до тех пор, пока это не станет противоречить первому закону, и третий закон приказывает роботу защищать свою жизнь, не нарушая первых двух [8]. Эти три закона начинают входить в реальность, но чтобы эти три закона могли соблюдаться роботами государству, а также учёным необходимо дальше заниматься урегулированием вопроса насчёт соблюдения норм международного гуманитарного права, а также в недопущении возникновения сбоев в программе.

Список источников

1. Views of the International Committee of the Red Cross (ICRC) on autonomous weapon system // Convention on Certain Conventional Weapons (CCW), Meeting of Experts on Lethal Autonomous Weapons Systems (LAWS) 11-15 April 2016, Geneva. [Электронный ресурс]. - Режим доступа: https://www.icrc.org/en/download/file/21606/ccw-autonomous-weapons-icrc-april- 2016.pdf (дата обращения 18.02.2018).

2. Олстон Ф. Промежуточный доклад Специального докладчика по вопросу о внесудебных, суммарных и произвольных казнях № A/65/321 от 23.08.2010 на Шестьдесят пятой сессии Генеральной Ассамблеи ООН //. - 27 c. - C. 14.

3. Losing humanity: The Case against Killer Robots / Human Rights Watch. New York: Human Rights Watch, 2012. - 49 p.

4. Joint Doctrine Note 2/11 “The UK approach to unmanned aircraft systems” // Ministry of Defence of UK. - Swindon: The Development, Concepts and Doctrine Centre, 2011.

5. Сикач, А.С. Автономное оружие и МГП / А.С. Сикач /. - 2023. - № 31- С. 51-52.

6. Доп. протокол к Женевским конвенциям от 12 авг. 1949 г., касающийся защиты жертв международных вооруженных конфликтов (Протокол I).

7. Щербань, А.В. К вопросу о международно-правовом регулировании автономных систем вооружения / А.В. Щербань // Закон и право. - 2019. - №2- С. 188.

8. Три закона робототехники Айзека Азимова: к вопросу гуманности применения смертоносных автономных систем вооружения на войне // Теология. Философия. Право / [Электронный ресурс] URL: https://clck.ru/33nadR № 4(8). 2018. С. 38.

Размещено на Allbest.ru