Теоретико-правові аспекти легалізації зброї зі штучним інтелектом: до питання конвенціальної регламентації

Размещено на http://www.allbest.ru/

Размещено на http://www.allbest.ru/

Центр воєнно-стратегічних досліджень Національного університету оборони України імені Івана Черняховського

Науково-дослідний відділ проблем військового законодавства

Теоретико-правові аспекти легалізації зброї зі штучним інтелектом: до питання конвенціальної регламентації

The theoretical- legal aspects of legalization of weapons with artificial intelligence: to the issues of conventional regulation

Котляренко О.П., кандидат юридичних наук

Приполова Л.І., кандидат юридичних наук,

старший науковий співробітник

У статті описано світові тенденції у сфері легалізації зброї зі штучним інтелектом. Розглянуто спроби світової спільноти на офіційному рівні врегулювати питання розроблення, використання й застосування зброї зі штучним інтелектом. Наголошено, що сучасні збройні сутички з використанням такої зброї вимагають не лише правового врегулювання, а й докорінного перегляду задля відповідності новій реальності. Констатовано відсутність єдності у визначенні понять «робот», «робототехніка», «штучний інтелект», «зброя зі штучним інтелектом» і низки інших понять як в осередку науковців, так і у сфері міжнародного гуманітарного права.

Серед ужитих заходів для врегулювання озвученої проблеми можна назвати такі:

1) проєкт «Робоправо» - наукові дослідження щодо правових аспектів роботизації, який здійснювався на замовлення Європейської Комісії (2012-2014 рр.);

2) нарада Високих Договірних Сторін Конвенції про заборону або обмеження застосування конкретних видів звичайної зброї, які можуть вважатися такими, що завдають надмірних ушкоджень або мають невибіркову дію (відбулася в Женеві в листопаді 2014 р.);

3) прийняття Європарламентом резолюції, у якій зазначено, що використання автономних систем озброєння повинно бути заборонено на міжнародному рівні (2018 р.);

4) ООН також здійснює роботу щодо визначення зводу керівних принципів для автономного озброєння.

Проведено короткий огляд новоприйнятих нормативно-правових актів деяких країн у сфері робототехніки. Наголошено, що загалом у міжнародному гуманітарному праві відсутні конкретні норми, які стосуються питань зброї зі штучним інтелектом. Розглянуто положення ст. ст. 35, 36 Додаткового протоколу № 1 до Женевських конвенцій від 12 вересня 1949 р.

Авторами зроблено висновок, що оптимальний варіант вирішення проблеми полягає в прийнятті міжнародною спільнотою спеціальної конвенції, яка б унормувала питання створення й застосування автономних систем зброї, закріпила їхнє легальне визначення, а також установила суб'єктів відповідальності за дії, які вчиняються автономними системами зброї.

Ключові слова: зброя зі штучним інтелектом, автономні системи зброї, правове регулювання, конвенція, міжнародне гуманітарне право.

The article describes world trends in the field of legalization of artificial intelligence weapons. The attempts have been considered of world community at the official level to resolve the matter of development, use and application of artificial intelligence weapons. It is emphasized that modern armed clashes with the use of such weapons insist not only legal regulation and adjustment, but also radical revision in order to correspond to the new reality. It is noted a lack of unity in the definitions of “robot”, “robotics labs”, “artificial intelligence”, “weapons with artificial intelligence” and a number of other concepts as in the field of scientists as in the area of international humanitarian law.

Among the activities undertaken to resolve the identified problem indicated the following: the “Robopravo” project, which was produced by the European Commission in 2012-2014 (scientific research on the legal aspects of robotics labs); a meeting of the High Contracting Parties to the Convention on the prohibition or restriction of the use of specific conventional weapons, which may be considered as indifferent to damage or indiscriminate action, held in Geneva (November 2014); adopting a resolution by the European Parliament (2018) in which indicated that the use of autonomous weapons systems should be prohibited at the international level; The UN is also working to define a set of guidelines for autonomous weapons and a number of other measures. A brief overview of the newly adopted legislative acts in some countries in the field of robotics labs is given. It is emphasized that in general there are no specific rules in international humanitarian law regarding weapons with artificial intelligence. The provisions of articles 35, 36 of additional protocol №.1 to the Geneva Conventions of September 12, 1949 are considered.

The authors conclude that the best solution to this problem is in the adoption by the international community of a special convention that would regulate the creation and use of autonomous weapons systems, consolidate their legal definition, and establish the subjects of responsibility for actions taken by autonomous weapons systems.

Key words: weapons with artificial intelligence, autonomous weapons systems, legal regulation, convention, international humanitarian law.

Постановка проблеми

Проблематику правового регулювання різних аспектів, пов'язаних із функціонуванням зброї зі штучним інтелектом досліджували А.М. Бежевець, А.А. Завадський, Т.Г. Каткова, В.Б. Козюлін, О.І. Кравчук, А.В. Козлов, М.О. Кушнір, В.К. Набок, А.В. Овчаров, М.А. Ожеван, О.Р. Шишка, А.В. Щербань та інші науковці та юристи-практики. Водночас дослідження питань правового регулювання зброї зі штучним інтелектом лишається перспективним і нагальним як для юридичної науки, так і для нормотворчої діяльності.

Мета статті - на основі аналізу наукових і правових джерел дослідити деякі аспекти легалізації зброї зі штучним інтелектом.

Виклад основного матеріалу

Всі намагання світової спільноти здійснити міжнародно-правове регулювання спричинили появу нового напряму, що узагальнено можна назвати концепцією автономних систем зброї (далі - АСЗ). Водночас відкритим лишається питання унормування базових понять з озвученої проблематики, що лягло в основу багатьох наукових праць. Так, А.В. Щербань відзначає відсутність загальноприйнятого поняття АСЗ [2, с. 186]. Схожий умовивід подає у своїй статті Т.Г. Каткова [3, с. 54]. Про проблему понятійно- категоріального апарату зазначалось і фахівцями Національного інституту стратегічних досліджень [4]. Загалом загальноприйнятого визначення таких понять, як «штучний інтелект», «зброя зі штучним інтелектом», «автономні системи озброєння», «бойові роботи» тощо в науці не існує. Різні науки визначають їх з точки зору своїх особливих, притаманних лише їм аспектів. Варто зазначити, що на замовлення Європейської Комісії у 2012-2014 рр. здійснювалися наукові дослідження щодо правових аспектів роботизації, такий проєкт отримав назву «Робоправо» [5, с. 218]. Результати напрацювань такого проєкту лягли в основу Резолюцій Парламенту Європейського Союзу (2015/2103 (МЬ), 2015/2103 (МЬ), які символізували перші спроби сучасного суспільства до офіційного оформлення регулювання робототехніки [6].

Оскільки розвиток робототехніки не збавляє своїх стрімких темпів, законодавча діяльність отримала новий напрям. Про зазначене свідчить короткий огляд назв новоприйнятих нормативно-правових актів деяких країн: Закон Південної Кореї «Про сприяння розвитку та розповсюдженню розумних роботів» (2008 р.); Закон Естонії «Про роботів-кур'єрів» (2017 р.); Закон Федеративної Республіки Німеччина «Про високоавтоматизований транспорт» (2017 р.); Азиломарські принципи штучного інтелекту (результат конференції 2017 р.), за якими повинні здійснюватися подальші дослідження у сфері штучного інтелекту; Резолюція Європарламенту «Норми цивільного права про робототехніку» (2017 р.); Нова стратегія роботів у Японії (2015 р.); в конгрес США був унесений про- єкт закону, який закріплює визначення поняття штучного інтелекту в законодавстві США (2017 р.) тощо.

У своїй доповіді на рівні Генеральної Асамблеї ООН, К. Хейнс [7] у 2013 р. зауважував, що коли надто довго залишати поза увагою питання правового регулювання військових роботів, то вони будуть вирвані з рук людини в буквальному розумінні. У зв'язку з цим державам рекомендувалося: ввести національний мораторій щодо військових роботів; офіційно заявити про суворе дотримання норм міжнародного гуманітарного права (далі - МГП) за здійснення діяльності, пов'язаної з роботизованими системами зброї; застосовувати жорсткі процедури дотримання норм МГП на всіх стадіях розроблення такої зброї.

У листопаді 2014 р. в Женеві відбувся захід міжнародного рівня - нарада Високих Договірних Сторін Конвенції про заборону або обмеження застосування конкретних видів звичайної зброї, які можуть вважатися такими, що завдають надмірних ушкоджень або мають невибіркову дію. Неофіційна зустріч експертів проходила з 13 по 17 квітня 2015 р. Обговорювалися питання, пов'язані з новими технологіями в галузі АСЗ летальної дії. Дискусія показала наявність певних елементів, за якими є загальне розуміння, зокрема незгоду з тим, щоб повністю автономні системи зброї могли приймати рішення про застосування сили проти людей без будь-якого втручання людини. Предметом загального визнання був імператив безумовного дотримання норм міжнародного права [8]. В результаті кропіткої й тривалої роботи європейських спеціалістів над проблематикою використання АСЗ Європейським парламентом 16 лютого 2017 р. було прийнято Резолюцію для Комісії ЄС «Норми цивільного права про робототехніку» [9]. В Резолюції Комісії ЄС запропоновано: 1) створення спеціалізованого органу Агентство з питань робототехніки та штучного інтелекту; 2) нормативно-правове врегулювання питань, які пов'язані з виробництвом і використанням зброї зі штучним інтелектом з перспективою на 10-15 років і вимоги до таких нормативно-правових актів. Також до Резолюції було включено ряд положень, що стосуються «відповідальності». Парламент закликав Європейську Комісію проаналізувати наслідки юридичного вирішення проблеми та створити правовий статус роботів у перспективі (п. 59 ф Резолюції). До вказаної Резолюції додано Хартію Робототехніки, що складається з Кодексу етичних норм розробників у сфері робототехніки; Кодексу для комітетів щодо етики наукових досліджень; ліцензій (вимог) для розробників і для користувачів.

Головний дипломат Європейського Союзу (далі - ЄС) Ф. Могеріні у 2018 р. повідомляла [10], що ЄС готує принципи для розроблення й застосування автономної зброї та штучного інтелекту. Створено групу експертів, які займаються розробленням правил використання штучного інтелекту в оборонному секторі. У 2018 р. Європарламент прийняв резолюцію, у якій зазначено, що використання автономних систем зброї повинно бути заборонено на міжнародному рівні. ООН також здійснює роботу щодо визначення зводу керівних принципів для автономного озброєння. Отже, про підвищену увагу світової спільноти до озвученої проблеми свідчать вищезгадані заходи на рівні ЄС й ООН в останні роки. Водночас досі триває співпраця спеціалістів й експертів міжнародного рівня задля спроби правового врегулювання питань впровадження в сучасне життя суспільства зброї зі штучним інтелектом (виробництва, використання, застосування, відповідальності за дії таких систем тощо). М. Гринчук, досліджуючи діяльність Європейської Комісії щодо впровадження штучного інтелекту, підсумовував, що організація проводить активну роботу з урахування всіх необхідних аспектів (технологічних, етичних, соціально-економічних, юридичних) для підсилення наукових досліджень і виробничого потенціалу [11, с. 73-74].

Пріоритетне значення в питанні правового регулювання виробництва й використання АСЗ повинні мати міжнародні правові норми за умови їх попередньої узгодженості з зацікавленими учасниками. Лише норми міжнародного значення можуть вплинути на загальні правила поведінки держав в означеному процесі. Таке регулювання може здійснюватися двома способами: шляхом розповсюдження дії чинних норм МГП; шляхом створення нових відповідних міжнародних нормативно- правових актів.

Загалом у МГП відсутні конкретні норми, що стосуються питань зброї зі штучним інтелектом. Причому в разі наближення чинних норм МГП до правовідносин за участі автономних систем зброї слід звернутися до положення таких міжнародних актів, як міжнародна Конвенція про заборону або обмеження застосування конкретних видів звичайної зброї, які можуть вважатися такими, що завдають надмірних ушкоджень або мають невибіркову дію (1980 р.) та Додаткового протоколу N° 1 до Женевських конвенцій від 12 вересня 1949 р. [12]. Так, у ст. 36 згаданого протоколу зазначено, що під час вивчення, розроблення, придбання, прийняття на озброєння нових видів зброї, засобів або методів ведення війни Висока Договірна Сторона повинна визначити, чи не суперечать їх застосування нормам міжнародного права. Іншими словами перед прийняттям на озброєння АСЗ будь-яка держава повинна забезпечити відповідність процесу їх виробництва, використання й застосування нормам МГП. У ст. 35 цього протоколу зафіксовано два принципових попередження щодо новітньої зброї: заперечено право сторін вибирати зброю, застосування якої є необмеженим; заперечено зброю, яка може завдати надмірного болю або страждання. Огляд положень Женевських конвенцій дає можливість виокремити такі принципи, що повинні розповсюджуватися за використання АСЗ: принцип розрізнення цілей, принцип пропорційності, принцип уживання заходів обережності під час атаки. Неодноразово спеціалістами й експертами наголошувалося про необхідність урахування застереження відомого юриста Мартенса про те, що «навіть якщо те чи інше положення прямо не передбачено статтями чинного міжнародного права, у ситуаціях збройних конфліктів сторонам необхідно в першу чергу керуватися принципами гуманності й вимог суспільної свідомості».

Певний прогрес відзначається в спробі оновлення міжнародного законодавства щодо окремих видів такої техніки, хоч вони й стосуються сфери цивільних правовідносин. Так, Конвенція про міжнародну цивільну авіацію, підписана в 1944 р., встановлює деякі правила використання безпілотних літальних апаратів. Відповідно до ст. 8 забороняються польоти будь-яких безпілотних апаратів над територією іншої держави без її дозволу. Додатки до Конвенції містять стандарти й правила для ліцензування пілотів, операцій і льотної придатності повітряних суден. У 2014 р. Європейською агенцією з авіаційної безпеки була поставлена задача Європейській Комісії розробити набір правил для безпілотних літальних апаратів [13, с. 6-7].

Впровадження робототехніки в повсякденне життя людей потребує цілеспрямованого впливу держави на ці трансформаційні процеси серед суспільних відносин за допомогою спеціальних юридичних засобів і методів для їх подальшої стабілізації й упорядкування. Питання нормативного врегулювання застосування штучного інтелекту поки що перебуває в зародковому стані. Як бачимо, світова спільнота робить кроки задля подолання прогалини в МГП у питанні легалізації зброї зі штучним інтелектом. Чинне МГП поки що має недостатній обсяг норм, що застосовуються для врегулювання використання такої зброї. Умовно їх можна розділити на такі групи: заборона й обмеження конкретних видів озброєнь, що передбачені міжнародними договорами; заборона й обмеження конкретних видів озброєння в межах звичаєвого міжнародного права; загальні принципи, що регулюють застосування зброї в межах МГП.

Про необхідність узаконення вищезазначеного виду зброї на міжнародному рівні зазначалось і в науковому осередку. Так, Т.Г. Каткова виокремила деякі позиції стосовно вдосконалення норм МГП. Одна з цих позицій полягає в тому, що світове співтовариство має опрацювати міжнародні домовленості, які регулюють розроблення й застосування автономних бойових роботів з метою подальшого контролю сфер їх застосування й дотримання гуманітарних принципів. Авторка виділяє три питання, що мають бути вирішені міжнародною спільнотою: формулювання визначення автономних бойових роботів (смертоносних бойових систем); створення класифікації таких роботів; створення практичних засобів контролю над подібними системами ще до прийняття міжнародних актів для цієї сфери [4, с. 54]. А.В. Щербань пропонує розпочати вирішення озвученої проблеми шляхом прийняття міжнародної Конвенції, подібної до Конвенції про заборону або обмеження застосування конкретних видів звичайної зброї, які можуть вважатися такими, що завдають надмірних ушкоджень або мають невибіркову дію [2, с. 188]. Загалом про гостру потребу прийняття акту міжнародного рівня для подолання озвученої правової прогалини зазначали чимало науковців й експертів [4; 6; 8; 11]. Пріоритетним завданням для міжнародної спільноти на сьогодні залишається збереження обов'язкового контролю людини над зброєю зі штучним інтелектом для недопущення відсторонення людини від процесу управління нею й запобігання встановлення переваги роботів над людською спільнотою, що повною мірою відповідає чинним принципам міжнародного права. Тому на часі саме прискорене об'єднання держав, представників інноваційного виробництва, наукової спільноти й експертів для пошуку загальних підходів, правових й етичних норм стосовно зброї зі штучним інтелектом.

Висновок

Отже, звернення до наукових джерел і нормативно-правових актів не залишило сумніву в тому, що головну роль у процесі правової регламентації АСЗ повинно відіграти міжнародне право, оскільки його норми закладають загальні правила поведінки держав у цьому процесі, які будуть спільно розроблені й погоджені зацікавленими учасниками. Тому оптимальний варіант вирішення цієї проблеми полягає в прийнятті міжнародною спільнотою спеціальної конвенції, яка б унормувала питання створення й застосування АСЗ, закріпила їх легальне визначення, а також установила суб'єктів відповідальності за дії, які вчиняються АСЗ. У цьому контексті вважається нераціональним працювати на випередження до розроблення відповідних міжнародних норм. Паралельно державами повинні розроблюватися власні правові механізми контролю й відповідальності у сфері виробництва, використання й застосування АСЗ.

Список використаних джерел

1. Илон Маск назвал основную угрозу для человечества. URL: https://comments.ua/world/588974-ilon-mask-nazvalosnovnuyu-ugrozu. html.

2. Щербань А.В. К вопросу о международно-правовом регулировании автономных систем вооружения. Закон и право. 2019. № 2. С. 186-188.

3. Каткова Т.Г. Автономні бойові роботи і міжнародне гуманітарне право. Сучасна війна: гуманітарний аспект: матеріали наук.- практ. конф., Харків, 30 червня 2017 р. Харків, 2017. С. 53-56.

4. Ожеван М.А. Автоматизовані робототехнічні системи озброєнь: новий виклик воєнній безпеці України: аналітична записка. Національний інститут стратегічних досліджень, 2017. URL: https://niss.gov.ua/sites/default/files/2017-02/Ozhevan-86924.pdf.

5. Аналитический обзор мирового рынка робототехники 2019. Отчетный материал. 2019. 272 с. URL: https://adindex.ru/files2/ access/2019_07/273895_sberbank_robotics_review_2019_17.07.2019_m.pdf.

6. Final Report Summary -- ROBOLAW (Regulating Emerging Robotic Technologies in Europe: Robotics facing Law and Ethics). European Commission, Community Research and Development Information Service. URL: https://cordis.europa.eu/result/ rcn/161246_en.html.

7. Кристоф Хейнс. Доклад Специального докладчика по вопросу о внесудебных казнях, казнях без надлежащего судебного разбирательства или произвольных казнях / Генеральная Ассамблея Организация Объединенных Наций. 9 апреля 2013 г. 22 с. URL: http://undocs.org/ru/A/HRC/23/47.

8. Доклад неофициального совещания экспертов 2015 г. по автономным системам оружия летального действия / Совещание Высоких Договаривающихся Сторон Конвенции о запрещении или ограничении применения конкретных видов обычного оружия, которые могут считаться наносящими чрезмерные повреждения или имеющими неизбирательное действие. 12-13 листопада. 2015. URL: https://undocs.Org/ru/ccw/msp/2015/3.

9. Civil Law Rules on Robotics (P8_TA(2017)0051): European Parliament resolution of 16 February 2017 with recommendations to the Commission on Civil Law Rules on Robotics (2015/2103(INL)). URL: http://www.europarl.europa.eu/sides/getDoc.do?pubRef=//EP// N0NSGML+TA+P8-TA-2017-0051+0+D0C+PDF+V0//EN.

10. Роботів-вбивць хочуть заборонити. Блог. URL: https://blog.allo.ua/ua/robotiv-vbivts-hochut-zaboroniti_2018-09-36/.

11. Гринчук М. Позиція Європейської Комісії щодо впровадження технологій штучного інтелекту для вирішення глобальних проблем. Актуальні проблеми міжнародних відносин: матеріали наук.-теорет. конф. молодих учених, Київ, 25 жовтня 2018 р. Ч. 1. Київ, 2017. С. 73-75.

12. Додатковий протокол, який стосується захисту жертв міжнародних збройних конфліктів від 8 червня 1977 р.: Протокол I до Женевських конвенцій від 12 серпня 1949 р. URL: https://zakon3.rada.gov.ua/laws/show/995_199.

13. Бєловол С. Світовий досвід правового регулювання використання безпілотників. Інформаційна довідка / Європейський інформаційно-дослідницький центр. URL: https://radaprogram.org/infocenter/svitovyy-dosvid-pravovogoregulyuvannya-vykorystannya bezpilotnykiv

Размещено на Allbest.ru