Правовые основы и возможные риски использования искусственного интеллекта и космических технологий

Размещено на http://www.allbest.ru/

Правовые основы и возможные риски использования искусственного интеллекта и космических технологий

Сорока Л.В.,

кандидат юридических наук, доцент, докторант

(Научно-исследовательский институт публичного права)

Статья посвящена исследованию специфики правового регулирования использования и разработки искусственного интеллекта для космической сферы и связанных с этим вопросов соблюдения фундаментальных прав человека. Рассмотрены некоторые особенности законодательного обеспечения соответствующей сферы. В связи с активизацией коммерческой и добывающей деятельности в Арктике, в открытом море и вскоре в космосе нормы международного права об ответственности государств за деятельность, осуществляемую в этих областях, заслуживают дальнейшего внимания и исследований, а также установления таких общих правил по использованию искусственного интеллекта, которые ни сейчас, ни в будущем не смогли бы нарушить фундаментальные права человека. На сегодня существует два способа урегулирования использования искусственного интеллекта. Первый способ предполагает, что решать проблемы нужно по мере их поступления. Нет проблемы - не нужно ее регулировать. Второй - упреждающий, то есть принимаются универсальные упреждающие нормы, обязательные для всех. Сделан вывод, что для урегулирования использования искусственного интеллекта и космических технологий необходимо принять под эгидой ООН международный договор, где предусмотреть создание правоохранительного международного органа, который и будет осуществлять надзор за соблюдением основных прав человека в указанной сфере. Разработка искусственного интеллекта нуждается в урегулировании на основе «жестких» законов наряду с техническими стандартами для того, чтобы права человека не нарушались. Гражданское общество и разработчики искус-ственного интеллекта должны работать вместе, чтобы помочь оценить области риска и предвидеть потребности уязвимых групп. Только когда заинтересованные стороны работают вместе в области защиты прав человека, можно избежать или минимизировать нарушения в сфере использования искусственного интеллекта и космических технологий.

Ключевые слова: искусственный интеллект, космические технологии, права человека, Организация Объединенных Наций, международные правила.

Стаття присвячена дослідженню специфіки правового регулювання, використання та розробки штучного інтелекту для космічної сфери і пов'язаних з цим питань дотримання фундаментальних прав людини. Розглянуто деякі особливості законодавчого забезпечення відповідної сфери. У зв'язку з активізацією комерційної та видобувної діяльності в Арктиці, у відкритому морі і незабаром в космосі норми міжнародного права про відповідальність держав за діяльність, яка здійснюється в цих областях, заслуговують подальшої уваги і досліджень, а також встановлення таких загальних правил щодо використання штучного інтелекту, які ні зараз, ні в майбутньому не змогли б порушити фундаментальні права людини. На цей час є два способи врегулювання використання штучного інтелекту. Перший спосіб передбачає, що вирішувати проблеми потрібно по мірі їх надходження. Немає проблеми - не потрібно її регулювати. Другий - попереджуючий, тобто приймаються універсальні попереджувальні норми, обов'язкові для всіх, не вичікуючи, коли з'являться проблеми, які потрібно вирішувати. Зроблено висновок, що для врегулювання використання штучного інтелекту і космічних технологій необхідно прийняти під егідою ООН міжнародний договір, де передбачити створення правоохоронного міжнародного органу, який і буде здійснювати нагляд за дотриманням основних прав людини в зазначеній сфері. Розробка штучного інтелекту потребує врегулювання на основі «жор-стких» законів поряд з технічними стандартами для того, щоб права людини не порушувалися. Громадянське суспільство і розробники штучного інтелекту повинні працювати разом, щоб допомогти оцінити області ризику і передбачити потреби вразливих груп. Тільки коли зацікавлені сторони працюють разом в області захисту прав людини, можна уникнути або мінімізувати порушення в сфері використання штучного інтелекту і космічних технологій.

Ключові слова: штучний інтелект, космічні технології, права людини, Організація Об'єднаних Націй, міжнародні правила.

The article is devoted to the study of the specifics of legal regulation of the use and development of artificial intelligence for the space sector and related issues of observing fundamental human rights. Some features of legislative support of the corresponding sphere are considered. In connection with the intensification of commercial and mining activities in the Arctic, on the high seas and soon in space, the norms of international law on the responsibility of states for activities carried out in these areas deserve further attention and research. As well as the establishment of such general rules for the use of artificial intelligence, which now and in the future could not violate fundamental human rights. Today, there are two ways to regulate the use of artificial intelligence. The first method involves solving problems as they arise. No problem - no need to regulate it. The second is proactive, i.e. universal proactive norms are adopted, binding on everyone, without waiting for problems to be addressed. It is concluded that in order to regulate the use of artificial intelligence and space technologies, it is necessary to adopt an international treaty under the auspices of the United Nations, where it is necessary to establish an international law enforcement body that will oversee the observance of fundamental human rights in this area. The development of artificial intelligence needs to be resolved on the basis of “hard” laws along with technical standards so that human rights are not violated. Civil society and artificial intelligence developers must work together to help assess risk areas and anticipate the needs of vulnerable groups. Only when stakeholders work together to protect human rights can violations of the use of artificial intelligence and space technology be avoided or minimized.

Key words: artificial intelligence, space technology, human rights, United Nations, international rules.

Введение

правовой искусственный интеллект космический

Амбициозные краткосрочные и долгосрочные цели, поставленные различными национальными космическими агентствами, требуют радикального продвижения в космическую сферу новых технологий, одной из которых, безусловно, является разработка интеллектуальных космических агентов. В последние годы это привело к росту интереса к искусственному интеллекту всего аэрокосмического сообщества. Действительно, все шире используются технологии и машины, которые могут автономно выполнять различные функции в таких областях, как космос, где условия являются враждебными и опасными для жизни человека. Поэтому одной из сложных правовых проблем нашего времени является все более широкое использование технологий и процессов, связанных с искусственным интеллектом и космическими технологиями, и зависимость от них.

Постановка задания

Цель статьи - проанализировать международно-правовые акты и инициативы в области соблюдения права человека при внедрении искусственного интеллекта в повседневную жизнь.

Результаты исследования

Как уже отмечалось, мы живем в самый технологически прогрессивный период нашего существования. Из-за этого у людей теперь есть лучшее представление о человеческой цивилизации, которая включает исследование космоса, более безопасный транспорт и в целом лучшее качество жизни.

Что является более захватывающим, так это огромный океан возможностей с искусственным интеллектом и космическими технологиями. Однако нам еще предстоит понять, какими будут конечные результаты их использования. Не говоря уже о том, что даже ученые не могут договориться о прецеденте, который возникнет из-за использования искусственного интеллекта. Стивен Хокинг сказал в 2017 году, что искусственный интеллект может привести к концу цивилизации, какой мы ее знаем. Другие исследователи и ученые, хотя имеют менее мрачные предсказания, все-таки взволнованы существующей ситуацией с использованием искусственного интеллекта и его последствиями, но это только показывает, насколько сложно устанавливать правила и регулировать указанную сферу [1].

П. Черка, Й. Григене и Г. Сирбиките отмечали, что технологии искусственного интеллекта отличаются спонтанностью, постоянным развитием и трансформациями. По этой причине нормативноправовая база, регулирующая эту сферу, должна быть: во-первых, универсальной, чтобы быть эффективной, независимо от изменений в информационных технологиях, или, во-вторых, постоянно корригируемой для обеспечения ее эффективности в условиях интенсивных изменений информационных технологий. При этом постоянное внесение изменений в законодательство, как реакция на изменения в сфере информационных технологий, может оказаться труднореализуемым из-за относительно статического и выраженного последовательного характера деятельности государственных институтов власти [2].

Еще в 1980-х годах ученые-правоведы начали исследовать, требует ли разработка искусственно интеллектуальных машин, таких как роботы, адаптации или расширения существующих правовых рамок, например, в отношении ответственности или правового статуса [3; 4]. Большая часть этих работ была связана с агентскими технологиями в программных системах. Поскольку робототехника была все еще научной фантастикой, а не фактом, многие из этих исследований носили фрагментарный характер. Они затрагивали важные правовые темы, которые должны быть охвачены (будущим) законом о робототехнике, но не содержали конкретных мер или правил и не применялись к действующим правовым системам.

В связи с активизацией коммерческой и добывающей деятельности в Арктике, в открытом море и вскоре в космосе нормы международного права об ответственности государств за деятельность, осуществляемую в этих областях, заслуживают дальнейшего внимания и исследований, а также установления таких общих правил по использованию искусственного интеллекта, которые ни сейчас, ни в будущем не смогли бы нарушить фундаментальные права человека.

Проблема регулирования новых технологий в Европе решалась почти каждой национальной правовой системой, поэтому наработки в этой сфере, включают в себя большое количество исследований о взаимосвязи между законом и наукой, а также между правом и технологиями.

В марте 2012 года стартовал европейский проект RoboLaw, который был сфокусирован на вопросах, стоящих перед определением юридического «статуса» робототехники, нанотехнологий, нейропротезов, компьютерно-мозговых интерфейсов, то есть в тех сферах, в которых до сих пор мало что сделано [5].

Радикальная новизна этих технологических приложений и инструментов требует оригинального и более сложного исследования, характеризующегося междисциплинарным методом и сравнительным анализом различных подходов, принятых в различных правовых системах. Несколько исследовательских институтов по всему миру исследовали аспекты нормативно-правовых последствий разработок в области робототехники. Тем не менее, до сих пор урегулирование указанной сферы (как в Европе, так и за ее пределами) все еще носит фрагментарный характер.

К аналогичному выводу пришел и М. Шерер, считая, что до недавнего времени развитие искусственного интеллекта происходило в своего рода нормативном вакууме (хотя и не абсолютном); за исключением действующих в некоторых государствах норм, касающихся беспилотных транспортных средств и летательных аппаратов, на настоящий момент принято весьма небольшое количество положений, которые касаются непосредственно уникальных специфических проблем, поднимаемых искусственным интеллектом. Практически отсутствует и судебная практика по данной тематике [6, с. 356].

Мы считаем, что самая большая проблема, стоящая перед законом и искусственным интеллектом, может быть в широком смысле обозначена как «регулирование». Точнее, будут ли правительства регулировать искусственный интеллект, и если да, то как? Этот всеобъемлющий вопрос пронизывает всю сферу и затрагивает множество различных конкретных вопросов.

На сегодня существует два способа урегулирования использования искусственного интеллекта. Первый способ предполагает, что решать проблемы нужно по мере их поступления. Нет проблемы - не нужно ее регулировать. Правительства государств должны проявлять «нормативное смирение» при работе с искусственным интеллектом. Другими словами, использовать невмешательный подход. Причина заключается в том, что раннее (нормативное) вмешательство может предотвратить или даже перекрыть определенные пути к инновациям [7].

Второй - упреждающий, то есть принимаются универсальные упреждающие нормы, обязательные для всех, не выжидая, когда появятся проблемы, которые нужно решать. Мы согласны с приверженцами такого способа и поддерживаем принятие Международного договора о регулировании исследований и разработок в области искусственного интеллекта [8]. Также в указанном договоре необходимо предусмотреть международный надзор за выполнением правил и создать правоохранительное международное агентство, которое и будет осуществлять такой надзор.

На сегодня функции международного «надзирателя» в области использования ИИ может взять только одна организация - ООН. Понимая важность регулирования использования ИИ, Организация Объединенных Наций открыла в 2015 году Центр по искусственному интеллекту и робототехнике в Нидерландах. Центр помог сосредоточить экспертные знания в области ИИ в одном учреждении, который был организован в рамках Межрегионального научно-исследовательского института ООН по вопросам преступности и правосудия (ЮНИКРИ) [9].

Также специализированным глобальным учреждением Организации Объединенных Наций по информационным и коммуникационным технологиям является Международный союз электросвязи (МСЭ), который и стал одной из ключевых платформ ООН для изучения воздействия искусственного интеллекта. МСЭ заявил, что он «предоставит нейтральную платформу для правительства, промышленности и научных кругов для выработки общего понимания возможностей новых технологий искусственного интеллекта и вытекающих из этого потребностей в технической стандартизации и политическом руководстве» [10].

Долгое время 1Т-индустрия работала в уникальной среде - без каких-либо норм и стандартов. Например, в автомобильной индустрии изготовители автомобилей должны следовать различным правилам дизайна и безопасности. Они должны иметь фары и поворотники, тормоза и так далее Автомобиль, спроектированный небезопасным способом, будет снят с рынка, но программное обеспечение может делать практически все, что захочет. Каждое лицензионное соглашение, которое мы подписываем при покупке или использовании программного обеспечения, говорит нам, что не имеет значения, что делает их программное обеспечение. Производитель не несет ответственности ни за что.

Для гражданского общества вопросы регулирования искусственного интеллекта также являются актуальными. В течение многих лет распространялись «бесплатные» сервисы, такие как поисковые системы, электронная почта и социальные сети. Но то, что эти сервисы «свободны» - это неправильно. Потребители используют такие услуги без денежной оплаты, но они платят другими способами - как правило, они подвергаются воздействию рекламы и позволяют собирать свои данные. Собранные данные, в свою очередь, представляют огромную ценность для поставщиков услуг. Они могут продавать его, использовать для целевой рекламы или обучать алгоритму машинного обучения. Например, в этой последней категории Facebook использовал 3,5 миллиарда общедоступных изображений с соответствующими общедоступными хэштегами в качестве меток для обучения сетей глубокого обучения распознаванию изображений.

В 2018 году возросла осведомленность общественности о конфиденциальности данных. Благодаря скандалу с Cambridge Analytica и бесчисленным нарушениям безопасности, которые раскрывают пользовательские данные, люди узнали, что неправильное использование данных может вызвать серьезные проблемы [11]. Например, в Сан-Франциско запретили использование распознавания лиц в общественных местах и даже для полицейской деятельности. Но запретить - не значит урегилировать.

Какие же на сегодня существуют нормативно-правовые акты, регулирующие использование искусственного интеллекта вообще и в космической сфере в частности.

Учитывая вышеуказанные проблемы и рост гражданской активности по данному вопросу были приняты Глобальные правила Европейского союза о защите данных [12]. После четырех лет подготовки и дебатов GDPR были окончательно утверждены парламентом ЕС 14 апреля 2016 года, а вступили в силу 25 мая 2018 года. Теперь организации, которые не соблюдают указанные в правилах требования, могут столкнуться с большими штрафами.

Это первый нормативно-правовой документ, который устанавливал правила не на национальном уровне, а имел силу экстерриториального применения. Указанные правила применяются ко всем компаниям, обрабатывающим личные данные субъектов данных, проживающих в ЕС, независимо от местоположения компании. Ранее территориальная применимость директивы была неоднозначной и относилась к обработке данных «в контексте территории учреждения».

После ряда громких судебных дел было принято решение, что GDPR относится к обработке персональных данных контроллерами и процессорами в ЕС, независимо от того, происходит ли обработка в ЕС или нет. GDPR также применяется к обработке персональных данных субъектов данных в ЕС контроллером или процессором, не установленным в ЕС, где деятельность связана с предложением товаров или услуг гражданам ЕС (независимо от того, требуется ли оплата) и мониторингом поведения, происходящего в ЕС. Предприятия не из ЕС, обрабатывающие данные граждан ЕС, также должны назначить представителя в ЕС [12].

Калифорния приняла аналогичную меру - Калифорнийский закон о защите прав потребителей от 2018 года [13], который вступит в силу в 2020 году. Указанный закон регулирует, как компании могут собирать и продавать личные данные и предоставлять отдельным лицам существенные права в отношении их данных.

Кроме указанных законов, 16 мая 2018 г. была подписана Декларация Торонто: защита права на равенство и недискриминацию в системах машинного обучения [14], а 5 декабря 2018 г. - Монреальская декларация [15].

Монреальская декларация стала результатом длительного диалога между экспертами, юристами и политиками, заинтересованными сторонами в отрасли, организациями гражданского общества и гражданами. Декларация определяет основные этические ценности и принципы, которые поддерживают фундаментальные права людей как основу для будущей разработки политики и нормативных актов, регулирующих разработку технологий и приложений для искусственного интеллекта.

Кроме того, Committee of experts on Human Rights Dimensions of automated data processing and different forms of artificial intelligence (MSI-AUT) [16] из Совета Европы опубликовал несколько проектов документов о последствиях использования ИИ для прав человека. Исследования и рекомендации служат руководством для будущего установления стандартов и поощряют государства - члены Совета Европы осуществлять руководящие указания при решении законодательных вопросов в этой области и принимать все необходимые меры для обеспечения того, чтобы частные субъекты уважали права человека при разработке и внедрении ИИ. На данный момент MSI-AUT предоставила следующие документы:

-- изучение последствий применения передовых цифровых технологий (включая системы искусственного интеллекта) для Концепции ответственности в рамках прав человека [17];

-- проект рекомендации Комитета министров членам-государств о воздействии алгоритмических систем на права человека [18];

-- проект декларации Комитета министров на манипулятивные возможности алгоритмических процессов [19].

Выводы

Разработка искусственного интеллекта нуждается в урегулировании на основе «жестких» законов наряду с техническими стандартами для того, чтобы права человека не нарушались. Гражданское общество и разработчики искусственного интеллекта должны работать вместе, чтобы помочь оценить области риска и предвидеть потребности уязвимых групп. Только когда заинтересованные стороны работают вместе в области защиты прав человека, можно избежать или минимизировать нарушения в сфере использования искусственного интеллекта и космических технологий.

ООН на сегодняшний день является единственной международной организацией, которая может взять на себя роль глобального регулятора и установить международные правила по защите прав людей при разработке и внедрении технологий с использованием искусственного интеллекта.

Список использованных источников:

1. James, Tom and Simon Roper. Launching from Earth: The Science Behind Space Law and Technological Developments. In: James T. (eds) Deep Space Commodities. Palgrave Macmillan, Cham. 2018. https://doi.org/10.1007/978-3-319-90303-3_3.

2. Cerka, Paulius, Jurgita Grigiene, and Gintare Sirbikyte. Liability for Damages Caused by Artificial Intelligence. Computer Law & Security Review. 31 (3), 2015. http://dx.doi.org/10.1016/). clsr.2015.03.008.

3. Marshal S. Willick, Artificial Intelligence: Some Legal Approaches and Implications, 4 AI MAO. 5 (1983).

4. Dan Lloyd, Frankenstein's Children: Artificial Intelligence and Human Value, 16 ME'rAPHILOSOPHY 307, 308 (1985).

5. RoboLaw. Regulating Emerging Technologies in Europe: Robotics Facing Law and Ethics. URL: http://www.robolaw.eu/pro)ectdetails.htm.

6. Scherer, Matthew U. Regulating Artificial Intelligence Systems: Risks, Challenges, Competencies, and Strategies.2015. Harvard Journal of Law & Technology. http://dx.doi. org/10.2139/ssrn.260977.

7. Soroka L. And Kurkova K. Artificial Intelligence and Space Technologies: Legal, Ethical and Technological Issues. Advanced Space Law, Volume 3, 2019: 131-139. URL: https:// doi.org/10.29202/asl/2019/3/11.

8. Regulation of Artificial Intelligence in Selected Jurisdictions, 2019. URL: https://www. loc.gov/law/help/artificial-intelligence/regulation-artificial-intelligence.pdf.

9. ЮНИКРИ. URL: https://futureoflife.org/.

10. Официальный сайт МСЭ URL: https://www.itu.int/ru/ITU-D/Statistics/Pages/default.aspx.

11. Facebook to be fined $5bn over Cambridge Analytica scandal. BBC News. 2019. URL: https://www.bbc.com/news/world-us-canada-48972327.

12. EU General Data Protection Regulation, “Regulation (EU) 2016/679 of the European Parliament and of the Council of 27 April 2016 on the Protection of Natural Persons with Regard to the Processing of Personal Data and on the Free Movement of such Data, and Repealing Directive 95/46/EC (General Data Protection Regulation)”. Official Journal of the European Union, 119 (1), 2016. URL: http://eur-lex.europa.eu/legal-content/EN/TXT/HTML/?uri=CELEX:32016R0679&f rom=EN.

13. AB-375 Privacy: personal information: businesses. Assembly Bill No. 375 CHAPTER 55 An act to add Title 1.81.5 (commencing with Section 1798.100) to Part 4 of Division 3 of the Civil Code, relating to privacy. [Approved by Governor June 28, 2018. Filed with Secretary of State June 28, 2018]. URL: https://leginfo.legislature.ca.gov/faces/binTextQient.xhtmLbill_ id=201720180AB375.

14. Toronto Declaration: Protecting the Rights to Equality and Non-Discrimination in Machine Learning systems, May 2018. URL: https://www.accessnow.org/cms/assets/ uploads/2018/05/Toronto-Declaration-D0V2.pdf.

15. Montreal Declaration for the Responsible Development of Artificial Intelligence Launched. URL: https://www.declarationmontreal-iaresponsable.com/la-declaration.

16. MSI-AUT Committee of experts on Human Rights Dimensions of automated data processing and different forms of artificial intelligence. URL: https://www.coe.int/en/web/freedom- expression/msi-aut.

17. MSI-AUT, A Study of the Implications of Advanced Digital Technologies (Including AI Systems) for the Concept of Responsibility Within a Human Rights Framework (Nov. 9, 2018), MSI-AUT(2018)05, URL: https://rm.coe.int/draft-study-of-the-implications-of-advanced-digital- technologies-inclu/16808ef255. URL: http://perma.cc/85HA-SCNG.

18. MSI-AUT, DRAFT RECOMMENDATION OF THE COMMITTEE OF MINISTERS TO MEMBER STATES ON HUMAN RIGHTS IMPACTS OF ALGORITHMIC SYSTEMS, Nov. 12, 2018, MSI-AUT(2018)06, URL: https://rm.coe.int/draft-recommendationon-human-rights- impacts-of-algorithmic-systems/16808ef256, archived at http://perma.cc/F2HQ-2YK2.

19. MSI-AUT, DRAFT DECLARATION OF THE COMMITTEE OF MINISTERS ON THE MANIPULATIVE CAPABILITIES OF ALGORITHMIC PROCESSES, Nov. 16, 2018, MSI-AUT(2018)07. URL: https://rm.coe.int/draft-declaration-on-themanipulative-capabilities-of- algorithmic-proc/16808ef257, archived at http://perma.cc/72ND-8C8S.

Размещено на Allbest.ru