Концепция развития регулирования отношений в сфере технологий искусственного интеллекта и робототехники: анализ основных положений

Размещено на http://www.allbest.ru

Концепция развития регулирования отношений в сфере технологий искусственного интеллекта и робототехники: анализ основных положений

И.Р. Бегишев, Казанский инновационный университет им. В.Г. Тимирясова (ИЭУП), г. Казань, Российская Федерация



Аннотация

искусственный интеллект робототехника

Распоряжением Правительства российской Федерации от 19 августа 2020 г. № 2129-р была утверждена Концепция развития регулирования отношений в сфере технологий искусственного интеллекта и робототехники до 2024 года. Указанный документ на сегодняшний день представляет собой комплекс правовых перспектив в указанной области, а также определяет направления работы в рамках создания многоаспектной правовой платформы в области робототехники и искусственного интеллекта. Концепция предусматривает различные направления совершенствования правового режима регулирования систем искусственного интеллекта и робототехники, в частности, рассматривает вопросы, связанные со страхованием ответственности за вред, причиненный системами искусственного интеллекта или роботами, обменом данных и системой защиты персональных данных, проблемы экспорта систем искусственного интеллекта и роботов и пр. Анализ основных положений Концепции позволяет заключить, что с учетом всего многообразия направлений, учтенных документе, можно сказать, что, в целом, указанный документ является достаточно органичным в рамках рассматриваемо го вопроса и с учетом конкретизации и дополнения отдельных его разделов может занять своей достойное место среди подобных ему зарубежных аналогов.

Ключевые слова. Безопасность, вред, данные, закон, законодательство, защита информации, искусственный интеллект, концепция, персональные данные, право, правовое регулирование, робот, робототехника, Российская Федерация, страхование, цифровые технологии, экспорт.



Abstract

Concept of development to regulate relations in the field of artificial intelligence technologies and robotics: analysis of the main provisions

I.R. Begishev, Kazan Innovative University named after V. G. Timiryasov (IEML), Kazan, the Russian Federation

Decree of the Government of the Russian Federation No. 2129-R of Au gust 19, 2020 approved the Concept to regulate relations in the field of artificial intelligence and robotics technologies until 2024. This document currently represents a set of legal perspectives in this area and it also defines the framework for creating a multidimensional legal platform in the field of robotics and artificial intelligence. The concept offers different ways to regulate artificial intelligence and robotics systems, in particular, it considers issues related to liability insurance for damage caused by artificial intelligence systems or robots, data exchange and personal data protection systems, problems of exporting artificial intelligence systems and robots, and so on. Analysis of the main provisions of the Concept allowed us to conclude that, given the variety of directions taken into account the document, we can say that, overall, the document is quite logical in the framework of the issue under consideration and with some refinement and additions of individual sections it may take its rightful place among similar foreign analogues.

Keywords. Security, harm, data, law, legislation, information protection, artificial intelligence, concept, personal data, legal regulation, robot, robotics, Russian Federation, insurance, digital technologies, export.



Распоряжением Правительства Российской Федерации от 19 августа 2020 г. № 2129-р была утверждена Концепция развития регулирования отношений в сфере технологий искусственного интеллекта и робототехники до 2024 года1 (далее -- Концепция). Указанный документ на сегодняшний день представляет собой комплекс правовых перспектив в указанной области, а также определяет направления работы в рамках создания многоаспектной правовой платформы в области робототехники и искусственного интеллекта.

У Концепции уже был ряд так называемых «предшественников». Так, попытки создания законопроекта о робототехнике [1] относятся к 2016 году. Концептуальные положения указанного закона были разработаны по инициативе основа теля инвестиционного фонда Grishin Robotics, председателя совета директоров и сооснователя Mail.Ru Group Д.С. Гришина.

Разработчики данного документа считали необходимым:

— разработать реестр роботов;

— ограничить пределы ответственности создателей и владельцев роботов для снижения рисков потенциальных инвесторов и стимулирования вложений средств в разработки.

Авторы законопроекта также предлагали ввести в Гражданский кодекс Российской Федерации (далее -- ГК РФ) понятие «робот-агент», под которыми предлагалось понимать сложных роботов, прошедших регистрацию в специальном едином государственном реестре. Планировалось, что робот мог бы попасть под действие закона в том случае, если бы он был внесен в реестр. При этом, решение о регистрации робота в реестре владелец должен был бы принимать добровольно. При ее отсутствии действия робота могли бы рассматриваться как действия непосредственно его владельца, на которого и ложилась бы целиком ответственность за действия первого.

Документ вызвал массу споров у правоведов рассматриваемого периода. Так, А.А. Иванов, занимающий в тот период должность председателя Высшего Арбитражного Суда Российской Федерации, отмечал, что если в ГК РФ будет введено понятие «роботизированный агент», то роботы будут автоматически признаны субъектами гражданского права, и им будет придан статус юридического лица. Субъект права, как указывал А.А. Иванов, должен обладать сознанием и волей, достаточными для их участия в гражданском обороте [2]. Однако уровень развития робототехники не позволял позиционировать роботов, способных осуществлять свою деятельность без постоянного содействия людей, кроме того, так как робот выступал бы одновременно объектом и субъектом права, это могло бы породить проблему его двойственного статуса и, как следствие, другие юридические проблемы, прямо связанные с этим [3]. В качестве примера можно рассмотреть права роботизированного агента на имущество: не совсем ясно, о чем здесь могла бы идти речь -- о праве собственности или об ограниченном вещном праве по той причине, что сам робот выступал как объект права собственности конкретного человека.

Соответственно, как можно видеть, авторы законопроекта, в целом, лоббировали ограничение ответственности владельца за действия робота, имущество которого, в случае наступления ответственности, и выступало бы объектом взыскания, в отличие от имущества его владельца. Кроме того, согласно законопроекта, в случае разграничения собственника и владельца «роботизированного агента» могло иметь место следующее: владельцем робота может стать другой робот, что сводило бы на нет возможность возмещения убытков в целом.

Среди документов, разрабатываемых в рассматриваемой области, следует так же указать Модельную конвенцию о робототехнике и искусственном интеллекте [4], которую разработала группа юристов, представлявших Исследовательский центр проблем регулирования робототехники и искусственного интеллекта «Робоправо», в 2017 году. Данный документ включал правила создания и использования роботов и иных систем искусственного интеллекта.

Несмотря на попытку создать программный документ в области робототехники и искусственного интеллекта, авторы Модельной конвенции, на наш взгляд, ограничились неким «руководством к действию» при создании и эксплуатации роботов, не рассматривая проблему комплексно и не учитывая правовую доктрину, которая на тот момент уже имела место в международном праве.

В отличие от отечественных специалистов их зарубежные коллеги в рамках исследуемого вопроса пошли несколько дальше. В январе 2017 года в г. Азиломар (Калифорния, США) состоялась конференция The Asilomar Conference on Beneficial AI, организованная научно-исследовательским институтом Future of Life Institute (Бостон), на которой были сформулированы основные принципы для исследований в области искусственного интеллекта (Азиломарские принципы)². Указанные принципы были поддержаны Стивеном Хокингом, Илоном Маском, представителями компаний Google, Apple, Facebook, IBM, Microsoft и др.

Азиломарские принципы были основаны на следующем:

— исследования искусственного интеллекта должны проводиться с учетом возможной пользы для человечества;

— необходимо осуществлять комплексное инвестирование и субсидирование изысканий, направленных на поиск полезных способов применения искусственного интеллекта. В частности, необходимо решить вопросы, связанные с надежностью использования искусственного интеллекта, с оптимизацией деятельности человека, с преодолением правовых рисков, связанных с использованием искусственного интеллекта, с ценностными ориентирами, которые должны лежать в основе искусственного интеллекта и пр.;

— должен осуществляться конструктивный диалог между политиками и разработчиками систем искусственного интеллекта;

— доверие и открытость должны стать определяющими параметрами при организации взаимодействия исследователей и разработчиков систем искусственного интеллекта;

— должно иметь место активное взаимодействие между командами разработчиков искусственного интеллекта;

— необходимо обеспечить безопасность и защищенность систем искусственного интеллекта на протяжении всего срока эксплуатации;

— обязательное выявление причин причинения вреда системой искусственного интеллекта;

— несение полной ответственности разработчиками и создателями продвинутых систем искусственного интеллекта за последствия использования, злоупотребления и действий искусственного интеллекта;

— наличие обязательной синхронизации целей и поведения систем искусственного интеллекта и человека;

— обязательное согласование устройства и функционирования искусственного интеллекта с идеалами человеческого достоинства, прав, свобод и культурного разнообразия;

— обязательное обеспечение защиты личных данных;

— запрет на ограничение свободы и конфиденциальности людей при применении систем искусственного интеллекта к персональным данным;

— принесение системами искусственного интеллекта пользы максимально возможному числу людей;

— осуществление обязательного контроля систем искусственного интеллекта человеком;

— исключение гонки вооружений в области автономного летального оружия;

— обязательный учет потенциальных рисков, связанных с системами искусственного интеллекта;

— применение системы рекурсивного автообучения;

— системы искусственного интеллекта должны осуществлять свою деятельность для принесения пользы всему человечеству, а не одному государству или организации.

Указанный выше подход в рамках рассмотренных принципов имеет под собой как технологическую, так и правовую и социальную основу.

Азиломарские принципы легли в основу этических аспектов, прописанных в Монреальской декларации ответственного искусственного интеллекта³, принятой в декабре 2018 года.

Среди отдельных международных документов права в области систем искусственного интеллекта и робототехники следует назвать следующие нормативно-правовые акты:

1. Рекомендации по искусственному интеллекту Организации экономического сотрудничества и развития -- ОЭСР (OECD Council Recommendation on Artificial Intelligence) от 22 мая 2019 года⁴. Указанный правовой акт позиционируется в качестве первого межправительственного стандарта по искусственному интеллек ту. Данный документ включает пять принципов и пять рекомендаций для национальных правительств -- членов Организации экономического сотрудничества и развития. Россия в данное объединение не входит. Основное содержание рекомендаций основано на:

— принесении системами искусственного интеллекта пользы людям;

— действии систем искусственного интеллекта в рамках закона;

— прозрачности и ответственном раскрытии информации о системах искусственного интеллекта;

— надежном и безопасном функционировании систем искусственного интеллекта в течение всего периода эксплуатации;

— учете и минимизации возможных рисков, ответственности разработчиков и владельцев за надлежащее функционирование систем искусственного интеллекта и пр.

Кроме того, документ имеет концептуальную основу и содержит ряд рекомендаций для национальных правительств по вопросу развития искусственного интеллекта. В частности, рекомендации провозглашают необходимость:

«-- содействовать государственным и частным инвестициям в исследования и разработки, чтобы стимулировать инновации в надежный искусственный интеллект;

— содействовать доступности экосистем искусственного интеллекта с помощью цифровой инфраструктуры, технологий и механизмов для обмена данными и знаниями;

— обеспечить политическую среду, которая откроет путь к развертыванию надежных систем искусственного интеллекта;

— обеспечить людей возможностью получения навыков в области искусственного интеллекта и поддерживать работников для справедливого перехода на труд в новых условиях;

— сотрудничать через границы стран и секторов экономики, чтобы прогрессировать в ответственном управлении заслуживающим доверия искусственным интеллектом»⁵.

2. Заявление министров экономики стран -- участниц G20 (G20 Ministerial Statement on Trade and Digital Economy) от 9 июня 2019 года⁶. Данный документ включал одобрение вышеуказанных рекомендаций и включал направления совместной работы стран в области развития систем искусственного интеллекта и робототехники, касающиеся:

— создания устойчивого и инновационного глобального общества;

— разработки и реализации цифровой политики на международном уровне;

— необходимости построения цифрового общества на доверии в мировом масштабе;

— признании необходимости антропоцентричности в развитии искусственного интеллекта и учета рисков возникновения новых социальных проблем и пр.

Также документ закрепил необходимость организацию обмена передовым опытом между странами в области развития искусственного интеллекта и робототехники.

В отечественной правовой науке в течение последних нескольких лет вопросы необходимости правового регулирования робототехники и искусственного интеллекта находились в центре внимания ряда правоведов, таких, как В.В. Архипов [1; 5; 6], П.П. Баранов [7], Г.А. Гаджиев [8; 9], Н.Л. Денисов [10; 11], Г.Г. Ка малова [12; 13], А.Ю. Мамычев [14; 15], А.В. Минбалеев [16; 17], П.М. Морхат [18--20], В.Б. Наумов [21; 22], А.В. Незнамов [23--25], И.В. Понкин [26; 27], Г.Ф. Ручкина [28; 29], Э.В. Талапина [30], И.А. Филипова [31; 32], З.И. Хиса- мова [33--38], Е.В. Холодная [39; 40], О.А. Ястребов [41--43] и другие исследова тели. Указанные авторы в своих работах разрабатывали отдельные направления правового регулирования робототехники и искусственного интеллекта, определяя основные приоритеты развития рассматриваемого аспекта права.

Оформление законодательства Российской Федерации в области правового регулирования искусственного интеллекта ознаменовалось изданием Указа Президента Российской Федерации от 10 октября 2019 года № 490 «О развитии искусственного интеллекта в Российской Федерации»⁷, утвердившего Национальную стратегию развития искусственного интеллекта на период до 2030 года (далее -- Национальная стратегия).

Национальная стратегия закрепила ряд принципов развития и использования технологий искусственного интеллекта. Данным документом был определен срок создания системы нормативно-правового регулирования в области искусственного интеллекта -- 2030 год.

Среди прикладных целей -- прогнозирование отказов оборудования и его превентивное обслуживание, оптимизация планирования поставок, производственных процессов и принятия финансовых решений, использование интеллектуальных систем управления логистикой, сокращение участия человека в процессах, связанных с повышенным риском жизни и здоровью, оптимизация подбора и об учения кадров, составление оптимальных графиков работы, подбор оптимальных дозировок лекарств, автоматизация хирургических вмешательств, раннее выявление одаренных детей.

В числе методов достижения поставленных целей были обозначены преодоление административных барьеров, стандартизация в указанной области, экспериментальные правовые режимы и др.

Также в указанной области был принят ряд стандартов, регулирующих ту или иную сферу, в которой находят применение системы искусственного интеллекта.

Концепция учитывает положения Национальной стратегии, национальной программы «Цифровая экономика Российской Федерации»⁹ и Стратегии развития информационного общества в Российской Федерации на 2017--2030 годы, утвержденной Указом Президента Российской Федерации от 9 мая 2017 г. № 203 «О Стратегии развития информационного общества в Российской Федерации на 2017--2030 годы»10, а также положения иных документов стратегического планирования, нормативных правовых актов и методических документов, в том числе международных организаций.

Концепция содержит комплексное представление основных правовых идей, связанных с развитием и регулированием робототехники и искусственного интеллекта. В ней определены принципы, цели и задачи регулирования отношений в данной сфере, обозначены существующие проблемы, предусмотрено создание механизмов упрощенного внедрения продуктов с использованием указанных технологий.

В этом рамочном документе затронуты вопросы совершенствования режима оборота данных, поддержки экспорта систем искусственного интеллекта и робототехники, развития страховых институтов, обеспечения информационной безопасности.

Основной целью Концепции выступает обозначение векторов движения законодательного развития, чтобы в конечном итоге сформировать среду, позволяющую регулировать развитие технологий искусственного интеллекта и робототехники.

Среди основных вопросов Концепции можно назвать вопрос, связанный с разграничением ответственности за причинение вреда системами искусственного интеллекта и роботами. Причиной возникновения данной проблемы, как отмечают разработчики, выступает повышение уровня самообучения и автономности таких систем. Так, уже нельзя считать указанные системы и роботов просто инструментами и приписывать последствия их поведения создателям или пользователям.

Исследователи определяют ряд подходов к вопросу ответственности систем искусственного интеллекта и роботов за совершенные ими действия. По мнению В.В. Архипова и В.Б. Наумова, имеют место четыре аспекта, связанные с юридической ответственностью роботов:

«-- применение к системам искусственного интеллекта норм об источниках повышенной опасности;

— исследование типичных ситуаций возможной юридической ответственности в связи с действиями роботов и формами вины производителя и пользователя;

— принципиально новая ситуация по результатам совмещения указанных ранее концепций: юридическое лицо как вещь (имущество), являющаяся источником повышенной опасности;

— ответственность одного робота как квазиюридического лица за действия другого робота, находящегося в его владении, пользовании и (или) распоряжении» [6].

Вопросы страхования ответственности за вред, причиненный с участием систем искусственного интеллекта и роботов в Концепции обозначены, однако кроме упоминания необходимости «определения случаев и условий обязательного страхования ответственности за вред, причиненный применением роботов или систем искусственного интеллекта и робототехники, в том числе как альтернативы иным инструментам регулирования регулируются с учетом проблемы распределения такой ответственности»¹¹, конкретных направлений развития страховых отношений, связанных с использованием систем искусственного интеллекта и роботов, в Концепции нет.

Как свидетельствуют исследование компании Dentons, в котором изучается развитие законодательства о робототехнике, искусственном интеллекте и киберфизических системах, в мире существует два основных подхода к системе страхования ответственности: обязательное страхование рисков (страны Европейского союза) и страхование ущерба (Королевство Швеция) [44].

В первом случае ущерб от причиненных рисков, связанных с действиями систем искусственного интеллекта или роботов, в обязательном порядке покрывается страховой компанией, в отдельных случаях, при недостатке средств -- с привлечением финансирования из резервного компенсационного фонда, формируемого из отчислений производителей и владельцев роботов.

Средства из фонда должны использоваться в тех случаях, когда страховка не способна покрыть нанесенный вред. При этом, участие в подобном фонде или в совместном страховании ответственности вреда, который может возникнуть в результате действия системы искусственного интеллекта или роботов, частично освобождает производителей, разработчиков, владельцев или пользователей робота от ответственности.

С учетом второй модели в качестве плательщика страхового возмещения вы ступает потерпевший, которому гарантирована компенсация от страховщика. Ответственный за несчастный случай при данном варианте страхования не определяется. Положительным моментом данного варианта страхования выступает то, что покрытие риска наступает в любом случае, определить жевиного в нанесении ущерба достаточно часто бывает сложно.

В данной ситуации возможно предъявление страховщиком регрессивных требований к лицам, ответственным за несчастный случай, или к производителям систем искусственного интеллекта или роботов, однако данные требования будут рассматриваться судом с учетом всех сопутствующих обстоятельств, возмещение же ущерба происходит в трехдневный срок после его установления и позволяет сократить объем финансовых, правовых, социальных и прочих рисков, которые могут стать следствием ущерба, нанесенного действиями систем искусственного интеллекта или роботов.

На наш взгляд, именно страхование ущерба должно быть закреплено в рассматриваемой Концепции, так как данный вид страхования также соотносится с принципом, заложенным в этой концепции -- «стимулирование прежде регулирования». Согласно ему, ограничения должны вводиться, только если внедрение новых технологий будет сопровождаться рисками. Однако определить, будут ли иметь место те или иные риски, и каковы будут их последствия, в отдельных случаях чрезвычайно сложно. Именно страхование ущерба позволит осуществлять реализацию ряда проектов, связанных с развитием систем искусственного интеллекта и робототехники без затягивания сроков по причине исследования их на уровень возможного риска.

Концепция также освещает вопрос, связанный с совершенствованием порядка охраны прав на результаты интеллектуальной деятельности. В источниках научной информации имеются определенные мнения по данному вопросу. По мнению П.М. Морхата, можно обозначить следующие возможные варианты режимов правового регулирования прав интеллектуальной собственности с использованием систем искусственного интеллекта:

«-- машиноцентрический концепт. Главный смысл данного подхода заключается в том, чтобы признавать полноценным автором произведения непосредствен но саму систему искусственного интеллекта;

— концепт гибридного авторства. Система искусственного интеллекта выступает соавтором разработчика системы искусственного интеллекта и его пользователя в создании результатов интеллектуальной деятельности;

— концепт служебного произведения. Здесь система искусственного интеллекта выступает как наемный работник, создающий служебное произведение;

— антропоцентрический концепт. Авторами произведений, созданных система ми искусственного интеллекта, признаются связанные с ним люди: программисты, производители системы или непосредственно его пользователи;

— концепт «исчезающего» (нулевого) авторства. Имеется возможность отсутствия авторов на созданное системой искусственного интеллекта произведение;

— смешанный концепт. Предполагает сочетание приведенных выше концептов».

На наш взгляд, параграф Концепции, связанный с рассмотрением вопроса совершенствования порядка охраны прав на результаты интеллектуальной деятельности, имеет расплывчатую структуру, лишенную конкретики. Так, здесь предполагается поиск ответа на вопрос, целесообразно ли расширить толкование понятия «творческий вклад» с учетом участия в данных отношениях систем искусственного интеллекта, и если да, то кто будет выступать субъектом данных отношений. Также Концепция предлагает определить условия, при которых допустимо использование при разработке и эксплуатации систем искусственного интеллекта и робототехники (в частности, при машинном обучении) результатов интеллектуальной деятельности третьих лиц. Претендуя на программный документ, как нам кажется, Концепция не может включать столь обширные контуры для правового рассуждения, концепты же, приведенные П.М. Морхатом [45], как мы считаем, вполне могли бы стать основой для ограничения круга прав на результаты интеллектуальной деятельности с участием систем искусственного интеллекта.

В качестве еще одного направления, означенного в Концепции, можно выделить необходимость создания механизмов упрощенного тестирования и внедрения продуктов с использованием технологий искусственного интеллекта и робототехники. Это даст возможность снизить уровень административных барьеров, не корректируя при этом все применимое законодательство и обеспечивая нужный уровень безопасности и контроля со стороны государственных органов.

Внедряемые специальные правовые режимы -- так называемые «регуляторные песочницы» -- позволят осуществлять упрощенный порядок тестирования продуктов сквозных цифровых технологий, при этом, производители и разработчики должны соблюдать обязательные правовые требования, предусмотренные в этом случае, в течение 3-х лет. Указанная деятельность при этом не будет идти в разрез с существующими нормативно-правовыми актами в данной сфере.

В Концепции также указано, что необходимо совершенствовать режим оборота информации, так как основным фактором развития технологий искусственного интеллекта выступает увеличение доступности и качества данных.

Одним из направлений в данной области, согласно Концепции, может стать обезличивание персональных данных. Обезличивание данных не позволяет определить, к какому конкретному лицу она относится, в том числе информация, полученная в результате обезличивания персональных данных в соответствии с требованиями и методами, установленными Роскомнадзором. В рамках данного мероприятия предполагается разработка закона и сопутствующих подзаконных нормативно-правовых актов, в рамках которых должен быть усовершенствован порядок работы с согласиями, установлен порядок обезличивания персональных данных, условия и порядок их использования. Нарушение прав субъектов персональных данных при этом будет отсутствовать, что позволяет позиционировать такой способ как оптимальное правовое решение и позволит расширить перечень законных оснований использования и оборота данных.

В Концепции указано, что для совершенствования процесса регулирования оборота данных необходимо «обеспечить:

— благоприятных правовых условий для безопасного и ответственного доступа разработчиков систем искусственного интеллекта и робототехники к данным и безопасного обмена различными типами данных, включая данные, собираемые государственными органами и медицинскими организациями;

— особых условий (режимов) для доступа к данным, включая персональные данные (при условии принятия мер для защиты интересов субъектов персональных данных, включая обезличивание), в целях проведения научных исследований, обучения искусственного интеллекта и разработки технологических решений на их основе, а также правовых условий для организации идентификации с использованием технологий искусственного интеллекта и робототехники (при условии соблюдения права человека на неприкосновенность частной жизни)».

Если сравнивать указанный документ с зарубежными источниками, то среди аналогичных зарубежных правовых актов можно назвать «Белую книгу искусственного интеллекта: европейский подход к совершенству и доверию» от 19 февраля 2020 года, опубликованную Европейской комиссией, направленной на развитие европейской экосистемы в рамках политики, позволяющей обеспечить надежное и безопасное развитие искусственного интеллекта при полном уважении ценностей и прав граждан Европейского союза и предназначенная для общественного обсуждения. Однако указанный европейский документ в большей части посвящен рассмотрению социальных и этических аспектов проблемы, в то время как рассматриваемая Концепция является многоаспектным документом, рассматривающим ряд вопросов, касающихся правового регулирования систем искусственного интеллекта и робототехники. Таким образом, можно сделать ряд выводов. Концепция развития регулирования отношений в сфере технологий искусственного интеллекта и робототехники до 2024 года -- это правовой акт, который определяет основные подходы к трансформации системы нормативного регулирования в Российской Федерации для развития технологий искусственного интеллекта и робототехники.

Концепция предусматривает различные направления совершенствования правового режима регулирования систем искусственного интеллекта и робототехники, в частности, здесь рассматриваются вопросы, связанные со страхованием ответственности за вред, причиненный системами искусственного интеллекта или роботами, обменом данных и системой защиты персональных данных, проблемы экспорта систем искусственного интеллекта и роботов и пр.

Анализ позволяет заключить, что учетом всего многообразия направлений, учтенных в рассматриваемой Концепции, можно сказать, что, в целом, указанный документ является достаточно органичным в рамках рассматриваемого вопроса и с учетом конкретизации и дополнения отдельных его разделов может занять своей достойное место среди подобных ему зарубежных аналогов.



Список использованной литературы

искусственный интеллект робототехника

1. Архипов В.В. Искусственный интеллект и автономные устройства в контексте права: о разработке первого в России закона о робототехнике / В.В. Архипов, В.Б. Наумов. -- DOI 10.15622/sp.55.2 // Труды СПИИРАН. -- 2017. -- № 6 (55). -- С. 46-62.

2. Иванов А.А. О глубине машинизации права / А.А. Иванов // Закон. -- 2018. -- № 5. -- С. 35-41.

3. Филипова И.А. Правовое регулирование искусственного интеллекта: регулирование в России, иностранные исследования и практика / И.А. Филипова // Государство и право. -- 2018. -- № 9. -- C. 79-88.

4. Незнамов А.В. Модельная конвенция о робототехнике и искусственном интеллекте /А.В. Незнамов, В.Б. Наумов // Робоправо : иссслед. центр проблем регулирования робототехники и искусственного интеллекта. -- 2017. -- URL: https://robopravo.ru/uploads/s7 z/6/g/z6gj0wkwhv1o/file/3nD7bmgz.pdf.

5. Регулирование робототехники: введение в «робоправо». Правовые аспекты развития робототехники и технологий искусственного интеллекта / А.В. Незнамов, А.Д. Волынец,

В.В. Бакуменко, В.В. Архипов ; под ред. А.В. Незнамова. -- Москва : Инфотропик-Медиа,232 с.

6. Архипов В.В. О некоторых вопросах теоретических оснований развития законодательства о робототехнике: аспекты воли и правосубъектности / В.В. Архипов, В.Б. Наумов // Закон. -- 2017. -- № 5. -- С. 157-170.

7. Баранов П.П. Правовое регулирование робототехники и искусственного интеллекта в России: некоторые подходы к решению проблемы / П.П. Баранов // Северо-Кавказский юридический вестник. -- 2018. -- № 1. -- С. 39-45.

8. Гаджиев Г.А. Является ли робот-агент лицом? (поиск правовых форм для регулирования цифровой экономики) / Г.А. Гаджиев // Журнал российского права. -- 2018. -- № 1 (253). -- С. 15-30.

9. Гаджиев Г.А. Может ли робот быть субъектом права? (поиск правовых форм для регулирования цифровой экономики) / Г.А. Гаджиев, Е.А. Войниканис // Право. Журнал Высшей школы экономики. -- 2018. -- № 4. -- С. 24-48.

10. Денисов Н.Л. Концептуальные основы формирования международного стандарта при установлении уголовной ответственности за деяния, связанные с искусственным интеллектом / Н.Л. Денисов / / Международное уголовное право и международная юстиция. -- 2019. -- № 4. -- С. 18-20.

11. Денисов Н.Л. Проблема определения правосубъектности искусственного интеллекта / Н.Л. Денисов, А.В. Ефимов / / Обеспечение экономической безопасности России в современных условиях : сб. ст. -- Москва, 2020. -- С. 100-104.

12. Камалова Г.Г. Вопросы правосубъектности роботов и систем искусственного интеллекта / Г.Г. Камалова // Информационное право. -- 2019. -- № 2. -- С. 35-39.

13. Камалова Г.Г. Некоторые вопросы уголовно-правовой ответственности в сфере применения систем искусственного интеллекта и робототехники / Г.Г. Камалова // Вестник Удмуртского университета. Серия Экономика и право. -- 2020. -- Т. 30, № 3. -- С. 382 388.

14. Мамычев А.Ю. Моделируя будущее права: проблемы и противоречия правовой политики в сфере нормативного регулирования систем искусственного интеллекта и роботизированных технологий / А.Ю. Мамычев, О.И. Мирошниченко // Правовая политика и правовая жизнь. -- 2019. -- № 2. -- С. 125-133.

15. Мамычев А.Ю. Современные доктринально-правовые и этические проблемы разработки и применения роботизированных технологий и систем искусственного интеллекта (на примере автономных необитаемых подводных аппаратов) / А.Ю. Мамычев, Я.В. Гайворонская, О.И. Мирошниченко // Территория новых возможностей. Вестник Владивостокского государственного университета экономики и сервиса. -- 2018. -- Т. 10, № 3 (42). -- С. 135-150.

16. Минбалеев А.В. Проблемы регулирования искусственного интеллекта / А.В. Минбалеев // Вестник Южно-Уральского государственного университета. Серия: Право. -- 2018. -- Т. 18, № 4. -- С. 82-87.

17. Минбалеев А.В. Регулирование использования искусственного интеллекта в Рос сии / А.В. Минбалеев // Информационное право. -- 2020. -- № 1. -- С. 36-39.

18. Морхат П.М. Искусственный интеллект: перспективы применения и правовое регулирование / П.М. Морхат // Арбитражная практика для юристов. -- 2018. -- № 11 (39). -- С. 104-111.

19. Морхат П.М. К вопросу о специфике правового регулирования искусственного интеллекта и о некоторых правовых проблемах его применения в отдельных сферах / П.М. Морхат // Закон и право. -- 2018. -- № 6. -- С. 63-67.

20. Морхат П.М. Особенности правового регулирования использования искусственного интеллекта / П.М. Морхат // Аграрное и земельное право. -- 2017. -- № 9 (153). -- С. 61- 65.

21. Наумов В.Б. Общие вызовы права и государственного управления в цифровую эпоху / В.Б. Наумов // Ленинградский юридический журнал. -- 2019. -- № 1 (55). -- С. 43 57.

22. Наумов В.Б. Право в эпоху цифровой трансформации: в поисках решений / В.Б. Наумов // Российское право: образование, практика, наука. -- 2018. -- № 6 (108). -- С. 4-11.

23. Незнамов A.B. О концепции регулирования технологий искусственного интеллекта и робототехники в России / A.B. Незнамов // Закон. -- 2020. -- № 1. -- С. 171-185.

24. Незнамов A.B. Правовые аспекты реализации национальной стратегии развития искусственного интеллекта до 2030 года / A.B. Незнамов // Вестник Университета имени О.Е. Кутафина (МГЮА). -- 2019. -- № 12 (64). -- С. 82-88.

25. Незнамов А.В. Стратегия регулирования робототехники и киберфизических систем / А.В. Незнамов, В.Б. Наумов // Закон. -- 2018. -- № 2. -- С. 69-90.

26. Понкин И.В. Искусственный интеллект с точки зрения права / И.В. Понкин, А.И. Редькина // Вестник Российского университета дружбы народов. Серия: Юридиче ские науки. -- 2018. -- Т. 22, № 1. -- С. 91-109.

27. Понкин И.В. Цифровая формализация права / И.В. Понкин, А.И. Редькина // International Journal of Open Information Technologies. -- 2019. -- Т. 7, № 1. -- С. 39-48.

28. Ручкина Г.Ф. Искусственный интеллект, роботы и объекты робототехники: к во просу о теории правового регулирования в Российской Федерации / Г.Ф. Ручкина // Банковское право. -- 2020. -- № 1. -- С. 7-18.

29. Ручкина Г.Ф. Некоторые вопросы формирования правовых условий использования искусственного интеллекта, роботов и объектов робототехники / Г.Ф. Ручкина // Банковское право. -- 2020. -- № 5. -- С. 7-19.

30. Талапина Э.В. Алгоритмы и искусственный интеллект сквозь призму прав челове ка / Э.В. Талапина // Журнал российского права. -- 2020. -- № 10. -- С. 25-39.

31. Филипова И.А. Алгоритмизация: воздействие на сферу труда и ее регулирование / И.А. Филипова // Российская юстиция. -- 2020. -- № 11. -- С. 12-14.

32. Филипова И.А. Искусственный интеллект, трудовые отношения и право: влияние и взаимодействие / И.А. Филипова // Государство и право. -- 2019. -- № 11. -- С. 69-77.

33. Бегишев И.Р. Искусственный интеллект и робототехника: теоретико-правовые проблемы разграничения понятийного аппарата / И.Р. Бегишев, З.И. Хисамова // Вестник Уд муртского Университета. Серия Экономика и право. -- 2020. -- Т. 30, № 5. -- С. 706-713.

34. Хисамова З.И. История становления и теоретико-правовые подходы к толкованию понятия «искусственный интеллект» / З.И. Хисамова, И.Р. Бегишев // Алтайский юридический вестник. -- 2020. -- № 3 (31). -- С. 31-38.

35. Хисамова З.И. Сущность искусственного интеллекта и проблема определения правосубъектности / З.И. Хисамова, И.Р. Бегишев. // Вестник Московского государственного областного университета. Серия: Юриспруденция. -- 2020. -- № 2. -- С. 96-106.

36. Khisamova Z.I. Artificial Intelligence and Problems of Ensuring Cyber Security / Z.I. Khisamova, I.R. Begishev, E.L. Sidorenko. -- DOI 10.5281/zenodo.3709267 // International Journal of Cyber Criminology. -- 2019. -- Vol. 13, no 2. -- P. 564-577.

37. Criminological Risks and Legal Aspects of Artificial Intelligence Implementation / I.I. Bikeev, P.A. Kabanov, I.R. Begishev, Z.I. Khisamova. -- DOI 10.1145/3371425.3371476 // Proceedings of the International Conference on Artificial Intelligence, Information Processing and Cloud Computing (AIIPCC '19). -- New York, 2019. -- P. 1-7.

38. Khisamova Z.I. On Methods to Legal Regulation of Artificial Intelligence in the World / Z.I. Khisamova, I.R. Begishev, R.R. Gaifutdinov. -- DOI 10.35940/ijitee.A9220.119119 // International Journal of Innovative Technology and Exploring Engineering. -- 2019. -- Vol. 9, no 1. -- P. 5159-5162.

39. Холодная Е.В. О перспективных направлениях правового регулирования в сфере технологии искусственного интеллекта / Е.В. Холодная // Вестник Университета имени О.Е. Кутафина (МГЮА). -- 2019. -- № 12 (64). -- С. 89-96.

40. Холодная Е.В. Этические стандарты и регулирование искусственного интеллекта / Е.В. Холодная // Информационное право. -- 2020. -- № 3. -- С. 42-44.

41. Ястребов О.А. Дискуссия о предпосылках для присвоения роботам правового статуса «электронных лиц» / О.А. Ястребов // Вопросы правоведения. -- 2017. -- № 1 (39). -- С. 189-202.

42. Ястребов О.А. Правосубъектность электронного лица: теоретико-методологические подходы / О.А. Ястребов // Труды Института государства и права РАН. -- 2018. -- Т. 13, № 2. -- С. 36-55.

43. Шапсугова М.Д. Искусственный интеллект в предпринимательском праве / М.Д. Шапсугова // Modern Science. -- 2019. -- № 8-2. -- С. 167-173.

44. Незнамов A.B. Развитие законодательства о робототехнике и киберфизических системах : отчет по результатам исследования / A.B. Незнамов, В.Б. Наумов // Dentons. -- 28 ноября. -- URL: https://www.dentons.com/ru/whats-different-aboutdentons/ connecting-you-to-talented-lawyersaroundtheglobe/news/2018/november/dentons-submits- results-of-research.

45. Морхат П.М. Правосубъектность искусственного интеллекта в сфере права интел лектуальной собственности: гражданско-правовые проблемы : дис. ... д-ра юрид. наук : 12.00.03 / П.М. Морхат. -- Москва, 2018. -- 420 с.



References

1. Arkhipov V.V., Naumov V.B. Artificial Intelligence and Autonomous Devices in Legal Context: on Development of the First Russian Law on Robotics. Trudy SPIIRAN = SPIIRAS Proceedings, 2017, no. 6 (55), pp. 46-62. DOI 10.15622/sp.55.2. (In Russian).

2. Ivanov A.A. Penetration of Mechanisation in Law. Zakon = Law, 2018, no. 5, pp. 35 41. (In Russian).

3. Filipova I.A. Legal Regulation of Artificial Intelligence: the Need for Regulation in Russia, Foreign Studies and Practice. Gosudarstvo i pravo = State and Law, 2018, no. 9, pp. 79-88. (In Russian).

4. Neznamov A.V., Naumov V.B. Model Convention on Robotics and Artificial Intelli gence. Robopravo.ru, 2017. Available at: https://robopravo.ru/uploads/s/z/6/g/z6gj0wkwh- v1o/file/3nD7bmgz.pdf. (In Russian).

5. Neznamov A.V., Volynets A.D., Bakumenko V.V., Arkhipov V.V.; Neznamov A.V. (ed.). Regulirovanie robototekhniki: vvedenie v «robopravo». Pravovye aspekty razvitiya robototekhni- ki i tekhnologii iskusstvennogo intellekta [Regulation of Robotics: Introduction to "Robopro". Legal Aspects of the Development of Robotics and Artificial Intelligence Technologies]. Mos cow, Infotropic Media Publ., 2018. 232 p.

6. Arkhipov V.V., Naumov V.B. On Certain Issues of Theoretic Grounds for Development of Robotics Legislation:the Aspects of Will and Legal Personality. Zakon = Law, 2017, no. 5, pp. 157-170. (In Russian).

7. Baranov P.P. Legal Regulation of Robotics and Artificial Intelligence in Russia: Some Approaches to Solving the Problem. Severo-kavkazskii yuridicheskii vestnik = North Caucasus Legal Vestnik, 2018, no. 1, pp. 39-45. (In Russian).

8. Gadzhiev G.A. Whether the Robot-Agent is a Person? (Search of Legal Forms for the Regulation of Digital Economy). Zhurnal rossiyskogo prava = Russian Law Journal, 2018, no. 1 (253), pp. 15-30. (In Russian).

9. Gadzhiev G.A., Voinikanis E.A. Could Robot be a Legal Subject? (In Search of Legal Forms for Digital Economy Regulation). Pravo. Zhurnal Vysshey shkoly ekonomiki = Law. Journal of the Higher School of Economics, 2018, no. 4, pp. 24-48. (In Russian).

10. Denisov N.L. Conceptual Bases of Setting an International Standard at the Establish ment of Criminal Liability for Acts Involving Artificial Intelligence. Mezhdunarodnoe ugolov- noe pravo i mezhdunarodnaya yustitsiya = International Criminal Law and International Justice, 2019, no. 4, pp. 18-20. (In Russian).

11. Denisov N.L., Efimov A.V. The Problem of Determining the Legal Personality of Arti ficial Intelligence. Obespechenie ekonomicheskoi bezopasnosti Rossii v sovremennykh usloviyakh [Ensuring Russia's Economic Security in Modern Conditions]. Moscow, 2020, pp. 100-104. (In Russian).

12. Kamalova G.G. Issues of Legal Capacity of Robots and Artificial Intelligence Systems. Informatsionnoe pravo = Information Law, 2019, no. 2, pp. 35-39. (In Russian).

13. Kamalova G.G. Some Questions of Criminal Legal Responsibility in the Field of Ap plication of Artificial Intelligence Systems and Robotics. Vestnik Udmurdskogo universiteta. Seriya Ekonomika i pravo =Bulletin of Udmurt University. Series Economics and Law, 2020, vol. 30, no. 3, pp. 382-388. (In Russian).

14. Mamychev A.Yu., Miroshnichenko O.I. Modeling the Future of Law: Problems and Contradictions of Legal Policy in the Sphere of Normative Regulation of Artificial Intelligence and Robotic Technologies. Pravovaja politika i pravovaja zhizn' = Legal Policy and Legal Life,

15. no. 2, pp. 125-133. (In Russian).

16. Mamychev A.Yu., Gaivoronskaya Ya.V., Miroshnichenko O.I. Legal and Ethical Prob lems of Robotic Technologies and Artificial Intelligence Formation and Application (Using as an Example Autonomous Underwater Vehicles - AUV) in Modern Doctrinal Science. Territoriya novykh vozmozhnostei. Vestnik Vladivostokskogo gosudarstvennogo universiteta ekonomiki i servisa = The Territory of New Opportunities. The Herald of Vladivostok State University of Economics and Service, 2018, vol. 10, no. 3 (42), pp. 135-150. (In Russian).

17. Minbaleev A.V. Problems of Regulating Artificial Intelligence. Vestnik Yuzhno-Ural'sk- ogo gosudarstvennogo universiteta. Seriya: Pravo = Bulletin of South Ural State University. Series: Law, 2018, vol. 18, no. 4, pp. 82-87. (In Russian).

18. Minbaleev A.V. Regulation of the Artificial Intelligence Use in Russia. Informatsion- noe pravo = Information Law, 2020, no. 1, pp. 36-39. (In Russian).

19. Morkhat P.M. Artificial Intelligence: Application Prospects and Legal Regulation. Arbitrazhnaya praktika dlya yuristov = Arbitration Practice for Lawyers, 2018, no. 11 (39), pp. 104-111. (In Russian).

20. Morkhat P.M. On the Issue of the Specifics of Legal Regulation Artificial Intelligence and Some Legal Problems of its Application in Certain Spheres. Zakon i pravo = Law and Right, 2018, no. 6, pp. 63-67. (In Russian).

21. Morkhat P.M. Features of the Legal Regulation of the Use of Artificial Intelligence. Agrarnoe i zemel'noe pravo = Agrarian and Land Law, 2017, no. 9 (153), pp. 61- 65. (In Rus sian).

22. Naumov V.B. General Legal and State Management Challenges in the digital era. Len- ingradskii yuridicheskii zhurnal = Leningrad Law Journal, 2019, no. 1 (55), pp. 43-57. (In Russian).

23. Naumov V.B. Law in the Epoch of Digital Transformation: in Search of Solutions. Rossiyskoye Pravo: Obrazovaniye, Praktika, Nauka = Russian Law: Education, Practice, Re searches, 2018, no. 6 (108), pp. 4-11. (In Russian).

24. Neznamov A.V. Concept for Artificial Intelligence and Robotics Technology Regula tion in Russia. Zakon = Law, 2020, no. 1, pp. 171-185. (In Russian).

25. Neznamov A.V. Legal Aspects of the Implementation gf the National Strategy for the Development of Artificial Intelligence until 2030. Vestnik Universiteta imeni O.E. Kutafina = Courier of the Kutafin Moscow State Law University, 2019, no. 12 (64), pp. 82-88. (In Rus sian).

26. Neznamov A.V., Naumov V.B. Regulation Strategy for Robotics and Cyberphysical Systems. Zakon = Law, 2018, no. 2, pp. 69-90. (In Russian).

27. Ponkin I.V., Redkina A.I. Artificial Intelligence from the Point of View of Law, 2018, vol. 22, no. 1, pp. 91-109. (In Russian).

28. Ponkin I.V., Redkina A.I. Digital Formalization of Law. International Journal of Open Information Technologies, 2019, vol. 7, no. 1, pp. 39-48. (In Russian).

29. Ruchkina G.F. Artificial Intelligence, Robots and Objects of Robotics: on the Legal Regulation Theory in the Russian Federation. Bankovskoe pravo = Banking Law, 2020, no. 1, pp. 7-18. (In Russian).

30. Ruchkina G.F. Some Issues of the Establishment of Legal Conditions for the Use of Ar tificial Intelligence, Robots and Objects of Robotics. Bankovskoe pravo = Banking Law, 2020, no. 5, pp. 7-19. (In Russian).

31. Talapina E.V. Algorithms and Artificial Intelligence in the Human Rights Context. Zhurnal rossiyskogo prava = Russian Law Journal, 2020, no. 10, pp. 25-39. (In Russian).

32. Filipova I.A. Algorithmization: Impact on the Labour Market and its Regulation. Ros- siiskaya yustitsiya = Russian Justice, 2020, no. 11, pp. 12-14. (In Russian).

33. Filipova I.A. Artificial Intelligence, Labour Relations and Law: Influence and Interac tion. Gosudarstvo i pravo = State and Law, 2019, no. 11, pp. 69-77. (In Russian).

34. Begishev I.R., Khisamova Z.I. Artificial Intelligence and Robotics: Theoretical and Legal Problems of Differentiation of the Conceptual Apparatus. Vestnik Udmurdskogo univer- siteta. Seriya Ekonomika i pravo =Bulletin of Udmurt University. Series Economics and Law, 2020, vol. 30, no. 5, pp. 706-713. (In Russian).

35. Khisamova Z.I., Begishev I.R. The History of the Formation of Theoretical and Legal Approaches to the Interpretation of the Concept of "Artificial Intelligence." Altaiskii yuridich eskii vestnik = Altai Law Journal, 2020, no. 3 (31), pp. 31-38. (In Russian).

36. Khisamova Z.I., Begishev I.R. The Nature of Artificial Intelligence and the Problem of Legal Personality Determination. Vestnik Moskovskogo gosudarstvennogo oblastnogo uni- versiteta. Seriya: Yurisprudentsiya = Bulletin of the Moscow Region State University. Series: Jurisprudence, 2020, no. 2, pp. 96-106. (In Russian).

37. Khisamova Z.I., Begishev I.R., Sidorenko E.L. Artificial Intelligence and Problems of Ensuring Cyber Security. International Journal of Cyber Criminology, 2019, vol. 13, no 2, pp. 564-577. DOI 10.5281/zenodo.3709267.

38. Bikeev I.I., Kabanov P.A., Begishev I.R., Khisamova Z.I. Criminological Risks and Legal Aspects of Artificial Intelligence Implementation. In Proceedings of the International Conference on Artificial Intelligence, Information Processing and Cloud Computing (AIIPCC '19), New York, 2019, pp. 1-7. DOI 10.1145/3371425.3371476.

39. Khisamova Z.I., Begishev I.R., Gaifutdinov R.R. On Methods to Legal Regulation of Artificial Intelligence in the World. International Journal of Innovative Technology and Ex ploring Engineering, 2019, vol. 9, no 1, pp. 5159-5162. DOI 10.35940/ijitee.A9220.119119.

40. Kholodnaya E.V. About Perspective Directions of Legal Regulation in the Sphere of Artificial Intelligence Technology. Vestnik Universiteta imeni O.E. Kutafina = Courier of the Kutafin Moscow State Law University, 2019, no. 12 (64), pp. 89-96. (In Russian).

41. Kholodnaya E.V. Ethical Sstandards and Regulation of Artificial Intelligence. Infor- matsionnoe pravo = Information Law, 2020, no. 3, pp. 42-44. (In Russian).

42. Yastrebov O.A. Discussion about the Prerequisites for Assigning Robots the Legal Status of "Electronic Persons." Voprosy pravovedeniya = Issues of Jurisprudence, 2017, no. 1 (39), pp. 189-202. (In Russian).

43. Yastrebov O.A. The Legal Capacity of Electronic Persons: Theoretical and Methodolog ical Approaches. Trudy Instituta gosudarstva i prava RAN = Proceedings of the Institute of State and Law of the RAS, 2018, vol. 13, no. 2, pp. 36-55. (In Russian).

44. Shapsugova M.D. Artificial Intelligence in Business Law. Modern Science, 2019, no. 8-2, pp. 167-173. (In Russian).

45. Neznamov A.V., Naumov V.B. Development of Legislation on Robotics and Cyber-Phys ical Systems. Dentons, 2018, November 28. Available at: https://www.dentons.com/ru/ whats-different-aboutdentons/connecting-you-to-talented-lawyersaroundtheglobe/news/2018/ november/dentons-submits-results-of-research. (In Russian).

46. Morkhat P.M. Pravosub"ektnost' iskusstvennogo intellekta v sfere prava intellektu- al'noi sobstvennosti: grazhdansko-pravovye problem. Dokt. Diss. [Legal Personality of Artificial Intelligence in the Field of Intellectual Property Law: Civil Law Problems. Doct. Diss.]. Moscow, 2018. 420 p.

Размещено на Allbest.r

...