Вопросы развития законодательства о робототехнике в России и в мире

Размещено на http://www.allbest.ru/

3

Вопросы развития законодательства о робототехнике в России и в мире

Незнамов Андрей Владимирович

кандидат юридических наук

руководитель, Центр исследования проблем регулирования робототехники и искусственного интеллекта, юрист, международная юридическая фирма Dentons

Наумов Виктор Борисович

кандидат юридических наук

доцент, СПбГУ, ведущий научный сотрудник, Центр экономики непрерывного образования, РАНХиГС, руководитель российской практики по интеллектуальной собственности, информационным технологиям и телекоммуникациям, партнер, международная юридическая фирма Dentons

Аннотация

Предмет и цель статьи. Исследование и описание основных тенденций регулирования роботехники в мире на примере Европейского Союза, Китайской Народной Республики, Соединенных Штатов Америки, Южной Кореи и Японии. Анализ уровня развития законодательства Российской Федерации о робототехнике. Характеристика текущего состояния робототехники в РФ. Анализ законодательной инициативы о регламентировании деятельности умных роботов (роботов-агентов).Оценка и обоснование необходимости правового регулирования робототехники в России, а также анализ подходов к реализации необходимой регуляторной реформы. Метод. Метод сравнительного правоведения. Сравнительный анализ правовых система различных стран с выявлением общих тенденций развития регулирования. Результаты и выводы. Проведен анализ основных тенденций регулирования роботехники в мире на примере Европейского Союза, Китайской Народной Республики, Соединенных Штатов Америки, Южной Кореи и Японии. Обосновывается необходимость скорейшего правового регулирования робототехники в России. Предлагается разработанная авторами стратегия развития предметного законодательства.

Ключевые слова: законодательство, робот, международный опыт, робототехника, законопроект о робототехнике, развитие законодательства, сравнительно-правовой анализ, концепция, правовое регулирование, исследование

The subject and the purpose of the article is the description of general tendencies of regulation of robotics in the world. The authors study the examples of the European Union, China, the USA, South Korea and Japan. The authors analyze the level of development of Russian legislation on robotics. The study characterizes the current state of robotics in Russia, analyzes legislative initiative about the regulation of activity of smart robots (robots-agents). The authors evaluate and substantiate the need for legal regulation of robotics in Russia and analyze the approaches to realization of the necessary regulatory reform. The research methodology includes the method of comparative jurisprudence and comparative analysis of legal systems of different countries for the purpose of detection of common tendencies of regulation of robotics in the world using the examples of the EU, China, the USA, South Korea and Japan. The authors substantiate the need for the earliest solution of the problem of legal regulation of robotics in Russia. The authors formulate the strategy of development of legislation in this sphere.

Keywords:

comparative legal analysis, development of legislation, draft law on robotics, robotics, international experience, robot, legislation, concept, legal regulation, research

регулирование робототехника европейский союз

К вопросу о регулировании робототехники в России и мире

Проблемы и задачи роботизации экономики и общества все чаще становится предметом глобальной дискуссии о развитии Российской Федерации в предстоящие десятилетия. Какое место занимает Россия в общемировых процессах роботизации, предстоит ответить в самое ближайшее время. Но в мире укрепляется уверенность в том, что роботизация -- следующий этап развития человечества. В России роботы пока не получили в настоящий момент серьезного распространения, сопоставимого со странами, являющимися ведущими игроками на этом рынке, такими как Япония, Южная Корея, США и т.д. Это делает целесообразной задачу изучения опыта регулирования робототехники за рубежом и даст возможность оценить, насколько этот опыт может быть применен в России.

Обзор основных подходов регулирования робототехники в мире

На сегодняшний день ни одна из стран не имеет оформленного комплекса норм, регулирующих отношения в связи с использованием робототехники во всем их многообразии, однако представляется возможным выделение основных подходов к правовому регулированию, существующих в странах с наиболее высоким уровнем производства и внедрения роботов (как промышленных, так и сервисных).

В этом отношении показательны подходы к предметному регулированию, существующие в Европейском союзе, Японии, США, Китае и Южной Корее.

Прежде всего, эти юрисдикции обнаруживают сходные черты в экономическом и социальном обосновании необходимости развития робототехники. Во всех случаях развитие роботов рассматривается всегда как будущее общества, как фактор создания рабочих мест, а также решения локальных местных проблем. Например, в Японии это проблема стареющего населения, в Европе -- проблема дороговизны местного производства, а в США -- нехватка рабочих мест.

Кроме того, сходство имеет место и в подходах к регулированию роботехники государством. Условно их можно разделить на два уровня. Первый уровень предполагает осмысление места робототехники в обществе и экономике, оценки ее уровня развития в национальном масштабе, выявление общих тенденций развития робототехники в мире, выявление национальных приоритетов развития, формирование концепции государственной политики в сфере робототехники.

Такие национальные концепции направлены, скорее, на создание условий для развития робототехники и определение роли государства в этом процессе, нежели для решения правовых проблем. Как правило, они предполагают создание системы финансирования исследований, разграничение полномочий местных и центральных властей, определение сфер, требующих проведения определенных правовых и административных реформ, создание основ государственной политики, формирования мер государственной поддержки производителей роботов и т.д.

Второй уровень организации системы регулирования представляет собой последовательную реализации выбранной государством стратегии и работу по организации предметных правовых актов и норм.

Такую двухуровневую систему можно проиллюстрировать на ряде примеров. Так, в рамках Европейского союза основным документом на уровне ЕС является Дорожная карта развития робототехники в Европе «Robotics 2020» («Multi-Annual Roadmap»), созданная экспертами частно-государственного партнерства «SPARC» ^[1]. Данный документ является основой политики ЕС в сфере развития робототехники. Однако, признавая важность проведения правовой реформы, Дорожная карта указывает только на корректировку и создание стандартов ISO в сфере робототехники. Поэтому основное развитие правовой реформы в настоящий момент идет параллельно, на уровне Европейского парламента. Так, 16 февраля 2017 г. Парламент ЕС на основе разработанных Комитетом по правовым вопросам рекомендаций принял резолюцию 2015/2103(INL) «Нормы гражданского права о робототехнике» («Civil Law Rules on Robotics»; перевод Резолюции на русский язык доступен на сайте robopravo.ru, оригинал доступен в Интернете ^[2]).

Резолюция представляет собойпервую на Западе попытку оформления комплексного подхода к регулированию робототехники. Она содержат целый ряд важных и интересных положений. Например, она обозначает общие принципы робототехники со ссылкой на законы А. Азимова, намечает подходы к проблеме ответственности за причиненный роботами вред, предлагает уточненное определение роботов. Кроме того, она содержит предложение о создании Европейского агентства по робототехнике и ИИ, предлагает создать единые критерии для создания тестовых зон, формулирует некоторые базовые правила по категориям роботов, содержит предложение о системе регистрации умных роботов, включает в себя Устав роботов и Этические кодексы производителей, а также предложение подумать над особым статус «электронных личностей».

Иным путем пошло Правительство Японии, которое в феврале 2015 года утвердило пятилетнюю стратегию развития робототехники в стране. Она называется «Новая стратегия роботов. Японская стратегия роботов: обзор, стратегия, план действий» ^[3]. Развитие законодательства (как часть стратегии развития) предполагается осуществлять посредством правовой реформы. В главе 6 этого документа содержится четкое указание на отрасли и законы, в которых требуется корректировка регулирования. Это, в частности, выделение и использование радиочастотного спектра, сферы медицины и страхования, транспорт и дорожное движение, использование дронов, общественная инфраструктура, и безопасность товаров.

В Китае концепция развития робототехники состоит из целого ряда документов, к которым можно отнести Глобальную государственную программу развития «Made in China 2025» (май 2015) ^[4], а также План развития робототехнической отрасли («Robotics Industry Development Plan (2016-2020)», апрель 2016 г.) ^[5]. При этом в Китае нет закона о роботах или единой оформленной концепции развития законодательства. Более того, в большинстве политик и руководств задача проведения правовой реформы либо отсутствует, либо находится на втором плане.

Аналогичный подход прослеживается в США. Наиболее известной программой развития роботехники в США является Национальная робототехническая инициатива («National Robotics Initiative», 2011 г., версия 2.0) ^[6]. Однако, в основном, это программа финансирования конкретных проектов. Более концептуальный подход к развитию отрасли прослеживается в Дорожной карте развития робототехники в США («Roadmap for US Robotics», 2011 ^[7]). Вопросам права в ней посвящена десятая глава, хотя затрагиваются они довольно поверхностно. Авторы документа, в частности, выражают озабоченность тем, что действующие законы тормозят развитие робототехники и указывают на те сферы, которые требуют законодательного регулирования: безопасность, вопросы ответственности, страхования, защиты конфиденциальной информации и т.д. Таким образом, в США также пока определенных государством подходов к системному правовому регулированию. Тем не менее, в этой стране в сентябре 2016 года был опубликован один из первых комплексных актов, регулирующих использование высокоавтоматизированных машин -- Федеральная политика в сфере автоматизированных транспортных средств («Federal Automated Vehicles Policy») ^[8].

Одним из лидеров в сфере регулирования робототехники на сегодняшний день является Корея. В этой стране еще в 2008 году был принят, пожалуй, один из первых мировых законов «О развитии и распространении умных роботов»(«Intelligent robots development and distribution promotion») ^[9]. По существу, этот закон является одновременно и концепцией правового регулирования, объединяя в себе, таким образом, оба уровня регулирования -- и первый, концептуальный, и собственно правовой, за счет принятия предметных норм. Например, закон предусматривает создание специализированного института по развитию робототехники и определяет меры государственной поддержки производителей робототехники. Одновременно с этим, закон содержит конкретные уголовно-правовые нормы, а также нормы, разграничивающие компетенцию и ответственность конкретных государственных органов и местных властей в связи с реализацией административной и правовой реформы.

Развитие правового регулирования робототехники в России

В отличие от рассмотренных выше правопорядков, в большинстве стран мира отсутствует специальное регулирование робототехники как первого, так и второго уровня. Именно эта ситуация имеет место в России на данный момент. Фактически при возникновении какой-либо ситуации с участием робота любого типа или назначения в России будут применяться общие принципы и нормы права.

Тем не менее, первые попытки в отношении регулирования рассматриваемой сферы начинают появляться. Примером могут выступить поправки в Воздушный Кодекс РФ, направленные на регулирование дронов ^[10]. Также тематика робототехника стала появляться в программных государственных документах. Например, в «Стратегии развития автомобильной промышленности Российской Федерации на период до 2020 г.» содержится следующее положение: «Перечень основных тематик НИОКР и проектов, ориентированных на долгосрочную перспективу: … создание интеллектуальных самоуправляемых "беспилотных" автотранспортных средств гражданского назначения » (п.4.2.5 ^[11]).

Упоминается робототехника ив Стратегии развития информационного общества в Российской Федерации на 2017-2030-е гг. ^[12]. В частности, робототехника и искусственный интеллект названы в числе основных направлений развития российских информационных и коммуникационных технологий (п.36, ^[12]).

Робототехника отнесена к перспективным высоких технологиям, развитие которых необходимо для решения задач национальной безопасности в области науки, технологий и образования в Стратегии национальной безопасности Российской Федерации (п. 80, ^[13]).

Робототехника также указана среди отраслей, для которых необходимо создать полноценную инфраструктуру, включая пилотные, опытно-промышленные, промышленные предприятия, инжиниринговые компании и центры отработки технологий применения инновационных продуктов и технологий, обеспечить локализацию в Российской Федерации инновационных производств и исследовательских центров ведущих международных технологических корпораций, сформировать эффективную систему поддержки спроса на продукцию новых отраслей, создать новые рабочие места в отраслях, требующих высококвалифицированных кадров (Постановление Правительства РФ «Об утверждении государственной программы Российской Федерации “Развитие промышленности и повышение ее конкурентоспособности”» ^[14]). Данная государственная программа предусматривает в качестве программного мероприятия развитие робототехники, цифрового производства и аддитивных технологий.

Термин «роботизация» используется сразу в нескольких документах стратегического планирования. В частности, в «Стратегии развития черной металлургии России на 2014-2020-е гг. и на перспективу до 2030 г.» и «Стратегии развития цветной металлургии России на 2014-2020-е гг. и на перспективу до 2030 г.»^[15]. Согласно Приложению N 5, к важнейшим инновационным научно-исследовательским разработкам, рекомендуемым к реализации в период до 2030 г., отнесены роботизация металлургических процессов, автоматизация процессов взаимодействия предприятий с покупателями, поставщиками, транспортом, контролирующими органами и персоналом, внедрение индустриального компьютинга и внешних систем хранения, создание центров 3D принтинга металлических изделий.

Еще один документ -- «Стратегия развития отрасли информационных технологий в Российской Федерации на 2014-2020-е гг. и на перспективу до 2025 г.» ^[16]. Она устанавливает, что «в сфере оборонно-промышленного комплекса в число дополнительных и уточненных наиболее перспективных с точки зрения технологического развития направлений исследований в области информационных технологий входят методы роботизации и автоматизации производства предприятий комплекса (включая методы, ведущие к сокращению сроков разработки образцов) » (п.7 ^[16]).

В плане мероприятий «Развитие отрасли информационных технологий», который устанавливает, что «в дальнейшей перспективе за счет большей роботизации и автоматизации производств, которые невозможно осуществить без применения информационных технологий, можно будет добиться еще более высокой производительности труда » (п.I ^[17]).

Отметим, что наиболее развитой пока в России применительно к робототехнике является сфера сертификации и стандартизации. Удивительно, но очень немногие знают о том, что с 1 января 2016 года в России уже действует, например, ГОСТ Р ИСО 8373-2014 «Роботы и робототехнические устройства. Термины и определения» ^[18]. При этом он полностью идентичен мировому ISO 8373:2012. То же самое относится к ряду других технических регламентов.

Следует признать, что вопрос о разработке системы правового регулирования робототехники в России пока является в целом открытым. Например, в данный момент может показаться не очевидной потребность в формировании самостоятельной отрасли законодательства о робототехнике. Кроме того, не имеет однозначного ответа и вопрос о месте норм, посвященных правовому регулированию робототехники, в системе действующего права и законодательства.

Как правило, одна из ключевых проблем в этом отношении всегда связана с оценкой того, может ли текущее законодательство продолжать эффективно применяться в контексте внедрения в общество и экономику новых технологий. В частности, требуется ли изменение правового регулирования, оформление новых институтов законодательства, подотраслей и, наконец, отраслей права. В конечном счете, эта коллизия сводится к дискуссии о том, могут ли существующие нормы права регулировать вновь возникающие общественные отношения в связи с применением робототехники.

Представляется, что существует целый ряд обстоятельств, свидетельствующих о необходимости изменения российского законодательства в связи с развитием робототехники.

Во-первых, необходимость развития правового регулирования в контексте внедрения технологий робототехники определяется сложностью и новизной объекта правового регулирования. Применительно к внедрению новых технологий в последнее время это можно было увидеть на примере сети Интернет, а также распространении мобильных средств связи, появлении цифровых платформ-агрегаторов, мобильных приложений и т.д. Аналогичная ситуация возникает применительно к робототехнике. Использование промышленных роботов в производстве, распространение новых категорий роботизированных устройств (дроны, беспилотные автомобили и т.д.), эксперименты с созданием «умных роботов» на основе искусственного интеллекта, стремительная роботизация окружающего мира на основе «интернета вещей» и накопления «больших данных» -- все это объективно ставит перед российской правовой системой вызовы, решение которые представляется невозможным без учета множества технических аспектов и фактических особенностей соответствующих отношений.

Во-вторых, повсеместное внедрение роботов окажет влияние на все сферы жизнедеятельности человека, и, следовательно, на большинство отраслей права. В отсутствие последовательного регулирования отношений в связи с использованием робототехники, эффективная регламентация будет фактически невозможна. Более того, намного более вероятно возникновение существенных противоречий на этот счет. Они могут начинаться с базовых расхождений в определении термина «робот» и заканчиваться разными подходами к решению вопроса ответственности.

В-третьих, следует признать, что опыт тех стран, где робототехника получила существенное большее развитие, показывает, что изменение правового регулирования является объективной необходимостью.

Наконец, в-четвертых, само по себе развитие законодательства, так или иначе регулирующего отношения в связи с использованием робототехники, способно положительными образом сказаться на общем уровне развития роботехники и способствовать технологическому развитию страны.

Законопроект об умных роботах (роботах-агентах)

В декабре 2016 г. юридическая фирма Dentons по заказу Grishin Robotics разработала концепцию первого в России законопроекта о робототехнике (Актуальный текст законопроекта доступен в Интернете ^[19], в том числе для обсуждения; авторы законопроекта В. В. Архипов, В. Б. Наумов). Это первый опыт по созданию подобного документа, который разработан для того, чтобы инициировать дискуссию о системном (а не нацеленном на регулирование отдельных аспектов отношений с участием роботов) законодательном регулировании в области робототехники. Основная цель создания концепции законопроекта на данном этапе -- задать направление экспертной дискуссии по вопросам о том, как могут регулироваться отношения с участием роботов уже сейчас, чтобы заранее подготовиться к широкому распространению перспективных технологий в повседневной жизни.

На первом этапе создания законопроекта была взята упрощенная модель внесения поправок в гражданское законодательство с тем, чтобы после научной и практической дискуссии представить поправки не только в него, но и разработать в качестве основного проекта специальный законодательный акт о развитии робототехники к пакете с поправками не только в гражданское, но и административное, информационное и ряд иных отраслей законодательства.

В указанном законопроекте особое место уделяется определению объектов и субъектов регулирования и идентификации участников правоотношений.

Предлагается выделить две предметных категории -- просто, робот (как «устройство, способное действовать, определять свои действия и оценивать их последствия на основе информации, поступающей из внешней среды, без полного контроля со стороны человека »), т.е., элемент объекта регулирования, и робот-агент, который, по замыслу авторов, наделяется специальной правосубъектностью, и между этими понятиями установить взаимосвязь -- «роботом-агентом признается робот, который по решению собственника и в силу конструктивных особенностей предназначен для участия в гражданском обороте. Робот-агент имеет обособленное имущество и отвечает им по своим обязательствам, может от своего имени приобретать и осуществлять гражданские права и нести гражданские обязанности ».

По сути, особый интерес для теории права в дальнейшем будет представлять дискуссия о том, имеет ли смыл наделять роботов-агентов специальной ограниченной правосубъектностью, как это делается в законопроекте, где также проводятся параллели между юридическими лицами и роботами-агентами ^[20].

Также для роботов -- объектов регулирования раскрываются вопросы, связанные с тем, что они как имущество особой природы (особых технических возможностей) могут являться источниками повышенной опасности. В качестве ключевого административно-правового элемента правоотношений и с целью обеспечения безопасности предлагается регистрировать модели (а не все экземпляры) роботов-агентов уполномоченным государственным органом. Робот признается роботом-агентом и наделяется правоспособностью при условии добровольной регистрации его модели в специальном государственном реестре и с момента публичного заявления его собственника о начале его функционирования в таком статусе. Отдельно вводится запрет о том, что при создании, техническом обслуживании и (или) эксплуатации роботов гражданского назначения не допускается включение в программную и (или) аппаратную часть роботов объектов, устройств и (или) функций, заведомо предназначенных для причинения вреда человеку, а также для совершения иных действий, нарушающих требования законодательства Российской Федерации. В качестве специальных вопросов, требующего регулирования, выделяются вопросы взаимодействия производителей, собственников, владельцев и пользователей роботов-агентов, их управления роботами-агентами и их ответственности за действия роботов-агентов.

Законопроект вызвал широкую дискуссию ^[21] и работа над ним продолжается.

Представляется, что эта и иные будущие инициативы могут лечь в основу развития отечественного нормотворчества, когда до начала массового изготовления и распространения роботов необходимо определиться с ключевыми правовыми идеями и начать их воплощать в законодательстве - право постоянно отстаёт от научно-технического прогресса, что в рассматриваемой сфере может оказаться критичным для человечества в свете стремительной интеграции роботов в жизнь общества.

О дальнейших направлениях развития законодательства о робототехники

Сейчас Россия объективно отстает в области робототехники от мировых лидеров. И это в том числе касается правового регулирования. Однако последняя проблема может иметь вполне реальное и последовательное решение как с учетом последних результатов в сфере исследования регулирования робототехники как в России, так и опыта иностранных исследователей.

Представляется, что на базе всесторонней междисциплинарной дискуссии, в которой, наряду с юристами, должны участвовать разработчики ИТ-систем, роботов и систем искусственного интеллекта, философы, социологи и экономисты, можно предложить четыре последовательных шага для построения будущей стратегии развития предметного российского законодательства.

(1) Прежде всего необходимо определиться с государственными приоритетами и технологическими возможностями и потенциалом в области робототехники, которые дадут возможность подготовить и принять государственную концепцию развития отечественной робототехники с блоком вопросов, посвященных праву и законодательству.

(2) Следующим этапом или элементом развития законодательства является разработка и принятие основ законодательства в этой сфере, например, в формате специального федерального закона «О робототехнике в Российской Федерации».

Такой закон представляет собой базовый документ, на основе и в соответствии с которым могут вноситься последующие изменения в нормативную базу. При этом если что-то не будет должным образом своевременно урегулировано на отраслевом уровне, проблему можно попытаться разрешить на основе базовых принципов основ законодательства (например, законов Азимова, если они будут в том или ином виде отражены в основах).

В нем целесообразно дать основные определения для рассматриваемой сферы регулирования, установить пределы последней и предложить состав принципов регулирования.

В нем также целесообразно дать классификации роботов и сфер их применения, детально раскрыть права и обязанности субъектов правоотношений, включая производителей, продавцов, владельцев и пользователей роботов. Необходимо также установить основания и порядок учета или регистрации моделей роботов и установить критерии отнесения роботов к источникам повышенной опасности.

Отдельное внимание в документе должно быть уделено вопросам сорегулирования правоотношений, когда для сферы робототехники должно активно применяться гражданской, административное, информационное и иные отрасли законодательства.

Особого внимания в рассматриваемой сфере заслуживает не только административная и гражданско-правовая проблематика, но и вопросы использования роботов как информационных систем, когда задача регулирования доступа к ним и, в широком смысле, информационного взаимодействия роботов с внешней средой, включая задачу обеспечения их информационной безопасности, становятся одними из самых важных на практике ^[22]. Информационно-правовые аспекты также будут играть свою роль и при разрешении проблем идентификации ^[23] и установления пределов правосубъектности для роботов и систем искусственного интеллекта в XXI веке.

Нельзя забывать при разработке законопроекта и самой концепции регулирования о возможностях саморегулирования этой крайне быстро развивающейся сферы, для чего потребуется отдельно заложить основы для ее саморегулирования в проекте.

(3) После разработки закона о робототехнике потребуются «пакетные» изменения в конкретных отраслях, где внедряются или ожидается внедрение роботов. По существу это основные изменения в ключевые законы и кодексы, например, ГК РФ, УК РФ, КоАП РФ, Федеральный закон «Об информации, информационных технологиях и о защите информации» ^[24], Закон «О защите прав потребителей» ^[25], ФЗ «О техническом регулировании» ^[26], а также отраслевые законы: ФЗ «О безопасности дорожного движения» ^[27], ФЗ «Об основах охраны здоровья граждан в РФ» ^[28] и т.д.

(4) Наконец, последним, завершающим этапом выступают ведомственные корректировки подзаконных актов, регламентирующие соответствующую сферу: административные регламенты, технические регламенты, указы и постановления и т.д.

Этот уровень является крайне важным -- так как именно на нем формируются правила непосредственного применения.

Авторам видятся следующие преимущества такого описанного подхода развития законодательства о робототехнике. Во-первых, речь идет о схеме-алгоритме. Где бы ни появились роботы, она позволит поэтапно урегулировать их деятельность в любой сфере (некоторые авторы Европы и США призывали даже отказаться от проактивного регулирования по причине невозможности предсказать области развития робототехники).

Во-вторых, она не требует глобального изменениядействующих законов одним пакетом (позволяет делать тематические корректировки по мере необходимости и только в релевантные акты).

В-третьих, она позволяется осуществлять гибкую корректировкустепени воздействия (любой тематический пакет может содержать особые условия регулирования -- жесткие/мягкие, вступающие немедленно или с определенного момента, и т.д.).

В то же время развитие робототехники только набирает обороты. А значит, все мы все чаще будем сталкиваться с законодательными инициативами в этой области. Таким образом, роботы изменят не только нашу экономику, наше общество и даже нас самих. Изменения затронут и нашу правовую систему. Однако начинать, пожалуй, стоит уже сейчас.

Библиография

1.URL: https://www.eu-robotics.net/sparc/upload/about/files/H2020-Robotics-Multi-Annual-Roadmap-ICT-2016.pdf

2.URL: http://www.europarl.europa.eu/sides/getDoc.do?pubRef=-//EP//NONSGML+TA+P8-TA-2017-0051+0+DOC+PDF+V0//EN.

3.URL: http://www.meti.go.jp/english/press/2015/pdf/0123_01b.pdf.

4.URL: http://www.gov.cn/zhengce/content/2015-05/19/content_9784.htm.

5.URL: http://www.sdpc.gov.cn/zcfb/zcfbghwb/201604/t20160427_799898.html.

6.URL: https://www.nsf.gov/pubs/2017/nsf17518/nsf17518.htm.

7.URL: https://robotics-vo.us/node/562.

8.URL: https://www.transportation.gov/briefing-room/federal-automated-vehicles-policy-september-2016.

9.URL: http://elaw.klri.re.kr/eng_service/lawView.do?hseq=39153&lang=ENG.

10.Федеральный закон от 30.12.2015 N 462-ФЗ «О внесении изменений в Воздушный кодекс Российской Федерации в части использования беспилотных воздушных судов». СПС Консультант Плюс.

11.Приказ Минпромторга России от 23.04.2010 N 319 (ред. от 27.12.2013) «Об утверждении Стратегии развития автомобильной промышленности Российской Федерации на период до 2020 года». СПС Консультант Плюс.

12.Указ Президента РФ от 09.05.2017 N 203 «О Стратегии развития информационного общества в Российской Федерации на 2017 - 2030-e гг.» СПС Консультант Плюс.

13.Указ Президента РФ от 31.12.2015 N 683 «О Стратегии национальной безопасности Российской Федерации». СПС Консультант Плюс.

14.Постановление Правительства РФ от 15.04.2014 N 328 (ред. от 31.03.2017) «Об утверждении государственной программы Российской Федерации «Развитие промышленности и повышение ее конкурентоспособности». СПС Консультант Плюс.

15.Приказ Минпромторга России от 05.05.2014 N 839 «Об утверждении Стратегии развития черной металлургии России на 2014-2020-e гг. и на перспективу до 2030 г. и Стратегии развития цветной металлургии России на 2014-2020-e гг. и на перспективу до 2030 г.». СПС Консультант Плюс.

16.Распоряжение Правительства РФ от 01.11.2013 N 2036-р «Об утверждении Стратегии развития отрасли информационных технологий в Российской Федерации на 2014-2020-e гг. и на перспективу до 2025 г.». СПС Консультант Плюс.

17.Распоряжение Правительства РФ от 30.12.2013 N 2602-р (ред. от 05.12.2014) «Об утверждении плана мероприятий ("дорожной карты") «Развитие отрасли информационных технологий"». СПС Консультант Плюс.

18.Приказ Росстандарта от 26.11.2014 N 1863-ст «Об утверждении национального стандарта». СПС Консультант Плюс.

19.URL: www.robopravo.ru, https://vk.com/page-135261864_52392566 .

20.В. В. Архипов, В.Б. Наумов «О некоторых вопросах теоретических оснований развития законодательства о робототехнике: аспекты воли и правосубъектности» // Закон, N5. 2017, С.157-170.

21.А. А. Иванов. «Мечтают ли андроиды об электроовцах?»

URL: https://zakon.ru/blog/2017/2/15/mechtayut_li_androidy_ob_elektroovcah .

22.В. В. Архипов, В. Б. Наумов «Информационно-правовой аспект законодательства о робототехнике: информационно-правовой аспект» // Информационное право, N1, 2017, С. 19-27.

23.В. Б. Наумов «Научные подходы к классификации видов правовой идентификации в информационных правоотношениях» // «Труды Института государства и права Российской академии наук», 2016, № 3 (55), С. 104-115.

24.Федеральный закон от 27.07.2006 N 149-ФЗ «Об информации, информационных технологиях и о защите информации». СПС Консультант Плюс.

25.Закон РФ от 07.02.1992 N 2300-1 «О защите прав потребителей». СПС Консультант Плюс.

26.Федеральный закон от 27.12.2002 N 184-ФЗ «О техническом регулировании». СПС Консультант Плюс.

27.Федеральный закон от 10.12.1995 N 196-ФЗ «О безопасности дорожного движения» СПС Консультант Плюс.

Размещено на Allbest.ru