Искусственный интеллект и робототехника: возможность вторжения в права человека и правовое регулирование этих процессов в ЕС и мире

Размещено на http://www.allbest.ru/

Искусственный интеллект и робототехника: возможность вторжения в права человека и правовое регулирование этих процессов в ЕС и мире

Кашкин Сергей Юрьевич, доктор юридических наук, профессор, заведующий кафедрой интеграционного и европейского права Московского государственного юридического университета имени О.Е. Кутафина (МГЮА), заслуженный юрист Российской Федерации Россия, г. Москва

Аннотация

В статье анализируются опасности, возникающие перед человеком и современным обществом в свете развития в условиях четвертой промышленной революции искусственного интеллекта и робототехники. Рассматриваются сферы прав человека, которым угрожают эти достижения науки и технологий, если они не будут должным образом контролироваться и регулироваться с использованием правовых достижений. Исследуется исторический и страноведческий аспекты законодательного регулирования применения юнитов искусственного интеллекта и робототехники. Анализируются перспективы столкновения юнитов искусственного интеллекта с интересами человека и человечества, а также возможные правовые механизмы разрешения возникающих между ними конфликтов. С использованием методологии сравнительного правоведения, интеграционного права, международного права, анализа и синтеза рассматриваются новейшие документы Европейского Союза, государств -- членов ЕС, США, России, Китая, Южной Кореи и других наиболее репрезентативных стран мира, направленные на эффективное правовое регулирование этой перспективной области развития современного права. Анализируются основные тенденции эволюции современного права науки и технологий, влияющие на жизнь и реализацию прав человека и гражданина на национальном, наднациональном и международном уровне и особенности их правового регулирования. Работа выполнена на междисциплинарном соединении элементов сравнительного правоведения, интеграционного, международного и национального права с обращением к философии, социологии, истории и прогностике. Делаются выводы о возможности использования мировых научных достижений для перспективного развития права Российской Федерации, а также для применения приспособленного к условиям интеграционных организаций с участием РФ положительного зарубежного опыта правового регулирования искусственного интеллекта и робототехники.

Ключевые слова: искусственный интеллект, робототехника, право ЕС, внутреннее право государств, международное право, права человека, правовое регулирование.

Abstract

ARTIFICIAL INTELLIGENCE AND ROBOTICS: THE POSSIBILITY OF INVASION OF HUMAN RIGHTS AND LEGAL REGULATION OF THESE PROCESSES IN THE EU AND THE WORLD

KASHKIN Sergey Yurevich, Doctor of Law, Professor, Head of the Integration and European Law Department of the Kutafin Moscow State Law University (MSAL), Honored Lawyer of the Russian Federation

Russia, Moscow

The paper analyzes the dangers faced by man and modern society in the light of the development of artificial intelligence and robotics in the fourth industrial revolution. The author examines the areas of human rights that are threatened by these advances in science and technology in case they are not properly monitored and regulated through legal advances. The historical and regional aspects of legislative regulation of the use of artificial intelligence units and robotics are investigated. Prospects of collision of artificial intelligence units with interests of the person and mankind, and also possible legal mechanisms of the resolution of the conflicts arising between them are analyzed. Using the methodology of comparative law, integration law, international law, analysis and synthesis, the author considers the latest documents of the European Union, EU member States, the United States, Russia, China, South Korea and other most representative countries of the world aimed at effective legal regulation of this promising area of development of modern law. The paper provides an analysis of the main trends in the evolution of modern law of science and technology that affect the life and realization of human and civil rights at the national, supranational and international level and the peculiarities of their legal regulation. The research is carried out on the interdisciplinary combination of elements of comparative law, integration, international and national law with reference to philosophy, sociology, history and prognostics. Conclusions are drawn on the possibility of using the world scientific achievements for the long-term development of the law of the Russian Federation. It is also possible to apply positive foreign experience of legal regulation of artificial intelligence and robotics adapted to the conditions of integration organizations with the participation of the Russian Federation.

Keywords: artificial intelligence, robotics, EU law, domestic law of states, international law, human rights, legal regulation.

Права человека всегда были самым удобным механизмом для управления поведением людей и эффективным средством влияния государства на общество. Это верно и для интеграционных организаций, в частности для их признанной модели -- Европейского Союза. Более того, они были подняты на новый, наднациональный уровень и вступили в интересное взаимодействие как с национальным правом государств, так и с международным правом.

Если весь набор прав и свобод человека и гражданина не был обозначен в момент создания ЕС, точнее ЕОУС, то он имманентно присутствовал еще в коммунитарной идее Монне -- Шумана 1950 г., в том, что государства объединяются на основе неотъемлемых интересов составляющих союз государств и народов, которые состоят из граждан, а следовательно, из интересов людей тоже. В свою очередь, интеграция должна осуществляться поэтапно -- и на каждом этапе должно происходить улучшение положения граждан. Это два главных условия любой интеграции.

При этом само предоставление прав гражданам началось не с законодательного закрепления их в учредительных договорах, а с практической деятельности Суда Европейских сообществ. Сначала это были типичные для философии государства всеобщего благоденствия права, а потом они стали расширяться и получили в Хартии Европейского Союза об основных правах 2000 г. самый современный и привлекательный перечень, который можно рассматривать как своеобразную правовую идеологическую витрину европейской демократии. Кстати, идеология является одним из важнейших инструментов интеграции не только в рамках национальных государств, но и в интеграционных союзах, где она поднимается на наднациональный уровень. искусственный интеллект право человек

С развалом СССР многие социальные права и социалистические достижения были успешно заимствованы европейским правом и практикой, и идеологическая борьба по вопросам прав и свобод была завершена в пользу демократии западного толка.

Сегодня, в условиях шестого научно-технологического уклада, происходит всеобъемлющая кардинальная смена миропорядка, в котором меняются экономика, политика, право, идеология, общественные отношения и ценности. Даже объект воздействия идеологии в современных условиях -- человеческая личность в индивидуальном плане и общество людей в коллективном смысле -- под воздействием искусственного интеллекта и робототехники резко и непредсказуемо меняются.

Возможности эффективного применения искусственного интеллекта и робототехники делают количество человеческого материала, необходимого для обеспечения потребностей новой экономики, избыточным. Поэтому неудивительно, что профессор Фукуяма недавно подчеркнул в качестве тенденции развития современного общества падение интереса к демократии и бюрократизацию внутренней жизни. Борьба за права многочисленных сексуальных и других меньшинств подменяет сегодня заботу о правах человека, демократии, одновременно способствуя и сокращению «ненужного» населения. «Уже более 20 лет Запад вмешивается в дела многих стран под предлогом прав человека. Усиление авторитаризма в многополярном мире, а также недовольство и агрессия по отношению к Западу ставят под сомнение модель глобализации прав человека, о которой мечтали на рубеже веков».

На пути в будущее, как на картине Васнецова «Три богатыря», мир стоит перед выбором: чьи интересы должны быть основополагающими? Государства, общества или человека?

Традиционные «государственники», естественно, считают главным актором будущего государство и его интересы.

Коммунисты (например, проект С. Глазьева) в качестве основной цели России в ближайшем будущем видят направленность новой «управляемой рыночной экономики» на рост общественного благополучия, т.е. общество и его интересы как главную ценность.

Исследователи искусственного интеллекта и законодательства в этой сфере уверенно ставят на первое место человека, личность, его сознание, индивидуальность и защищенность, в том числе и от искусственного интеллекта и робототехники. Я сторонник учета примата интересов человеческой личности в развитии прав человека, ибо, только сохранив личность человека, мы сможем создать достойное общество; интегрировать и соединить интересы человека и общества в будущем призвано справедливое государство с «человеческим лицом».

Как искусственный интеллект и робототехника влияют на права и свободы граждан?

Прежде всего это положительный эффект таких нововведений, который логичен, предсказуем и понятен. На этом подробно останавливаться не будем. А вот опасности и правовые проблемы, которые таит в себе их применение, а также способы защиты интересов человека заслуживают более подробного анализа.

Так, военное применение искусственного интеллекта нарушает самое основное естественное и неотъемлемое право человека -- право на жизнь.

Использование юнитов искусственного интеллекта в государственном управлении подрывает идею управления людей людьми на основе демократических процедур и принципов.

Применение основанных на искусственном интеллекте социальных рейтингов, уже используемых в КНР, полностью отвергает принцип равенства граждан, возвращает общество в кастовое прошлое, ведет к управлению на основе страха и насилия государства над бесправной оцифрованной личностью.

Юниты искусственного интеллекта могут быть успешно использованы в процессе судебной деятельности, в том числе для анализа судебной практики и обоснования судебных решений. Это может одновременно привести к нарушению права граждан на справедливое судебное разбирательство. Ускорение рассмотрения судебных дел в таком случае не всегда приводит к гуманизации судебной деятельности и соблюдению принципа справедливости. А ведь это одна из основ современного понятия правового государства, закрепленного в большинстве современных конституций стран мира, и следует из сути первичных документов Европейского Союза, возводящих эти принципы уже на наднациональный уровень!

Возможность роботизации и всеобъемлющего применения искусственного интеллекта в производстве ставит под вопрос само право человека на труд и использование его результатов. Здесь под ударом оказывается существование всего комплекса трудового права, сначала в области физического труда, а потом и умственного.

Применение технологий искусственного интеллекта позволяет открыто вмешиваться в частную жизнь, сводя на нет это недавно завоеванное людьми право.

Сбор данных об индивидах и другой личной информации также позволяет осуществлять ма-нипулирование правами человека.

Использование искусственного интеллекта создает существенные проблемы в правовом регулировании вопросов принадлежности интеллектуальной собственности. И это в условиях, когда услуги становятся дороже, чем товары, а материальная ценность результатов интеллектуальной и научной деятельности превосходит стоимость услуг, не говоря уже о том, что они предопределяют перспективы развития человечества. Именно они становятся главными ценностями мира будущего!

В свете развития искусственного интеллекта и робототехники обоснованно возникла проблема признания «электронного лица». Отсюда вопрос правосубъектности юнитов искусственного интеллекта, как и в человеческом обществе, делится на две группы:

-- правосубъектность юнитов искусственного интеллекта, сопоставимая с правосубъектностью физического лица;

-- правосубъектность юнитов искусственного интеллекта, сопоставимая с правосубъектностью юридического лица.

Необходимо найти такую форму электронного лица, юнита искусственного интеллекта, которая смогла бы на правовом уровне и в правовых формах совместить в себе и мирно сбалансировать подлинно человеческие характеристики и права человека-создателя и то, что привносится искусственным интеллектом.

Громадное значение имеет хрупкая человеческая личность, ее сознание, эмоциональное и чувственное восприятие, пока еще недоступ-ные машинам. Этим основополагающим качествам человека также угрожает искусственный интеллект. Так, вживление в человека чипов, позволяющих регулировать его поведение, практически может превратить его в робота и обеспечить управление его поведением. Поэтому важнейшим становится вопрос о сохранении человеческой личности, ее суверенитета, подлинно человеческих качеств и об уважении ее достоинства.

Понятие электронного лица и сопоставление его с личностью человека позволяет говорить и еще об одном аналогичном явлении, тесно связанном с человеческой личностью, -- о «цифровой (электронной) личности». Сюда можно отнести целый ряд взаимосвязанных компонентов такой «личности».

Прежде всего это уже свершающаяся на практике почти повсюду в мире цифровая идентификация человека. Она позволяет собирать и хранить всю политическую, финансово-экономическую, деловую, семейно-конфиденциальную, социально-коммуникативную, медицинскую и любую иную информацию, характеризующую личность и могущую повлиять на ее поведение.

Это ведь не что иное, как «цифровой суверенитет личности», который предопределяет все ее существование не только в цифровом, но и в реальном мире.

Это начало «цифровой жизни» (начало сбора электронных данных о человеке) и «цифровая смерть» «цифровой личности» -- (закрытие соответствующих файлов).

Параметры этой жизни предопределяются «цифровыми правами», которые уже могут в той или иной степени регламентироваться законодательством, и «цифровыми обязанностями». Последние, как показывают новейшие правовые акты России, могут обеспечиваться и карательными действиями государства, включая реальное уголовное преследование.

Уже вполне разработан «хард цифровой личности», т.е. электронные инструменты и механизмы, позволяющие оцифровывать явления окружающего мира.

Активно создается «софт цифровой личности», представляющий собой электронные программы искусственного интеллекта, позволяющие разрабатывать алгоритмы управления поведением людей, которые составляют основу объектного кода этого явления.

«Цифровой софт» закачивается (хозяином или государством) при помощи «цифрового харда» в «цифровую личность» для управления «натуральной человеческой личностью», но последняя не является абсолютно пассивной. Она может как противодействовать этому процессу в меру своих способностей, так и заниматься саморазвитием и самосовершенствованием и формированием или отбором собственного программного обеспечения («софта»). Таким образом, реальный «цифровой софт» «натуральной личности» будет формироваться из двух источников -- внешнего и внутреннего.

Соединение «цифровой личности» с натуральной человеческой личностью уже началось на практике, но возможности их объединения с учетом перспектив развития генной инженерии требуют продуманных предупредительных юридических мер, поскольку будущее поколение будет жить по иным правилам, которые необходимо разрабатывать уже сегодня.

Право должно найти тонкую грань между полезными для развития человека возможностями искусственного интеллекта, достижениями машин и одновременно не потерять качества человека -- такие как творчество, самостоятельность и оригинальность мышления, гуманизм, доброта, нравственность, этические принципы, мораль, которые и отличают главные достоинства человека.

Как определить на законодательном уровне границу между допустимым «очеловечиванием» искусственного интеллекта и «омашиниванием» человеческой личности?

Как сопоставить искусственный интеллект и его сегодня еще трудно предсказуемую способность к саморазвитию (при этом сделав ее управляемой и регулируемой, с учетом безопасности человека) и естественный интеллект человеческой личности и как рассматривать вероятное соревнование между ними? Возможно ли в этой сфере правовое регулирование и каким оно должно быть?

Создание человекоподобных роботов с искусственным интеллектом для обслуживания дома и оказания различных, в том числе интимных, услуг, в свою очередь, может подорвать основы человеческой психики, семейных уз и традиционных отношений между мужчиной и женщиной. Соответственно, это может привести к изменениям в институте семьи и к деградации традиционных семейных отношений, с отражением этих процессов и в семейном праве. Это, в свою очередь, влияет на становление и развитие человеческой личности, в том числе и ее гендерной самоидентификации, с трудно предсказуемыми социально-правовыми и морально-психологическими последствиями.

Личность человека формируется в процессе воспитания и образования, куда также усиленно вторгается искусственный интеллект в виде робота-учителя. Но не в меньшей мере личность может быть деформирована и в процессе «человеческого» обучения, направленного на подготовку недумающего обслуживающего персонала (с различным по объему и функционалу набором компетенций).

Это как раз «компетентностный» подход к образованию, который превращает человека в механического исполнителя конкретных функций, ограничивая творческий, нестандартный, критический, конструктивный и неординарный подход, чего требуют постоянно меняющиеся условия жизни. Это противоречит потребностям современного мира, которые состоят не столько в конкретных, легко формируемых и оцениваемых hard skills (жестких навыках), сколько в soft skills (мягких навыках) -- таланте, творческом, неординарном труде, оригинальных решениях. Именно этому компетентностный подход и не учит.

Подготовка «послушного», но неэффективного персонала и избирателя, в том числе и с высшим образованием, осуществляется и путем обучения выбору готовых решений в процессе тестов, вместо обучения анализу и синтезу меняющейся обстановки, способности адекватно на эти изменения реагировать.

Такого рода обучение формирует стандартизированное, «клиповое» мышление, не отвечающее потребностям времени, и оно также создает условия разрушения творческой личности, ее деформации при столкновении с быстро самообучающимся искусственным интеллектом... В этом вопросе не столько чисто правовая, сколько образовательная составляющая имеет большее значение.

Исследование правового регулирования искусственного интеллекта и робототехники началось в 1970-х гг. в США. Там действовало более 100 университетских образовательных программ, включавших учебные курсы по искусственному интеллекту. Затем, в 1990-е гг., интерес к этой сфере распространился и на ряд других зарубежных стран. Тогда и были приняты первые нормативные документы, регулирующие вопросы использования искусственного интеллекта. С 2015 г. проблематика искусственного интеллекта (ИИ) и робототехники стала признанной проблемой в большинстве стран мира и в интеграционных объединениях, выйдя на наднациональный уровень.

Сегодня в целом можно отметить, что большинство документов в сфере ИИ и робототехники представляют собой рекомендации, всевозможные декларации, хартии и т.д., которые не являются обязательными. Рассмотрим некоторые из них.

Институт инженеров электротехники и электроники (IEEE) разработал три новых стандарта этики для искусственного интеллекта:

1. Стандарт для этического влияния роботизированных и интеллектуальных систем, в котором рассматриваются действия ИИ, явно или косвенно влияющие на поведение и эмоции человека.

2. Стандарт отказоустойчивости для создания эффективных мер безопасности, снижающих риск ошибок, и безопасного прекращения эксплуатации скомпрометированных систем.

3. Стандарт влияния ИИ на благосостояние общества, который должен учитывать, насколько произведенные устройства искусственного интеллекта изменят благосостояние людей, обеспечат рост производительности труда и экономический рост. Это призвано обеспечить основу для согласования данных между различными специалистами .

Министр транспорта Германии в 2018 г. представил доклад «Свод этических норм для робомобилей в Германии»10, в котором содержались 20 рекомендаций для автопроизводителей автомобилей-роботов11.

Этические стандарты для разработчиков ИИ были разработаны и предложены Японским обществом по искусственному интеллекту (JSAI). Они должны лечь в основу деятельности при создании ИИ. Эти этические рекомендации должны послужить моральной основой для того, чтобы члены JSAI лучше понимали свою ответственность перед обществом. К ним относятся такие принципы, как гуманность, законность, уважение частной жизни, честность, безопасность, транспарентность, ответственность перед обществом и др.

Корейская Хартия этических норм для роботов представляет собой документ, включающий 7 статей. Они закрепляют следующие этические стандарты для роботов и людей (примерный текст): стремление к совместному процветанию человека и машины, поддержание достоинства друг друга, создавать роботов по наилучшим образцам, робот-партнер не наносит ущерб человеку, а человек заботится о роботе, в то время как правительство призвано контролировать соблюдение этих правил.

Азиломарские принципы искусственного интеллекта были разработаны и приняты по итогам конференции разработчиков и исследователей в сфере ИИ, прошедшей в 2017 г. в Ази- ломаре (США). Эти принципы фиксируют гуманные цели, ценности и перспективы создания, использования и исследования явлений ИИ, связь их с наукой, культурой, производством, отказ от использования их во враждебной че-ловечеству деятельности.

В США, в отличие от ЕС, нет системного правового регулирования ИИ и робототехники, однако имеются серьезные правовые акты в отдельных сферах (например, в области автоматизированных транспортных средств) и интересные программы развития робототехники. В то же время спорные вопросы успешно решаются там посредством использования прецедентного права. В правовом регулировании использования искусственного интеллекта пока отсутствуют официальные стратегии. Это вызывает обоснованную критику экспертного сообщества.

Китай является одним из самых активных участников правового регулирования в сфере ИИ. Он обладает комплексной системой актов, направленных на развитие технологий робототехники и искусственного интеллекта. Прежде всего это 13-й Пятилетний план развития (2016--2020). Этот документ предусматривает совершение «прорыва» в разных аспектах экономики Китая и общее развитие ИИ. Чуть позже КНР приняла План развития робототехнической промышленности (2016--2020) (2016). Следующим актом -- Планом развития технологий искусственного интеллекта нового поколения

(2017) Китай впервые официально заявил о том, что будущее за технологиями искусственного интеллекта, а КНР намерена стать в этой сфере мировым лидером.

Согласно глобальной государственной программе развития «Сделано в Китае -- 2025», Китай к 2030 г. должен стать лидером на рынке робототехники и ИИ.

В нашей стране эти вопросы находятся еще в самой начальной стадии изучения и регулирования, а потому имеют особое значение и требуют обстоятельного, системного и комплексного изучения.

Одно из наиболее развитых направлений правового регулирования робототехники и искусственного интеллекта было выработано Европейским Союзом. Общая Стратегия единого цифрового рынка для Европы была одобрена Европейским советом в 2015 г. и включена в перечень 10 приоритетных направлений деятельности Европейской комиссии. В нее вошли вопросы искусственного интеллекта и робототехники.

10 апреля 2018 г. 25 государств -- членов ЕС подписали Декларацию о сотрудничестве в области искусственного интеллекта. В ней рассматриваются вопросы повышения технологического и производственного потенциала Европы в области ИИ и его применения для решения таких социально-экономических проблем, как преобразование рынков труда и модернизация систем образования в Европе, включая повышение квалификации и переквалификацию граждан ЕС; обеспечения соответствующих целям и ценностям Союза правовых и этических норм, включая неприкосновенность частной жизни, защиту персональных данных, а также такие принципы, как прозрачность, пропорцио-нальность, подотчетность, и т.д.

Важным реальным шагом к созданию общей платформы искусственного интеллекта для единой Европы стал Проект в области искусственного интеллекта от 1 января 2019 г., сконцентрировавший в себе основные достижения и инвестиции в этой сфере. Робототехника и искусственный интеллект стали одной из самых известных технологических тенденций нашего века и одной из реальных инновационных проблем дня сегодняшнего. Уже сегодня разрабатываются, функционируют и активно применяются юниты искусственного интеллекта. Глобальная выручка от когнитивных систем и искусственного интеллекта, как предполагается, вырастет с 8 млрд долл. в 2016 г. до более 47 млрд долл. США в 2020 г.

Анализ новейших зарубежных и российских правовых инициатив и решений показывает, что многие из проблем, порождаемых развитием искусственного интеллекта в России, Евразийском Союзе, Европейском Союзе и в мире в целом однотипны и могут и должны решаться совместными усилиями, а потому логично заимствование опыта и достижений друг друга.

Для того чтобы оградить человека от негативного влияния искусственного интеллекта, необходим правовой контроль за создателями, производителями, владельцами, пользователями, арендаторами юнитов искусственного интеллекта, наносящих ущерб людям и имуществу, а также за теми лицами и организациями, которые наносят противозаконный ущерб юни- там искусственного интеллекта.

Добро и возможное зло, исходящие от юнитов искусственного интеллекта, должны быть под четким и строгим правовым контролем человека, их действия необходимо совместить с ответственностью, подотчетностью, а в соответствующих ситуациях -- с немедленной прекращаемостью.

Поэтому человечеству, идущему вперед, следует адекватно представлять возможные пути, темпы и последствия этого движения и уметь вовремя остановиться. Отсюда возникает и парадоксальная мысль о необходимости и возможности правового регулирования человеческого инстинкта самосохранения, о коллективном самосохранении человеческого общества в возможном столкновении с искусственным интеллектом и о недопустимости неконтролируемого появления и саморазвития этого инстинкта у интеллектуального робота!

Фундаментальная проблема возможности и необходимости формирования и последовательного совершенствования инстинкта самосохранения человечества в целом, неотделимого от самосохранения самого человека и его личности, является сегодня одной из основных задач всего совокупного комплекса технических, гуманитарных и общественных наук.

При этом нельзя не отметить, что духовность, мораль, нравственность и инстинкт самосохранения человечества, как, собственно, и самого человека, которые должны изменяться и развиваться как естественная реакция на меняющиеся условия жизни и адаптация к ним, меняются медленнее, чем развитие науки и технологий, которые не вполне еще предсказуемы. В этом и состоит одно из основных противоречий, угрожающих существованию человека и человечества.

Именно в этом перспективном ключе и должно, по нашему мнению, идти развитие мысли исследователя правовой науки, как теоретика и законодателя, так и практика, при поиске путей оптимального решения развития отношений между искусственным интеллектом, робототехникой, цифровым миром и сообществом людей.

БИБЛИОГРАФИЯ

1. Глазьев С. Стратегия опережающего развития России в условиях глобального кризиса. -- М. : Эконо-мика, 2010. -- 287 с.

2. Европейский Союз : Основополагающие акты в редакции Лиссабонского договора с комментариями. -- М. : Инфра-М, 2008. -- 698 с.

3. Кашкин С. Ю., Четвериков А. О. Право Европейского Союз : учебник для бакалавров : в 2 т. / под ред. С. Ю. Кашкина. -- 4-е изд., перераб. и доп. -- М.: Юрайт, 2013. -- Т. 1 : Общая часть. -- 647 с.

4. Морхат П. М. Понятие инноваций в науке : Обзор научной мысли : науч. монография / Институт гос.- конф. отношений и права. -- М. : Буки Веди, 2015. -- 96 с.

5. Морхат П. М. Право и искусственный интеллект / под ред. И. В. Понкина. -- М. : Юнити-Дана, 2018. -- 536 с.

6. Хант Э. Искусственный интеллект : пер. с англ. -- М. : Мир, 1978. -- 560 с.

REFERENCES

1. Glazyev S. Strategiya operezhayushchego razvitiya Rossii v usloviyakh globalnogo krizisa [Strategy of the advanced development of Russia in the conditions of global crisis]. Moscow: Economics, 2010. 287 p.

2. Evropeyskiy Soyuz: osnovopolagayushchie akty v redaktsii Lissabonskogo dogovora s kommentariyami [European Union : Fundamental acts as amended by the Lisbon Treaty with commentaries]. Moscow: Infra-M Publ., 2008. 698 p.

3. Kashkin S.Yu., Chetverikov A.O. Pravo Evropeyskogo Soyuza: uchebnik dlya bakalavrov: v 2kh t. [Law of the European Union : A Textbook for Bachelor Degree Students : in 2 vols. Edited by S.Yu. Kashkin. 4th ed., rev. and suppl. Moscow: Yurayt Publ., 2013. Vol. 1: Obshchaya chast [General part]. 647 p.

4. Morkhat P.M. Ponyatie innovatsiy v nauke: obzor nauchnoy mysli: nauch. monografiya [The concept of innovation in science: Overview of scientific thought : monograph]. Moscow: Buki Vedi Publ., 2015. 96 p.

5. Morkhat P.M. Pravo i iskusstvennyy intellekt [Law and artificial intelligence]. Edited by I.V. Ponkin. Moscow: Unity Dana Publ., 2018. 536 p.

6. Hunt E. Iskusstvennyy intellekt [Artificial intelligence]. Translated from English. Moscow: Mir Publ., 1978. 560 p.

Размещено на Allbest.ru