Искусственный интеллект, робототехника и защита прав человека в Европейском Союзе

Возмещение убытков, причиненных лицу другими лицами, включая государство, является одним из основных и одним из самых древних средств защиты нарушенных прав. Проработке этого подинститута гражданского права много веков уделяли внимание и теоретики, и законодатели, и правоприменители. Однако в условиях введения в гражданский оборот систем искусственного интеллекта гарантия в форме права лица на возмещение убытков (вреда) может стать не вполне действенной, пока не будут разработаны концептуальные подходы и внесены законодательные изменения, разрешающие вопросы, поставленные перед юриспруденцией появлением последнего поколения систем ИИ:

-- кто относится к числу лиц, ответственных за причинение убытков (вреда) юни- том искусственного интеллекта, а также при совершении с «участием» юнита правонарушений (в совокупности с вопросом о праводееспособности самого юнита);

-- каковы виды ущерба, подлежащего возмещению;

-- каковы способы возмещения ущерба, формы компенсации.

Значимость этих вопросов наглядно иллюстрирует утверждение Европейского парламента, содержащееся в его отчете от 27.01.2017 с рекомендациями для Европейской комиссии по гражданско-правовому регулированию робототехники: «...чем более автономны роботы, тем меньше их можно считать простым инструментом в руках других лиц (таких как производитель, оператор, собственник, пользователь и т.д.); это, в свою очередь, ставит вопрос о том, достаточно ли обычных правил об ответственности и требуется ли, чтобы новые принципы и правила обеспечили ясность в отношении юридической ответственности различных субъектов за действия и бездействие роботов в тех случаях, когда причина их не может быть соотнесена с конкретным человеком и когда можно было избежать действий или бездействия роботов, причинивших вред» European Parliament. Report A8-0005/2017 of 27.01.2017 with recommendations to the Com-mission on Civil Law Rules on Robotics (2015/2103 (INL)). P. 6--7..

Говоря о материальных гарантиях прав человека, следует обратить внимание на то, что непосредственно в учредительных документах ЕС предусмотрена имущественная ответственность Европейского Союза. В соответствии со ст. 340 Договора о функционировании Европейского Союза (ДФЕС) и § 3 ст. 41 Хартии Европейского Союза об основных правах ЕС обязан возместить любой ущерб, «причиненный его институтами или сотрудниками при осуществлении своих функций». Соответствующие иски подведомственны Суду ЕС, который назначает размер компенсации исходя из общих принципов возмещения убытков, сложившихся в правовых системах государств-членов. Таким образом, вопрос об ответственности Европейского Союза за ущерб, причиненный при использовании ЕС интеллектуальных систем, также может быть обоснованно поставлен.

Еще одна из материальных гарантий прав человека в Европейском Союзе -- имущественная ответственность государств-членов за нарушение субъективных прав, установленных ЕС. Судом ЕС выработано правило, согласно которому государства-члены обязаны компенсировать физическим и юридическим лицам любой ущерб, если он причинен нарушением права ЕС, ответственным за которое может быть признано соответствующее государство Andrea Francovich and Danila Bonifaci and others v Italian Republic. Joined cases C-6/90 and C-9/90 // URL: http://eur-lex.europa.eu..

Однако следует отметить, что в сфере научных исследований, технологического развития и космоса Европейский Союз выполняет лишь поддерживающую и координирующую функцию и обладает правом проводить соответствующие мероприятия «при условии, что осуществление данной компетенции не будет препятствовать государствам-членам осуществлять свою собственную компетенцию» Договор о функционировании Европейского Союза от 25.03.1957. § 5 ст. 2; §3 ст. 4., в связи с чем общеобязательных актов в указанной сфере он не издает. Поэтому в сфере регулирования отношений, связанных с использованием искусственного интеллекта, реализация данной гарантии потенциально возможна только в тех случаях, когда будут нарушены относящиеся к сфере ИИ нормы правовых актов ЕС, принятых в рамках других направлений его компетенции.

И еще одна материальная гарантия, которая носит в настоящее время ограниченный характер: в случае нарушения государством прав и свобод, закрепленных в Конвенции о защите прав человека и основных свобод, Европейским Судом по правам человека на это государство может быть возложена обязанность выплаты «справедливой компенсации» потерпевшей стороне (ст. 41 указанной Конвенции). До присоединения ЕС к Конвенции, что предполагалось в Лиссабонском договоре, такие меры могут быть применены только к государству-члену (Конвенцию подписали все государства, входящие в Европейский Союз), но не к ЕС в целом.

Процессуальные гарантии в праве Европейского Союза реализуются прежде всего при рассмотрении дел в судах. В Хартии Европейского Союза об основных правах система процессуальных гарантий закреплена в отдельном разделе (разд. VI «Правосудие»). В качестве общей гарантии, закрепленной в первой статье этого раздела (абз. 1 ст. 47 Хартии), служит право на обращение в беспристрастный суд за защитой любых прав и свобод, установленных в юридических нормах ЕС. С учетом подсудности дела это может быть национальный суд, Суд ЕС и Европейский Суд по правам человека.

В Хартии содержится также ряд других процессуальных гарантий, закрепленных в виде специальных прав и относящихся преимущественно к сфере уголовного судопроизводства (в частности, презумпция невиновности, право на справедливое и публичное рассмотрение дела, право на юридическую помощь).

Представляется, что указанные гарантии в отношениях, связанных с использованием искусственного интеллекта, должны применяться и действовать в полной мере. Однако детального урегулирования требуют при этом вопросы участия юнитов ИИ в той или иной форме при отправлении правосудия, включая гражданское, арбитражное, административное, уголовное судопроизводство, а также третейское разбирательство. Не менее проблемным является также связанный с общим вопросом о правосубъектности юнитов ИИ вопрос о том, есть ли основания говорить о допуске таких юнитов к судебным процессам в качестве лиц, участвующих в деле. Решение этих вопросов тесно связано с вопросом защиты фундаментальных прав человека, таких как право на недискриминацию, на справедливое судебное разбирательство и других, о чем подробнее уже говорилось выше.

Третьим видом гарантий прав и свобод человека являются институциональные гарантии, обеспечивающие функционирование институтов, органов и учреждений ЕС, деятельность которых направлена на охрану и защиту нарушенных прав.

Институтами и органами, обеспечивающими институциональные гарантии прав и свобод человека в Европейском Союзе, являются Суд Европейского Союза, Европейская комиссия, Европейский омбудсмен, Европейский Совет по защите данных и ряд других органов и учреждений, обладающих полномочиями в более узких аспектах.

Каков же подход Европейского Союза к обеспечению прав и свобод человека в институциональной сфере на этапе развития искусственного интеллекта и массового внедрения цифровых технологий?

Важное значение в условиях недостаточности правового регулирования сферы использования ИИ может иметь судебная практика. Обращение в суд -- гарантия и одновременно субъективное право каждого человека. Суд ЕС обеспечивает защиту прав и свобод, нарушенных институтами и учреждениями ЕС.

Суд ЕС рассматривает, в частности, иски:

-- об аннулировании актов институтов, органов и учреждений ЕС;

-- из бездействия институтов, органов, учреждений ЕС;

-- о компенсации убытков, причиненных институтами, органами, учреждениями

ЕС или их сотрудниками;

-- об обжаловании штрафов, наложенных на предприятия институтами ЕС.

Правом подавать такие иски обладают юридические и физические лица (последние -- лишь в некоторых случаях).

Несмотря на то, что Суд Европейского Союза официально не уполномочен заниматься нормотворчеством, в силу особенностей правовой системы и практики ЕС его решения могут иметь подлинно нормотворческий характер, что может способствовать не только восполнению пробелов в нормативных актах, но также закреплению и развитию основополагающих принципов, регулирующих соответствующие отношения, и даже созданию новых.

В качестве одной из институциональных гарантий выступает также Европейская комиссия. Комиссия является институтом, осуществляющим надзор за соблюдением права ЕС государствами-членами. Кроме того, Комиссия обладает важным набором исполнительно-распорядительных полномочий и полномочий в области законодательной инициативы.

Осознавая «большие вызовы», связанные с современным научно-технологическим развитием, Европейская комиссия в документах, явившихся одними из первых в области разработки и использования ИИ и фактически открывших путь к объединению усилий стран в этом направлении в масштабах Европы, уже предусмотрела основные направления, призванные обеспечить защищенность от рисков в этой сфере, в числе которых:

-- соблюдение ценностей Европейского Союза и основополагающих прав. Человек рассматривается в качестве центра при проведении любых исследований ИИ;

-- эффективность гарантий защиты прав и свобод человека;

-- подотчетность и прозрачность;

-- безопасность сетевых информационных систем;

-- защита персональных данных;

-- предсказуемость, подотчетность, проверяемость технологий ИИ, право субъектов данных получать поддающуюся интерпретации информацию о логике принятия юнитом решений;

-- обеспечение соблюдения этических принципов;

-- надлежащее правовое регулирование, предсказуемая правовая среда и правовая определенность Communication from the European Commission COM(2018)237 «Artificial Intelligence for Europe». P. 3, 8, 14--17 ; Communication from the European Commission COM(2018)795 «Coordinated Plan on Artificial Intelligence», items 1,2.6. European Commission Staff Work-ing Document Liability for emerging digital technologies SWD(2018)137. P. 2--5, 10..

3. Искусственный интеллект и права человека в свете концепции «хорошего управления»

Как видно из вышеприведенного перечня, меры, предложенные Европейской комиссией, ставят человека в центр процесса научного и технологического развития, безусловно направлены на защиту его прав и интересов. Однако эффективно обеспечить их в данной ситуации -- весьма непростая задача. Содействовать Европейскому Союзу в выполнении этой задачи может ориентация на концепцию «хорошего управления». В силу норм правовых актов ЕС высшей юридической силы -- его учредительных документов и судебной практики Суда ЕС эта концепция подлежит применению в деятельности всех органов Европейского Союза, и в первую очередь тех, которые обеспечивают институциональные гарантии соблюдения прав человека в ЕС.

Как мы можем видеть, в числе указанных выше основных направлений инновационной деятельности, прямо обозначенных в документах Европейской комиссии, упоминаются соблюдение прав человека, прозрачность (деятельности и принятия решений), участие (общественности), эффективность, подотчетность (власти) и правовая определенность. Необходимость соответствия закону (верховенство права) следует из содержания всех документов, определяющих направления деятельности ЕС в области искусственного интеллекта. Эти направления являются общими принципами того, что в Европейском Союзе именуется хорошим управлением Представляется, что имеющиеся в русскоязычных источниках переводы этого термина («эффективное управление», «надлежащее управление», «эффективное государствен-ное управление» и др.) не в полной мере отражают его существо, вкладываемое в него административной и судебной практикой Европейского Союза, включающее в себя не только аспекты эффективности и соответствия (например, какой-либо ситуации или цели), но и ряд других. Поэтому предпочтительно использовать буквальный перевод этого выражения..

В Европейском Союзе хорошее управление -- основополагающий публично-правовой принцип, берущий свое начало в различных аспектах европейской государственности.

Шведское исследование, проведенное в 2005 г. Principles of Good Administration in the Member States of the European Union // Statskon- toret, 2005. 2005. № 4. URL: www.statskontoret.se., показало, что европейская культура основывается на определенных общих моральных принципах. «Будущее европейской кооперации и интеграции нуждается в обсуждении наших общих ценностей, но необходимо также обсуждение несовпадающих ценностей и того, как эти различия могут быть выражены в европейских отношениях».

Хорошее управление -- это общая концепция, не имеющая единого легального определения. Оно рассматривается и как стандарт для разумной политики развития, лежащий в основе политики расширения ЕС, процесса стабилизации и объединения, европейской политики соседства (идея о том, что создание регулирующей среды является решающим предварительным условием для достижения устойчивого развития) Good governance in the European Union / T. A. Borzel [et. al.] // Berlin Working Paper on Eu-ropean Integration № 7. Berlin, 2008. P 11, 15--45.; и как фактор целостности (англ. integrity), в том числе в административном, юридико-теоретическом и этическом аспектах Addink G. H. Good governance in EU member states. Utrecht University, 2015. P 44--45.; и даже как «один из трех краеугольных камней любого современного государства» наряду с верховенством закона и демократией (концепция, развивающаяся в региональном и международном масштабах) Cuculoska I. The Right to Good Administration of the EU: Definition, Scope and Content // lustinianus Primus Law Review. 2014. Vol. 5:2. P 2--3.. Однако можно сказать, что общая концепция хорошего управления разделяется всеми государствами Союза Addink G. H. Ор. cit. P 19..

Следование концепции хорошего управления является одним из механизмов, совершенствующих на наднациональном уровне взаимодействие институтов, органов и учреждений ЕС между собой и с гражданами, а также на международной арене. Таким образом, можно сказать, что концепция хорошего управления на современном этапе является выражением «идей прав человека, демократизации и демократии, верховенства закона, гражданского общества, децентрализованного разделения власти и благоразумного публичного администрирования» Communication from the Commission of 20.10.2003 COM(2003)615 «Governance and De-velopment»., а также фактором, содействующим эффективности и законности проведения Европейским Союзом его политики и в целом ходу процессов интеграции в ЕС.

Принципы хорошего управления выработаны доктриной и судебной практикой. В том значении, которое придается понятию хорошего управления в научных исследованиях, можно выделить три основных направления:

1) хорошее управление как разумное управление, надлежащее администрирование и защита прав человека (направление верховенства права);

2) хорошее управление как органы государственной власти, способствующие прозрачности и активному участию граждан (направление демократии);

3) хорошее управление как правительственные институты, сосредоточенные на эффективности и подотчетности (институциональное направление).

Таким образом, в концепции хорошего управления можно выделить шесть принципов: соответствие, права человека, прозрачность, участие, эффективность и подотчетность (англ. properness, human rights, transparency, participation, effectiveness, accountability). Принципы, относящиеся к аспекту верховенства права -- это соответствие и права человека, принципы, относящиеся к аспекту демократии -- прозрачность и участие, и принципы, относящиеся к институциональному аспекту -- это эффективность и подотчетность. К принципу соответствия относятся подпринципы правовой определенности и правомерных ожиданий Addink G. H. Oр. cit. P. 18, 20, 28, 189..

Предыстория появления концепции хорошего управления на уровне ЕС обнаруживается в нескольких прецедентах Суда Европейского Союза и ряде документов Европейской комиссии. С момента вступления в силу Лиссабонского договора (01.12.2009) право на хорошее управление является правом граждан ЕС.

Сложность развивающихся отношений в сфере использования ИИ и масштабность связанных с ними изменений в обществе требуют применения принципов хорошего управления при регулировании этих отношений в полной мере.

4. Деятельность Европейского омбудсмена и других органов системы защиты прав человека

Эффективной институциональной гарантией защиты прав и свобод человека, прозрачности и подотчетности деятельности по развитию и использованию ИИ на уровне Европейского Союза может явиться деятельность Европейского омбудсмена.

К компетенции Европейского омбудсмена относится расследование случаев нарушения порядка управления в деятельности институтов, органов и учреждений ЕС, кроме Суда Европейского Союза (ст. 228 ДФЕС от 25.03.1957), при этом обращаться с жалобой к нему вправе как физические, так и юридические лица. Таким образом, контрольные полномочия Европейского омбудсмена являются одной из институциональных гарантий прав и свобод человека и гражданина в ЕС. Являясь органом с контрольными полномочиями, Европейский омбудсмен использует принципы хорошего управления как стандарты для контроля.

Роль Европейского омбудсмена примечательна тем, что при отсутствии юридической обязательности решений он тем не менее вносит вклад в обеспечение защиты прав человека путем развития принципов хорошего управления на наднациональном уровне. Нарушение порядка управления (англ. maladministration) Европейский омбудсмен рассматривает не только как нарушение формально определенных правовых предписаний, но и как нарушение указанных выше принципов (прозрачность, подотчетность и тд.), в совокупности составляющих концепцию хорошего управления, по характеру своей деятельности применяя их все.

Основываясь на предоставленном ему общем полномочии («Омбудсмен принимает положения во исполнение настоящего решения» Решение № 94/262/ECSC, EC, Euratom Европейского парламента «О правилах и общих условиях, регулирующих осуществление обязанностей Омбудсмена» от 09.03.1994. Ст. 14.), Европейский омбудсмен издает документы общего характера, содержащие как программы действий для него самого, так и положения-ориентиры для других участников отношений.

В ноябре 2014 г. Европейским омбудсменом была утверждена Стратегия Европейского омбудсмена «К 2019» («Towards 2019»), в которой закрепляются его миссия, намерения, стратегические цели и задачи. Согласно указанной Стратегии Омбудсмен способствует хорошему управлению и культуре государственной службы, помогая администрации ЕС работать открыто, эффективно и целостно URL: https://www.ombudsman.europa.eu..

Стратегия «К 2019» предусматривает, что Омбудсмен воздействует на развитие хорошей административной практики в институтах ЕС посредством информационно-пропагандистской деятельности, путем разработки руководящих принципов и кодексов надлежащей практики. В частности, Европейским омбудсменом изданы Европейский кодекс хорошего административного поведения и Принципы общественной службы для гражданских служащих ЕС. Эти документы не носят юридически обязательного характера, но тем не менее служат ориентиром при оценке Европейским омбудсменом фактов наличия или отсутствия нарушений порядка управления в деятельности институтов, органов и учреждений ЕС. Они являются важным организующим компонентом сформированной в ЕС системы гарантий прав и свобод человека, в том числе в вопросах должного и достаточно демократического надгосударственного управления.

Европейский омбудсмен в соответствии со своей задачей вправе проводить расследования, которые считает обоснованными (если только утверждаемые факты не являются или не являлись объектом судебной процедуры). При этом он может делать это по своей собственной инициативе и обладает для этих целей доступом к любым документам, необходимым для осуществления своих обязанностей. Осуществляя свои полномочия по расследованию, Европейский омбудсмен использует проактивные методы -- так называемые стратегические расследования и стратегические инициативы (рассмотрение стратегически важной темы без начала расследования). Результаты выполнения функций Европейского омбудсмена воплощаются в докладах по рассмотренным делам, результатах стратегических расследований, рекомендациях, направляемых субъектам, в действиях которых выявлены нарушения порядка управления.

Решения Европейского омбудсмена, направленные против нарушений порядка управления, затрагивают отношения в различных областях деятельности Европейского Союза, способствуя реализации на практике концептуальных принципов хорошего управления и соблюдению прав человека. Обращает на себя внимание то, что Европейский омбудсмен, вынося решения, руководствуется не только и не столько формально-юридическим подходом, наличием или отсутствием у органа тех или иных обязанностей, прямо закрепленных в нормативных актах, а рассматривает дела с точки зрения современного понимания существа и принципов хорошего управления, а также прав граждан в отношении такого управления.

Хотя, как уже отмечалось в настоящей статье, решения Европейского омбудсмена не имеют юридически обязательной силы, однако они воплощаются в актах институтов ЕС, устанавливающих соответствующие правила уже в качестве обязательных, при этом происходит это в подавляющем большинстве случаев См.: Годовые отчеты Европейского омбудсмена за 2014--2017 гг // URL: https://www. ombudsman.europa.eu..

Полномочия Европейского омбудсмена в сочетании со сложившейся в настоящее время практикой их осуществления дают возможность этому органу обеспечивать защиту прав человека и принципы хорошего управления при разработке и использовании систем искусственного интеллекта посредством:

-- изучения деятельности органов ЕС в соответствующей области и оценки эффективности внедрения и исполнения нормативных актов;

-- обеспечения прозрачности в принятии решений органами ЕС, включая защиту права лиц на получение информации и доступ к документам о разработках в области робототехники и ИИ и их возможных последствиях;

-- обеспечения подотчетности органов ЕС, ясности и соответствия административных процедур, защиты права отдельных лиц и представителей общественности на участие в принятии решений, касающихся искусственного интеллекта и затрагивающих их права;

-- разработки стандартов этики в деятельности органов ЕС при принятии ими решений, разработке нормативных актов, утверждении и исполнении проектов, относящихся к ИИ, предоставлении грантов;

-- издания документов общего характера, имеющих характер «мягкого права», содержащие программы (положения-ориентиры) для участников отношений в области ИИ и единого цифрового рынка;

-- инициирования стратегических расследований и стратегических инициатив на предмет наличия системных проблем в правилах и процедурах при реализации соответствующих проектов.

Деятельность Европейского омбудсмена, направленная на обеспечение защиты прав и свобод человека в ЕС, осуществляемая в контексте реализации права граждан ЕС на хорошее управление, может содействовать выбору Европейским Союзом правильных направлений деятельности в высокой динамике политических, социальных, экономических и правовых условий и способствовать разрешению системных проблем в области регулирования отношений по использованию ИИ.

Еще одной институциональной гарантией прав и свобод человека в Европейском Союзе является Европейский совет по защите данных.

Как уже говорилось выше, с 25.05.2018 в ЕС действует новый Регламент № 2016/679, регулирующий защиту физических лиц при обработке персональных данных.

Европейский совет по защите данных, создание которого предусмотрено Регламентом № 2016/679, регулирующим защиту физических лиц при обработке персональных данных, включает в себя главу надзорного органа каждого государства -- члена ЕС и Европейского инспектора по защите персональных данных. Данный Совет учрежден в качестве независимого органа Союза, Европейская комиссия не имеет в нем права голоса.

В соответствии со ст. 70 Регламента № 2016/679 (далее -- «Регламент») Европейский совет по защите данных:

-- контролирует и гарантирует правильное применение Регламента в случаях, предусмотренных в Регламенте;

-- рассматривает (в том числе по собственной инициативе) любые вопросы, связанные с применением Регламента;

-- издает руководящие указания, рекомендации и стандарты передовой практики, в том числе для надзорных органов Надзорные органы -- независимые органы государственной власти, создаваемые в го-сударствах -- членах ЕС, ответственные за мониторинг применения Регламента, для защиты основных прав и свобод физических лиц при обработке данных и для содействия свободному движению персональных данных в Союзе (ст. 51 Регламента № 2016/679)., относительно применения мер в пределах компетенции этих органов и устанавливает административные штрафы за нарушение положений Регламента;

-- содействует разработке норм поведения и установлению сертификационных механизмов защиты данных, осуществляет аккредитацию сертификационных органов и их регулярную проверку;

-- выдает заключения относительно норм поведения, предназначенных для надлежащего применения Регламента, разработанных на уровне Союза; а также осуществляет ряд других полномочий.

При этом Европейская комиссия посредством имплементационных актов может принять решение о том, что переданные ей с заключением Совета нормы поведения (их изменение или расширение) обладают общей действительностью на территории Союза, принимая такие имплементационные акты в соответствии с процедурой проверки См. ст. 40 (9) Регламента № 2016/679; ст. 5 Регламента № 182/2011 от 16.02.2011 Евро-пейского парламента и Совета Европейского Союза, устанавливающего правила и общие принципы, касающиеся механизмов контроля государствами -- членами ЕС осущест-вления Европейской комиссией исполнительных полномочий..

Представляется, что Регламент и закрепленная в нем система сбора, использования и передачи персональных данных на данном этапе могут обеспечить защиту права граждан ЕС на конфиденциальность личной информации. Однако в связи с развитием разработок в области искусственного интеллекта возникнет необходимость в их модификации и совершенствовании.

Иные органы, обеспечивающие институциональные гарантии прав и свобод человека в Европейском Союзе и обладающие полномочиями более узкого характера (в отдельных, частных направлениях реализации таких прав), такие как, например, дипломатические и консульские представительства государств- членов и системы досудебного урегулирования споров, в настоящей статье не рассматриваются ввиду отсутствия непосредственной относимости к вопросам регулирования отношений, связанных с использованием ИИ.

Заключение

Все изложенное выше -- лишь первые шаги на пути к созданию комплексной системы нормативного регулирования вопроса использования искусственного интеллекта в жизни общества, требующего в настоящее время глубокого осмысления научным сообществом, серьезного теоретико-правового исследования, скрупулезной работы законодателя и последовательного применения на практике.

Добро и возможное зло, исходящие от юнитов искусственного интеллекта, должны быть под четким и строгим правовым контролем человека и государства, их действия необходимо совместить с ответственностью, подотчетностью, а в соответствующих ситуациях -- немедленной прекращаемостью.

Поэтому человечеству, идущему вперед по пути прогресса, следует адекватно представлять возможные пути, темпы и последствия этого движения и уметь вовремя остановиться и откорректировать свою деятельность. Отсюда возникает и парадоксальная мысль о необходимости и возможности правового регулирования человеческого инстинкта самосохранения, подумать о коллективном самосохранении человеческого общества и о недопустимости неконтролируемого появления и саморазвития этого «инстинкта» (качества) у интеллектуального робота!

Библиография

1. Александр дель Валль. Почему либеральная демократия сдает позиции // URL: https:inosmi.ru/politic/20160328/235889927.html.

2. Глазьев С. Стратегия опережающего развития России в условиях глобального кризиса. -- М.: Экономика, 2010.

3. Данилов И. Фукуяма раскрыл секрет Путина и Трампа // РИА новости 17.09.2018. U2L: https://ria/ru/analytics/2018 09 18//15 286 75757.html.

4. Морхат П. В. Искусственный интеллект: правовой взгляд: научная монография. -- М., 2017.

5. Постникова Е. В. Некоторые аспекты правового регулирования защиты персональных данных в рамках внутреннего рынка Европейского Союза // Право. Журнал Высшей школы экономики. -- 2018. -- № 1.

6. Филипова И. А. Правовое регулирование труда -- 2020: смена парадигмы как следствие цифровизации экономики // Юрист. -- 2018. -- № 11.

7. Addink G. H. Good governance in EU member states. -- Utrecht University, 2015.

8. Cuculoska I. The Right to Good Administration of the EU: Definition, Scope and Content // lustinianus Primus Law Review. -- 2014. -- Vol. 5:2.

9. Good governance in the European Union / Borzel T. A. [et. al.] // Berlin Working Paper on European Integration. -- 2008. -- № 7.

10. Heimans J., Timms H. New Power: What Forces Rule the World -- and How to Make Them Work for You. -- Alpina Publisher, 2018.

11. Principles of Good Administration in the Member States of the European Union, Statskontoret, 2005. -- 2005. -- № 4.

Размещено на Allbest.ru