Правове регулювання використання штучного інтелекту на основі європейського підходу

Размещено на http://www.allbest.ru/

Національний технічний університет «Дніпровська політехніка»

Правове регулювання використання штучного інтелекту на основі європейського підходу

Ю.І. Тюря кандидат технічних наук, доцент, доцент кафедри цивільного, господарського та екологічного права

У статті вивчено домінанти європейського підходу до визначення механізмів правового регулювання впровадження та використання технологій штучного інтелекту на принципах «досконалості та довірі». Наголошено, що четверта промислова революція або Індустрія 4.0 - це сучасна епоха інновацій, заснована на передових технологіях, що радикально трансформують усі сфери, сектори та галузі економіки. Однією з передових інформаційних технологій сучасності є штучний інтелект. Ця технологія є підґрунтям нашого майбутнього, оскільки вона перетинається з усіма аспектами людського життя: здоров'ям і медициною, комунікацією, освітою, економічною діяльністю, транспортом, спортом та ін. Стрімкий розвиток технологій штучного інтелекту та впровадження їх у різні сфери життєдіяльності людини має ряд переваг, проте і низку недоліків.

Очевидно, що зупинити розвиток штучного інтелекту складно або практично неможливо. Попри це, розроблення, впровадження та використання технологій штучного інтелекту, безсумнівно, має бути людиноорієнтова- ним і відповідати інтересам безпеки людини, збереженню її особистого простору, волі та самосвідомості. На всіх стадіях життєвого циклу штучного інтелекту кожна зацікавлена особа повинна дотримуватися основоположних прав і свобод людини та громадянина, демократичних цінностей, а також забезпечення відповідних гарантій під час впровадження таких технологій.

У роботі висвітлено історію та практичні кроки Європейського Союзу на шляху до правового регулювання щодо впровадження та використання технологій штучного інтелекту. Розкриті основні етичні принципи розвитку і використання технологій штучного інтелекту, дотримання яких є обов'язковим. Проаналізовано правові засади щодо використання технологій штучного інтелекту, засновані на принципах «досконалості та довірі». Встановлено, що європейський підхід до штучного інтелекту спрямований на підвищення інноваційного потенціалу Європи в галузі штучного інтелекту, одночасно підтримуючи розвиток та впровадження етичного та надійного штучного інтелекту в економіці Європейського Союзу. Штучний інтелект зобов'язаний працювати для людей і бути силою добра в суспільстві.

Ключові слова: Європейський підхід, штучний інтелект, принципи «досконалості та довірі», людиноорієнто- ваний штучний інтелект, керівні принципи етики.

Tiuria Yu. I. LEGAL REGULATION OF THE USE OF ARTIFICIAL INTELLIGENCE BASED ON THE EUROPEAN APPROACH

The article examines the dominants of the European approach to the definition of legal regulation mechanisms for the implementation and use of artificial intelligence technologies on the principles of «excellence and trust». The fourth industrial revolution, or Industry 4.0, is a modern era of innovation, based on advanced technologies that radically transform all spheres, sectors and industries of the economy. One of the advanced information technologies of today is artificial intelligence. This technology is the foundation of our future, as it intersects with all aspects of human life: health and medicine, communication, education, economic activity, transport, sports, etc. The rapid development of artificial intelligence technologies and their implementation in different spheres of human life has a number of advantages, but also a number of disadvantages.

Obviously, stopping the development of artificial intelligence is difficult or almost impossible. Nevertheless, the development, implementation and use of artificial intelligence technologies must undoubtedly be Human-Centric and in the interests of human safety, preservation of personal space, will and self-awareness. At all stages of the life cycle of artificial intelligence, each interested party must respect the fundamental rights and freedoms of man and citizen, democratic values, and the provision of appropriate guarantees during the implementation of such technologies.

The work highlights the history and practical steps of the European Union towards legal regulation on the implementation and use of artificial intelligence technologies. The ethics guidelines of the development and use of artificial intelligence technologies, the observance of which is mandatory, are revealed. The legal principles regarding the use of artificial intelligence technologies, based on the principles of «excellence and trust» are analyzed. It is established that the European approach to artificial intelligence is aimed at increasing Europe's innovation potential in the field of artificial intelligence, while supporting the development and implementation of ethical and reliable artificial intelligence in the economy of the European Union. Artificial intelligence is obliged to work for people and to be a force of good in society.

Key words: European approach, artificial intelligence, the principles of «excellence and trust», Human-Centric Artificial Intelligence, ethics guidelines.

Вступ

Постановка проблеми. ХХІ століття характеризується завершенням епохи «третьої цифрової революції» та стрімким розвитком так званої «четвертої промислової революції», провідним трендом якої є Індустрія 4.0 (Industry 4.0).

«Індустрія 4.0» супроводжується новими можливостями щодо роботи з великими обсягами даних (англ. big data), інструментами віртуальної та доповненої реальності (англ. VR/AR), машинним навчання (англ. machine learning). Завдяки шаленому розвитку людського інтелекту та створенню нових інформаційних технологій такі інновації сьогодні стали реальними.

На сьогоднішній день IT-технології та штучний інтелект є самими популярними напрямками досліджень науковців, а також найбільш прибутковими у сфері бізнесу. Наразі IT-сфера активно впливає на людське життя, адже технології штучного інтелекту впроваджується у всі галузі життєдіяльності людини. Штучний інтелект не замінює, а істотно полегшує життя людини у сучасному світі, забезпечуючи ефективність використання різноманітних ресурсів, зокрема у сфері публічного управління технології здатні оптимізувати роботу з опрацювання даних, у сфері охорони здоров'я сприяти точному діагностуванню та прогнозуванню захворювань та ін.

Окрім беззаперечних переваг, застосування штучного інтелекту зумовлює виникнення численних ризиків, упереджень та помилок, а також можливе порушення прав людини. Тому необхідним є створення належного правового поля для регламентації суспільних відносин щодо використання технологій штучного інтелекту з метою забезпечення прав людини.

Метою статті є вивчення європейського підходу до визначення механізмів правового регулювання ефективного впровадження та використання технологій штучного інтелекту на принципах «досконалості та довірі».

Виклад основного матеріалу

Останнім часом штучний інтелект став предметом кількох європейських і міжнародних програмних документів та досліджень, внаслідок чого виокремився, сформувався та закріпився такий напрям, відомий як «Європейський підхід до штучного інтелекту», що ґрунтується на засадах розширення дослідницького і промислового потенціалу європейських держав та забезпеченні захисту основних прав й інтересів людей.

У межах європейського континенту однією з найвпливовіших організацій у правозахисній сфері є Європейська Комісія. Одним з основних напрямів її діяльності є організація та реалізація певних заходів, спрямованих на закріплення та забезпечення дотримання державами прав і основних свобод людини. Європейська Комісія є політично незалежною інституцією Європейського Союзу, яка допомагає зацікавленим державам шляхом розгляду та аналізу їх законодавчих актів та надання відповідних висновків та/або рекомендацій. Також орган є своєрідним форумом для обміну ідеями у різних галузях права. Імплементація до національного законодавства рішень Європейської Комісії здійснюються шляхом внесення змін до певного нормативно-правового акту, відносно якого було надано висновок та/або рекомендації. європейський штучний інтелект правовий

10 квітня 2018 року відбувся Digital Day 2018 - захід, організований Європейською Комісією (DG connect), в якому взяли участь представники країн Європейського Союзу, приватних компаній, академічної спільноти та громадянського суспільства. В рамках заходу 25 країн підписали Декларацію про співробітництво у галузі штучного інтелекту (Declaration Cooperation on Artificial Intelligence), спільне зобов'язання продовжувати співпрацю над найважливішими проблемами щодо використання технологій штучного інтелекту [1].

Метою цієї декларації стало об'єднання національних ініціатив у сфері штучного інтелекту кожного підписанта та формування єдиного європейського підходу до найважливіших питань, що стосуються штучного інтелекту. Зокрема держави-учасниці погодилися співпрацювати з:

- підвищення технологічного та промислового потенціалу Європи в галузі штучного інтелекту та його впровадження, включаючи зручний доступ до даних державного сектору, що буде сприяти розвитку інноваційних бізнес-моделей, економічному зростанню країн та створенню нових робочих місць;

- розв'язання соціально-економічних проблем, таких як трансформація ринків праці та модернізація європейських систем освіти та навчання, включаючи підвищення кваліфікації громадян Європейського Союзу;

- забезпечення адекватної правової та етичної бази, спираючись на основні права та цінності Європейського Союзу, включаючи конфіденційність та захист персональних даних, а також дотримання таких принципів, як прозорість та підзвітність.

Наступним кроком Європейської Комісії стало формування Групи експертів високого рівня зі штучного інтелекту, до складу якої ввійшло 52 експерти, зокрема представники наукової спільноти, бізнесу та громадянського суспільства. 25 квітня 2018 року Групою експертів було прийнято Комюніке Комісії до Європейського Парламенту, Європейської Ради, Європейського економічного та соціального комітету та Комітету регіонів «Штучний інтелект для Європи» (Communication from the Commission to the European Parliament, the European Council, the Council, the European economic and social Committee and the Committee of the regions, Artificial Intelligence for Europe) [2], в якому наведено визначення поняття «штучний інтелект». Зокрема штучний інтелект належить до систем, які демонструють розумну поведінку, аналізуючи навколишнє середовище та виконуючи дії - з певним ступенем автономії - для досягнення конкретних цілей [2]. Підґрунтям прийняття такого рішення стала необхідність формування єдиної нормативно-правової бази щодо штучного інтелекту з урахуванням потенційних ризиків використання таких технологій.

Стратегічним завданням Комюніке стало створення в європейському просторі Єдиного цифрового ринку, зокрема розроблення загальних правил щодо захисту персональних даних, закріплених у таких документах, як: Закон про кібербезпеку, Положення про електронну конфіденційність, Положення про вільний обмін неперсональними даними. Для реалізації запланованих завдань Європейська Комісія інвестувала близько 1,5 млрд євро у дослідження та інновації в галузі створення технологій штучного інтелекту, розширення та зміцнення мережі Центрів передового досвіду у сфері досліджень штучного інтелекту. З метою виконання окреслених у Комюніке завдань 7 грудня 2018 року розроблено Скоординований план зі штучного інтелекту (Coordinated Plan on Artificial Intelligence) [3]. Заходи, передбаченні у Скоординованому плані, спрямовані на сприяння взаємодії та узгодженості дій на національному та регіональному рівнях, максимізації переваг та поширенню технологій штучного інтелекту на території всієї Європи.

Наступними документами, які розробила Група експертів високого рівня 8 квітня 2019 року, стали Комюніке «Зміцнення довіри до людиноорі- єнтованого штучного інтелекту» (Building Trust in Human-Centric Artificial Intelligence) [4] та «Керівні принципи етики для надійного штучного інтелекту» (Ethics Guidelines for Trustworthy AI) [5].

В Комюніке «Зміцнення довіри до людиноорієнтованого штучного інтелекту» визначено, що довіра є передумовою для забезпечення використання технологій штучного інтелекту, орієнтованого на людину. При цьому штучний інтелект повинен бути не самоціллю, а інструментом, який має служити людям з метою покращення їх добробуту, ґрунтуючись на основних людських цінностях, зокрема: повага людської гідності, свобода, демократія, рівність, верховенство права та повага до прав людини, у тому числі прав осіб, які належать до національних або етнічних, релігійних та мовних меншин. Ці цінності є спільними для суспільств усіх держав-членів, у яких переважають плюралізм, недискримінація, терпимість, справедливість, солідарність та рівність. У документі також сформульовано ключові вимоги, яким повинні відповідати технології штучного інтелекту, щоб вважатися такими, що заслуговують на довіру. Таких вимог сім, а саме: людська діяльність та контроль, технічна надійність та безпека, конфіденційність та управління даними, прозорість, різноманітність, недискримі- нація та справедливість, соціальний та екологічний добробут, підзвітність [4].

Людська діяльність та контроль. Технології штучногоінтелектупокликаністворюватитазабез- печувати комфортні умови діяльності людей, дозволяючи їм приймати обґрунтовані рішення та зміцнювати їх основні права. У той самий час необхідно забезпечити належні механізми контролю, що можна досягти за допомогою таких підходів, як «людина в циклі» (human in the loop) або «людина в команді» (human-in-command approach). Human in the loop (далі - HITL) зазвичай визначається як «модель, яка потребує взаємодії з людиною» та характеризується компліментарністю. Модель HITL є гібридною моделлю обчислень та полягає в тому, що людина може втручатися у роботу штучного інтелекту, щоб скасувати рішення, прийняті ним, коли вони з меншою ймовірністю будуть правильними. Відповідно модель HITL забезпечує людям прямий зворотний зв'язок зі штучним інтелектом з метою прогнозування результатів роботи з певним рівнем достовірності.

Технічна надійність та безпека. Технології штучного інтелекту повинні бути стабільними та безпечними, мати запасний план на випадок, якщо щось піде не так, а також бути точними, надійними та відтвореними. Це єдиний спосіб гарантувати мінімізацію та запобігання ненавмисній шкоді.

Конфіденційність та управління даними. При використанні технологій штучного інтелекту повинно бути забезпечено повне дотримання конфіденційності та захист даних з можливістю законного доступу до них, також адекватні механізми управління даними з урахуванням їх якості та цілісності.

Прозорість. Алгоритми прийняття рішень штучним інтелектом повинні бути відстежуваними та адаптованими для всіх зацікавлених сторін, які при цьому водночас обов'язково проінформовані про можливості та обмеження використання технологій штучного інтелекту. Відповідно прозорість характеризується такими складовими елементами, як: відстежуваність, пояснюваність та відкрите повідомлення про обмеження щодо використання штучного інтелекту.

Різноманітність, недискримінація та справедливість. Необхідно уникати необ'єктивної упередженості, оскільки вона сприяє негативним наслідкам від маргіналізації вразливих груп до посилення забобонів та дискримінації. Сприяючи різноманітності, технології штучного інтелекту мають бути доступними для всіх, зокрема і для осіб з обмеженими можливостями, та залучати до їх використання всіх зацікавлених осіб протягом усього життя. Не повинно існувати для всіх єдиного універсального підходу щодо використання технологій штучного інтелекту, але має бути враховано принцип «універсального дизайну», який дозволяє скористатися технологіями найбільш широкому колу людей у найрізноманітніших ситуаціях та не передбачає створення окремих або спеціальних можливостей для такого користування. Це дозволить забезпечити рівний доступ і активну участь усіх людей до існуючих та новітніх інформаційних технологій.

Соціальний та екологічний добробут. Технології штучного інтелекту мають приносити користь усім людям, включаючи майбутні покоління. Тому, необхідно забезпечити стійкі та екологічно чисті умови використання, враховуючи стан навколишнього середовища, соціальний та суспільний вплив всіх живих істот.

Підзвітність. Необхідно розробити та запровадити механізми забезпечення відповідальності та підзвітності при використанні технологій штучного інтелекту з можливістю проведення аудиту, який дозволить оцінювати алгоритми, дані та процеси проектування, особливо при використанні критично важливих додатків. Крім того, має бути забезпечене адекватне та доступне відшкодування завданих збитків при використанні технологій штучного інтелекту.

Орієнтований на людину підхід до штучного інтелекту спрямований на забезпечення того, щоб людські цінності були основоположними на всіх стадіях життєвого циклу штучного інтелекту, зокрема, починаючи від проведення досліджень, проєктування та розробки до впровадження та використання, включаючи технічне обслуговування, експлуатацію, торгівлю, фінансування, моніторинг та оцінку, припинення використання, одночасно забезпечуючи повагу до основних прав людини відповідно до Хартії основних прав Європейського Союзу [6] та Договору про заснування Європейської Спільноти [7], спільним фундаментом яких є повага до людської гідності.

Використання технологій штучного інтелекту, завдяки їх здатності приймати самостійно рішення, може спровокувати посилення вже існуючих форм дискримінації та упереджень. Тому запровадження етичних принципів зобов'яже розробників, співробітників компанії та інших зацікавлених осіб при виконанні своїх повноважень дотримуватись певних стандартів, не порушувати визначених цінностей і досягати чітко окреслених цілей.

Керівні принципи етики для надійного штучного інтелекту визначають такі ключові етичні принципи, зокрема: повага до людської автономії, попередження шкоди, справедливість та пояснення [5].

Принцип поваги до людської автономії. Основні права, які визнанні та на яких заснований Європейський Союз, ґрунтуються на забезпеченні поваги до свободи та автономії людей. Технології штучного інтелекту не повинні невиправдано підпорядковувати, обманювати, маніпулювати, примушувати або схиляти людей до виконання певних негативних дій. Натомість при проєктуванні таких технологій необхідно орієнтуватися на формування у них когнітивних, соціальних та культурних навичок, характерних для людини. Технології штучного інтелекту повинні створюватися з певним ступенем автоматизації, орієнтуючись на людину, забезпечуючи їй нагляд за робочими процесами та залишаючи їй можливість самостійно обрати правильне рішення.

Принцип попередження шкоди. Технології штучного інтелекту не мають негативно впливати на людей та завдавати шкоди, а їх дії мають бути спрямовані на захист людської гідності, психічної та фізичної цілісності. Створювати технології штучного інтелекту необхідно технічно надійними та безпечними, виключаючи їх зловмисне використання сторонніми особами.

Принцип справедливості. Існує багато різних інтерпретацій змісту та виміру справедливості, але автори етичних принципів вважають, що справедливість має як матеріальний, так і процедурний вимір. Матеріальний вимір справедливості передбачає зобов'язання щодо забезпечення рівного й справедливого розподілу як переваг, так і недоліків, що можуть виникати при розробці, запровадженні та використанні технологій штучного інтелекту, а також виключення несправедливої упередженості, дискримінації та стигматизації. Варто заохочувати створення технологій штучного інтелекту, які забезпечують людям рівні можливості доступу до освіти, товарів та послуг. Більше того, використання технологій штучного інтелекту ніколи не повинно призводити до того, що люди можуть бути обмануті або невиправдано обмежені у їх свободі вибору. При розробці та використанні технологій штучного інтелекту необхідно дотримуватися принципу пропорційності між засобами та кінцевими цілями й ретельно обмірковувати, як збалансувати суперницькі інтереси та цілі. Процедурний вимір справедливості передбачає можливість оскаржувати та вимагати ефективного відшкодування за результатами рішень, прийнятих штучним інтелектом та людьми, які ними керують. Для цього суб'єкт, відповідальний за прийняття рішення, повинен бути ідентифікований, а алгоритм прийняття рішення має бути розтлумачений.

Принцип пояснення. Пояснення має вирішальне значення для формування та підтримки довіри користувачів до технологій штучного інтелекту. Це означає, що робочі процеси мають бути прозорими, про можливості та цілі технологій штучного інтелекту необхідно відкрито повідомляти, а рішення та алгоритми їх прийняття, наскільки це можливо, пояснювати тим, кого це стосується прямо чи опосередковано.

Розроблення та запровадження «Керівних принципів етики для надійного штучного інтелекту» має сприяти створенню надійних технологій штучного інтелекту, які будуть законними, тобто відповідати всім правовим нормам, етичними - забезпечувати дотримання етичних принципів і людських цінностей, та надійним, як з технічної, так і соціальної точки зору, з метою уникнення заподіяння ненавмисної шкоди.

Керівні принципи етики для надійного штучного інтелекту засновані на цілісній, абсолютній, багатокультурній та еволюційній структурі взаємозалежних цінностей, принципів і дій, які можуть спрямовувати суспільство відповідально ставитися до відомих і невідомих впливів технологій штучного інтелекту на людей, суспільство та навколишнє середовище й екосистеми.

Отже, основою європейського підходу є визначення певних заходів щодо досягнення «екосистеми досконалості» та «екосистеми довіри» штучного інтелекту на європейському, національному та регіональному рівнях.

Зокрема «екосистема досконалості» умовно являє собою певну систему взаємодії на всіх рівнях представників приватних та державних секторів, у тому числі малих та середніх підприємств, на засадах партнерства з мобілізацією власних ресурсів, починаючи з етапу досліджень та інновацій до створення стимулів для прискорення впровадження технологічних рішень на основі штучного інтелекту.

Основними факторами, що стримують широке використання технологій штучного інтелекту, окрім нестачі інвестицій та практичних навичок щодо його використання, є брак довіри до зазначених технологій з боку громадськості. Відповідно нормативна база щодо штучного інтелекту повинна створити унікальну «екосистему довіри», ключовими ознаками якої є відповідність правилам Європейського Союзу, включаючи правила захисту основних прав людини і прав споживачів. Така система буде сприяти впевненості громадян у застосуванні додатків штучного інтелекту, а також стане юридичним підґрунтям діяльності приватних та громадських організацій, які забезпечують розвиток та підтримку інновацій у сфері штучного інтелекту.

Подібного висновку дійшли європейські країни з огляду на те, як швидко розвивається штучний інтелект, відповідно і нормативна база повинна одночасно вдосконалюватися. Відповідно кожна країна на національному рівні почала створювати та запроваджувати нові юридичні та етичні норми, чим спровокувала реальний ризик фрагментації внутрішнього ринку використання технологій штучного інтелекту, що своєю чергою може призвести до втрати довіри, ринку та правової невизначеності у сфері штучного інтелекту. Таким чином держави-учасниці наполягали на створені єдиної уніфікованої нормативної бази щодо штучного інтелекту, заснованої на принципах «досконалості та довіри». Як підсумок, фундаментальна та уніфікована європейська нормативна база щодо надійного штучного інтелекту захищатиме права всіх європейських громадян і допоможе створити безперешкодний внутрішній ринок для подальшого розвитку та впровадження технологій штучного інтелекту, що зміцнить промислову базу Європи в галузі штучного інтелекту.

Висновки

Підсумовуючи вищеозначене, можна дійти таких висновків:

1. Поширення штучного інтелекту в Європі набирає дедалі більших обертів. Дуже скоро людина не зможе уявити своє життя без використання технологій штучного інтелекту. Використання таких технологій дозволяє підвищити ефективність та продуктивність будь-яких процесів, сприяє зміцненню конкурентоспроможності європейської промисловості та поліпшує добробут громадян.

2. Впровадження технологій штучного у різні сфери життєдіяльності людини має низку переваг, проте і недоліків. Якщо переваги застосування штучного інтелекту очевидні, то недоліки мають прихований характер та пов'язані з можливими ризиками, викликами та загрозами окремим правам і свободам особи.

3. Штучний інтелект є стратегічною технологією, яка надає широкий спектр переваг для громадян, компаній і суспільства в цілому, за умови, якщо він орієнтований на людину, є етичним, стабільним та поважає фундаментальні права та цінності людей.

4. Основою європейського підходу є визначення певних заходів щодо досягнення «екосистеми досконалості» та «екосистеми довіри» штучного інтелекту на європейському, національному та регіональному рівнях.

5. Європейська Комісія виклала юридичні вимоги, яким повинна відповідати будь-яка регуляторна база для забезпечення того, щоб штучний інтелект вважався надійним та «поважав» цінності та принципи Європейського Союзу.

Література

1. EU Declaration on Cooperation on Artificial Intelligence. URL: https://ec.europa.eu/jrc/communities/ sites/default/files/2018aideclarationatdigitaldaydocxpdf. pdf

2. COMMUNICATION FROM THE COMMISSION TO THE EUROPEAN PARLIAMENT, THE EUROPEAN COUNCIL, THE COUNCIL, THE EUROPEAN ECONOMIC AND SOCIAL COMMITTEE AND THE COMMITTEE OF THE REGIONS Artificial Intelligence for Europe. URL: https://eur-lex.europa.eu/legal-content/EN/TXT/ ?uri=COM%3A2018%3A237%3AFIN

3. Coordinated Plan on Artificial Intelligence. URL: https://eur-lex.europa.eu/legal-content/EN/TXT/ ?uri=CELEX%3A52018DC0795

4. COMMUNICATION FROM THE COMMISSION TO THE EUROPEAN PARLIAMENT, THE COUNCIL, THE EUROPEAN ECONOMIC AND SOCIAL COMMITTEE AND THE COMMITTEE OF THE REGIONS Building Trust in Human-Centric Artificial Intelligence. URL: https://eur-lex.europa.eu/legal-content/EN/ALL/ ?uri=CELEX:52019DC0168

5. ETHICS GUIDELINES FOR TRUSTWORTHY AI. URL: https://www.aepd.es/sites/default/files/2019-12/ ai-ethics-guidelines.pdf

6. Хартія основних прав Європейського Союзу: Міжнародний документ від 07.12.2000. URL: https:// zakon.rada.gov.ua/laws/show/994_524#Text

7. Договір про заснування Європейської Спільноти: Міжнародний документ від 25.03.1957. URL: https:// zakon.rada.gov.ua/laws/show/994_017#Text

Размещено на Allbest.ru