Проблеми правового регулювання технологій штучного інтелекту

Размещено на http://www.allbest.ru/

Проблеми правового регулювання технологій штучного інтелекту

кандидат юридичних наук, старший дослідник, старший науковий співробітник

Науково-дослідний інститут приватного права і підприємництва імені академіка Ф. Г. Бурчака НАПрН України (Київ)

В статті досліджено проблемні питання щодо використання технологій штучного інтелекту. Використання новітніх технологій сприяє створення інноваційних продуктів і послуг, відкриває нові можливості для зростання економіки та суспільства. Пріоритетними сферами розвитку галузі штучного інтелекту є: освіта, наука, економіка, кібербезпека, інформаційна безпека, оборона, публічне управління, правове регулювання та етика, правосуддя.

Нині у світі активно використовуються технології штучного інтелекту: безпілотні автомобілі; голосові сервіси від виробників сучасної електроніки; технологічне наповнення так званого розумного будинку тощо. Штучний інтелект можна використовувати для підвищення безпеки і захисту від шахрайства. Досягнення штучного інтелекту в сфері охорони здоров'я можуть сприяти покращенню діагностики, розробці персоналізованих методів лікування і поліпшити догляд за пацієнтами. Але штучний інтелект - це не заміна людського досвіду, а інструмент, який дозволяє медичним працівникам більш ефективно діагностувати небезпечні захворювання, ставити більш точні діагнози, проводити операції, розроблювати ліки. Важливим є те, що технології штучного інтелекту можна використовувати там, де людина або фізично не зможе перебувати, або це буде небезпечно для її здоров'я. Штучний інтелект здатний допомогти військовим мінімізувати втрати, створити сучасні оборонні системи. Технології штучного інтелекту активно використовуються в роботі правоохоронних органів під час розслідування воєнних злочинів, діяльності колаборантів, пропаганди на користь агресора. Правоохоронці активно використовують системи розпізнавання обличчя, відеоаналітику тощо.

У грудні 2023 року депутати Європейського парламенту, представники країн-членів та експерти Європейської комісії уклали політичну угоду щодо закону про штучний інтелект, що є першою спробою ЄС врегулювати нову технологію. штучний інтелект економіка суспільство

Реформування законодавства відповідно до вимог цифрової епохи повинно бути комплексним. У першу чергу існує потреба в уніфікації термінології, зокрема, законодавчого визначення понять «штучний інтелект», «робототехніка» тощо.

Слід позитивно оцінити запровадження штучного інтелекту в різних сферах суспільного життя, особливо в тих де використання новітніх технологій дозволить зберегти життя та здоров'я людей. Однак необхідно закріпити на законодавчому рівні положення щодо правового статусу об'єктів, створених штучним інтелектом, захисту прав учасників відносин розробки та використання штучного інтелекту, юридичної відповідальності у галузі штучного інтелекту.

Ключові слова: штучний інтелект, робототехніка, цифрові технології, кібер- безпека, правове регулювання, відповідальність

PROBLEMS OF LEGAL REGULATION ARTIFICIAL INTELLIGENCE TECHNOLOGY

Chernenko, Olena

Candidate of Legal Sciences, Senior Researcher, Senior Research Fellow

Academician F.H. Burchak Scientific Research Institute of Private Law and Entrepreneurship of the NALS of Ukraine (Kyiv)

The article examines problematic issues related to the use of artificial intelligence technologies. The use of the latest technologies contributes to the creation of innovative products and services, opens up new opportunities for the growth of the economy and society. The priority areas of artificial intelligence development are: education, science, economy, cyber security, information security, defense, public administration, legal regulation and ethics, justice.

Currently, artificial intelligence technologies are actively used in the world: self-driving cars; voice services from manufacturers of modern electronics; technological filling of the so-called smart house, etc. Artificial intelligence can be used to improve security and protect against fraud. Advances in artificial intelligence in healthcare can help improve diagnostics, develop personalized treatments, and improve patient care. But artificial intelligence is not a replacement for human experience, but a tool that allows medical professionals to more effectively diagnose dangerous diseases, make more accurate diagnoses, conduct operations, and develop medicines. It is important that artificial intelligence technologies can be used where a person either cannot physically be, or it would be dangerous for his health. Artificial intelligence is capable of helping the military minimize losses and create modern defense systems. Artificial intelligence technologies are actively used in the work of law

enforcement agencies during the investigation of war crimes, the activities of collaborators, and propaganda in favor of the aggressor. Law enforcement officers actively use facial recognition systems, video analytics, etc.

In December 2023, MEPs, member state representatives and European Commission experts reached a political agreement on a law on artificial intelligence, the EU's first attempt to regulate the new technology.

Reforming the legislation in accordance with the requirements of the digital age must be comprehensive. First of all, there is a need for the unification of terminology, in particular, the legislative definition of the terms "artificial intelligence", "robotics", etc.

The introduction of artificial intelligence in various spheres of social life should be positively evaluated, especially in those where the use of the latest technologies will save people's lives and health. However, provisions regarding the legal status of objects created by artificial intelligence, protection of the rights of participants in the development and use of artificial intelligence, and legal liability in the field of artificial intelligence must be established at the legislative level.

Keywords:artificial intelligence, robotics, digital technologies, cyber security, legal regulation, responsibility

Термін інтелект (Intelligence) походить від латинського поняття intellectus - розум, розумний. Під штучним інтелектом (далі - ТТТТ) розуміється здатність автоматичних систем брати на себе функції людини, вибирати і приймати оптимальні рішення на основі раніше отриманого досвіду і аналізу зовнішніх впливів [1].

Тсторично першою дефініцією поняття «штучний інтелект» є: «штучний інтелект - це наука і техніка створення інтелектуальних машин, особливо інтелектуальних комп'ютерних програм» [2].

В науковій літературі поняття «штучний інтелект» вживається у двох різних значеннях: 1) науковий напрям, пов'язаний з дослідженнями природи штучного інтелекту, який спроможний мислити та усвідомлювати свої дії подібно людині; 2) технології, системи та як можливість, використовуючи методи програмного моделювання та математичної оптимізації, приймати рішення для досягнення певної мети. Той чи інший підхід до визначення поняття штучного інтелекту істотно залежить від цілей розробки такого поняття та його подальшого застосування [1].

Серед типів штучного інтелекту виділяють: 1) слабкий (виключно імітація природного інтелекту, такий інтелект не є автономним і потребує контролю та втручання людини у його діяльність); 2) сильний (система здатна до здійснення інтелектуальних процесів, у т. ч. самонавчатися, тобто обирати свої рішення на основі власного досвіду серед інших, попередніх рішень [3].

Дослідженню питань, пов'язаних із технологіями штучного інтелекту присвячені праці таких вчених, як О. Баранов, І. Городиський, К. Єфремова, Т. Каткова, М. Карчевський, О.Посикалюк, О. Теличко та інших. Нині правове регулювання штучного інтелекту знаходиться лише на етапі становлення, що й обумовлює актуальність теми дослідження.

Метою статті є розгляд проблематики правового регулюванням технологій штучного інтелекту.

Штучний інтелект як технологічний продукт є результатом колективної праці науковців, інженерів, технологів, фахівців з обробки даних, дизайнерів та надає можливості обмінюватись результатами праці для покращення нашого щоденного життя.

Для використання штучного інтелекту в будь-якій сфері потрібне значне збільшення кількості кваліфікованих спеціалістів у галузі штучного інтелекту, в тому числі наукових та науково-педагогічних працівників, а також поширення серед населення навичок компетентного використання штучного інтелекту.

У світі активно використовуються технології штучного інтелекту: безпілотні автомобілі; голосові сервіси від виробників сучасної електроніки; технологічне наповнення так званого розумного будинку тощо. Так, пошукові асистенти - Siri, Alexa, Cortana, доступні на пристроях Apple, Android та Windows, оснащені програмами обробки та розпізнавання людського голосу, здатні керувати повідомленнями та передбачати потреби власника телефону, що робить їх інструментами штучного інтелекту [4; 5].

Розвиток технологій неможливо заборонити. Попри ризик небезпек абсолютна заборона розробки систем штучного інтелекту є неможливою. Правове регулювання у цій сфері має забезпечувати стимулювання соціально ефективного використання технологій та мінімізацію ризиків зловживання технологією [6].

Відповідно до Концепції розвитку штучного інтелекту в Україні, схваленої розпорядженням Кабінету Міністрів України 2 грудня 2020 р. № 1556-р, штучний інтелект - це організована сукупність інформаційних технологій, із застосуванням якої можливо виконувати складні комплексні завдання шляхом використання системи наукових методів досліджень і алгоритмів обробки інформації, отриманої або самостійно створеної під час роботи, а також створювати та використовувати власні бази знань, моделі прийняття рішень, алгоритми роботи з інформацією та визначати способи досягнення поставлених завдань.

Концепцією передбачено, що одним із пріоритетних напрямів у сфері науково- технологічних досліджень є розвиток штучного інтелекту [7]. Серед основних принципів розвитку та використання технологій штучного інтелекту визначають наступні:

- штучний інтелект має приносити користь людям і планеті, сприяючи інклюзивному зростанню, сталому розвитку та добробуту;

- системи штучного інтелекту розробляються та використовуються лише за умови дотримання верховенства права, а їх використання має забезпечуватися відповідними гарантіями, зокрема, можливістю безперешкодного втручання людини у процес функціонування системи;

- забезпечення прозорості та відповідального розкриття інформації про системи штучного інтелекту;

- організації та особи, які розробляють, впроваджують або використовують системи штучного інтелекту, несуть відповідальність за їх належне функціонування відповідно до вищезазначених принципів [8].

Необхідно звернути увагу на те, що пріоритетними сферами, в яких реалізуються завдання державної політики розвитку галузі штучного інтелекту, є: освіта і професійне навчання, наука, економіка, кібербезпека, інформаційна безпека, оборона, публічне управління, правове регулювання та етика, правосуддя.

Нині в Україні, під час реалізації державної політики розвитку галузі штучного інтелекту, особливу увагу слід звернути на завданням у сфері кібербезпеки: захист комунікаційних, інформаційних та технологічних систем, інформаційних технологій, передусім тих, що використовуються операторами (постачальниками) ключових послуг (включаючи об'єкти критичної інфраструктури) і є важливими для безперервності функціонування держави, суспільства та безпеки громадян.

Комплексне розв'язання проблем кібербезпеки вимагає виконання низки завдань, серед яких:

- удосконалення законодавства і створення сучасної нормативно-правової бази для впровадження кращих світових практик штучного інтелекту у сфері кібербезпеки і кіберзахисту;

- розроблення інноваційних систем кібербезпеки, які широко застосовують технології штучного інтелекту для автоматичного аналізу та класифікації загроз і автоматичного вибору стратегії їх стримування і запобігання;

- вивчення питання ліцензування іноземних розробок штучного інтелекту у сфері кібербезпеки, особливо у державному секторі;

- створення національних інформаційних систем, платформ і продуктів з метою зменшення частки іноземного програмного забезпечення у сфері кібербезпеки, що використовується органами державного управління;

- оновлення державних стандартів щодо інформаційної безпеки, зокрема державних інформаційних ресурсів, а також розроблення нових національних стандартів у сфері кібербез- пеки і кіберзахисту, зокрема організаційних і технічних вимог, що стосуються безпеки додатків, мобільних пристроїв, робочих станцій, серверів і мереж, моделей хмарних обчислень [7].

Важливим є те, що штучний інтелект можна використовувати для підвищення безпеки і захисту під час виявлення шахрайства, прогнозування та запобігання нещасним випадкам, а також - моніторингу громадських місць стосовно підозрілої активності. Досягнення штучного інтелекту в сфері охорони здоров'я можуть сприяти покращенню діагностики, розробці персоналізованих методів лікування і поліпшити догляд за пацієнтами. Наприклад, алгоритми штучного інтелекту можуть аналізувати медичні зображення виявлення ранніх ознак різних захворювань. Саме штучний інтелект може зібрати і проаналізувати великий масив інформації (повну історію хвороби пацієнта, дані про його аналізи за всі роки лікування, визначити поточний стан здоров'я людини), що підвищує точність діагнозу, дозволяє лікарям своєчасно призначити відповідне лікування. Штучний інтелект може надавати пацієнтам медичні рекомендації цілодобово, на підставі історії хвороби, особистих потреб пацієнта або його уподобань [9].

Отже, у медичній практиці штучний інтелект використовують при виявленні захворювань та їх діагностиці; у клінічних випробуваннях і розробці ліків; задля зменшення витрат у галузі охорони здоров'я тощо.

Проте штучний інтелект - це не заміна людського досвіду, а інструмент, який дозволяє медичним працівникам заздалегідь і більш ефективно діагностувати небезпечні захворювання, ставити більш точні діагнози, проводити операції, розроблювати ліки. Не слід забувати, що штучний інтелект не застрахований від помилок, а отже є можливість постановки неправильного діагнозу. Разом із тим у робототехніці системи штучного інтелекту знайшли досить широке застосування. Слід виділити наступні напрямки розвитку інтелектуальних роботів:

- промислові роботи, працюють у виробничій сфері та замінюють людину при виконанні технологічних операцій. Інтелект зазначених роботів полягає в їх здатності автоматично розпізнавати якість обробленої поверхні, контролювати режими обробки і коригувати їх залежно від поставленої мети, наприклад, мінімізувати похибки, зменшувати енерговитрати, вибирати технологію обробки в залежності від типу деталі і вимог до її вихідних характеристик. В даний час це основний клас роботів, яким має бути приділено особливу увагу, тому що заміна людини в сфері виробництва якісно змінить її життєдіяльність.

- ігрові роботи;

- спеціальні роботи, здатні працювати в умовах війни, а також в умовах особливо небезпечних для життєдіяльності людини [10].

Необхідно зазначити, що в свій час Європарламентом було ухвалено Резолюцію 2015/2103(INL) «Норми цивільного права про робототехніку», де пропонується закріпити правові основи використання штучного інтелекту та впровадження загальноєвропейської системи реєстрації «розумних» машин. Резолюція наголошує на недосконалості сучасного правового регулювання штучного інтелекту, зокрема у сфері договірних відносин та відшкодування завданої шкоди. Визначено, що до заподіяної штучним інтелектом шкоди застосовуються правові норми про відповідальність за якість і безпеку товарів, згідно з якими виробник несе відповідальність за будь-які несправності, та користувач продукту - за поведінку, яка спричинила за виникнення шкоди. Резолюція стала першим реальним кроком до законодавчого закріплення стандартів розробки та використання штучного інтелекту.

Важливо зазначити, що відповідно до Резолюції 2015/2103(INL) від 16 лютого 2017 року, відповідальність за завдану шкоду не може бути покладена на роботів (у тому числі, на штучний інтелект, який використовує робототехніка), а покладається виключно на людину, яка може бути виробником, оператором, власником або користувачем. Для встановлення юридичної відповідальності необхідне доведення вини людини, яка могла передбачити і попередити завдання такої шкоди. У зв'язку з цим пропонується запровадження обов'язкової системи страхування від настання негативних наслідків і завдання шкоди [11].

Вагомим є те, що технології штучного інтелекту можна використовувати там, де людина або фізично не зможе перебувати, або це буде небезпечно для її здоров'я. Тому з метою підсилення українських оборонних технологій було підписано Меморандум про взаєморозуміння щодо співробітництва у сфері безпеки й оборони. В меморандумі йдеться про впровадження технологій штучного інтелекту в дрони, зокрема БпЛА, українського виробництва [12]. Згадані технології здатні допомогти військовим мінімізувати втрати, створити сучасні оборонні системи. Актуальним є використання штучного інтелекту на території активних бойових дій, оскільки це має сприяти:

- отриманню дуже детальної стратегічної інформації про цілі, надаючи особі, яка ухвалює рішення, дорожню карту для застосування високоточної зброї в найбільш вразливих точках логістичного ланцюга противника;

- контролюванню дронів для зсинхронізованих атак;

- психологічній та інформаційній війні. Створення глибоких фейків -наприклад, відеодемонстрацій певних бойових ефектів - може викликати помилкову реакцію ворога.

- оборонній і тиловій діяльності на війні [13].

Впровадження ШІ в сферу оборони відбувається передусім завдяки компанії Palantir, яка почала працювати з Україною у червні 2022 року. Завдяки функціоналу ШІ Palantir можливості ідентифікації та визначення місцеперебування ворожої техніки зросли у рази. Крім того, Palantir допомагає слідчим обробляти величезну кількість даних, що стосуються військових злочинів, які скоїли російські окупанти. Наявні докази стануть основою для кримінальних справа щодо військової агресії рф та геноциду українського народу [13].

Отже, збройна агресія рф прискорила практичне впровадження технологій штучного інтелекту в роботу національних правоохоронних органів. Розслідування воєнних злочинів, діяльності колаборантів, пропаганди на користь агресора вимагають оперативного опрацювання значних масивів даних. Правоохоронці активно використовують системи розпізнавання обличчя, відеоаналітику, транскрибування відео та аудіозаписів. Водночас, використання штучного інтелекту правоохоронними органами без належного правового регулювання та комплексу організаційно-технічних заходів для дотримання нормативних приписів може привести до системних порушень прав людини, та, як наслідок, ускладнити євроінтеграційні процеси, діалог із міжнародними партнерами України [6].

Міністерство цифрової трансформації розробило дорожну карту регулювання штучного інтелекту в Україні. Ця дорожна карта базується на bottom-up підході, що передбачає рух від меншого до більшого. Його реалізовуватимуть двома етапами. Під час першого етапу бізнесу нададуть інструменти для підготовки до майбутнього регулювання штучного інтелекту. Вони включатимуть усі необхідні етапи: від оцінювання впливу технології на права людини до підписання добровільних кодексів поведінки. Другий етап реалізації підходу передбачатиме ухвалення закону, аналогічного до європейського AI Ай, який надасть можливість створити ідентичні правові режими з ЄС у сфері ШІ, спростити співпрацю з партнерами та залучити інвестиції [14].

У грудні 2023 року депутати Європейського парламенту, представники країн-членів та експерти Європейської комісії уклали політичну угоду щодо закону про штучний інтелект (ШІ), який є першою спробою ЄС врегулювати нову технологію. Очікується, що буде потрібно більше технічної роботи над текстом закону, щоб удосконалити досягнуту політичну угоду. Документ також передбачає рідкісне застосування заборон, які стосуватимуться переважно тих застосувань, що суперечать європейським цінностям [15].

Окрім регулювання штучного інтелекту в ЄС, варто також слідкувати за розвитком законодавства в інших країнах. Так, наприклад, в Канаді пропонується прийняття Artificial Intelligence and Data Act (AIDA), що може запровадити нові правила розробки та розгортання систем штучного інтелекту. Схожі ініціативи розглядаються також в США, Бразилії та інших країнах [16].

Штучний інтелект не обмежений кордонами держав, тому регіональні правові документи в цій сфері можуть бути недостатніми і навіть можуть призвести до небажаних наслідків, що обумовлює необхідність прийняття відповідних документів на міжнародному рівні. Реформування законодавства відповідно до вимог цифрової епохи повинно бути комплексним. У першу чергу існує потреба в уніфікації термінології, зокрема, законодавчого визначення понять «штучний інтелект», «робототехніка» тощо.

Заслуговує на увагу думка Т.Г. Каткової, яка наголошує на необхідності створення Карти правових реформ використання штучного інтелекту. Правові реформи у сфері штучного інтелекту повинні охоплювати багато різних сфер, зокрема цивільне законодавство (визначення правосуб'єктності, зокрема, в яких ситуаціях він може діяти в якості посередника фізичної чи юридичної особи; укладати договори; нести цивільно-правову відповідальність); кримінальне законодавство (визначення кримінальної відповідальності за дії штучного інтелекту); страхове законодавство; захист персональних даних (можливості надання диференційованої згоди на обробку персональних даних, а також удосконалення механізму інформованої згоди на обробку персональних даних); законодавство у сфері інтелектуальної власності; медичне право (використання штучного інтелекту в медичній сфері, аспекти діяльності лікаря, який використовує штучний інтелект) [17, с. 46].

Враховуючи вищенаведене, слід позитивно оцінити запровадження штучного інтелекту в різних сферах суспільного життя, особливо в тих де використання новітніх технологій дозволить зберегти життя та здоров'я людей. Однак нагальним видається закріплення на законодавчому рівні положень щодо правового статусу об'єктів, створених штучним інтелектом, захисту прав учасників відносин розробки та використання штучного інтелекту, юридичної відповідальності у галузі штучного інтелекту.

Посилання:

1. Тюря Ю. І. Аналіз філософсько-правових підходів до визначення поняття «штучний інтелект. Науковий вісник Міжнародного гуманітарного університету. Сер.: Юриспруденція. 2022 № 56. https://www.vestnik-pravo.mgu.od.ua/archive/) uspradenc56/12.pdf

2. Баранов О. А. Інтернет речей (IoT): регулювання надання послуг роботами зі штучним інтелектом. Інформація і право. № 4(27). 2018. С. 46-70.

3. IBA Global Employment Institute Artificial Intelligence and Robotics and Their Impact on the Workplace. April 2017. URL: https://www. google.com/url?sa=t&rct=j&q=&esrc=s&source=web&cd=1& ved=2ahUKEwjx05Ogz6zpAhURXsAKHatsCMwQFjAAegQICBAB&url=https%3A %2F%2Fwww.ibanet.org%2FDocument%2FDefault.aspx%3FDocumentUid%3Dc06aa1a3d355-4866-beda- 9a3a8779ba6e &usg=AOvVaw2yHS iQXiopcGOTbzpAOJhP

4. Всі говорять про штучний інтелект. Простими словами пояснимо, що це. URL : http://surl.li/ fqavy.

5. Пельчер М. Переваги та недоліки застосування штучного інтелекту у сферах управління. Природничі та гуманітарні науки. Актуальні питання : Міжнар. студ. наук-техн. конф. С. 72-73.

6. Карчевський М. Дашборди - потужний інструмент візуалізації даних https://karchevskiy.com/

7. Концепція розвитку штучного інтелекту в Україні. URL: https://zakon.rada.gov.ua/laws/ show/1556-2020-%D1%80#top

8. Як Мінцифри бачить AI в Україні: аналіз концепції розвитку штучного інтелекту https:// dslua.org/publications/yak-mintsyfry-bachyt-ai-v-ukraini-analiz-kontseptsii-rozvytku-shtuchnoho-intelektu/

9. Штучний інтелект в медицині:чи загрожують інновації правам людини?

https://www.helsinki.org.ua/articles/shtuchnyy-intelekt-v-medytsyni-chy-zahrozhuiut-innovatsii-pravam- liudyny.

10. Роботизовані системи штучного інтелекту https://core.ac.uk/download/pdf/84825019.pdf

11. Теличко О.А., Рекун В.А., Чабаненко Ю.С. Проблеми визначення та нормативного закріплення поняття «штучний інтелект» у законодавстві зарубіжних країн та України. Юридичний науковий електронний журнал. 2021. № 2. С. 310-313. URL: http://www.lsej.org.ua/2_2021/77.pdf

12. Штучний інтелект в дронах українського виробництва: Мінстратегпром та Helsing підписали меморандум про взаєморозумінняhttps://www.kmu.gov.ua/news/shtuchnyi-intelekt-v-dronakh-ukrainsko ho-vyrobnytstva-minstratehprom-ta-helsing-pidpysaly-memorandum-pro-vzaiemorozuminnia.

13. Як штучний інтелект допомагає в сучасних війнах: чи зможе він замінити військових на фронті https://weukraine.tv/top/yak-shtuchnyj-intelekt-dopomagaye-v-suchasnyh-vrinah-chy-zmozhe-vin-zaminyty- vij skovyh-na-fronti/

14. Дорожню карту регулювання ШІ в Україні розробили в Мінцифри https://suspilne. media/culture/589133-doroznu-kartu-reguluvanna-si-v-ukraini-rozrobili-v-mincifri.

15. В ЄС після 36 годин переговорів досягли згоди щодо закону про штучний інтелект https://www.eurointegration.com.ua/news/2023/12/9/7175247/

16. AI Act: що ЄС думає про штучний інтелект. https://legalitgroup.com/ai-act-shho-yes-dumaye-pro- shtuchnij -intelekt/

17. Каткова Т. Г. Штучний інтелект в Україні: правові аспекти. Право і суспільство. 2020. № 6. С. 46-55.

Размещено на Allbest.ru