Генеза правової доктрини штучного інтелекту та ризики його застосування

Размещено на http://www.allbest.ru/

Генеза правової доктрини штучного інтелекту та ризики його застосування

Тюря Ю.І., кандидат технічних наук, доцент, доцент кафедри цивільного, господарського та екологічного права Національного технічного університету «Дніпровська політехніка»

Постановка проблеми. Самого визначення «штучний інтелект» на сьогодні вже недостатньо, наукові дослідження пішли значно дальше ніж просте закріплення такого поняття. Питання співставлення поняття «штучний інтелект» та «інтелект людини» чи можна їх ототожнювати ? Пи-тання безпеки використання штучного інтелекту та наділення їм машин стоїть дуже гостро і не лише в уявні але і реально. Тому тема на сьогодні є актуальною і потребує ретельного дослідження.

Аналіз публікацій. Питання ризику застосування штучного інтелекту розглядали в своїх до-слідженнях: І.В. Григоренко, А.В. Касяненко, О.Я. Мороз, О.Е. Радутний, О.І. Стебельська, О.Б. Столяренко, Н К. Тимофієва, В.В. Федотов та ін. Однак, незважаючи на проведені дослідження на сьогодні не існує єдиної думки з приводу загроз використання штучного інтелекту, що дає привід для проведення подальшого дослідження у вказаному напрямку.

Мета статті полягає у проведенні дослідження появи поняття «штучний інтелект» та стан розвитку на більш глибокому рівні, розуміння ризиків існування штучного інтелекту в умовах сьогодення.

Тюря Ю.І. ГЕНЕЗА ПРАВОВОЇ ДОКТРИНИ ШТУЧНОГО ІНТЕЛЕКТУ ТА РИЗИКИ ЙОГО ЗАСТОСУВАННЯ

Мета статті полягає у проведенні дослідження появи поняття «штучний інтелект» та стан розвитку на більш глибокому рівні, розуміння ризиків існування штучного інтелекту в умовах сьогодення. В статті розглянуті актуальні питання генези штучного інтелекту, його витоки та розвиток за останні десятиліття та існування у сьогоденні. Сьогодні навряд чи можна здивувати визначенням «штучний інтелект» навіть пересічного громадянина. Однак, вчені вже десятиріччями ведуть запеклі суперечки з приводу поняття «штучний інтелект». За цей час створені програми для встановлення виміру штучного інтелекту, тобто здатності «машини» на роздуми, відчуття, емоції, пізнання, розуміння і це все одночасно, тобто такі процеси відбуваються в усіх сферах життя людини. Крім того, проведений огляд сучасних позицій з цього приводу науковців, які висвітлювали це питання в своїх дослідженнях. На підставі проведеного огляду, зроблені висновки та власне бачення сьогодення штучного інтелекту в Україні та стан розвитку. Крім, того приділено увагу важливому питанню безпеки існування штучного інтелекту та впровадження його в різні сфери життя людини. Оскільки мова йде не просто про інтелект, як здатність мислення машиною, в такому разі закономірно виникає запитання поведінкової безпеки машин для людства. На понятійному рівні розглянуто поняття «інтелект машини», «машина думаюча», як закладена сутність штучного інтелекту. Розглянуте питання співставлення понять «розуміння» (інтелект) та «поведінка» (дія) машини зі штучним інтелектом. Такий розгорнутий розгляд штучного інтелекту дав змогу пізнати більш глибше штучний інтелект, як закономірність сучасності, який використовується людьми активно. В статті розібрані приклади роботи машини зі штучним інтелектом, що дало змогу визначити власний шлях розвитку штучного інтелекту. Наділення машин штучним інтелектом покликано, перш за все, на полегшення діяльності людини, а в деяких випадках відбувається повна заміна, що є позитивним моментом, однак необхідно врахувати ризики такого застосування. То ж розглянуті ризики впровадження штучного інтелекту.

Ключові слова: штучний інтелект, машина розумна, безпека використання штучного інтелекту, думаюча машина, ризики використання штучного інтелекту.

Tiuria Yu.I. THE GENESIS OF THE LEGAL DOCTRINE OF ARTIFICIAL INTELLIGENCE AND THE RISKS OF ITS APPLICATION

The purpose of the article is to conduct a study of the emergence of the concept of "artificial intelligence" and the state of development at a deeper level, understanding the risks of the existence of artificial intelligence in today's conditions. The article discusses topical issues of the genesis of artificial intelligence, its origins and development over the past decades and its existence in the present. Today, even an average citizen is unlikely to be surprised by the definition of "artificial intelligence". However, scientists have been conducting fierce debates over the concept of "artificial intelligence" for decades. During this time, programs were created to establish the dimension of artificial intelligence, that is, the ability of a "machine" to think, feel, emotion, know, understand, and all this at the same time, that is, such processes occur in all spheres of human life. In addition, a review of the current positions on this issue of scientists who covered this issue in their research was carried out. On the basis of the conducted review, conclusions were drawn and the current vision of artificial intelligence in Ukraine and the state of development. In addition, attention is paid to the important issue of the safety of the existence of artificial intelligence and its implementation in various spheres of human life. Since we are not just talking about intelligence, as the ability to think with a machine, in this case, the question of the behavioral safety of machines for humanity naturally arises. At the conceptual level, the concept of "machine intelligence", "thinking machine" is considered as the underlying essence of artificial intelligence. The issue of comparing the concepts of "understanding" (intelligence) and "behavior" (action) of a machine with artificial intelligence is considered. Such a detailed consideration of artificial intelligence made it possible to learn more deeply about artificial intelligence as a regularity of modernity, which is actively used by people. The article analyzes examples of the operation of a machine with artificial intelligence, which made it possible to determine one's own way of developing artificial intelligence. The endowment of machines with artificial intelligence is intended, first of all, to facilitate human activity, and in some cases there is a complete replacement, which is a positive point, but it is necessary to take into account the risks of such use. The risks of introducing artificial intelligence are also considered.

Key words: artificial intelligence, smart machine, safety of using artificial intelligence, thinking machine, risks of using artificial intelligence.

Виклад основного матеріалу

Коректність визначення штучний інтелект ставить задачу перед науковцями вже багато років, які у пошуках оптимального, конструктивного та більш чіткого формування поняття розглядають в різних аспектах.

Питання новітніх технологій та чи перевершить штучний інтелект людину у майбутньому досить дискусійне. Є багато експертів з штучного інтелекту, які відкрито говорили про негативний вплив штучного інтелекту на суспільство і попросили дослідників вивчити соціальний вплив штучного інтелекту. Всезнаюча, усюдисуща і майже всемогутня сила новітніх технологій штучного інтелекту знову і знову ставиться під сумнів [3].

Так, О. Стеблинська загострює увагу на протиріччях та нестиковках, що пронизують сферу штучного інтелекту на глибинному рівні. У першу чергу, нечітким є застосування самого терміну «штучний інтелект». У книзі «Штучний інтелект: сучасний підхід» С. Рассел та П. Норвіг класифікують різноманітні визначення за двома основними категоріями: одні формулювання стосуються мисленевих процесів та способів розмірковування, інші - поведінки. В одних визначеннях успіх зумовлюється достовірним відтворенням здібностей людини, в інших - кінцеві досягнення розглядаються через призму раціональності. Неоднозначним є застосування і самого терміна «інтелект». Якщо під цим терміном ми маємо на увазі лише калькуляційні здібності людини, то штучний інтелект чудово виконує обчислювальні завдання. Якщо ж ми розглядаємо термін «інтелект» дещо ширше, невід'ємно від людських емоцій, почуттів, інтуїції, творчості та уяви, етичних орієнтирів, як певну духовну силу, то його реалізація стає надзвичайно складним завданням і є рівноцінною реалізації самої людської свідомості [6]. Можна погодитись із розподілом штучного інтелекту на розміркування та поведінку, як розміркування (інтелектуальна діяльність) та поведінку (дія). З практичної точки зору штучний інтелект не залишають за собою лише складні задачі, які потребують більш затратного інтелектуального рішення, це стосується також і простих запрограмованих (калькуляційних) задач.

З одного боку, науковці виявляють обережність і, на перший погляд, не ставлять собі за мету змоделювати людську свідомість, усвідомлюючи складність цієї задачі. Вони займаються реалізацією конкретних програм, які могли б чудово рахувати, доводити теореми, розв'язувати математичні головоломки, бути чудовими гравцями в різних іграх або виконувати певні конкретні завдання. З іншого боку, дії науковців свідчать про надзвичайно амбітні плани та прагнення. Свідомо чи ні, дослідники прагнуть реалізувати увесь потенціал людської свідомості. Як інакше трактувати спроби змоделювати не лише поведінку, але й внутрішній світ людини, її почуття, емоції, етичні орієнтири, творчі здібності?! Якщо вчені (свідомо чи ні) рухаються в напрямку моделювання людської свідомості, то постає питання, якою є її природа? Такі сучасні мислителі, як Дж. Серл, Д. Деннет, Д. Чалмерс, Р Доукінз, П. та П. Черчленди, загострюють body-mind problem та висловлюють власні погляди на можливості реалізації свідомості на штучному носії. Виникає питання: якщо ми достеменно не знаємо природи свідомості, то що саме ми збираємось реалізовувати?! [6]. Питання, які висвітлені у розглянутій нами публікації цікаві, але постале ще одне: навіщо людині розумній, яка є єдиним представником на планеті природнього (людського) інтелекту створювати подібний людському інтелект, який може вийти із під контролю та наслідки можна лише спрогнозувати, що і робиться з демонстрацією художніх фільмів, комп'ютерних ігор, представленні художньої літератури (поки фантастики). І чи потрібна взагалі конкуренція в інтелекті, ще раз нагадаємо, що створення штучного інтелекту покликано для полегшення буття людства, а не протидії в подальшому штучному інтелекту, який вийшов із під контролю.

А.В. Касяненко, В.В. Федотов піднімають питання розповсюдження на обчислювальну техніку ідеї антропоморфізму. «Ми постійно стикаємося з висловлюваннями «машина прийняла рішення», «машина сформувала план», «машина розпізнає ситуації або образи», «машини керують складними організаційними технічними процесами в умовах гострого дефіциту часу і в стресових для людини умовах», «машина грає в шахи, складає музичні твори» і т.д. Зустрічаються вже абсолютно безглузді уявлення про «розумних», «думаючих» машин в буквальному сенсі цих слів. Що ж відбувається насправді? Візьмемо для прикладу шахи. Чим керується шахіст, оцінюючи ситуацію і роблячи той чи інший хід, - прецедентами, минулим досвідом, вмінням, інтуїцією, здогадом, варіантним переглядом майбутніх ходів противника і своїх - нам поки невідомо. Одним словом, ми мало знаємо про розумові процеси шахіста. Але точно уявляємо, що відбувається в ЕОМ, коли вона «грає» в шахи, які процеси пошуку рішень, які не мають жодного відношення до мислення. Бо людина склала для неї програму-інструкцію, як вибирати той чи інший хід. Так що насправді в шахи грає не машина і не програма, а людина, яка зуміла формалізувати шахову гру і розробити на неї програму. Саме вона використала можливості ЕОМ накопичувати знання у вигля-ді машинних програм і запускати їх у потрібний час. З цього погляду шаховий турнір програм, по суті, є змагання між математиками-програмістами, які створили шахові програми. Отже, одна з проблем полягає в тому, що людство досі не може точно окреслити межі того, що воно позначає терміном «штучний інтелект» і, зрештою, як і те, кого чи що можна або слід називати «роботами». Так, поступово межа між здібностями людей і носіями так званого штучного інтелекту розмивається» [2]. На нашу думку вдалий приклад авторів із грою машини в шахи, де на справді грає не машина, а програміст, який до самої події змоделював таку поведінку машини, яка буде відповідати одній із запрограмованих комбінацій. Така схема показує програмну поведінку машини з використанням інтелекту людини.

Штучний інтелект - це комплекс актуальних проблем, що відрізняються рівнями загальності, складності тощо. Питання щодо їх вирішення розглядається на таких рівнях абстракції:

1) принципової можливості (потенційної здійсненності);

2) технічної реалізованості (здійсненності);

3) соціально-практичної доцільності. У галузі штучного інтелекту більш істотне значення має здійснення не як потенційно теоретична можливість, а як реальна, практична. Основна частина досліджень штучний інтелект припадає саме на два останніх рівня абстракції, що безпосередньо пов'язано із соціальною практикою. Це передусім розробка і використання конкретних підходів до штучного інтелекту, аналіз їх порівняльних можливостей та взаємозв'язку. У дослідженнях із штучним інтелектом особливе місце посідає філософська проблематика. Саме філософсько-епістемологічні дослідження з цієї проблематики дали можливість глибше проникнути в суть мислення, пізнання, по новому поглянути на інтелектуальну, особливо творчу діяльність, сприяли встановленню можливості її комп'ютеризації [8, с. 727].

Незважаючи на явний прогрес у розвитку та використанні штучного інтелекту, людей не полишають сумніви щодо такого активного використання штучного інтелекту та наділення його свідомістю щодо прийняття конкретних рішень. Такі сумніви стосуються передбачуваної можливості машини вийти за межі програми та зашкодити суспільству.

Так, майбутні можливості цієї новітньої технології можна легко порівняти з міфом про скриньку Пандори. Проте, ми знаємо, що містила скринька Пандори, але майбутнє штучного інтелекту залишається досить туманним, що виправдовує актуальність питання, з яким ми знову і знову стикаємося, а саме - чи замінить штучних інтелект нас, людей? Але в міру того, як застосування штучного інтелекту зростає, все більше людей починають замислюватися, чи не знищить він важливість людських навичок і досвіду в різних завданнях. Що відбувається з навичками та досвідом фотографа-ветерана, коли все, що потрібно зробити людині, що тримає камеру з розширеним інтелектом, -- це навести камеру й натиснути кнопку? Що відбувається з навичками та інтуїцією досвідченого біржового брокера, коли штучний інтелект навчений прогнозувати акції та допомагати людям приймати рішення на основі цього? Деякі стверджують, що штучний інтелект лише допомагає користувачам скористатися перевагами багаторічного досвіду, не мучившись роками, щоб отримати цей досвід. Але що станеться з основними людськими цінностями, коли цей процес набуття досвіду буде повністю вилучено, і ніщо не стоятиме між користувачем і досягненням оптимальних результатів? [3]. правова безпека штучний інтелект

Як ми бачимо чи мало питань виникає, щодо сутності існування штучного інтелекту і побо-ювання людства з приводу інтелектуальних переваг машин, які присутні у всіх сферах життя людини: побутова, повсякденна, професійна, пізнавальна, навчальна та ін. Побоювання людей відбуваються у створенні кінофільмів з демонстрацією ситуацій щодо переваги роботів над людьми, відеоігри тощо. Так, наприклад у 2019 році французькою компанією Quantic Dream Detroit: Become Human будується навколо трьох андроїдів, що живуть у Детройті майбутнього, в кожного з них окрема сюжетна лінія, пов'язана зі ставленням людей до андроїдів як до машин, а не свідомих істот, якими вони стали.

Так, О.Е. Радутний робить приклади побоювання щодо наділення машин штучним інтелектом. «Предмет, про який йдеться, знайомий багатьом завдяки численним художнім творам (зокрема, це оповідання Айзека Азімова “Я, робот” та романів циклу “Фундація”, “Кіберіада” Станіслава Лема “2001: Космічна одіссея”, Артура Кларка, “Нейромант” Уільяма Гібсона тощо); кінематографічній продукції: фільм Люка Бесона “Люсі” (англ. Lucy) 2014 р. з Скарлетт Йохансон - використання виробів нанотехнологій, фільм Роберта Лонго “Джонні Мнемонік” (англ. Johnny Mnemonic) 1995 р. з Кіану Рівзом - використання імплантатів для покращення пам'яті; відомий британський те-левізійний серіал “Чорне дзеркало” (англ. Black Mirror); каналу Netflix - серії “Історія всього твого життя” (англ. The Entire History of You) - чоловік планує довести зраду своєї дружини за допомогою перегляду інформації з її імплантату; “Люди проти вогню” (англ. Men Against Fire) - солдати ефективно вбивають “ворогів суспільства”, у чому не вагатися їм допомагають імплантати доданої реальності; “АрхАнгел” (англ. ArkAngel) - мати погоджується на вживляння своїй дитині імплантату з метою постійного спостереження за місцем перебування останньої, контролю над нею та відгородження від негативу оточуючого світу; “Крокодил” (англ. Crocodile) - страховий агент за допомогою спеціальної машини відновлення пам'яті розслідує страхові випадки тощо» [5]. Звичайно, можна по різному ставитись до кінопродукції із сюжетною лінією про поведінку машин із штучним інтелектом або комп'ютерні ігри. Людям завжди було цікаво незрозуміле, невідоме, неосяжне, наприклад інопланетяни, вампіри та ін. Однак, дивлячись на чисельність такої продукції, ця тема є популярною. Також можна зазначити, що навряд чи перегляд такого кіно-фільму додасть впевненості у більш активному використанні штучного інтелекту.

Ще раз наголошуючи на питання штучний інтелект - інтелект людини, розглядає в своєму дослідженні О.Я. Мороз. Так, «на тлі інтенсифікації досліджень з цієї проблематики все більшої актуальності набирає вихідне питання (що історично вперше з усією гостротою постало в «тесті Тьюрінга»): чи може комп'ютер розуміти? Тут сформувались дві альтернативні позиції: 1) належним чином запрограмований комп'ютер здатний до розуміння; 2) ніякий комп'ютер в принципі не може бути наділений властивістю розуміти. Між прихильниками цих точок зору зламано чимало списів. Першої з них дотримуються прихильники концепції, що мислення -- це обчислення (З. Пилишин, Дж. Тодор, Г. Моравек, Р. Курцвейл та ін. ). Передусім ця концепція не узгоджується з теоремою Геделя про неповноту ( Е. Маккормак, Р Пенроуз та ін). Показовим контраргументом тут є оригінальні концепції «китайська кімната» та «силіконові мізки» запропоновані Д. Серлем. Переконливою є також точка зору, згідно з якою комп'ютер може лише імітувати здатність розуміння, але не володіти цією здатністю (Дж. Вейценбаум та ін. ). Звісно, ці питання ще далеко не достатньо опрацьовані та висвітлені. Проте саме розуміння виступає тут як водорозділ між головним мозком людини та комп'ютером: мозок оперує як інформацією, так і знаннями, а комп'ютер - лише інформацією (зокрема й у формі моделей знань: семантичних мереж, фреймів, сценаріїв, продукцій тощо)» [4].

Основною проблемою, яка не вирішена до цього часу для штучних нейронних мереж є проблема формування дієздатної математичної моделі природного нейрону на основі центральної закономірності інтегративної діяльності мозку. Друга проблема, яка потребує свого вирішення полягає у необхідності навчити систему штучного інтелекту «вимірювати» речі, а також їх властивості. Без опанування цієї здібності жодна система штучного інтелекту не здатна реалізувати дії, які характеризують діяльність природної нейронної мережі. З аналізу змісту понять «дані», «інформація» та «знання» слідує, що процес формування знань з інформації здійснюється на основі реалізації смислового мислення шляхом розуміння (усвідомлення) смислу, який містять в собі закономірності (закони) існування та діяльності речі. Основою смислового мислення є інтелект. Основною його ознакою є здібність знання про предметну область інтелектуальних функціональних систем представляти в мірі. Третя проблема полягає у необхідності навчання системи штучного інтелекту запам'ятовувати минулий досвід [1].

У заключному звіті з дослідження взаємосу- місності спільної стратегії повітряних сил BISC Final Report on the Joint Air Power Strategy Interoperability Study (JAPS-IS) від 15 січня 2020 року використано означення, запропоноване NIAG SG-231: «Штучний інтелект - здатність небіологічної системи досягти будь-якої складної мети за допомогою процесів, порівняних із когнітивними процесами людини, таких як сприйняття, дедукція, розпізнавання, запам'ятовування та навчання». Перше з офіційних означень НАТО (NATO adopted) було включене в настанову AJP3.10 Ed. B, Ver. 1. Allied Joint Doctrine for Information Operations. У її проєкті, датованому травнем 2021 року, в переліку термінів зазначено, що штучний інтелект - це «розділ інформатики, присвячений розробці систем аналізу даних, які виконують функції, зазвичай пов'язані з людським інтелектом, такі як міркування, навчання та самовдосконалення» [7, с. 133]. Однак, наділення штучного інтелекту виконанням функції міркування може відбуватись лише в рамках програми, тобто прогнозовані людиною, а машині залишається зробити правильний вибір відповідно до конкретної ситуації. Певним чином також можна зазначити, що це «міркування» відносно «самостійний» вибір.

Потужності сучасних комп'ютерів і суперкомп'ютерів уже дозволяють ефективно здійснювати надскладні математичні операції і давно перевершили людський інтелект з погляду обчислювальних можливостей - проте, незважаючи на високу обчислювальну здатність, комп'ютери не є інтелектуальними агентами. Обчислювальна здатність є лише компонентом інтелекту і її збільшення безпосередньо не спричиняє виникнення інтелекту [7, с. 108].

Висновки

Тож, у підсумку можемо зазначити, що закладена суть штучного інтелекту виходить за рамки простої програми із обмеженим виконанням простих функцій. Для штучного інтелекту є характерним наділення більш складними функціями, приближеними до людського інтелекту. Ми опираємось саме на «приближений», тому що не можна повністю ототожнювати штучний інтелект із людським інтелектом. Насамперед, з урахуванням того, що штучний інтелект є продуктом розумової діяльності людини та запрограмований алгоритм дії в тих чи інших ситуаціях на вибір машини. Однак, такі зовнішні ситуації також заздалегідь закладаються в програму, машині залишається зреагувати на відповідні обставини і застосувати правильну дію. Ми говорили про інші фактори окрім розумової діяльності, які закладені в інтелект людини, такі, як: інтуїція, передчуття, передбачення, здатність ризикувати у складних ситуаціях та ін. Перелічене притаманне лише людському інтелекту, тому здатність штучного інтелекту повністю самостійно приймати рішення, без втручання людини неможлива. Хоча на етапі програмування самостійного прийняття рішення виникають ризики, виходу з під контролю за рамки програми. Такі ризики можуть відбутись при неправильному застосуванні програми, як і в будь якій галузі, те ж стосується і використання штучного інтелекту. Поки остаточної відповіді на це питання не має і тому, в перспективі, ця тема потребує подальшого дослідження.

СПИСОК ВИКОРИСТАНОЇ ЛІТЕРАТУРИ

1. С. І. Доценко. Про природний і штучний інтелект в кібернетичних системах. Радіоелектронні і комп'ютерні системи. 2019. № 3(91). DOI: 10.32620/ reks.2019.3.01. С. 4-18.

2. А. В. Касьяненко, В. В. Федотов. Прояв штучного інтелекту і діяльності людини. Штучний інтелект. 2022. 27 (1). С. 183-192.

3. Новітні технології: чи перевершить штучний інтелект людину у майбутньому ? Назва з екрану. FutureNowechnologies & Science Blog URL: https:// futurenow.com.ua/novitni-tehnologiyi-chy-perevershyt- shtuchnyj-intelekt-lyudynu-u-majbutnomu/ (дата звернення: 21.10.2022).

4. О. Я. Мороз Контроверза: штучний інтелект - природний інтелект (проблема комп'ютерного розуміння). Політологічний вісник. 2014. Випуск 76. С. 37-45.

5. О. Е. Радутний. Цифрова людина з точки зору загальної та інформаційної безпеки: філософський та кримінально-правовий аспект. Інформація і право. № 2(25). 2018. С. 158-170.

6. О. Стебельська, Л. Федорів. Сучасна філософія свідомості про перспективи створення штучного інтелекту. Вісник Львівського університету. Серія фі- лос.-політолог. студії. 2019. Випуск 22. С. 111-119.

7. Щодо проекту стратегії розвитку штучного інтелекту в Україні на 2022-2030 р.р. Штучний ін-телект. 2022-1. № 93. DOI: https://doi.org/10.15407/ jai2022.01.008. С. 8-157 С. 133.

8. Філософський енциклопедичний словник. НАН України, Ін-т філософії імені Г С. Сковороди; [редкол.: В. І. Шинкарук (голова) та ін.]. Київ: Абрис, 2002. VI, 742 с.