Вплив штучного інтелекту на забезпечення національної безпеки держави

Размещено на http://www.allbest.ru/

Видавнича група «Наукові перспективи»

Військовий інститут телекомунікацій та інформатизації імені Героїв Крут

Науково-дослідний центр індустріальних проблем розвитку НАН України

ВПЛИВ ШТУЧНОГО ІНТЕЛЕКТУ НА ЗАБЕЗПЕЧЕННЯ НАЦІОНАЛЬНОЇ БЕЗПЕКИ ДЕРЖАВИ

Жукова Ірина Віталіївна, кандидат наук з державного управління, доцент

Комаров Володимир Олександрович, кандидат технічних наук,

Заслужений винахідник України

Трушкіна Наталія Валеріївна, кандидат економічних наук, докторант

м. Київ, м. Харків



Анотація

На сучасному етапі технології штучного інтелекту все більше проникають у політичну, соціальну, економічну, безпекову сфери, перетворюючись на новий чинник вразливості глобальної та національних систем. Під штучним інтелектом розуміється здатність комп'ютерної програми думати і вчитися як людина, Його вплив на суспільство неможливо заперечувати. Технології на основі штучного інтелекту вже стали загальноприйнятими в багатьох галузях і несуть потенційні переваги такого масштабу, що очікується, що за їх допомогою темпи річного економічного зростання у низці розвинених країн у майбутньому подвоїться.

У статті визначено основні напрями використання штучного інтелекту в контексті забезпечення національної безпеки країни. Запропоновано визнати штучний інтелект як одним із стратегічних напрямів забезпечення національної безпеки держави з урахуванням її національних інтересів. Встановлено, що на даний час виникла гостра необхідність вдосконалення відповідного інституційного та нормативно-правового забезпечення розвитку сфери штучного інтелекту. Для цього доцільно розробити Закон України «Про штучний інтелект»; внести зміни і доповнення до Стратегії національної безпеки України, Стратегії воєнної безпеки України, Стратегії кібербезпеки України, Стратегії інформаційної безпеки в частині застосування технологій штучного інтелекту з урахуванням національних інтересів держави і суспільства.

Доведено, що існує потреба розроблення й реалізації Національної стратегії розвитку штучного інтелекту в Україні. Даний стратегічний документ дозволить забезпечити передумови стійкого економічного розвитку держави та відповідно зростання добробуту і якості життя її населення, виведення України на провідні позиції у світі в галузі інформаційних і комп'ютерних технологій шляхом ефективного використання переваг і можливостей широкого впровадження штучного інтелекту в усі сфери суспільного життя. штучний інтелект національний безпека

Ключові слова: суспільство, національна безпека, національні інтереси, штучний інтелект, Індустрія 5.0, цифрові технології, виклики, загрози, ризики, глобальна економіка, національна економіка, безпекове середовище, інформаційна безпека, кібербезпека.



Annotation

Zhukova Iryna Vitalyivna, Ph.D. (in Public Administration), Associate Professor, Laureate of the award of the President of Ukraine for young scientists, Laureate of the award of the Verkhovna Rada of Ukraine for young scientists, Director, Publishing Group “Scientific Perspectives”, Kyiv

Komarov Volodymyr Oleksandrovych, Ph.D. (in Engineering Sciences), Honored Inventor of Ukraine, Laureate of the “Gold Medal” of the World Intellectual Property Organization, Leading Researcher, Military Institute of Telecommunications and Informatization named after Heroes Krut, Kyiv

Trushkina Nataliia Valeryivna, Ph.D. (in Economics), Senior Researcher, Doctoral Candidate, Senior Research Officer of the Sector of Industrial Policy and Innovative Development of the Department of Industrial Policy and Energy Security, Research Center for Industrial Problems of Development of the NAS of Ukraine, Kharkrv

THE IMPACT OF ARTIFICIAL INTELLIGENCE ON ENSURING THE NATIONAL SECURITY OF THE STATE

At the current stage, artificial intelligence technologies are increasingly penetrating the political, social, economic, and security spheres, turning into a new factor of vulnerability of global and national systems. Artificial intelligence refers to the ability of a computer program to think and learn like a person, its impact on society cannot be denied. AI-based technologies have already become mainstream in many industries and bring potential benefits of such magnitude that they are expected to double annual economic growth rates in a number of developed countries in the future.

The article defines the main directions of using artificial intelligence in the context of ensuring the country's national security. It is proposed to recognize artificial intelligence as one of the strategic directions of ensuring the national security of the state, taking into account its national interests. It has been established that currently there is an urgent need to improve the appropriate institutional and regulatory support for the development of the field of artificial intelligence. For this purpose, it is expedient to develop the Law of Ukraine “On Artificial Intelligence”; to make changes and additions to the National Security Strategy of Ukraine, the Military Security Strategy of Ukraine, the Cybersecurity Strategy of Ukraine, and the Information Security Strategy regarding the application of artificial intelligence technologies, taking into account the national interests of the state and society.

It has been proven that there is a need to develop and implement the National Strategy for the Development of Artificial Intelligence in Ukraine. This strategic document will ensure the prerequisites for the sustainable economic development of the state and, accordingly, the growth of the well-being and quality of life of its population, bringing Ukraine to a leading position in the world in the field of information and computer technologies through the effective use of the advantages and opportunities of the widespread introduction of artificial intelligence into all spheres of public life.

Keywords: society, national security, national interests, artificial intelligence, Industry 5.0, digital technologies, challenges, threats, risks, global economy, national economy, security environment, information security, cybersecurity.



Постановка проблеми

В останні роки відбуваються кардинальні зміни моделі глобальної економіки в напрямку вимог Суспільства 5.0, яке базується на технологіях штучного інтелекту (ШІ), великих даних та Інтернету речей. Це обумовлено тим, що сучасне суспільство входить у технологічну епоху конвергенції штучного інтелекту, кібер- та біотехнологій, робототехніки та адитивного виробництва. Тому питання застосування технологій та інструментарію штучного інтелекту стало ключовою темою для глобального розвитку.

Згідно з оцінками AI Index, обсяги інвестицій у генеративний штучний інтелект стрімко зростають. Так, незважаючи на зниження загального обсягу приватних інвестицій у штучний інтелект у 2023 р., фінансування генеративного штучного інтелекту зросло майже вдвічі порівняно з 2022 р. і становило 25,2 млрд дол. США. При цьому витрати на навчання найсучасніших моделей штучного інтелекту досягли безпрецедентного рівня. Наприклад, GPT -4 від OpenAI використав обчислення на суму 78 млн дол. для навчання, тоді як Gemini Ultra від Google коштував 191 млн дол. США. За підрахунками дослідників [1], Північна Америка щорічно інвестує в ШІ понад 15 млрд євро, Азія - близько 10 млрд євро, а Європа, у свою чергу, від 2,5 до 3 млрд євро.

Слід зазначити, що штучний інтелект - це технологія, яка здатна змінити майбутнє. Очікується, що ринок штучного інтелекту досягне млрд дол. до 2027 р. з річним темпом зростання 37,3% з 2023 р. по 2030 р. Прогнозується, що до 2030 р. світовий ВВП може зрости на 14% (еквівалент 15,7 трлн дол. США) у результаті прискореного розвитку та впровадження ШІ. Внесок штучного інтелекту в зростання економіки може бути втричі вищим до 2030 р., ніж протягом найближчих років.

Впровадження штучного інтелекту та аналітичних технологій дозволяє аналізувати політичні уподобання людини та перевіряти, наскільки кандидати заслуговують на довіру. Якщо ця інформація контролюватиметься лише декількома великими гравцями, вона може викликати протилежний ефект, полегшуючи уряду вплив на громадян шляхом індивідуалізованого управління їхніми уподобаннями. Чат-боти, керовані штучним інтелектом, формують свій підхід до комунікації таким чином, щоб впливати на рішення, що приймаються індивідуальними користувачами. У Великій Британії найпростіший різновид комп'ютерної пропаганди вже мав місце під час референдуму щодо виходу з ЄС.

Програмне забезпечення на основі штучного інтелекту потенційно може покращити світову безпеку, а також знизити ризики для компаній, допомагаючи у виявленні кібератак [2] і терористичної діяльності. Моніторинг та аналіз соціальних мереж, фінансових операцій та інших великих масивів даних вже зараз використовуються службами розвідки та безпеки для визначення та прогнозування загроз до їх виникнення. Штучний інтелект може допомогти при розробленні складних і надійних гіпотетичних, призначених для оцінювання, довгострокових перспектив. Навпаки, нецільове використання штучного інтелекту може збільшити ризики кібератак у разі, якщо хакери, які мають злочинні наміри, навчать штучний інтелект атакувати. Також може бути використана автономна зброя, така як безпілотники [3]. Загрози такого роду часто недооцінюють.

Як показують результати спільного дослідження міжнародної аудитор - ської фірми KPMG і університету Квінсленда (Австралія), присвяченого темі довіри до ШІ (довіра до штучного інтелекту: результати дослідження в п'яти розвинених країнах: США, Канада, Великобританія, Німеччина, Австралії - Trust in Artificial Intelligence: A five country study, 2021), поточні правові гарантії бачаться недостатніми для забезпечення безпеки використання штучного інтелекту. Незважаючи на впевненість у необхідності правового регулювання ШІ, більшість опитаних не згодні або утрималися від оцінювання поточного правового регулювання як достатнього для забезпечення безпеки ШІ-технологій.

У доповіді про глобальні ризики, підготовленій у 2024 році Всесвітнім економічним форумом на основі опитування 1490 експертів, йдеться про те, що хибна інформація та дезінформація, які отримано унаслідок інтенсивного застосування штучного інтелекту, загрожує підірвати демократію та поляризувати суспільство, є головним короткостроковим ризиком для світової економіки. Експерти стурбовані тим, що бум чат-ботів із генеративним штучним інтелектом, таких як ChatGPT, означає, що створення складного синтетичного контенту, який можна використовувати для маніпулювання групами людей, більше не обмежуватиметься людьми зі спеціальними навичками.

Глава ООН попереджає про ризики ШІ для глобального миру та безпеки і закликає всі країни-члени терміново встановити обмеження, щоб контролювати цю технологію. Він також попередив, що неправильна робота нейромережі може спричинити хаос, особливо якщо ця технологія використовується у зв'язку з системами ядерної зброї чи біотехнологіями. У зв'язку з цим, створено робочу групу для розроблення варіантів глобального управління штучним інтелектом. Британський міністр закордонних справ Дж. Клеверлі стверджує, що штучний інтелект може впливати на роботу Ради Безпеки. Він може посилити або порушити глобальну стратегічну стабільність.

Таким чином, впровадження таких інноваційних технологій, як штучний інтелект, несе нові виклики, загрози і ризики, а також впливає на національну безпеку країн світу у системі міжнародної безпеки.

Аналіз останніх досліджень і публікацій

Дослідження з питань використання штучного інтелекту відзначаються значним розмаїттям тематичних напрямів і наукових напрацювань провідних зарубіжних (N. Bostrom [4], S. Baum [5], M. Szczepanski [6], A. Kwilinski et al. [7], I. Szabadfoldi [8]) та українських вчених (О. Станіна [9], З. Гбур [10], Н. Вінникова [11], В. Хаустова та ін. [12], Ю. Тюря [13], О. Могилевська та ін. [14], Н. Павліха та ін. [15], С. Асірян [16], М. Шепітько [17], А. Шевченко та ін. [18], О. Скіцько та ін. [19]). Зокрема, науковці досліджують значення штучного інтелекту у науковій та освітній діяльності, вплив ШІ на економіку, особливості використання штучного інтелекту в інформаційній та кібербезпеці, а також різноманітні питання використання штучного інтелекту в оборонній сфері.

Усі ці наробки допомагають відкривати нові можливості для впровадження штучного інтелекту в різні сфери життя. Наприклад, застосування штучного інтелекту в інформаційній та кібербезпеці дозволить покращити захист інформації та боротьбу з кіберзлочинами. У сфері оборони штучний інтелект може забезпечити покращення військової стратегії та обладнання для захисту країни.

Крім цього, вчені прагнуть оцінити вплив цієї технології на міжнародні відносини (A. Goldfarb, J. Lindsay [20], V. Hudson [21], H. Kissinger et al. [22]), а також визначити роль міжнародних об'єднань у регулюванні ШІ (Z. StanleyLockman, L. Trabucco [23]). Хоча науковці висловлюють різні думки про потенційні наслідки впровадження штучного інтелекту, спільним знаменником дослідницьких праць є застереження про небезпеку неконтрольованого використання ШІ, зокрема у міжнародній політиці, у військовій і оборонній галузях.

Однак, незважаючи на велику кількість наукових робіт, присвячених ШІ та його використанню в оборонній сфері, впливу нових технологій ШІ на забезпечення належного рівня національної безпеки країн світу присвячено недостатньо уваги. Це потребує поглибленого вивчення та розроблення відповідних правил і стандартів. Деякі дослідження вже присвячені цим питанням, але їхній подальший розвиток і вдосконалення є критичними задля забезпечення безпеки та ефективності використання штучного інтелекту. Отже, надвисока актуальність даної проблематики та динамічність змін у сфері розвитку ШІ свідчить про необхідність її подальших досліджень.

Таким чином, дана проблема зумовила мету даної статті, яка полягає у виявленні основних напрямів використання штучного інтелекту в контексті забезпечення національної безпеки країни.

Для досягнення поставленої мети дослідження використовувалися такі загальнонаукові методи: аналізу й синтезу, індукції та дедукції, компонентного аналізу, контент-аналізу, експертного опитування, порівняння, аналогії, класифікації, структурно-логічного узагальнення.

Виклад основного матеріалу

Штучний інтелект - це програмне забезпечення, які демонструє здібності до здійснення аналізу, прийняття рішень та навчання, подібні до здібностей людини. Також це область інформатики, яка вивчає інтелектуальні об'єкти не тільки з інженерної, а й з філософської та психологічної точки зору. Такий філософський погляд особливо важливий під час аналізу ризиків суспільства, у якому людський та штучний інтелект співіснують.

Термін «штучний інтелект» введено у науковий обіг у 1956 році. Але знадобилося майже 25 років, щоб побачила світ перша комерційна технологія з інтелектуальним агентом, який допомагав конфігурувати замовлення на нові комп'ютерні системи в компанії Digital Equipment Corporation [24]. Сьогодні штучний інтелект знаходить застосування у практично кожній галузі. І очікується, що до 2035 року він збільшить прибутковість корпорацій у 16 сферах економічної діяльності у 12 країнах у середньому на 38% [25].

Штучний інтелект покращує продуктивність, беручи на себе людські завдання, які можна виконувати постійно без будь-яких витрат. Наприклад, чат-боти забезпечують віртуальну допомогу у цілодобовому режимі. Крім того, штучний інтелект дозволяє виконувати завдання, що потребують особливих знань та досвіду, таких як спеціалізована медична діагностика.

Варто наголосити, що Європейська комісія розробила регуляторні правила для безпечного та етичного використання технології ШІ в країнах ЄС. Пропонуючи ці правила, Євросоюз проявляє лідерство у розробці законодавчих норм, які гарантуватимуть довіру до ШІ. Встановлюючи такі стандарти, можна прокласти шлях для етичного використання технологій ШІ в усьому світі та забезпечити конкурентоспроможність ЄС у цій сфері. Нові правила передбачають критерії з оцінювання ризиків використання технологій ШІ, та поділяють усі технології сфери на 3 групи:

1) технології неприйнятного ризику - всі системи ШІ, які спричиняють загрозу для безпеки, способу життя або для прав людей, наприклад, системи або додатки, які дозволяють маніпулювати поведінкою людей, або технології, що дозволяють владі сегментацію суспільства за ознакою вироблених системами ШІ «соціальних рейтингів»;

2) технології високого ризику - системи ШІ, які застосовуються, у сферах громадського транспорту та в інших об'єктах критичної інфраструктури [26-27], у сфері освіти та професійної підготовки, у сфері безпеки та працевлаштування, громадського порядку, міграції й притулку, правосуддя та інших, які прямо зачіпають безпеку особи або права людини, в т. ч. на отримання адекватних соціальних послуг, якісної освіти або забезпечення права на гідну працю. використовувати подібні системи ШІ можна буде тільки після ретельної перевірки регуляторними органами ЄС. Крім того, до «високого ризику» віднесені також технології розпізнавання обличчя, використання яких правоохоронними органами буде дозволене лише за судовим приписом;

3) технології мінімального ризику - чат-боти, відеоігри, фільтри комп'ютерного спаму та інші, що не несуть загрози для безпеки або прав користувачів. Використання таких технологій не потребуватиме додаткового дозволу.

Як стверджують науковці В. Хаустова, О. Решетняк, М. Хаустов, В. Зінченко [12], велику важливість отримує використання ШІ для розвитку майбутнього військового потенціалу, формування стратегічних пріоритетів у сфері розвитку озброєння та прийняття політичних рішень для країн світу. При цьому особливої уваги заслуговує розвиток синергетичних і взаємозалежних технологій на основі використання ШІ. Значний вплив на формування та розвиток військового потенціалу матиме ШІ, вбудований у супутні технології, такі як: ядерні, аерокосмічні, кібернетичні, технології розробки нових матеріалів та біотехнології; віртуальна/доповнена реальність; квантові обчислення; автономність, моделювання, клауди; дослідження матеріалів; виробництво, логістика, стратегічне управління; аналітика великих, малих і широких даних.

У монографії [18] автори відмічають, що пріоритетне місце у Стратегії розвитку штучного інтелекту в Україні займає напрям розробки та впровадження передових технологій ШІ у сферу безпеки та оборони з урахуванням положень Стратегії НАТО щодо штучного інтелекту, Відповідальної стратегії штучного інтелекту Департаменту оборони США і шляхів її впровадження, Указу Президента України від 25 березня 2021 року за № 121 «Про Стратегію воєнної безпеки України» та Стратегії розвитку оборонно-промислового комплексу України, зокрема в системи управління військами та логістики в мирний час і в період воєнного стану. Це дозволить уже в початковий період вирішити складні безпекові та оборонні завдання держави.

Реалізація Стратегії розвитку штучного інтелекту в Україні дозволить широко впровадити технології ШІ у сферу оборони і безпеки і стане каталізатором ефективного розвитку оборонно-промислового комплексу держави. Технології ШІ буде застосовано для підтримки прийняття рішень у процесі підготовки стратегічних операцій і тактичних бойових дій; у системах управління та керування високоточною та космічною зброєю, підводними, наземними та повітряними безпілотними апаратами, розвідувальними й ударними системами; для аналізу супутникових зображень і кіберзахисту; для автоматизації трудомістких операцій у будівництві військових інженерних споруд.

Необхідно враховувати виклики та загрози, пов'язані з руйнівними можливостями ШІ, що являє собою глобальну небезпеку. Важливим безпековим напрямом мають стати розробки систем ШІ для протидії високоінтелектуальній зброї противника, проведення досліджень з безпеки ШІ. Необхідно розробити й впровадити нормативно-правові документи, які регулюють використання ШІ подвійного призначення.

Слід впроваджувати методи й технології ШІ у сферу кібербезпеки держави, щоб забезпечити своєчасне запобігання та ефективне стримування викликів і загроз, які виникають у кіберпросторі, забезпечити ефективну боротьбу з кіберзлочинністю та кібертероризмом, розвідувальну та контрроз - відувальну діяльність відповідних державних служб.

Важливим напрямом упровадження ШІ в оборонній сфері є використання інтелектуальних мобільних систем з метою перевантаження ресурсів противника. Створення таких інтелектуальних мобільних систем відповідає світовим трендам, відомими під назвами «Мозаїчні війни» та «Багатодоменні операції». З урахуванням поширення та нарощування спроможностей космічної зброї виникає нагальна потреба впровадження методів і технологій ШІ у вітчизняній космічній індустрії. Створення окремими країнами космічних військ і розміщення в космічному просторі лазерної та іншої зброї потребує організації протидії та прийняття миттєвих рішень, в основі яких буде ШІ. Актуальним є також упровадження штучного інтелекту в мобільні системи, зокрема в безпілотні літальні апарати, наземні та підводні роботи для боротьби з літальними апаратами, підводними й надводними човнами противника. Основними напрямами впровадження штучного інтелекту в мобільні системи, до яких належать і БПЛА, слід визнати машинне (зокрема глибоке) навчання, комп'ютерний зір і розпізнавання образів, аналіз великих даних, розпізнавання мовлення, стійкі системи зв'язку, мультиагентні технології управління та організації роїв автономних роботів [18].

Плани розвитку військової сфери США, Китаю, Німеччини та багатьох інших країн передбачають до 2025 року активну розробку та використання автономних безпілотних літальних апаратів (БПЛА/дронів), роботів, високоточних систем наведення, систем стеження, систем доведення інформації до бійців та командного складу, а також систем отримання інформації та їх аналізу з використанням технологій ШІ.

Від використання автономних систем до трансформації можливостей системи оперативного (бойового) управління, зв'язку, розвідки та спостереження, від обробки розвідувальної безпеки до когнітивної безпеки ШІ буде змінюватися у контексті планування та ведення війн/бойових дій.

У військовому контексті потенціал ШІ існує у всіх сферах (тобто наземна, морська, повітряна, космічна та інформаційна) і всіх рівнях ведення війни (тобто політичний, стратегічний, оперативний та тактичний). Наприклад на політичному і стратегічному рівнях для дестабілізації та атаки, агресори можуть використовувати ШІ створюючи та публікуючи великі кількості недостовірної інформації. У цьому випадку ШІ, швидше за все, буде найкращим інструментом для захисту від таких атак.

У майбутньому зброя та інше військове обладнання, засноване на використанні технологій ШІ, буде використовуватись у більшості військових конфліктів у світі та забезпечувати перевагу за рахунок її більшої операційної ефективності, оперативності аналізу інформації та низької собівартості.

На сьогодні в Україні спостерігається низький рівень інвестицій у розробку технологій ШІ, які можуть конкурувати з досягненнями в оборонно-промисловій та аерокосмічній на міжнародній арені. Це обумовлено і повномасштабним вторгненням росії на територію України.

Однак Україна не може втрачати свої позиції на ринку продажу озброєння. Зокрема, якщо Україна не розпочне розробку ШІ у сфері озброєння, то наслідком може стати повна втрата навіть традиційних ринків продажу зброї. В умовах обмеженості ресурсів цьому можна запобігти лише через реалізацію механізму міжнародно-публічно-приватного партнерства на основі поєднання державного фінансування, співпраці з приватним сектором і міжнародними стратегічними партнерами.

Стратегічним партнером України, курс на зближення з яким закріплено у Конституції є Організація Північноатлантичного договору (НАТО). У рамках партнерства з державами Центральної та Східної Європи Україна може здійснювати навчання своїх фахівців у навчальних центрах НАТО, у тому числі взаємодії з технологіями ШІ, проводити обмін технологіями тощо. У разі розробки власних систем слід дотримуватися стандартів НАТО для забезпечення у майбутньому інтероперабельності в цій сфері. Створення технологій ШІ в оборонно-промисловій та аерокосмічній сферах вимагає створення відповідного законодавства та вимагає розробки державних програм підтримки розвитку технологій ШІ.

Крім того, важливо забезпечити зрозумілість технологій ШІ для військових, а також використання систем ШІ у сфері оборони з додержанням допустимих засобів і методів ведення збройних конфліктів відповідно до міжнародного гуманітарного права.

В умовах обмеженості ресурсів, необхідності протидії країні-агресорові та з урахуванням особливостей гібридної війни Україна має сконцентрувати зусилля на окремих ключових напрямах використання технологій ШІ в оборонній сфері. Серед ключових напрямів використання технологій ШІ в обороні можна виділити такі:

- системи автономного пошуку цілей, наведення (Algorithmic Targeting) та керування зброєю;

- системи автономної навігації для роботів та дронів;

- системи картографії та створення відповідної інфраструктури;

- системи цифрового маскування/камуфляжу для введення ШІ потенційного ворогу в оману (adversarial attack on computer vision);

- системи збору та аналізу інформації під час ведення бойових дій та в процесі планування бойових операцій, у тому числі з можливістю автоматичного: виокремлення інформації, що становить інтерес; «слабких сигналів», які самостійного інтересу не становлять, але розкриваються в контексті іншої інформації; виділення «аномалій» для наступного розгляду; надання передбачення поведінки супротивника;

- системи аналізу/розвідки з відкритих джерел потенційного ворога (соціальні мережі, форуми тощо), які також можуть використовуватись для проведення оцінки вразливості ЗСУ, виявлення витоків стратегічної інформації та їх мінімізації;

- системи збору інформації про технічний стан військової техніки (танки, бойові літаки та вертольоти), які дозволяють встановлювати необхідність проведення тих чи інших превентивних ремонтних робіт (predictive maintenance);

- системи протидії кіберзагрозам у сфері оборони, базовані на застосуванні технологій ШІ, у тому числі, таких, що дозволяють швидко виявити кібератаки, попереднє сканування та наступне уникнення шкідливих кодів або сканування підозрілих моделей поведінки, а не конкретного коду;

- системи перевірки кадрових військових та кандидатів у військовослужбовці на основі аналізу відкритих джерел та соцмереж на предмет ставлення до держави-агресора, фактів, що свідчать про зв'язок з представниками силових структур останньої, расизму, впливу ворожої пропаганди, надмірної жорстокості тощо;

- системи імітаційного моделювання бойової обстановки для навчання військового персоналу;

- безпілотні морські протимінні системи;

- системи автоматизованої оцінки бойових якостей війсковослужбовців та автоматизованого розподілу бойових завдань (Automated Planning and Manpower Allocation), які дозволять на основі попередніх відомостей про бойовий досвід, результатів складених тестів здійснювати підбір особового складу для виконання того чи іншого бойового завдання та надавати на затвердження командирові;

- системи інтелектуального навчання військовослужбовців (Intelligent Tutoring Systems' (ITS)), які можуть пристосовуватись до навчальних потреб кожного конкретного бійця;

Необхідно також виважено підходити до питання ліцензування іноземних розробок ШІ підприємствами оборонної сфери, зважаючи на питання національної безпеки України у системі міжнародної безпеки [30]. Особлива увага має приділятися моніторингу оборонних розробок у сфері ШІ країни-агресора з метою підготовки належної відповіді та мінімізації потенційних негативних наслідків.

Слід також фінансувати дослідження або впроваджувати передові досягнення з метою подолання вразливості, пов'язаної з «дієтою даних» (Datadiet vulnerability), яка обумовлена об'єктивно меншим обсягом великих даних, ніж у цивільній сфері.

Проведення наукових розробок у сфері ШІ для оборонної сфери може забезпечуватися шляхом створення інноваційних фондів, лібералізації законодавства щодо участі бізнесу у створенні продуктів для оборонної промисловості, надання цільового фінансування науковим та проєктним установам на основі результатоорієнтованого підходу, розвитку наукових парків, реалізації проєктів державно-приватного партнерства, співпраці з оборонними підприємствами стратегічних партнерів, співфінансування розробок важливих технологій, що дозволить комерціалізувати розробки у цивільній сфері та зменшити навантаження на державний бюджет.

Оскільки більшість інновацій у галузі ШІ та робототехніки виникають за межами оборонно-промислового комплексу, необхідно розвивати тісну співпрацю між провідними/перспективними компаніями у сфері ШІ (у т. ч. міжнародними) та підприємствами оборонно-промислового комплексу.

Системи ШІ матимуть вирішальне значення для подолання інтегрованих викликів особливого періоду, гібридних загроз та мирного часу. Оскільки проривні технології забезпечують нові інструменти для тоталітарних режимів та екстремістських груп, необхідно розробити рішення для запобігання та/або зменшення зловмисного використання інтелектуальних машин.

Отже, на даний час виникла необхідність розроблення й реалізації Національної стратегії розвитку штучного інтелекту в Україні. Даний стратегічний документ має забезпечити передумови стійкого економічного розвитку держави та відповідно зростання добробуту і якості життя її населення, виведення України на провідні позиції у світі в галузі інформаційних і комп'ютерних технологій шляхом ефективного використання переваг і можливостей широкого впровадження штучного інтелекту в усі сфери суспільного життя. Для досягнення поставленої мети необхідно виконати такі завдання:

- забезпечити організаційну та фінансову підтримку наукових досліджень у сфері штучного інтелекту;

- забезпечити розробку та розвиток програмного забезпечення, яке використовує технології штучного інтелекту;

- підвищити доступність і якість даних, необхідних для розвитку технологій штучного інтелекту;

- створити надійну комунікаційну інфраструктуру та забезпечити належний доступ до обчислювальних потужностей;

- підвищити рівень забезпечення ринку технологій штучного інтелекту кваліфікованими кадрами [31];

- забезпечити зростання попиту на продукти та послуги, створені та надані з використанням штучного інтелекту;

- створити національну екосистему штучного інтелекту і відповідно комплексну систему регулювання суспільних відносин, які виникають у зв'язку з розвитком і використанням технологій штучного інтелекту.

Підготовка до виконання поставлених завдань потребує здійснення таких кроків.

1) На основі порівняльного аналізу наявних стратегій розвитку штучного інтелекту виокремити основні етапи впровадження технологій штучного інтелекту на державному рівні.

2) Запропонувати базові організації та заклади, потенціал яких відповідає поставленим завданням.

3) Визначити напрями підготовки спеціалізованих кадрів у сфері ШІ і оцінити їх необхідну кількість.

4) Оцінити суспільні сфери, що потребують впровадження технологій штучного інтелекту, а також окреслити етапи та технологічну базу цього процесу.

5) Надати загальну оцінку необхідного обсягу фінансування процесу впровадження штучного інтелекту, в тому числі можливих інвестицій у галузь.

6) Дослідити можливості та створити передумови розвитку інтелектуальних виробництв.

7) Розробити цілісну програму впровадження технологій штучного інтелекту в Україні.

Для реалізації цих заходів потрібно створити належну нормативно-правову базу, яка передбачає забезпечення захисту даних, отриманих при здійсненні економічної та наукової діяльності, в тому числі їх зберігання переважно на території України. Отже, необхідно прийняти Закон України «Про штучний інтелект» і відповідні постанови органів виконавчої влади, які мають бути імплементовані до європейського законодавства.

Так, 13 березня 2024 р. у Європарламенті ухвалили закон про штучний інтелект. Він вводить комплексні обмеження штучного інтелекту у світі та покликаний усунути занепокоєння щодо упередженості, пов'язаної з новою технологією. Цей закон має на меті усунути занепокоєння щодо упередженості, конфіденційності та інших ризиків, пов'язаних із ШІ, а також встановити чіткі вимоги й зобов'язання для розробників і фахівців зі впровадження технології. Закон забороняє використання ШІ для виявлення емоцій на робочих місцях і у школах, а також обмежує його застосування в ситуаціях з високим ризиком помилки. Крім того, будуть заборонені окремі програми, які вилучають зображення з інтернету або відеозаписів камер спостереження для створення баз даних розпізнавання обличь. Він також накладе обмеження на інструменти генеративного ШІ та того, який маніпулює людською поведінкою або експлуатує вразливості людей.

Крім того, у ЄС хочуть створити Офіс зі штучного інтелекту. Він зможе запитувати інформацію в компаній, що розробляють програми на основі ШІ й теоретично зможе заборонити їхню роботу на території блоку.

Таким чином, до 2030 року має функціонувати гнучка система нормативно-правового та етичного регулювання в галузі штучного інтелекту, яка, зокрема, гарантує національну безпеку держави і спрямована на стимулювання розвитку технологій і систем штучного інтелекту.



Висновки

Виходячи з вищевикладеного можна дійти такого висновку.

Превентивні заходи, які знижують ризик ненавмисних наслідків від застосування штучного інтелекту, вкрай необхідні. Безпека у сфері штучного інтелекту пов'язана із забезпеченням того, щоб система на основі ШІ була протестована в умовах, близьких до реального світу. Щоб її цілі та поведінка були належним чином скориговані, і систему можна було безпечно впроваджувати у суспільстві. Розбіжність між метою розробника і тим, як її інтерпретує інтелектуальний агент, може викликати несподівані наслідки, які стають очевидними лише тоді, коли система починає застосовуватися в реальному світі. Змагання щодо виведення систем на основі штучного інтелекту на ринок стимулює розробників до того, щоб недооцінювати важливість верифікації та підтвердження параметрів критичного програмного забезпечення, без чого безпеку розгортання інтелектуальних агентів неможливо гарантувати. Наприклад, погано сконструйований інтелектуальний агент, керуючий портфелем, завдання якого - максимізувати прибуток шляхом інвестування в активи з певною категорією інвестиційного ризику, може працювати відповідно до установок під час випробувань у проектному середовищі, де агенту для вибору пропонується кілька активів, заздалегідь відібраних розробниками. Однак після запуску в реальному світі агент може повестися несподівано, виявивши, що інвестиційний дохід можна максимізувати, насамперед інвестувавши доступні ресурси капіталу в незаконну діяльність. При зростанні кількості систем, підключених до Інтернету, кібербезпека матиме дедалі більші економічні наслідки для суспільства. Вже зараз вони оцінюються в десятки мільярдів доларів. Тому поява все більш просунутих систем на основі штучного інтелекту, від яких залежить суспільство, збільшить негативний вплив тих з них, які не гарантують безпеку, ще більше. Однак останнім часом безпека у сфері штучного інтелекту отримала визнання і почала набирати обертів, особливо в урядовій, науковій та освітній спільноті, показуючи кумулятивне річне зростання інвестицій приблизно на 75%.

На думку дослідників [13], доцільним є створення єдиного управлінського органу в Україні Національного агентства штучного інтелекту, який би акумулював у собі державні структури, вищі навчальні та наукові установи, приватні компанії та органи місцевого самоврядування. Правова доктрина штучного інтелекту в України має базуватися як на інфраструктурній, так і на правовій основі і враховувати період відновлення України після завершення військових дій.

Як зазначають вчені [15], наукове обґрунтування вказує на важливість захисту інформаційних систем, використання штучного інтелекту для кібербезпеки та розвиток національних інформаційних систем у контексті зростаючих кіберзагроз і забезпечення національної безпеки. У галузі інформаційної безпеки застосування штучного інтелекту напряму сприяє забезпеченню національних інтересів. Зокрема, виявляє, запобігає і нейтралізує інформаційні загрози. Штучний інтелект у галузі оборони планують використовувати в системах командування і управління, озброєння і військової техніки, збору і аналізу інформації під час ведення бойових дій, розвідки, протидії кіберзагрозам в сфері оборони, аналізу можливостей військових підрозділів.

З точки зору регулювання використання штучного інтелекту в сфері інформаційної безпеки та оборони відзначимо такі важливі аспекти:

- застосування штучного інтелекту у сфері інформаційної безпеки дозволяє виявляти та реагувати на кіберзагрози швидше та точніше. Машинне навчання і аналіз великих обсягів даних дозволяють виявляти аномалії та зловмисну активність на мережах та в системах, що допомагає вчасно нейтралізувати загрози;

- використання штучного інтелекту у системах командування, оборони та розвідки сприяє підвищенню рівня національної безпеки. Автоматизовані системи можуть бути використані для ефективного управління військовими операціями та захисту важливих об'єктів;

- штучний інтелект може аналізувати великі обсяги інформації та робити передбачення щодо можливих загроз. Це дозволяє забезпечувати більш ефективну реакцію на потенційні конфлікти та загрози для національної безпеки;

- використання моделей на основі штучного інтелекту для передбачення подій та можливих загроз може допомогти вчасно реагувати на них та приймати відповідні заходи для запобігання конфліктам та кібератакам [15].

Отже, з огляду на вищевказане, пропонується визнати штучний інтелект як одним із стратегічних напрямів забезпечення національної безпеки держави з урахуванням її національних інтересів. Потребує особливої уваги вдосконалення відповідного інституційного та нормативно-правового забезпечення розвитку сфери штучного інтелекту. Для цього необхідно:

- розробити Закон України «Про штучний інтелект»;

- внести зміни і доповнення до Стратегії національної безпеки України, Стратегії воєнної безпеки України, Стратегії кібербезпеки України, Стратегії інформаційної безпеки в частині застосування технологій штучного інтелекту з урахуванням національних інтересів держави і суспільства.

Перспективи подальших досліджень полягають у вивченні й узагальненні закордонної та вітчизняної практика реалізації державних програм і механізмів забезпечення національної безпеки.



Література

1. Андрощук Г. Штучний інтелект в редакції Єс: проблеми залишаються. Юридична газета. 2021. 5 травня. URL: https://yur-gazeta.com/publications/practice/zahist-intelektualnoyivlasnosti-avtorske-pravo/shtuchniy-intelekt-v-redakciyi-es-problemi-zalishayutsya.html (дата звернення: 07.03.2024).

2. System predicts 85 percent of cyber-attacks using input from human experts. Massachusetts Institute of Technology Computer Science and Artificial Intelligence Laboratory. 2016. April 18.

3. Autonomous weapons: An open letter from AI and robotics researchers. Future of Life Institute. 2015. July 28.

4. Bostrom N. Strategic Implications of Openness in AI Development. Global Policy. 2017. Vol. 8. Iss. 2. Р. 135-148. https://doi.org/10.1111/1758-5899.12403.

5. Baum S. D. On the Promotion of Safe and Socially Beneficial Artificial Intelligence. AI & Society. 2017. Vol. 32. Iss. 4. P. 543-551. https://doi.org/10.1007/s00146-016-0677-0.

6. Szczepanski M. Economic Impacts of Artificial Intelligence (AI). European Parliamentary Research Service. 2019. P. 2-3.

7. Kwilinski A., Dzwigol H., Dementyev V. Model of Entrepreneurship Financial Activity of the Transnational Company Based on Intellectual Technology. International Journal of Entrepreneurship. 2020. Vol. 24. P. 1-5.

8. Szabadfoldi I. Artificial Intelligence in Military Application - Opportunities and Challenges. Land Forces Academy Review. 2021. Vol. XXVI. No. 2. Р. 157-165. https://doi.org/ 10.2478/raft-2021-0022.

9. Станіна О. Роль штучного інтелекту в забезпеченні економічної безпеки держави. Науковий вісник Дніпропетровського державного університету внутрішніх справ. 2021. № 1. С. 337-342. https://doi.org/10.31733/2078-3566-2021-1-337-342.

10. Гбур З. В. Використання штучного інтелекту в інформаційній безпеці України. Державне управління: удосконалення та розвиток. 2022. № 1. https://doi.org/10.32702/23072156-2022.1.2 (дата звернення: 17.03.2024)

11. Вінникова Н. А. Штучний інтелект у контексті глобального управління. Політикус. 2022. Вип. 3. С. 65-70. https://doi.org/10.24195/2414-9616.2022-3.10.

12. Хаустова В. Є., Решетняк О. І., Хаустов М. М., Зінченко В. А. Напрямки розвитку технологій штучного інтелекту в забезпеченні обороноздатності країни. Бізнес Інформ. 2022. № 3. С. 17-26. https://doi.org/10.32983/2222-4459-2022-3-17-26.

13. Тюря Ю. І. Результати компаративістичного дослідження правової доктрини у сфері штучного інтелекту. Правова позиція. 2023. № 1(38). С. 66-70. https://doi.org/ 10.32782/2521-6473.2023-1.12.

14. Могилевська О. Ю., Слободяник А. М., Сідак І. В. Вплив штучного інтелекту на українську і міжнародну економіку. Київський економічний науковий журнал. 2023. № 1. С. 45-52. https://doi.org/10.32782/2786-765X/2023-1-6.

15. Павліха Н. В., Науменко Н. С., Корнелюк О. А. Розвиток та регулювання штучного інтелекту в Україні у воєнний та повоєнний періоди: сучасні тенденції та перспективи. Цифрова економіка та економічна безпека. 2023. Вип. № 8(08). С. 105-111. https://doi.org/ 10.32782/dees.8-18.

16. Асірян С. Р. Законодавча практика Сингапуру щодо використання штучного інтелекту. Аналітично-порівняльне правознавство. 2023. № 3. С. 313-317. https://doi.org/ 10.24144/2788-6018.2023.03.57.

17. Шепітько М. В. Перспективи впровадження, використання та відповідальності штучного інтелекту в ЄС та Україні. Вісник Асоціації кримінального права України. 2023. № 2(20). С. 48-61. https://doi.org/10.21564/23119640.2023.20.292386.

18. Стратегія розвитку штучного інтелекту в Україні: монографія / за заг. ред. А. І. Шевченка. Київ: Ін-т проблем штучного інтелекту МОН України і НАН України, 2023. 305 с.

19. Скіцько О., Складанний П., Ширшов Р., Гуменюк М., Ворохоб М. Загрози та ризики використання штучного інтелекту. Кібербезпека: освіта, наука, техніка. 2023. Т. 2. № 22. С. 6-18. https://doi.org/10.28925/2663-4023.2023.22.618.

20. Goldfarb A., Lindsay J. R. Prediction and judgment: why Artificial Intelligence increases the importance of humans in war. International Security. 2022. Vol. 46(3). P. 7-50. https://doi.org/10.1162/ isec_a_00425.

21. Hudson V. Artificial Intelligence and international politics. NY: Routledge, 2019. 430 p.

22. Kissinger H., Schmidt E., Huttenlocher D. The age of AI: and our human future. New York: Little, Brown and Company; First Edition, 2021. 272 p.

23. 23.Stanley-Lockman Z., Trabucco L. NATO's role in responsible AI governance in military affairs. The Oxford Handbook of AI governance / edited by J. Bullock, Y.-Ch. Chen, J. Himmelreich, V. M. Hudson et al. Oxford, 2022. https://doi.org/10.1093/oxfordhb/97801975793 29.013.69.

24. Russell S., Norvig P. Artificial intelligence: A modern approach. Prentice-Hall, 1995.

25. How AI boosts industry profits and innovation. Accenture. 2017. June 21.

26. Жукова І., Трушкіна Н. Сутність поняття «механізм державного регулювання розвитку критичної інфраструктури». Vida a perspektivy. 2023. No. 6(25). Str. 8-23. https://doi.org/10.52058/2695-1592-2023-6(25)-8-23.

27. Кизим М. О., Хаустова В. Є., Трушкіна Н. В. Сутність поняття «критична інфраструктура» з позицій національної безпеки України. Бізнес Інформ. 2022. № 12. С. 58-78. https://doi.org/10.32983/2222-4459-2022-12-58-78.

28. Bezpartochnyi M., Khaustova V., Trushkina N. Bibliometric analysis of the relationship between the concepts of “critical infrastructure” and “national security”. Management of socioeconomic transformations of business processes: current realities, global challenges, forecast scenarios and development prospects: scientific monograph. Sofia: Professor Marin Drinov Publishing House of Bulgarian Academy of Sciences, 2023. P. 177-193. https://doi.org/10.5281/ zenodo.10463183.

29. Hubarieva I., Trushkina N. Relationship between the concepts of “digital transformation” and “critical infrastructure”: bibliometric and trend analysis. Global Trends of Digitalization and their Impact on National Economic Activity: monograph / Edited by I. Tatomyr, L. Kvasnii, Yu. Shulzhyk. Praha: OKTAN PRINT, 2024. P. 385-396. https://doi.org/10.46489/ gdtatione-05-24-38.

30. Bezpartochnyi M., Khaustova V., Trushkina N. Mechanism for ensuring international security in new geostrategic realities. Prospects for sustainable development and ensuring the security of economic systems in the new geostrategic realities: scientific monograph. Kosice: Vysoka skola bezpecnostneho manazerstva v Kosiciach, 2023. P. 222-246. https://doi.org/10.5281/ zenodo.10436679.

31. Zhukova I., Trushkina N. Development of the training system for information security management specialists in Ukraine: problems and prospects. Moderni aspekty vedy: XLI. Dil mezinarodm kolektivm monografie. Ceska republika, Jesenice: Mezinarodm Ekonomicky Institut s.r.o., 2024. Str. 299-314.

References

1. Androschuk, H. (2021). Shtuchnyi intelekt v redaktsii Yes: problemy zalyshaiutsia [Artificial intelligence in the editorial office of Yeh: problems remain]. Yurydychna hazeta - Legal newspaper, May 5. Retrieved from https://yur-gazeta.com/publications/practice/zahist-intelektualnoyivlasnosti-avtorske-pravo/shtuchniy-intelekt-v-redakciyi-es-problemi-zalishayutsya.html (Accessed: March 7, 2024) [in Ukrainian].

2. Massachusetts Institute of Technology Computer Science and Artificial Intelligence Laboratory (2016). System predicts 85 percent of cyber-attacks using input from human experts, April 18.

3. Future of Life Institute (2015). Autonomous weapons: An open letter from AI and robotics researchers, July 28.

4. Bostrom, N. (2017). Strategic Implications of Openness in AI Development. Global Policy, 8(2), 135-148. https://doi.org/10.1111/1758-5899.12403.

5. Baum, S. D. (2017). On the Promotion of Safe and Socially Beneficial Artificial Intelligence. AI & Society, 32(4), 543-551. https://doi.org/10.1007/s00146-016-0677-0.

6. Szczepanski, M. (2019). Economic Impacts of Artificial Intelligence (AI). European Parliamentary Research Service, 2-3.

7. Kwilinski, A., Dzwigol, H., Dementyev, V. (2020). Model of Entrepreneurship Financial Activity of the Transnational Company Based on Intellectual Technology. International Journal of Entrepreneurship, 24, 1-5.

8. Szabadfoldi, I. (2021). Artificial Intelligence in Military Application - Opportunities and Challenges. LandForces Academy Review, XXVI, 2, 157-165. https://doi.org/10.2478/raft-2021-0022.

9. Stanina, O. (2021). Rol shtuchnoho intelektu v zabezpechenni ekonomichnoi bezpeky derzhavy [The role of artificial intelligence in ensuring the economic security of the state]. Naukovyi visnyk Dnipropetrovskoho derzhavnoho universytetu vnutrishnikh sprav - Scientific Bulletin of the Dnipropetrovsk State University of Internal Affairs, 1, 337-342. https://doi.org/ 10.31733/2078-3566-2021-1-337-342.

10. Hbur, Z. (2022). Vykorystannia shtuchnoho intelektu v informatsiinii bezpetsi Ukrainy [The use of artificial intelligence in the information security of Ukraine]. Derzhavne upravlinnia: udoskonalennia ta rozvytok - Public administration: improvement and development, 1. https:// doi.org/10.32702/2307-2156-2022.1.2 (Accessed: March, 17, 2024) [in Ukrainian].

11. Vinnykova, N. A. (2022). Shtuchnyi intelekt u konteksti hlobalnoho upravlinnia [Artificial intelligence in the context of global management]. Politykus - Politicus, 3, 65-70. https://doi.org/10.24195/2414-9616.2022-3.10 [in Ukrainian].

12. Khaustova, V. Ye., Reshetnyak, O. I., Khaustov, M. M., Zinchenko, V. A. (2022). Directions of Development of Artificial Intelligence Technologies in Ensuring the Country's Defense Capability. Biznes Inform - Business Inform, 3, 17-26. https://doi.org/10.32983/2222-4459-2022-3-17-26 [in Ukrainian].

13. Tiuria, Yu. I. (2023). Rezultaty komparatyvistychnoho doslidzhennia pravovoi doktryny u sferi shtuchnoho intelektu [Results of comparative study of legal doctrine in the sphere of artificial intelligence]. Pravova pozytsiia - Legal position, 1(38), 66-70. https://doi.org/10.32782/ 2521 -6473.2023 -1.12 [in Ukrainian].

14. Mohylevska, O., Slobodianyk, A., Sidak, I. (2023). Vplyv shtuchnoho intelektu na ukrainsku i mizhnarodnu ekonomiku [The impact of artificial intelligence on the Ukrainian and international economy]. Kyivskyi ekonomichnyi naukovyi zhurnal - Kyiv Economic Scientific Journal, 1, 45-52. https://doi.org/10.32782/2786-765X/2023-1-6 [in Ukrainian].

15. Pavlikha, N., Naumenko, N., Korneliuk, O. (2023). Rozvytok ta rehuliuvannia shtuchnoho intelektu v Ukraini u voiennyi ta povoiennyi periody: suchasni tendentsii ta perspektyvy [Development and regulation of artificial intelligence in Ukraine in the war and post-war periods: contemporary trends and perspectives]. Tsyfrova ekonomika ta ekonomichna bezpeka - Digital economy and economic security, 8(08), 105-111. https://doi.org/10.31733/2078-3566-2021-1-337-342 [in Ukrainian].

16. Asiryan, S. (2023). Zakonodavcha praktyka Synhapuru shchodo vykorystannia shtuchnoho intelektu Legislative practice of Singapore on the use of artificial intelligence. Analitychnoporivnialne pravoznavstvo - Analytical and comparative jurisprudence, 3, 313-317. https:// doi.org/10.24144/2788-6018.2023.03.57 [in Ukrainian].

17. Shepitko, M. V. (2023). Perspektyvy vprovadzhennia, vykorystannia ta vidpovidalnosti shtuchnoho intelektu v YeS ta Ukraini [Prospects for the implementation, use and responsibility of artificial intelligence in the EU and Ukraine]. Visnyk Asotsiatsii kryminalnoho prava Ukrainy - Bulletin of the Criminal Law Association of Ukraine, 2(20), 48-61. https://doi.org/10.21564/23119640.2023.20.292386 [in Ukrainian].

18. Shevchenko, A. et al. (2023). Strategy for Artificial Intelligence Development in Ukraine: monograph. Kyiv: Scientific and Technical Council of the Institute of Artificial Intelligence Problems of the Ministry of Education and Science of Ukraine and the National Academy of Sciences of Ukraine [in Ukrainian].

...