Оптимальне використання алгоритмів глибокого машинного навчання в ефективному управлінні підприємством

Размещено на http://www.allbest.ru

Оптимальне використання алгоритмів глибокого машинного навчання в ефективному управлінні підприємством

Науменко Максим Анатолійович кандидат економічних наук, Заступник директора з питань фінансів, Благодійний фонд "Юкрейніанстугезер", Зіньків,



Анотація

У сучасних умовах розвитку світової економіки та у зв'язку з появою нових галузей економічної діяльності у сфері інформатизації застосування інноваційних технологій для глибинного аналізу та аналітики надзвичайно великих масивів різнорідних даних призводить до отримання користувачами додаткових конкурентних переваг на державному, регіональному, галузевому та корпоративному рівнях управління [1, 2], що особливо актуально в умовах кризи.

Останнім часом зростає хибне, помилкове уявлення, що глибоке навчання є конкурентною технологією для класичного машинного навчання. Проте глибоке навчання -- це не єдиний можливий підхід, а радше спеціалізований окремий клас алгоритмів і топологій, які доречно застосувати до визначеного певного спектру наукових проблем та практичних задач, зокрема і в сфері управління підприємством.

Методики та алгоритми глибокого машинного навчання наразі є доволі виченим та дослідженим питанням. Однак актуальними та не вирішеними питаннями є особливості системного впровадження, оптимального налаштування та ефективного застосування алгоритмів глибокого машинного навчання для напівструктурованих та неструктурованих великих даних при прийнятті рішень з управління підприємством, особливо в умовах багатофак- торних та мультирівневих кризових явищ.

Саме тому, у цій статті викладено наступні результати досліджень, з урахуванням впливу великих напівструктурованих та неструктурованих даних, щодо підтримки прийняття ефективних та конкурентних рішень з управління сучасним підприємством:

- на основі аналізу проектів і кейсів глибокого машинного навчання, виявлено та формалізовано потенційні переваги, системні недоліки та обмеження щодо використання глибокого машинного навчання для підвищення ефективності та конкурентоздатності підприємства;

- розроблено рекомендації щодо специфіки використання хмарних сервісів для підвищення ефективності глибокого машинного навчання, запропоновані прикладні задачі для першочергового впровадження глибокого машинного навчання в практику ефективного менеджменту підприємства. машинний навчання конкурентоздатність

Доведено, що в сучасних складних економічних умовах необхідно ефективно використовувати в режимі 24/7/365 технології та алгоритми глибокого машинного навчання в рамках управління сучасним та конкурентоздатним підприємством. Причому, синергетичний ефект дає комплексне використання класичного та глибокого машинного навчання на всіх форматах великих даних в ансамблевому режимі.

Також рекомендовано використання технологій глибокого машинного навчання в режимі детекції аномалій та загроз у великих пакетних та потокових даних підприємства (особливо в кризових умовах).

Ключові слова: менеджмент підприємства, глибоке машинне навчання, ефективність та конкурентність, економіка підприємства



Naumenko Maksym Anatoliyovych PhD in Economics, CFO, Charitable Foundation "Ukrainians Together", Zinkiv

OPTIMAL USE OF DEEP MACHINE LEARNING ALGORITHMS IN EFFICIENT ENTERPRISE MANAGEMENT

Abstract

In the modern conditions of the development of the world economy and in connection with the emergence of new branches of economic activity in the field of informatization, the use of innovative technologies for in-depth analysis and analytics of extremely large arrays of heterogeneous data leads to users obtaining additional competitive advantages at the state, regional, branch and corporate levels of management [1, 2], which is especially relevant in times of crisis.

Recently, there is a growing misconception that deep learning is a competing technology to classical machine learning. However, deep learning is not the only possible approach, but rather a specialized separate class of algorithms and topologies, which should be applied to a certain range of scientific problems and practical tasks, in particular in the field of enterprise management.

Methods and algorithms of deep machine learning are currently a rather well- known and researched issue. However, the specifics of system implementation, optimal configuration and effective application of deep machine learning algorithms for semi-structured and unstructured big data when making decisions on enterprise management are urgent and unresolved issues, especially in the conditions of multifactorial and multilevel crisis phenomena.

That is why, this article presents the following research results, taking into account the impact of large semi-structured and unstructured data, on supporting effective and competitive decision-making in the management of a modern enterprise:

based on the analysis of projects and cases of deep machine learning, potential advantages, system shortcomings and limitations regarding the use of deep machine learning to increase the efficiency and competitiveness of the enterprise were identified and formalized;

recommendations were developed regarding the specifics of using cloud services to increase the efficiency of deep machine learning, applied tasks were proposed for the priority introduction of deep machine learning into the practice of effective enterprise management.

It has been proven that in today's complex economic conditions, it is necessary to effectively use deep machine learning technologies and algorithms in the 24/7/365 mode as part of managing a modern and competitive enterprise. Moreover, the synergistic effect is provided by the complex use of classical and deep machine learning on all formats of big data in the ensemble mode.

It is also recommended to use deep machine learning technologies in the mode of detection of anomalies and threats in large batch and stream data of the enterprise (especially in crisis conditions).

Keywords: enterprise management, deep machine learning, efficiency and competitiveness, business economics



Постановка проблеми. Нижче наведено результати досліджень та проведений порівняльний аналіз не тільки щодо вищезазначеної гіпотези, але і викладено результати ґрунтовних досліджень щодо переваг, проблем та особливостей ефективного глибокого МН в умовах BIG DATA [3-6] інформаційних управляючих систем підприємства/компанії (з метою підвищення ефективності його менеджмента та збільшення конкуретоздатності).

Глибоке навчання -- це техніка машинного навчання, яка автоматично вилучає ознаки (Екстракція ознак визначає/виділяє в автоматичному режимі найбільш розрізнювальні характеристики сигналів, які легше використати машинним навчанням або алгоритмом глибокого навчання. Вилучення ознак є дуже складним для автоматизації та трудомістким процесом перетворення необроблених даних у числові ознаки (наприклад, розпізнавання записів розмов), які можна обробити, зберігаючи інформацію у вихідному наборі даних).

вивчає приховані закономірності безпосередньо з великих даних.

Такими Великими Даними для глибокого МН можуть бути не тільки

тексти, записи мовлення або інших сигналів, які прив'язані до часу, місця, частоти (наприклад звук, часові ряди, сигнали різноманітних мікрофонів та інших датчиків). Саме тому, глибоке навчання часто також називають наскрізним навчанням.

Хоча глибоке МН вперше було сформульовано в минулому столітті, є наступні основні причини, чому воно використання глибокого навчання різко зросло за останні роки [7-9]:

По-перше, методи глибокого навчання тепер точніші та більш об'єктивні, ніж люди-експерти, зокрема і в інформаційних управляючих системах.

По-друге, глибоке навчання вимагає значної обчислювальної

потужності. Саме тому поява високопродуктивних GPU та TPU, що мають паралельну архітектуру, ефективну для глибокого навчання. У поєднанні з кластерами або хмарними обчисленнями це дозволяє командам розробників скоротити час навчання для мережі глибокого навчання з тижнів до годин або й менше.

По-третє, за останні кілька років стали доступними великі обсяги позначених/маркованих даних, необхідних для глибокого навчання.

по-четверте, бурхливий інтерес, а отже і інвестиції від корпоративного та державного наукових спільнот також сприяли просуванню у цій сфері та результативне продовження відповідних досліджень.

Переважна більшість методів глибокого навчання використовують архітектури та алгоритми навчання звичайних штучних нейронних мереж. Штучні нейронні мережі, намагаються імітувати людський мозок за допомогою комбінації вхідних даних, ваг і зміщення. Ці елементи працюють разом, щоб точно розпізнавати, класифікувати та описувати об'єкти в даних [10].

Штучні нейронні мережі складаються з кількох шарів взаємопов'язаних вузлів, кожен з яких будується на попередньому шарі для уточнення й оптимізації прогнозу або категоризації. Цей хід обчислень через мережу називається прямим поширенням. Вхідний і вихідний шари глибокої нейронної мережі називаються видимими шарами. Вхідний рівень - це місце, де модель навчання отримує дані для обробки, а вихідний рівень - це місце, де робиться остаточний прогноз або класифікація. Кожен нейрон у прихованому шарі пов'язаний з багатьма іншими. Кожен синапс має властивість ваги, яка контролює, наскільки активація цього нейрона впливає на інші, прикріплені до нього.

Інший процес, який називається зворотним розповсюдженням, використовує алгоритми, такі як градієнтний спуск, для обчислення помилок у передбаченнях, а потім коригує ваги та зміщення функції, переміщаючись назад через шари, щоб навчити модель. Разом пряме та зворотне поширення дозволяють нейронній мережі робити прогнози та відповідно виправляти будь-які помилки. З часом алгоритм стає точнішим.

Таким чином, в процесі навчання ANN виконує ітеративні нелінійні перетворення вхідних даних і використовує отримані результати для створення black box моделі і ітерації навчання тривають багато епох з різними експериментальними параметрами, доки результат не досягне прийнятного рівня точності.

Зважаючи на вищеописані спільні риси shallow neural net та deep neural net, варто зазначити, що глибоке навчання є еволюцією класичного машинного навчання. Хоча звичайна shallow штучна нейронна мережа з одним або декількома шарами все таки може робити приблизні прогнози, додаткове збільшення кількості внутрішніх шарів у DNN може значно допомогти оптимізувати та покращити її результат, навіть на неструктурованих великих даних. Термін «deep» зазвичай відноситься до кількості прихованих шарів такої нейронної мережі. Традиційні shallow нейронні мережі містять лише 2-3 прихованих шари, тоді як глибокі мережі можуть мати до 150. Отже термін «deep» у глибокому навчанні пов'язано з цими глибоко прихованими шарами, і саме з цього випливає її ефективність. Вибір кількості прихованих шарів залежить від характеру та складності проблеми та розміру і особливостей набору даних.

Таким чином, програми глибокого навчання мають багато рівнів взаємопов'язаних шарів штучних нейронів, причому кожен рівень базується на попередньому для вдосконалення й оптимізації прогнозів регресії або класифікації. Це схоже на те, як наш людський мозок працює для вирішення проблем - пропускає запити через різні ієрархії концепцій та пов'язаних питань, щоб знайти відповідь. Саме кількість рівнів обробки даних в прихованих шарах, через які мають проходити вхідні дані, викликала появу терміну «deep» [11].

Вище стисло проаналізовано найпростіший тип shallow нейронної мережі. Однак і алгоритми глибокого навчання неймовірно складні, і архітектури глибоких нейронних мереж дуже специфічні та варіативні для вирішення діапазону дуже різних задач. Тому доцільно виділити шість типів архітектур DNN які набули популярності та підтвердили свою ефективність за останні 20 років. Саме довготривала короткочасна пам'ять (LSTM) і згорточні нейронні мережі (CNN) є двома найстарішими підходами в цьому списку, але також двома найбільш використовуваними в різних програмах.

Згорткові нейронні мережі (CNN), які використовуються в основному в програмах комп'ютерного зору та класифікації зображень, можуть виявляти особливості та шаблони в зображенні, що дозволяє виконувати такі завдання, як виявлення або розпізнавання об'єктів.

Повторювані нейронні мережі (RNN) зазвичай використовуються в програмах природної мови та розпізнавання мовлення, оскільки вони використовують послідовні або часові ряди даних.

В поточному дослідженні архітектури глибокого навчання класифікуються на контрольоване та неконтрольоване навчання та представлено кілька популярних архітектур глибокого навчання: згорткові нейронні мережі, рекурентні нейронні мережі (RNN), довготривала короткочасна пам'ять/ контрольована рекурентна одиниця (GRU), самоорганізуюча карта (SOM), автокодери (AE) і обмежена машина Больцмана (RBM), мережі глибоких переконань (DBN) і мережі глибокого стекування (DSN).

Моделі машинного та глибокого навчання здатні до різних типів навчання, які зазвичай класифікуються як контрольоване навчання, неконтрольоване навчання та навчання з підкріпленням. Як викладено вище, обидві технології - класичного машинного навчання та глибокого навчання - використовують дані для навчання, але ключова відмінність полягає в тому, які дані вони використовують, як вони обробляють ці дані та як навчаються на них за допомогою якої саме конфігурації архітектури.

Аналіз останніх досліджень і публікацій. Основні засади теорії глибокого машинного навчання розкрили в своїх працях такі науковці, як: Schulz Hannes & Behnke Sven, LeCun Yann & Bengio Yoshua & Hinton Geoffrey, Marblestone Adam H. & Wayne Greg & Kording, Konrad P., Deng L. & Yu, D., Zhang W. J. & Yang G. & Ji C. & Gupta, M. M., Bengio Yoshua, Bengio Y. & Courville A. & Vincent, P. LeCun Yann & Bengio Yoshua & Hinton, Geoffrey, Schmidhuber J., Hinton G.E. та інші.

Але не вирішеними залишилися актуальні питання щодо:

ефективного вибору між машинним та глибоким машинним навчанням в інформаційних управляючих системах;

дослідження переваг, проблем та особливостей глибокого машинного навчання на великих даних інформаційних управляючих систем;

вироблення науково-практичних рекомендацій щодо налаштування оптимальної конфігурації гіперпараметрів та параметрів глибоких нейронних мереж в управлінні конкурентним підприємством.

Мета статті - враховуючи вищенаведене, актуальною та початковою метою поточного комплексного міждисциплінарного колективного наукового дослідження було не тільки запропонувати рекомендації щодо вибору між машинним та глибоким МН у інформаційних управляючих системах, але і запропонувати методичні та практичні рекомендації щодо переваг, проблем та особливостей глибокого МН у наукових дослідженнях та практичних проектах/задачах інформаційних управляючих систем ефективного підприємства.

Виклад основного матеріалу. Викладемо результати дослідження важливих відмінностей технологій класичного машинного навчання та глибокого навчання:

МН передбачає використання тисяч точок даних, тоді як глибоке навчання використовує мільйони точок даних. Алгоритми машинного навчання зазвичай добре працюють з відносно невеликими наборами маркованих та структурованих даних. Алгоритми машинного навчання також є кращими, коли даних мало. І навпаки, глибоке навчання потребує дійсно дуже великих обсягів немаркованих або частково маркованих даних які мають напівструктурованих або неструктурований формат даних, щоб зрозуміти дані та працювати краще, ніж традиційні алгоритми машинного навчання.

Алгоритми МН вирішують проблеми за допомогою явного програмування (алгоритми побудови дерев та лісів рішень, пошуку правил асоціації, пошуку коефіцієнтів рівнянь регресії, класифікатори kNN, SVM та Naive Baies, ієрархічного та неієрархічного кластерного аналізу тощо). Тобто класичне машинне навчання пропонує дуже різноманітні методи та алгоритми, які можна вибрати залежно від специфіки предметної галузі/індустрії, вашої конкретної задачі, характеру структурованих даних, які обробляються, і типу проблеми, яку треба вирішити. Проте алгоритми глибокого навчання вирішують всі задачі після складного процесу навчання прихованих глибинних шарів нейронних мереж спеціальних архітектур та їх подальшого використання в режимі black box.

Навчання алгоритмів МН займає порівняно менше часу, від кількох секунд до кількох годин. З іншого боку, для навчання штучної нейромережі за алгоритмами глибокого навчання потрібно багато часу, від кількох днів до багатьох місяців.

Класичне МН передбачає можливість використання дуже різних методів/алгоритмів (алгоритми побудови дерев та лісів рішень, пошуку правил асоціації, пошуку коефіцієнтів рівнянь регресії, класифікатори kNN, SVM та Naive Baies, ієрархічного та неієрархічного кластерного аналізу тощо); тоді як глибоке машинен навчання передбачає використання виключно штучних нейронних мереж особливих архітектур.

Класичне МН вимагає інтерактивного процесу взаємодії з аналітиком на всіх етапах проекту на відміну від глибинного машинного навчання. Мережі глибокого навчання не вимагають втручання людини, оскільки багаторівневі верстви в нейронних мережах містять дані в ієрархії різних концепцій, які зрештою навчаються на власних помилках, тобто здатні до самонавчання з плином часу. Тим не менш, навіть вони можуть бути помилковими, якщо якість даних недостатньо хороша.

В класичному машинному навчанні і в глибокому машинному навчанні якість та репрезентативність вхідних даних суттєво впливають на якість такого навчання, проте, зважаючи на мінімальне втручання експертів- аналітиків у auto ML режим глибинного навчання - ризики для нього через неякісні та неповні дані - значно більші.

Класичне МН з часом та/або появою значних змін (або системних або форс-мажорних) у досліджуваній предметній галузі потребує повторного навчання моделі - але виключно на нових наборах зібраних даних, в яких мають бути відображені такі зміни.

Оскільки алгоритми машинного навчання здатні навчатися тільки за заздалегідь запрограмованими заданими критеріями і вимагають маркованих даних, вони не підходять для вирішення інноваційних складних наукових запитів в режимі вільного пошуку, які передбачають значну кількість немаркованих напівструктурованих та неструктурованих даних (наприклад - розшифровка та розуміння абсолютно невідомих мов. Іншими словами, випадки, коли глибоке навчання стає кращим, включають ситуації, коли існує великий обсяг немаркованих даних, відсутність розуміння домену для пошуку/вилучення функцій або більш складні проблеми, такі як розпізнавання мовлення та NLP.

Для класичного машинного навчання не потрібні такі ж дорогі високоякісні обчислювальні машини та високопродуктивні процесори (GPU and TPU), як для глибокого навчання.

Зрештою, багато дослідників даних обирають традиційне МН , а не глибоке через його чудову інтерпретативність або здатність розуміти рішення. І навпаки, моделі глибокого навчання складні, вони працюють як «чорна скринька», тобто пояснити хід рішення та довести результат фактично важко.

Глибоке навчання -- це підмножина машинного навчання, яка вирізняється способом вирішення проблем. Для визначення більшості прикладних функцій МН потребує експерта в галузі. З іншого боку, глибоке навчання розуміє приховані функції поступово, в автономному режимі, таким чином усуваючи потребу в експертних знаннях предметної області та систематичному втручанні людини експерта-аналітика [12-15] . Через це навчання алгоритмів глибокого навчання займає набагато більше часу, ніж алгоритмів машинного навчання, яким потрібно лише від кількох секунд до кількох годин. Однак під час тестування відбувається зворотне. Алгоритмам глибокого навчання потрібно набагато менше часу для виконання тестів, ніж алгоритмам машинного навчання, час тестування яких збільшується разом із розміром даних.

Перенавчання для класичного машинного навчання може виявитися більш актуальною проблемою на сучасних data sets, зважаючи на автоматичну здатність неглибоких прихованих шарів глибокої нейронної мережі до нівелювання впливу шумів та аномалій у великих даних та здатністю наступних, глибших прихованих шарів до узагальнення на дійсно великих даних.

Переваги глибокого навчання включають наступне:

Автоматичне навчання/вилучення функцій/ознак з великих даних.

Системи глибокого навчання можуть виконувати вилучення функцій з даних автоматично, тобто їм не потрібен нагляд для додавання нових функцій. Алгоритми глибокого навчання можуть заощадити час, оскільки не вимагають від людей вилучення функцій вручну з необроблених даних. Глибоке навчання виконає в режимі auto ML більшість попередньої інтерактивної «ручної» обробки даних, яка зазвичай пов'язана з машинним навчанням. Ці алгоритми можуть приймати й обробляти неструктуровані дані, як-от текст і зображення, і автоматизують вилучення функцій, усуваючи певну залежність від експертів- людей.

Відкриття/пошук прихованих закономірностей/шаблонів у великих даних.

Системи глибокого навчання можуть інтелектуально та глибинно аналізувати великі обсяги даних і виявляти складні шаблони в зображеннях, тексті та аудіо записах розмов, інших сигналів, з метою вилучення прихованих, нетривіальних і корисних закономірностей/шаблонів.

Можливість ефективної обробки та аналізу дуже мінливих/ нест абільних/'варіативних ознак у великих даних.

Системи глибокого навчання можуть класифікувати та сортувати набори даних, які мають дуже великі варіації. Непостійні/нестабільні набори даних мають великі варіації та/або шуми.

Автоматичне маркування/позначення нових даних.

Глибоке навчання потребує позначених/маркованих даних для навчання. Після навчання DNN може самостійно позначати нові дані та ідентифікувати різні типи, категорії або значення нових порцій даних.

Ефективна обробка неструктурованих даних.

Методи класичного МН знаходять неструктуровані дані, такі як записи розмов, складними для автоматизованої обробки та аналізу, оскільки навчальний набір даних може мати нескінченні варіації. З іншого боку, моделі глибокого навчання можуть сприймати неструктуровані дані та робити загальні спостереження без ручного вилучення ознак. Наприклад, нейронна мережа може розпізнати, що ці два різних вхідних речення мають однакове значення:

Підкажіть, як здійснити оплату?

Як мені переказати гроші?

Це не обов'язково означає, що класичне МН не використовує неструктуровані дані; це просто означає, що в такому разі неструктуровані дані потребують доволі тривалої, складної та трудоємної процедури попереднього оброблення вхідних неструктурованих даних х метою ручного вилучення ознак, їх квантифікації, нормалізації та організації в структурованих формат (який прийнятний для класичних методів МН).

У свою чергу варто зазначити, що нескладні архітектури глибоких нейронних мереж здатні також обробляти структуровані дані при наявності їх відповідного обсягу.

Точність.

Додавання додаткових прихованих шарів у DNN, допомагають оптимізувати моделі глибокого навчання для забезпечення більшої точності.

Більша швидкість налагодження режиму AutoML у порівнянні з класичним машинним навчанням.

Порівняно зі звичайними процесами машинного навчання, глибоке навчання потребує набагато менше людського втручання та ручних експериментів та може в автоматичному режимі аналізувати такі типи та обсяги даних, які не можуть так обробляти та аналізувати класичне МН.

Більш ефективне та функціональне unsupervised machine learning.

Моделі глибокого навчання можуть навчатися та вдосконалюватися з

часом на основі поведінки користувачів та на основі власного досвіду. Вони не вимагають великих варіацій мічених наборів даних. Наприклад, розглянемо нейронну мережу, яка автоматично виправляє або пропонує слова, аналізуючи вашу поведінку при наборі. Припустімо, що DNN була навчена англійській мові та може перевіряти правопис англійських слів. Однак, якщо користувач часто печатає/промовляє неанглійські слова, наприклад danke, навчена (у відповідності з вашою поведінкою та особливостями) глибока нейронна мережа автоматично визначає такі типові опечатки/обмовки та помилки і автоматично і правильно їх виправляє.

Хоча глибоке навчання набуло популярності за останні кілька років, воно пов'язане зі своїми проблемами, над вирішенням яких спільнота наполегливо працює.

Проекти і кейси глибокого навчання також можуть мати системні недоліки та окремі обмеження, зокрема:

Проблема упереджень і зміщень у вхідних даних для навчання та його верифікації. Якщо модель навчається на не достатньо великих і репрезентативних даних, які отриман з різних і незалежних джерел, дані можуть містити упередження і зміщення, і навчена модель буде відтворювати ці упередження у своїх подальших прогнозах. Це особливо є загрозою для convolutional DNN з необгрунтовано великою кількістю прихованих шарів - які часто можуть бути схильні до гіперузагальнень.

Оптимальна конфігурація гіперпараметрів DML, зокрема швидкості навчання. Вибір оптимальної швидкості навчання також стає серйозною проблемою для моделей глибокого навчання. Якщо швидкість занадто висока, то модель сходиться занадто швидко, виробляючи не завжди оптимальну і точну модель. Якщо швидкість навчання занадто низька, то процес навчання може зайняти занадто багато часу (а отже і перевищити операційний бюджет). Крім того, неоптимальна швидкість навчання може призвести до потрапляння у локальні або субглобальні оптимуми моделі. Ще однією проблемою повільної швидкості навчання є загроза overfitting. Однак, навіть у випадку стратегії трансферу моделі глибокого навчання (що наразі є популярною практикою і наче може вирішити вищеперераховані загрози) перенавчання попередньо навченої глибокої нейромережі на нових даних все одно буде потребувати набагато більше часу та обчислювальних потужностей, ніж у випадку використання класичного МН.

Високі вимоги до глобальних фінансових та операційних параметрів Data Center та його обладнання. Багатоядерні високопродуктивні спеціалізовані процесори (GPU and TPU) та інше відповідне супутнє високопродуктивне hardware необхідні для забезпечення комплексної економічної ефективності проекту DML. Однак це hardware вимагає не тільки значних інвестицій, але і є наразі дефіцитним. Комплексні умови центру обробки даних з таким обладнанням мають враховувати також основну статтю операційної собівартості таких проектів - ціну електроенергії.

Потреба у великих обсягів даних великої розмірності, в т.ч. і верифіковано маркованих. Для отримання якісних DNN в реальних умовах великих даних є потреба у великій кількості підготовлених даних максимльної розмірності. А для вирішення в таких умовах задач прогнозування регресії - ще більш складною є задоволення потреби у великій кількості підготовлених і перевірених правильно/коректно маркованих/позначених даних максимальної розмірності. Отримання яких буде дорогою, складною задачею, що потребує значного часу та витрат праці.

Потреба у великій кількості високоякісних даних. Алгоритми глибокого навчання дають кращі результати, якщо вони навчаються на великих обсягах саме високоякісних даних. Викиди, помилки, відсутність репрезентативності та адекватності вхідних великих даних, інші помилки в великих даних - як правило, суттєво вплинуть на процес глибокого навчання. Щоб уникнути таких проблем, у випадку глибокого навчання, дуже важливим і відповідальним є проведення data engineering, а саме ETL/ELT. Така попередня обробка вхідних великих даних для глибокого машинного навчання вимагає великих витрат часу, витрат праці, витрат обчислювальної потужності.

Відсутність багатозадачності/універсальності навченої DNN в реальних умовах її використання з плином часу. Для отримання якісних результатів DML - постановка задачі машинного навчання, підготовлені відповідні дані для навчання та тестування, як правило, мають бути максимально конкретними/цілеспрямованими/націленими на вирішення однієї конкретної вузької задачі/проблеми. Це може призводити до втрати навіть обмеженої'/умовної універсальності отриманої моделі - а отже і до подальших обмежень в режимі використання навченої DNN в реальних актуальних умовах (які будуть містити/відображати об'єктивні потреби через, навіть, незначну зміну макросередовища організації'/проекту/компанії з плином часу).

Відсутність адекватності навченої DNN реальним новим фактичним даним. Для отримання якісних результатів DML - постановка задачі машинного навчання, підготовлені відповідні великі дані для навчання та тестування, мають бути очищеними та підготовленими. Це може призводити до втрати навіть обмеженої/умовної універсальності/адекватності навченої на таких даних моделі - а отже і до подальших помилок в режимі використання навченої DNN на нових, реальних і актуальних даних, тим більше в умовах великих даних (які природньо точно будуть містити аномалії та інформаційний шум, які були відфільтровані на етапі ETL/ELT перед навчанням DNN).

Відсутність прозорості результатів глибокого машинного навчання.

Хоча в процесі такого навчання алгоритм переглядає мільйони точок даних, щоб знайти приховані шаблони, скоріш за все буде дуже важко зрозуміти, як нейронна мережа приходить до свого рішення. Відсутність прозорості в тому, як DNN обробляють дані як в режимі навчання, так і в режимі використання, значно ускладнює людинам-експертам виявлення небажаних упереджень і пояснення прогнозів. Незважаючи на те, що алгоритми глибокого навчання перевершують точність людського мислення, немає чіткого та ясного способу повернутися назад (провести зворотнє міркування - дедукцію) і обґрунтувань пояснити, як саме, покроково, отримано кожен зроблений прогноз на базі нової порції вхідних даних. Це ускладнює використання DML в деяких типах наукових досліджень, де має бути ясно пояснено та обґрунтовано отриманий результат.

Справедливість поведінки агентів навчання з підкріпленням. Ще одним аспектом, який, як правило, є проблемою у випадку використання моделей навчання з підкріпленням, є наявні змістовні/поведінкові/системні зміщення/викривлення у самих вхідних даних, які можуть призвести до поганих/неякісних результатів роботи навченої на них моделі через її субоптимальну траекторію навчання. Програмні агенти, що навчаються, використовуючи механізм, заснований на винагороді, іноді перестають поводитися етично/справедливо/конструктивно, оскільки все, що їм потрібно для мінімізації сукупної помилки, -- це максимізувати винагороду, яку вони отримують. У літературі згадується такий приклад, коли програмний агент просто перестав грати в гру і потрапив до нескінченного циклу збору призових очок. Хоча це може бути частково прийнятним у ігровому сценарії, проте неправильні або неетичні рішення можуть мати глибокі негативні наслідки в реальному світі. Таким чином, актуальним є додатковий контроль результатів навчання з підкріпленням щодо отримання в результатів збалансованих/ конструктивних/етичних результатів. Для цього існують спеціалізовані набори інструментів з відкритим вихідним кодом для виявлення, дослідження та усунення подібних систематичних помилок в алгоритмах та даних глибокого навчання. Дослідникам та користувачам глибокого навчання важливо пам'ятати про ці можливі проблеми при плануванні та проведенні експериментів з глибокого навчання в режимі підкріплення.

Запуск алгоритмів глибокого навчання в хмарній інфраструктурі може подолати багато проблем DML. Ефективним є використання глибокого навчання в хмарі, щоб більш ефективно проектувати, розробляти та навчати програми глибокого навчання. Сервіси хмарних обчислень допомагають зробити глибоке навчання доступнішим, спрощуючи керування великими наборами даних і навчання алгоритмів на розподіленому обладнанні.

Хмарні сервіси сприяють ефективному глибокому навчанню в наступних аспектах:

надають доступ до великомасштабної обчислювальної потужності за запитом, що дає змогу розподілити навчання моделі між кількома машинами.

надають доступ до спеціальних апаратних конфігурацій, включаючи графічні процесори, FPGA та масові паралельні високопродуктивні обчислювальні системи (HPC).

не вимагають значних початкових інвестицій -- адже в умовах використання хмарних технологій аналітики отримують доступ до сучасного обладнання, не купуючи його.

допомагають в управлінні робочими процесами глибокого навчання -- хмарні сервіси надають розширені функції та шаблонами для керування наборами даних і алгоритмами, навчальними моделями та їх ефективним розгортанням у виробництві.

підвищують швидкість DML. Фахівці та аналітики можуть швидше тренувати моделі глибокого навчання, використовуючи кластери графічних і центральних процесорів для виконання складних математичних операцій, необхідних для ваших нейронних мереж. Потім аналфтики можуть розгорнути ці моделі для обробки великих обсягів даних і отримання все більш відповідних результатів.

підвищують точність DML. Висока точність: алгоритми глибокого навчання в режимі хмарних обчислень можуть досягти найсучаснішої продуктивності в різних завданнях сфери інформаційних управляючих систем, зокрема, таких, як розпізнавання напіструктурованих текстів і обробка сигналів природної мови.

полегшують масштабованість DML.

Завдяки широкому спектру ресурсів на вимогу, доступних через хмару, фахівці отримують доступ до практично необмежених апаратних ресурсів для роботи з моделями глибокого навчання будь-якого розміру. Конфігуровані архітектури глибоких нейронних мереж можуть використовувати переваги кількох процесорів для плавного й ефективного розподілу навантажень між процесорами різних типів і кількості.

Основні області застосування глибокого навчання в сфері інформаційних управляючих систем можна розділити на три напрямки: комп'ютерний зір, обробку природної мови та навчання з підкріпленням.

У комп'ютерному зорі моделі глибокого навчання можуть дозволити машинам ідентифікувати та розуміти візуальні дані. Деякі з основних застосувань глибокого навчання в комп'ютерному зорі включають:

Виявлення та розпізнавання об'єктів: модель глибокого навчання можна використовувати для ідентифікації та визначення місцезнаходження об'єктів на зображеннях і відео, що дає змогу машинам виконувати такі завдання, як безпілотні автомобілі, спостереження та роботизація.

Класифікація зображень: моделі глибокого навчання можна використовувати для класифікації зображень за такими категоріями, як тварини, рослини та будівлі. Це використовується в таких програмах, як медичне зображення, контроль якості та пошук зображень.

Сегментація зображень. Моделі глибокого навчання можна використовувати для сегментації зображень на різні регіони, що дає змогу ідентифікувати певні особливості в зображеннях.

У NLP глибоке навчання може дозволити машинам розуміти та генерувати людську мову. Деякі з основних застосувань глибокого навчання в машинній лінгвістиці включають:

Автоматична генерація тексту - модель глибокого навчання може вивчати корпус тексту та новий текст, як-от резюме, есе, можна автоматично генерувати за допомогою цих навчених моделей.

Мовний переклад: моделі глибокого навчання можуть перекладати текст з однієї мови на іншу, що робить можливим спілкування з людьми з різним мовним походженням.

Аналіз настроїв: моделі глибокого навчання можуть аналізувати настрої фрагмента тексту, що дає змогу визначити, чи є текст позитивним, негативним чи нейтральним. Це використовується в таких програмах, як обслуговування клієнтів, моніторинг соціальних медіа та політичний аналіз.

Розпізнавання мовлення: моделі глибокого навчання можуть розпізнавати та транскрибувати вимовлені слова, що дає змогу виконувати такі завдання, як перетворення мовлення в текст, голосовий пошук і пристрої з голосовим керуванням.

У навчанні з підкріпленням глибоке навчання працює як навчальні агенти діяти в середовищі, щоб максимізувати винагороду. Деякі з основних застосувань глибокого навчання в навчанні з підкріпленням включають:

GameDev: моделі глибокого навчання з підкріпленням змогли перемогти експертів-людей у таких іграх, як Go, Chess і Atari.

Робототехніка: моделі навчання з глибоким підкріпленням можна використовувати для навчання роботів виконувати складні завдання, такі як хапання об'єктів, навігація та маніпуляції.

Системи керування: моделі навчання з глибоким підкріпленням можна використовувати для керування складними системами, такими як електромережі, управління трафіком та оптимізація ланцюга поставок.



Висновки

Підводячи підсумки варто зазначити, що глибоке навчання -- це підгалузь машинного навчання, яка передбачає використання глибоких нейронних мереж для моделювання та вирішення складних проблем. Глибоке навчання досягло значних успіхів у різноманітних сферах, і очікується, що його використання продовжуватиме зростати, оскільки стане доступним більше даних і потужніших обчислювальних ресурсів.

Однак поява нових викликів, пов'язаних із великими напівструктуро- ваними та неструктурованими даними в системах управління інформацією, не дозволяє класичним методам/алгоритмам машинного навчання ефективно та результативно відповідати на вищезгадані виклики.

Підсумовуючи, можна сказати, що це гібридне використання глибокого машинного навчання [16-19] (яке передбачає використання глибоких нейронних мереж різних спеціалізованих архітектур) і класичних методів машинного навчання в різних ансамблевих режимах (що дозволить не тільки вирішувати сучасні проблеми, машинна лінгвістика продуктивно та швидко, але також коректно) підходить для відповіді на вищезазначені виклики та проблеми аналітики великих даних систем управління інформацією.

Усі перераховані вище результати стають все більш актуальними завдяки вже наявній спеціалізації та останнім успіхам виробників обладнання для швидкого та доступнішого глибокого машинного навчання (в тому числі в експериментальних режимах для визначення оптимальних гіперпараметрів машинного навчання та оптимальних конфігурацій машинного навчання).

На даний момент класичні технології Big Data Analysis and Analytics перестали бути інноваційним явищем для компаній і організацій у всіх секторах економіки. Використання цих класичних технологій Data Mining вже не є конкурентною перевагою, а необхідною умовою забезпечення конкурентоспроможності.

Саме повна трансформація концепції управління підприємством в напрямку максимально повного але доречного та ефективного впровадження глибокого аналізу та аналітики великих напівструктурованих та неструктуро- ваних даних, є запорукою додаткової конкурентоздатності, а отже і стабільності в нинішньому кризовому середовищі [20, 21].



Література

Ostapenko T., Onopriienko D., Hrashchenko I., Palyvoda O., Krasniuk S., Danilova E. “Research of impact of nanoeconomics on the national economic system development” // Innovative development of national economies : колективна монографія. - Харків: ПП Технологічний центр, 2022. - С. 46-70.

Hrashchenko I. and Krasniuk S. «Problems of regional development of Ukraine under globaliation process» //Науковий вісник Міжнародного гуманітарного університету. Серія: Економіка і менеджмент, 2015. - №11. - C. 26-32.

Maxim Krasnyuk, Svitlana Nevmerzhytska, Tetiana Tsalko. «Processing, analysis & analytics of big data for the innovative management» // Grail of Science, №38, April 2024. С. 75-83. https://www.journal-grail.science/issue38.pdf

Maxim Krasnyuk, Dmytro Elishys. «Perspectives and problems of big data analysis & analytics for effective marketing of tourism industry» // Science and technology today, №4 (32) 2024. С. 833-857

Maxim Krasnyuk, Illia Krasnuik. «Big data analysis and analytics for marketing and retail» // Збірник тез Міжнародної наукової конференції «Штучний інтелект у науці та освіті» (AISE) 1-2 березня 2024 року, Київ, Україна.

Krasnyuk M.T., Hrashchenko I.S., Kustarovskiy O.D., Krasniuk S.O. «Methodology of effective application of Big Data and Data Mining technologies as an important anti-crisis component of the complex policy of logistic business optimization» // Економічні Горизонти. 2018. No. 3(6). С. 121-136.

Krasnyuk, M., Krasniuk, S. «Comparative characteristics of machine learning for predicative financial modelling». Збірник наукових праць АОГОЕ, C. 55-57. https://doi.org/ 10.36074/26.06.2020.v1.21

Krasnyuk, M., Tkalenko, A., & Krasniuk, S. «Results of analysis of machine learning practice for training effective model of bankruptcy forecasting in emerging markets». Збірник наукових праць АОГОЕ. https://doi.org/10.36074/logos-09.04.2021.v1.07

Krasnyuk, M., і S. Krasniuk. «Modern practice of machine learning in the aviation transport industry». Збірник наукових праць АОГОЕ, Травень 2021, doi:10.36074/logos- 30.04.2021.v1.63.

Krasnyuk, M., & Krasniuk, S. «Application of artificial neural networks for reducing dimensions of geological-geophysical data set's for the identification of perspective oil and gas deposits» // Збірник наукових праць АОГОЕ, 18-19. https://doi.org/10.36074/24.04.2020.v2.05

Maxim Krasnyuk, Svitlana Krasniuk, Svitlana Goncharenko, Liudmyla Roienko, Vitalina Denysenko, Liubymova Natalia. «Features, problems and prospects of the application of deep machine learning in linguistics» // Bulletin of Science and Education, №11(17), 2023. С. 19-34. http://perspectives.pp.ua/index.php/vno/article/view/7746/7791

Краснюк М.Т. «Проблеми застосування систем управління корпоративними знаннями та їх таксономія» // Моделювання та інформаційні системи в економіці : Міжвід. наук. зб. заснов. У 1965, vol. 73, p. 256

Y. Kulynych, M. Krasnyuk and S. Krasniuk «Knowledge discovery and data mining of structured and unstructured business data: problems and prospects of implementation and adaptation in crisis conditions» // Grail of Science, (12-13), 63-70. https://doi.org/10.36074/grail- of-science.29.04.2022.006

Ситник В.Ф., Краснюк М.Т. «Політика управліня знаннями нафтогазової компанії як ключовий фактор підвищення її ефективності” // Проблеми формування ринкової економіки: Міжвідомчий науковий збірник. Заснов. у 1992 р. Вип. 10 / Відп. ред. О.О. Беляєв. - К.:КНЕУ, 2002. - 326 с.

V. Tuhaienko, S. Krasniuk «Effective application of knowledge management in current crisis conditions» // International scientific journal "Grail of Science", № 16 June, 2022. - P. 348-358.

Гращенко І.С., Краснюк М.Т., Краснюк С.О. «Гібридно-сценарне застосування інтелектуальних, орієнтованих на знання технологій, як важливий антикризовий інструмент логістичних компаній в Україні» // Вчені записки Таврійського Національного Університету імені В. І. Вернадського. Серія: Економіка і управління. 2019. Том 30 (69). С. 121 - 129.

Краснюк М.Т. “Гібридизація інтелектуальних методів аналізу бізнесових даних (режим виявлення аномалій) як складовий інструмент корпоративного аудиту” // Стан і перспективи розвитку обліково-інформаційної системи в Україні : матеріали ІІІ Міжнар. наук.-практ. конф. [м. Тернопіль, 10-11 жовт. 2014 р.] / редкол. : З. В. Задорожний, В. А. Дерій, М. Р. Лучко [та ін.] ; гол. ред. З. В. Задорожний. - Тернопіль : ТНЕУ, 2014. - С. 211-212.

M. Krasnyuk, S. Goncharenko, S. Krasniuk «Intelligent technologies in hybrid

corporate DSS (on the example of Ukraine oil&gas production company)» // Інноваційно- інвестиційний механізм забезпечення конкурентоспроможності країни: колективна

монографія / за заг. ред. О. Л. Гальцової. - Львів-Торунь : Ліга-Прес, 2022. - С. 194-211.

Krasnyuk, M., Hrashchenko, I., Goncharenko, S., Krasniuk, S. «Hybrid application of decision trees, fuzzy logic and production rules for supporting investment decision making (on the example of an oil and gas producing company)» // Access to science, business, innovation in digital economy, ACCESS Press, 3(3): 278-291. DOI: https://doi.org/10.46656/access.2022.3.3(7)

Дербенцев, В.Д., та інш. “Синергетичні та еконофізичні методи дослідження динамічних та структурних характеристик економічних систем” // Черкаси: Брама-Україна. - 2010.

Дербенцев В.Д., Соловйов В.М., Сердюк О.В. “Передвісники критичних явищ в складних економічних системах” // Моделирование нелинейной динамики экономических систем. - Донецк: ДонНУ 1 (2005): С. 5-13.



References

Ostapenko T., Onopriienko D., Hrashchenko I., Palyvoda O., Krasniuk S., Danilova E. (2022) Research of impact of nanoeconomics on the national economic system development. Innovative development of national economies: collective monograph. - Kharkiv: PC TECHNOLOGY CENTER, 2022. - P. 46-70.

Hrashchenko I. and Krasniuk S. (2015). Problems of regional development of Ukraine under globaliation process. Visnyk Mizhnarodnoho humanitarnoho universytetu. Seriia: Ekonomika i menedzhment - Scientific Bulletin of the International Humanitarian University. Series: Economics and management, 2015. - №11. - pp. 26-32.

Maxim Krasnyuk, Svitlana Nevmerzhytska, Tetiana Tsalko. (2024) Processing, analysis & analytics of big data for the innovative management. Grail of Science, #38, April 2024. pp. 75-83. https://www.journal-grail.science/issue38.pdf

Maxim Krasnyuk, Dmytro Elishys (2024) Perspectives and problems of big data analysis & analytics for effective marketing of tourism industry. Science and technology today, №4 (32) 2024. 833-857

Maxim Krasnyuk, Illia Krasnuik (2024). Big data analysis and analytics for marketing and retail. Zbirnyk tezMizhnarodnoi naukovoi konferentsii «Shtuchnyi intelekt u nautsi ta osviti» (AISE) - Collection of theses of the International Scientific Conference "Artificial Intelligence in Science and Education" (AISE). - March 1-2, 2024, Kyiv, Ukraine.

Krasnyuk M.T., Hrashchenko I.S., Kustarovskiy O.D., Krasniuk S.O. (2018) Methodology of effective application of Big Data and Data Mining technologies as an important anti-crisis component of the complex policy of logistic business optimization. Economies' Horizons. 2018. No. 3(6). pp. 121-136

Krasnyuk, M., & Krasniuk, S. (2020). Comparative characteristics of machine learning for predicative financial modelling. Scientific bulletin ЛОГОИ, pp. 55-57. https://doi.org/ 10.36074/26.06.2020.v1.21

Krasnyuk, M., Tkalenko, A., & Krasniuk, S. (2021). Results of analysis of machine learning practice for training effective model of bankruptcy forecasting in emerging markets. Scientific bulletinЛОГОЕ. https://doi.org/10.36074/logos-09.04.2021.v1.07

Krasnyuk, M., & Krasniuk, S. (2021). Modern practice of machine learning in the aviation transport industry. Scientific bulletinЛОГОИ, May 2021. https://doi.org/10.36074/logos- 30.04.2021.v1.63

Krasnyuk, M., & Krasniuk, S. (2020). Application of artificial neural networks for reducing dimensions of geological-geophysical data set's for the identification of perspective oil and gas deposits. Scientific bulletinЛОГОИ, 18-19. https://doi.org/10.36074/24.04.2020.v2.05

Maxim Krasnyuk, Svitlana Krasniuk, Svitlana Goncharenko, Liudmyla Roienko, Vitalina Denysenko, Liubymova Natalia “Features, problems and prospects of the application of deep machine learning in linguistics” // Bulletin of Science and Education, №11(17), 2023. 19-34. http://perspectives.pp.ua/index.php/vno/article/view/7746/7791

Krasnyuk M.T. (2006) Problemy zastosuvannia system upravlinnia korporatyvnymy znanniamy ta yikh taksonomiia [Problems of applying corporate knowledge management systems and their taxonomy]. Modeliuvannia ta informatsiini systemy v ekonomitsi - Modeling and information systems in the economy, vol. 73, p. 256 [in Ukrainian].

Y. Kulynych, M. Krasnyuk and S. Krasniuk. (2022) Knowledge discovery and data mining of structured and unstructured business data: problems and prospects of implementation and adaptation in crisis conditions. Grail of Science, (12-13), pp. 63-70. https://doi.org/10.36074/ grail-of-science.29.04.2022.006

Sytnyk V.F., Krasniuk M.T. (2002) Polityka upravlinia znanniamy naftohazovoi kompanii yak kliuchovyi faktor pidvyshchennia yii efektyvnosti [Oil and gas company's knowledge management policy as a key factor in increasing its efficiency]. Problemy formuvannia rynkovoi ekonomiky - Problems of the formation of a market economy, K.:KNEU, vol. 10, 2002. [in Ukrainian].

V. Tuhaienko, S. Krasniuk (2022) Effective application of knowledge management in current crisis conditions. International scientific journal "Grail of Science", #16 June, 2022. - pp. 348-358.

Hrashchenko I.S., Krasniuk M.T., Krasniuk S.O. (2019). Hibrydno-stsenarne zastosuvannia intelektualnykh, oriientovanykh na znannia tekhnolohii, yak vazhlyvyi antykryzovyi instrument lohistychnykh kompanii v Ukraini [Hybrid-scenario application of intellectual, knowledge-oriented technologies as an important anti-crisis tool of logistics companies in Ukraine]. Vcheni zapysky Tavriiskoho Natsionalnoho Universytetu imeni V. I. Vernadskoho. Seriia: Ekonomika i upravlinnia - Scientific notes of Tavri National University named after V. I. Vernadskyi. Series: Economics and management, 2019. Vol. 30 (69). pp.121 - 129. [in Ukrainian].

Krasnyuk, M. (2014). Hibrydyzatsiia intelektualnykh metodiv analizu biznesovykh danykh (rezhym vyiavlennia anomalii) yak skfladovyi instrument korporatyvnoho audytu [Hybridization of intelligent methods of business data analysis (anomaly detection mode) as a standard tool of corporate audit]. Stan i perspektyvy rozvytku oblikovo-informatsiinoi systemy v Ukraini - Stan i perspektyvy rozvytku oblikovo-informatsiinoi systemy v Ukraini: materialy III Mizhnar. nauk.-prakt. konf. [m. Ternopil, 10-11 zhovt. 2014 r.] - The state and prospects of the development of the accounting and information system in Ukraine: materials of the III International science and practice conf. [m. Ternopil, October 10-11. 2014]. TNEU, 2014. pp. 211-212. [in Ukrainian].

M. Krasnyuk, S. Goncharenko, S. Krasniuk (2022) Intelektualni tekhnolohii v hibrydnii korporatyvnii SPPR (na prykladi Ukrainskoi naftohazovydobuvnoi kompanii) [Intelligent technologies in hybrid corporate DSS (on the example of Ukraine oil&gas production company)] Innovatsiino-investytsiinyi mekhanizm zabezpechennia konkurentospromozhnosti krainy: kolektyvna monohrafiia / za zah. red. O. L. Haltsovoi - Innovation and investment mechanism for ensuring the country's competitiveness: collective monograph / by general ed. O. L. Khultsova. - Lviv-Torun: League-Pres, 2022. - pp. 194-211. [in Ukrainian].

Krasnyuk, M., Hrashchenko, I., Goncharenko, S., Krasniuk, S. (2022) Hybrid application of decision trees, fuzzy logic and production rules for supporting investment decision making (on the example of an oil and gas producing company). Access to science, business, innovation in digital economy, ACCESS Press, 3(3): 278-291. DOI: https://doi.org/10.46656/access.2022.3.3(7)

...