Застосування нейронних мереж для передбачення та аналізу дорожньо-транспортних пригод

Размещено на http://www.allbest.ru/

Національний авіаційний університет, м. Київ

Застосування нейронних мереж для передбачення та аналізу дорожньо-транспортних пригод

Закутинський Ігор Володимирович

аспірант кафедри електроніки,

робототехніки і технологій моніторингу та Інтернету речей

факультет аеронавігації, електроніки та телекомунікацій

Анотація

прогнозування дорожньо-транспортний аварія нейронний

Запропоновано метод для прогнозування виникнення дорожньо-транспортної пригоди в конкретному транспортному вузлі на основі нейронних мереж. Рівень смертності та травматизму від ДТП зростає з кожним днем у всьому світі. Тому на сьогодні є необхідність в системах, які здатні ефективно передбачати, та виявляти взаємозв'язки між аварією та факторами її виникнення. Будь-яка дорожньо-транспортна пригода є випадковою подією, яка може статися в будь-якому місці та в будь-який час, тому лінійні методи прогнозування є малоефективними для цієї задачі. Протягом останніх років такі системи будувались на основі статистичних регресійних методів, таких як логістична регресія. В цьому досліджені розглянуто систему на основі нейронних мереж, яка отримує вхідний набір даних з часопросторовими характеристиками транспортного вузла та визначає ймовірність виникнення ДТП у ньому. Система виявляє істотні елементи (фактори), що сприяють аварії, або створює зв'язок між аваріями та різними факторами виникнення. Методом проведення дослідження є навчання та тестування двох нейронних мереж з різними архітектурами в однакових апаратних умовах, з використанням того самого набору даних. Для побудови нейронної мережі використовувались дві популярні архітектури, а саме: рекурентна нейронна мережа на основі LSTM елементів і нейронна мережа на основі багатошарового персептрона. Для обох моделей були дослідженні оптимальні конфігурації навчання, щоб отримати максимальну точність прогнозу. Навчання мереж проводилось на основі набору відкритих даних про ДТП у м. Барселона, Іспанія за 2010-2020 роки. Також даний набір був доповнений значеннями з відкритих джерел, такими як: температура повітря, вологість, дорожнє покриття, та ін.. На основі проведеного навчання визначено оптимальну архітектуру мережі, та отримано результати на основі який можна вважати нейронні мережі ефективним інструментом для задач прогнозування виникнення ДТП.

Ключові слова: нейронні мережі, глибоке навчання, рекурентні нейронні мережі, персептрон, безпека дорожнього руху.

Zakutynskyi Ihor Volodymyrovych PhD student, Radio Electronic Devices and Systems Department, Faculty of Air-navigation, Electronics and Telecommunications, National aviation university, Kyiv,

Neural networks for road accident prediction and analysis

Abstract

This paper proposed a method for traffic accident prediction at the specific traffic node based on neural networks. The rate of death and injury from road accidents is increasing every day all over the world. Therefore, today there is a need for systems that are able to effectively predict and identify the relationships between the accident and the factors of its occurrence. Any traffic accident is a random event that can happen anywhere and at any time, so linear prediction methods are not very effective for this task. In recent years, such systems have been built on the basis of statistical regression methods, such as logistic regression. In this research, a system based on neural networks is considered, which receives an input data set with Spatio-temporal characteristics of a transport node and determines the probability of an accident in it. The system detects essential elements (factors) that contribute to an accident or creates a connection between accidents and various factors of occurrence. The research method is training and testing two neural networks with different architectures under the same hardware conditions, using the same data set. Two popular architectures were used to build a neural network, namely: a recurrent neural network based on LSTM elements and a neural network based on a multilayer perceptron. For both models, optimal training configurations were investigated to obtain maximum prediction accuracy. Network training was conducted on the basis of a set of open data on road accidents in the city of Barcelona, Spain from the 2010-2020 year. Also, this set was enriched with values from open source resources, such as air temperature, humidity, road surface, etc. Based on the neural network training, the optimal architecture of the network was determined, and results were obtained on the basis of which neural networks can be considered effective tools for road accident prediction tasks.

Keywords: neural networks, deep learning, recurrent neural networks, perceptron, road safety, road accident.

Постановка проблеми

Сьогодні наслідки ДТП є однією з основних причин травмування та смертності у світі. Зокрема в Україні за 2021 рік кількість загиблих в наслідок ДТП склала 3541 людина, а травмованих - 31974. Загалом у світі за 2021 рік загинуло 1 млн 350 тисяч людей. Вищенаведена статистика зростає з кожним роком, тому проблема аналізу та прогнозу виникнення ДТП є надзвичайно актуальною на сьогодні.

За своєю природою дорожньо-транспортна пригода є недетермінованою подією, яка може відбутись в будь-який час, в будь-якому місці. Для побудови моделі прогнозування ймовірності виникнення, необхідні вхідні дані з попередньою історією ДТП. Модель повинна будуватись на основі кореляції таких факторів як: географічні координати, тип та характеристики транспортного засобу, характеристики навколишнього середовища, та ін. В результаті модель повинна передбачити ризик та складність аварії в конкретному місці та періоді часу.

Сучасні методи моніторингу транспортних потоків дозволяють отримати великі об'єми структурованих даних (Big Data), на основі яких можна провести дослідження та побудувати певну модель. Складність побудови обумовлена тим фактом, що дорожньо-транспортні пригоди мають нелінійний характер та залежать від багатьох просторово-часових факторів, які важко піддати лінійному аналізу. Сьогодні, найбільшого поширення набули моделі на основі статистичних методів, таких як лінійна регресія [1]. На практиці статистичні методи часто вимагають або строгої, або слабкої стаціонарності даних, що практично неможливо отримати з реальними даними. Альтернативним методом, є прогнозування часових рядів, за допомогою нейронних мереж. По своїй природі нейронні мережі є нелінійними, та навчаються на основі вхідних та вихідних даних. При такому підході, збільшення ефективності мережі, зводиться до збільшення кількості даних навчальної вибірки.

Метою статті є розробка методу визначення ймовірності виникнення ДТП на конкретній ділянці або транспортному вузлі в певний момент часу на основі методів прогнозування із застосуванням нейронних мереж.

Виклад основного матеріалу

Огляд існуючих підходів та методів. Прогнозування ймовірності виникнення ДТП є актуальною проблемою, і за останнє десятиліття було проведено багато досліджень на цю тему. Моделі нейронних мереж, особливо методи глибокого навчання все частіше почали демонструвати перевагу над іншими (класичними) методами. В роботі [2] проведено детальний аналіз робіт, де проводилось прогнозування дорожньо-транспортних пригод на основні нейронних мереж. Загалом було проаналізовано 33 наукові статті, в яких можна виділити дві основні мети: прогнозування ймовірності виникнення ДТП, а також прогнозування складності ДТП. Щодо технічної реалізації моделей, то у 20-х роботах (60.61%) використовується модель багатошарового персептрона, 6 робіт (18.18%) використовують нейронні мережі на основі радіально-базисних функцій, 4 роботи (12.12%) використовують рекурентні нейронні мережі, та у 3-х статтях (9.09%) використовують згорткові нейронні мережі.

В роботі [3] розроблено модель на основі багатошарового персептрона для прогнозування ймовірності ДТП а також визначення коефіцієнта впливу того чи іншого вхідного параметра на тренд ДТП. Для навчання мережі використовуються річні дані про ДТП за 2005-2012 роки мережі доріг провінції Ерзурум у східній Туреччині. Для покращення результатів автори рекомендують використовувати більші набори даних, а також провести експерименти з різними архітектурами нейромереж для того самого набору даних.

Значні наукові дослідження запропонували корисні інструменти та знання для прогнозування ймовірності виникнення та масштабів дорожньо-транспортних пригод. В даній роботі буде розглянуто реалізацію на основі двох архітектур, які показали найкращі результати у вищенаведених дослідженнях - моделі багатошарового персептрона та рекурентної нейронної мережі на основі LSTM.

Постановка задачі

У даній статті розглянуто проблему побудови моделі для передбачення ймовірності та складності ДТП за допомогою мереж прямого розповсюдження та рекурентних нейронних мереж. Моделі реалізовані за допомогою Python та бібліотеки глибокого навчання Keras.

Предметом дослідження є набір датасетів з структурованими даними дорожньо-транспортних пригод у м. Барселона, Іспанія за 2010-2021 р. Датасети є у відкритому доступі, та надаються Службою відкритих даних м. Барселона [4]. Вищенаведений датасет має структуру наведену в Таб.1.

Загальна характеристика запропонованих методів

Моделювання на основі нейронних мереж належить до методів машинного навчання, але в порівнянні з іншими алгоритмами має велику кількість налаштувань, що дозволяє максимально точно апроксимувати нелінійні функції [6].

Таблиця 1. Структура вхідного набору даних

У математичному вигляді, функцію вищенаведеного нейронна (Рис.1), можна представити парою наступних рівнянь (1, 2):

Де, x - вхідні сигнали, w - синаптичні ваги нейрона, uk - лінійна комбінація вхідних сигналів, ьк - поріг, <р - функція активації, Ґк - вихідна функція нейрона. Використання нейронної мережі дозволяє апроксимувати практично будь-яку функцію завдяки оптимальному підбору синаптичної ваги.

Багатошаровий персептрон. Багатошаровий персептрон є узагальненим випадком одношарового персептрона [7]. Мережі на основі багатошарового персептрона складаються з вхідного шару (input layer), одного або більше внутрішніх шарів (hidden layer) і вихідного шару (output layer). Вхідний сигнал поширюється в мережі в прямому напрямку (feed-forward). Навчання мережі відбувається на основі алгоритму зворотного розповсюдження помилки (error back-propagation algorithm).

LSTM мережі. В класичних архітектурах рекурентних нейронних мереж, інформація на кожному кроці навчання змішується з інформацією попередніх кроків, таким чином затираючи її протягом кількох ітерацій [5].

LSTM архітектура спроектована таким чином, що дані конкретного кроку зберігаються як на коротких, так і на довгих проміжках часу, що дозволяє уникнути проблеми довгострокової залежності. Особливою ознакою є те, що LSTM модуль не використовує функцію активації. Замість нейронів мережі LSTM мають блоки пам'яті, з'єднані через шари. Блок містить шлюзи, які керують станом і виходом блоку. Блок працює на основі вхідної послідовності, і кожен шлюз у блоці використовує блоки активації сигмоподібної форми, щоб контролювати, запускається він чи ні, роблячи зміну стану та додавання інформації, що проходить через блок, умовною.

Проектування нейронної мережі. Завданням моделі є передбачити ймовірність виникнення ДТП для конкретного траспортного вузла в той чи інший час. Вхідний набір нейронної мережі містить дані про ДТП у м. Барселона за період із січня 2010 р. по грудень 2021 р.. Відповідно 737712 спостереження (предиктори), в свою чергу, кожне спостереження складається з 29 характеристик, які частково наведенні в Таб. 1. Спостереження були сегментовані та прив'язані до конкретного вузла. Загалом в датасеті виділено 5092 унікальних транспортних вузла в яких відбувались ДТП за вищенаведений період.

Також вхідний набір даних був розширений, емпіричними спостереженнями, в ті моменти часу (дані дискретизовані погодинно), коли в транспортному вузлі була нульова аварійність, тобто Severity=0.

Після формування та нормалізації вхідних даних, відбувається створення навчальної та тестової множин. В даному дослідженні використовується класичний розподіл: 70% навчальна та 30% тестова. Формування множин відбувається на основі розподілу спостережень сегментованих по транспортному вузлі. Це дозволяє оцінити можливість застосування моделі для нового транспортного вузла (дані якого не застосовувались при навчанні моделі).

Для того щоб оцінити якість передбачення використовується функція втрат, яка визначає різницю між вихідним (прогнозованим значеннями), та заздалегідь відомим. В основі навчання нейронної мережі лежить мінімізація цього значення. В даній роботі використовується метод середньоквадратичної похибки (3).

cost = -Y,(Yt - YtJ), (3)

П i=1

де n - кількість ітерацій, Y - вектор відомих значень, Y - вектор прогнозованих значень. Метою роботи мережі є визначення ймовірності ДТП у тому чи іншому транспортному вузлі. Вхідний датасет [4] містить спостереження в моменти, коли відбулося ДТП, в конкретному вузлі, а в полі Severity (Таб.1) вказується складність цього ДТП. Для коректного навчання мережі, виникає необхідність розширити вхідний датасет спостереженнями, в моменти, коли в вузлі була нульова аварійність, тобто Severity=0. Для цього необхідно згенерувати додаткові спостереження в інші (виключити моменти ДТП) моменти часу. У вхідному датасеті, можна виділити статичні та динамічні поля. До статичних відносяться - «Location», «Road Surface», «Crossing», до динамічних - «Severity», «Tempйrature», «Humidity», «Pressure», «Wind Direction», «Wind Speed», «Date fields». Отже, при генерації додаткових даних, статичні поля залишаються незмінними, а дані погоди отримуються на основі відкритих даних Weather API для конкретного моменту часу. Таким чином, на вхід нейронна мережа отримує спостереження, в моменти коли відбулося ДТП, У = і, і спостереження з нульовою аварійністю - У = 0.

Після виконання тренування моделі, необхідно оцінити її якість. В даному випадку для оцінки якості мережі використовується метод середньої відносної похибки (4).

Процес навчання (Рис. 2) відбувається до того етапу, коли мережа може передбачити правильне вихідне значення на основі вхідного (тренувальна вибірка), або максимально наблизиться до нього.

Рис. 2. Загальна структура навчання нейронної мережі

В процесі навчання відбувається визначення експериментальним чином найкращих параметрів мережі - кількість внутрішніх шарів, кількість нейронів, кількість епох навчання та методи оптимізації. Оптимальні параметри та архітектура мереж наведені в Таб. 2 та Таб 3.

Рис. 3 демонструє результати навчання моделі багатошарового персептрона. На тренувальній множині даних вдалось досягти точності прогнозу - 69%. На тестовій множині - 64-66%, що є недостатнім для повноцінного практичного використання, однак результати можуть бути покращені за допомогою розширення вхідних характеристик (Таб. 1), а також кількості спостережень на основі яких проводиться навчання та тренування мережі. Для отримання оптимальних результатів, моделі достатньо 27 епох навчання, завдяки чому тренування та переконфігурація мережі не вимагає багато часу.

Конфігурація мережі на основі багатошарового персептрона

Конфігурація рекурентної нейронної мережі на основі LSTM

Мережа на основі ЬБТМ нейронів досягла точності 92% на тренувальній множині (Рис. 4), та 79% на тестовій. Такий результат є цілком прийнятним, а покращення точності мережі зводиться до розширення кількості навчальних даних. Дана модель прогнозування може бути застосована в інтелектуальних системах транспортних потоків. До мінусів даної реалізації можна віднести велику кількість ітерацій навчання (30000), що при великому об'ємі вхідних даних, вимагає багато часу та обчислювальних ресурсів.

Рис. 3. Результати навчання - багатошаровий персептрон

Висновки

В даній статті було запропоновано метод для прогнозування ймовірностей виникнення ДТП в транспортному вузлі на основі нейронних мереж. Розроблена мережа здатна визначати ймовірність на основі часопросторових характеристик траспортного вузла.

В ході роботи було розроблено та проаналізовано роботу моделі LTSM та моделі на основі багатошарового персептрона. В результаті навчання, на тестовій множині даних вдалось отримати прогноз з точністю 79% (для LSTM мережі) та 65-66% (багатошаровий персептрон). Навчання та тестування проводилось, на даних (предикторах) не пов'язаних між собою траспортних вузлів, що дозволяє застосуватим мережу до інших вузлів (для яких немає попередньої історії спостережень). На основі отриманих результатів доведено доцільність та можливість використання апарату нейронних мереж для вищенаведеної задачі.

Отримані результати можуть бути покращені за допомогою розширення вхідних характеристик, та кількості спостережень, на основі яких відбувається навчання. Розроблені моделі нейронних мереж є універсальними, та можуть бути легко застосовані до будь-яких транспортних вузлів, з різними характеристиками.

Література

1. S.C. Joshua, N.J. Garber, “Estimating truck accident rate and involvements using linear and Poisson regression models”, Transport. Plann. Technol., 15 (1) (1990), p. 41-58.

2. Ebrahim Shaik, Milon Islam, Quazi Sazzad Hossain, “A review on neural network techniques for the prediction of road traffic accident severitys”, Asian Transport Studies, 7 (2021).

3. Codur, Muhammed, Tortum, Ahmet, “An Artificial Neural Network Model for Highway Accident Prediction: A Case Study of Erzurum, Turkey.”, PROMET - Traffic and Transportation (2015).

4. Barcelona City Council Open Data Service, 2022. [Online]. Available from: https://opendata-ajuntament.barcelona.cat/data/en/dataset/accidents-gu-bcn/resource/acc9db4c-17b2-4862-8bcc-ed216f8e5839. Accessed on: August 10, 2022.

5. Christopher Olah, 2018, [Online]. Available from: http://colah.github.io/posts/2015-08-Understanding-LSTMs. Accessed on: May 17, 2022.

6. Jayesh Bapu Ahire. The Artificial Neural Networks. Part 1, 2018, [Online]. Available from: https://www.datasciencecentral.com/the-artificial-neural-networks-handbook-part-1. Accessed on: May 17, 2022.

7. Simon Haykin, “Neural networks. A Comprehensive Foundation. Second edition”, Prentice Hall Upper Saddle River, New Jersey, 2020, p. 78.

References

1. S.C. Joshua, N.J. Garber, “Estimating truck accident rate and involvements using linear and Poisson regression models”, Transport. Plann. Technol., 15 (1) (1990), p. 41-58.

2. Ebrahim Shaik, Milon Islam, Quazi Sazzad Hossain, “A review on neural network techniques for the prediction of road traffic accident severitys”, Asian Transport Studies, 7 (2021).

3. Codur, Muhammed, Tortum, Ahmet, “An Artificial Neural Network Model for Highway Accident Prediction: A Case Study of Erzurum, Turkey.”, PROMET - Traffic and Transportation (2015).

4. Barcelona City Council Open Data Service, 2022. [Online]. Available from: https://opendata-ajuntament.barcelona.cat/data/en/dataset/accidents-gu-bcn/resource/acc9db4c- 17b2-4862-8bcc-ed216f8e5839. Accessed on: August 10, 2022.

5. Christopher Olah, 2018, [Online]. Available from: http://colah.github.io/posts/2015-08-Understanding-LSTMs. Accessed on: May 17, 2022.

6. Jayesh Bapu Ahire. The Artificial Neural Networks. Part 1, 2018, [Online]. Available from: https://www.datasciencecentral.com/the-artificial-neural-networks-handbook-part-1. Accessed on: May 17, 2022.

7. Simon Haykin, “Neural networks. A Comprehensive Foundation. Second edition”, Prentice Hall Upper Saddle River, New Jersey, 2020, p. 78.

Размещено на Allbest.ru