Дослідження роботи одиночного сервера у кластері

Размещено на http://www.allbest.ru/

Размещено на http://www.allbest.ru/

Дослідження роботи одиночного сервера у кластері

Токар Любов Олександрівна кандидат технічних наук, доцент, доцент кафедри інфокомунікаційної інженерії ім. В.В. Поповського, Харківський національний університет радіоелектроніки

Анотація

Із зростаючим попитом на телекомунікаційні послуги сервери голосових викликів та викликів даних повинні забезпечувати більшу пропускну здатність обробки викликів. Через різноманітні вимогливі програми можливості існуючих серверів обробки викликів доведено до краю. Щоб впоратися із зростаючим попитом на пропускну здатність та забезпечити необхідну відмовостійкість необхідні дослідження кластерів серверів викликів.

Одним з основних аспектів якісного функціонування кластеру серверів визначено балансування навантаження, сутність якого - динамічне перенесення завдань між серверами. При цьому проводиться визначення найслабшого завантаженого серверного модуля у системі для подальшого відправлення вхідного завдання на сервер із найменшим навантаженням. Таким чином, спочатку досягається статичне балансування навантаження, а далі здійснюється прийняття рішень щодо динамічного перенесення завдань між серверами.

В роботі створено модель кластеру серверів викликів, яка визначає загальну структуру об'єктів, а також їх фізичне розташування, взаємозв'язки та конфігурації. На прикладі моделі кластеру серверів викликів за допомогою тестового стенду проведено дослідження динамічних політик переадресації та характеристик одиночного серверу у кластері серверів обробки викликів. Дослідження направлено на розрахунок кількості переадресованих викликів та коефіцієнта переадресації для оцінки ефективності чотирьох режимів переадресації з використанням інформації про завантаження відправляючого та/або приймаючого сервера викликів. Для аналізу використано характеристику індексу навантаження, у якості якої виступає затримка 95-го процентілю - 95-й POD. Результати цих досліджень дають уявлення про продуктивність системи.

По результатам дослідження побудовано характеристики, аналіз яких показав, що динамічні режими Fixed sending/receiving та Receiving демонструють хорошу продуктивність для широкого діапазону параметрів робочого навантаження. Проте режим Receiving вважається кращим вибором, оскільки використовує менше інформації про стан системи.

Ключові слова: балансування; сервер; кластер; навантаження; переадресація; індекс навантаження.

Abstract

Tokar Liubov Oleksandrivna Candidate of Technical Science, Associate Professor, Associate Professor V. V. Popovskyy Department of Infocommunication Engineering, Kharkiv National University of Radio Electronics, Nauky Ave., 14, Kharkiv,

RESEARCH OF WORK OF A SINGLE SERVER IN A CLUSTER

With the increasing demand for telecommunications services, voice and data call servers must provide more call processing capacity. Due to various demanding applications, the capabilities of existing call processing servers have been pushed to the limit. To cope with the increasing demand for bandwidth and to provide the necessary fault tolerance, research into clustering of call servers is needed.

One of the main aspects of the high-quality functioning of the server cluster is load balancing, the essence of which is the dynamic transfer of tasks between servers. At the same time, the weakest loaded server module in the system is determined in order to further send the incoming task to the server with the least load. Thus, static load balancing is first achieved, and then decisions are made regarding the dynamic transfer of tasks between servers.

The work created a model of a cluster of call servers, which defines the general structure of objects, as well as their physical location, relationships and configurations. On the example of a call server cluster model, a test bench was used to study dynamic forwarding policies and characteristics of a single server in a call processing server cluster. The study is aimed at calculating the number of forwarded calls and the forwarding ratio to evaluate the effectiveness of four forwarding modes using information about the load of the sending and/or receiving call server. The load index characteristic is used for the analysis, which is represented by the delay of the 95th percentile - the 95th POD. The results of these studies provide insight into system performance.

According to the results of the study, characteristics were built, the analysis of which showed that the dynamic modes Fixed sending/receiving and Receiving demonstrate good performance for a wide range of workload parameters. However, Receiving mode is considered a better choice because it uses less information about the system state.

Keywords: balancing; server; cluster; load; redirection; load index.

Постановка проблеми

Кластер серверів викликів є групою з декількох окремих серверів викликів. Кластеризація серверів викликів забезпечує переваги масштабованості і надійності. Балансування навантаження є важливим аспектом кластерів серверів викликів. Один із серверів обробки викликів у кластері може бути перевантажений, у той час як інші - працювати нижче за призначений рівень навантаження. У разі такої незбалансованої ситуації додатковий трафік перевантаженого серверу у кластері розподіляється між слабозавантаженими серверами. Це не дозволить одному серверу викликів стати вузьким місцем у продуктивності. Необхідними умовами для ефективного балансування навантаження є адаптація методів розподілу навантаження та дослідження режимів переадресації одиночного сервера обробки викликів на першому етапі і області кластерів серверів викликів в подальшому. Таким чином, необхідні дослідження, що дадуть змогу уникнути повного перевантаження одиночного серверу обробки викликів та виявити момент запуску в роботу додаткових серверів кластера. Такий процес запуску вмикається, виходячи з умов встановленого порогового значення завантаженості CPU, і відтворює сутність процесу балансування навантаження.

Таким чином, для ефективного розподілу навантаження потрібні дослідження різних методів розрахунку частини нових вхідних викликів, що можуть бути перенаправлено на інший сервер викликів для досягнення високої продуктивності, це й визначає актуальність даної роботи. Політика, яка використовується для визначення кількості викликів для перенаправлення з перевантаженого на інший слабозавантажений сервер, називається політикою переадресації телекомунікаційної системи.

Аналіз останніх досліджень і публікацій. Аналіз компонентів системи балансування навантаження виявив багато проблем з їх одночасною роботою [1, 2]. У разі великої кількості завдань перенесення завдання за один раз може не дозволити своєчасно обробити перевантажений вузол у реальному масштабі часу. Існує ряд стратегій вибору приймаючого сервера у кластері для розподілу навантаження, що базуються на характеристиках виклику [3]. У [4] для комутації виклику запропоновано клас методів роботи кластеру, що зберігає дані про стан абонента. Балансування навантаження в кластерах серверів повністю керується політикою переадресації [5]. Відомі адаптивні методи для роботи у розподіленій системі [6], а у [7] використано алгоритми перенаправлення трафіку веб-сервера для балансування навантаження. Широко розповсюджені методи статичного [8] та динамічного балансування навантаження з використанням оперативної інформації про стан системи прийняття рішень на рівні завантаження CPU [9] та доступної пам'яті [10].

Мета статті - дослідження методів розподілу навантаження одиночного серверу викликів у кластері, що направлено на розрахунок кількості переадресованих викликів та коефіцієнта переадресації у заданих режимах переадресації з використанням інформації про завантаження відправляючого та/або приймаючого сервера викликів.

Виклад основного матеріалу

Дослідження кластеру серверів проведено за допомогою тестового стенду, що складається з: серверу віртуальної АТС Asterisk для керування голосовим трафіком та викликами в мережі, серверу моніторингу Zabbix, log серверу GrayLog для збору необхідних метрик з хостів мережі та запису подій [11]. Модель кластеру серверів представлено основними компонентами: загальною пам'яттю (Shared Memory), елементами обробки PE (Processing Element) та елементами обробки введення-виведення IOP (Input/Output Processor) (рис. 1). Процес роботи брокера в представленій архітектурі використовується для керування розподілом та обміном інформації про навантаження. Спочатку досягається статичне балансування навантаження, а вже далі починає роботу динамічне перенесення завдань між серверами.

Рис.1. Модель кластеру серверів

Кількість нових викликів, відправлених на віддалений сервер, визначається виразом:

n = д- N_t. (1)

де N_t - загальна кількість доступних викликів на сервері обробки викликів, які можуть бути переадресовано на одержувач; 8 - коефіцієнт переадресації, який являє собою частку від загальної кількості нових викликів для відправленя на віддалений сервер.

У роботі досліджено адаптивні режими переадресації, які відрізняються способом розрахунку кількості переадресованих викликів з використанням інформації про завантаження відправляючого та/або приймаючого сервера викликів: адаптивний режим, що використовує інформацію про завантаження відправляючого серверу (Ending); адаптивний режим, що використовує інформацію про завантаження як відправляючого, так і отримуючого серверів, але максимальна кількість вхідних викликів, які можуть бути перенаправлені на віддалений сервер, фіксована (Fixed sending/receiving); адаптивний режим, що використовує інформацію про завантаження приймаючого серверу (Receiving); адаптивний режим, що використовує інформацію про завантаження як відправляючого, так і отримуючого серверів, але максимальна кількість вхідних викликів, які можуть бути перенаправлені на віддалений сервер, є змінним параметром (Variable sending/receiving). Статичний режим переадресації у роботі не розглядався з огляду на те, що цей режим не використовує жодної інформації про завантаження ані відправляючого, ані одержуючого сервера при визначенні б .

В адаптивному режимі Ending використано інформацію про завантаження та стан завантаження відправляючого сервера викликів для розрахунку коефіцієнта переадресації б. Особливістю аналізу є визначення коефіцієнта переадресації, виходячи з додаткового навантаження відправляючого сервера, це пов'язано з нелінійною поведінкою сервера викликів, коли він працює поза межами проєктної потужності Е. Розрахункова потужність сервера обробки викликів визначається як інтенсивність навантаження, з якою може впоратися сервер обробки викликів менше певного заданого значення (140 мс для моделі, що розглядається). Результати залежності індексу навантаження від інтенсивності навантаження на одиночний сервер кластеру відображено на рис. 2.

Рис. 2. Залежність індексу навантаження від інтенсивності навантаження на одиночний сервер у кластері

Слід зазначити, що для аналізу продуктивності сервера у роботі використано характеристику індексу навантаження. Цей показник визначається під час відгуку системи. З точки зору вхідного трафіку для кластера серверів найкращим індикатором є затримка 95-го процентілю - 95-й POD (percentile origination delay) - P_POD, яка використовується для виявлення перевантаження [12].

З рис. 2 видно, що розрахункова потужність сервера обробки викликів може обробити 3157 викл/год. Значення P_POD, що дорівнює 1600 мс, вважається

дуже великим. При цьому кластер на базі одного серверу досягає межі при інтенсивності вхідного навантаження 3327 викликів/год. Продуктивність системи різко погіршується, коли вхідне навантаження виходить за межі проєктної потужності. Для детального аналізу зміни P_POD поза межами проєктної потужності показана докладна частина кривої (рис. 3).

Рис. 3. Залежність індексу навантаження від інтенсивності навантаження на одиночний сервер у кластері за межами проєктної потужності

При цьому відмічено, що сервер-відправник може переадресовувати велику кількість викликів на віддалений сервер. Це може спричинити додаткові накладні витрати та може призвести до перевантаження віддаленого сервера обробки викликів. Щоб уникнути цієї ситуації, нелінійну частину кривої поза межами проєктної потужності розділено на невеликі лінійні ділянки. Це чотири ділянки, які позначено як 1, 2, 3, 4 (рис. 3). Аналіз лінійних ділянок показує зв'язок між б та індексом навантаження перевантаженого серверу, що відображено на рис. 4.

Рис.4. Залежність між б та індексом навантаження PPOD відправляючого серверу

Визначено зміни індексів навантаження у відповідних діапазонах інтенсивності навантаження для граничних точок: 1 - 140 - 230 мс, 2 - 230 - 440 мс, 3 - 440 - 850 мс, 4 - 850 - 1600 мс. Значення д обчислено з використанням рівняння прямої цих лінійних ділянок. Видно, що з визначення максимального значення б для конкретної ділянки можливий діапазон значень д (0 ч 1)розбивається на чотири рівні частини. Максимальні значення д, відповідне ділянкам 1, 2, 3 і 4, встановлюються рівним 0,25, 0,5, 0,75 й 1,0 відповідно. Якщо індекс завантаження L_s відправляючого серверу знаходиться на ділянці 1, то значення б обчислюється з використанням рівняння:

Значення 140 та 230 відповідають P_POD у двох кутах ділянки 1. Аналогічно рівняння для ділянок 2, 3 та 4 відображено у формулах:

Залежно від того, на якій ділянці знаходиться індекс завантаження серверу, для обчислення значення д використовується відповідні рівняння. Розрахунки показали, що коефіцієнт переадресації д приймає такі значення: д j змінюється в межах 0,0028 ч 0,25; д ₂ змінюється в межах 0,2512 ч 0,5; д ₃ змінюється в межах 0,5006 ч 0,75; д ₄ змінюється в межах 0,7503 ч 1,0. Визначивши д, розраховується точна кількість викликів n для переадресації:

де P - константа, що відповідає максимальній частці переадресованих вхідних викликів, які можуть бути переведено на віддалений сервер викликів. У цьому режимі P підтримується лише на рівні 40 %. Результати розрахунку при різних значеннях б показано на рис. 5. Аналіз показав, що б збільшується зі збільшенням навантаження відправника, а також враховує нелінійний вплив інтенсивності навантаження показника навантаження. Швидкість збільшення коефіцієнта переадресації зменшується в міру того, як навантаження на відправляючий сервер викликів стає вищим.

Рис. 5. Результати розрахунку n при різних значеннях д

Адаптивний режим Fixed sending/receiving використовує інформацію про завантаження як відправляючого, так й приймаючого серверов викликів для розрахунку n. При цьому використовується динамічне значення P замість фіксованого. При розрахунку б використовується той самий алгоритм з урахуванням інформації про завантаження відправляючого серверу. Залежно від стану завантаження серверу-приймача пропонуються чотири рівні готовності, які відповідають резервній ємності приймача. Якщо індекс завантаження приймаючого сервера позначити L_r, то доступна потужність A визначається як різниця між порогом політики міграції TH_L та L_r:

Поріг політики міграції TH_L є фіксованим значенням та близьким до показника навантаження, що відповідає проєктній потужності серверу у кластері. Сервер викликів призначається вузлом-отримувачем, якщо індекс навантаження цього сервера нижче за поріг політики міграції. При цьому визначено чотири рівні готовності резервної ємності сервера-одержувача. Використовується набір із чотирьох значень P, причому Pi < P2 < P3 < P4, які відповідають одному з рівнів готовності приймача:

- для P₁: 0 < A < (0,125 * TH_L);

- для P₂: (0,125 * TH_L)< A <(0,25 * TH_L);

- для P₃: (0,25 * TH_L )< A < (0,5 * TH_L);

- для p₄ : (0,5 * th_l)<A < th_l .

Після розрахунку отримано числові значення рівнів готовності резервної ємності сервера-одержувача. Як тільки рівень доступності приймаючого сервера визначено, вибирається відповідне значення P для визначення кількості переадресованих викликів за формулою (д). Результати розрахунку n при різних значеннях б та P показано на рис. 6.

Таким чином, для визначення n використовується інформація сервера обробки викликів відправника та одержувача: навантаження сервера обробки викликів відправника використовується для визначення д , а навантаження сервера обробки викликів одержувача використовується для визначення P .

Рис. 6. Результати розрахунку n при різних значеннях д та P

Відмінність даного режиму від інших адаптивних режимів полягає у тому, що P є динамічною величиною, яка вибирається з безлічі рівнів готовності сервера-приймача. Перевага такого підходу полягає в тому, що якщо сервер- одержувач працює на межі проєктної потужності, то відправляючий сервер знизить свою максимальну межу P , щоб адаптувати значення б на основі навантаження як одержувача, так і відправника. Але ж, якщо одержувач працює з низьким навантаженням, то відправляючий сервер буде використовувати більш високі значення максимального ліміту P , що призведе до більш ефективної передачі нових викликів на віддалений сервер у кластері.

Адаптивний режим Receiving використовує інформацію про навантаження приймаючого сервера викликів тільки для розрахунку коефіцієнта переадресації б . Алгоритм роботи засновано на більш точному співвідношенні між P_POD та інтенсивністю навантаження в порівнянні з попередніми режимами. На рис. 7 показано залежність індексу навантаження від інтенсивності навантаження на одиночний сервер кластера.

Рис. 7. Залежність індексу навантаження від інтенсивності навантаження на одиночний сервер у кластері

До P_POD тривалості 70 мс залежність між індексом навантаження та інтенсивністю навантаження є приблизно лінійною. Таким чином, коефіцієнт переадресації можна обчислити за допомогою лінійної інтерполяції, яка визначається виразом:

Якщо індекс завантаження сервера-приймача знаходиться у діапазоні від 70 до 140 мс, то він перевантажується. Щоб уникнути цього, невелика фіксована частка викликів підлягає переадресації, коли індекс завантаження перевищує 70 мс. Надалі доцільне визначення 5 згідно з алгоритмом, що показано на рис. 8.

Рис. 8. Алгоритм визначення 5 для режиму переадресації на основі завантаження приймаючого сервера Результати розрахунку n при різних значеннях 5 показані на рис. 9.

Рис. 9. Результати розрахунку n при різних значеннях 5.

При аналізі адаптивного режиму Variable sending/receiving використовується інформація про завантаження як відправляючого, так і отримуючого сервера, але максимальна кількість вхідних викликів, які можуть бути перенаправлені на віддалений сервер, є змінним параметром. Коефіцієнт переадресації обчислюється з урахуванням інформації про навантаження як відправляючого, так й приймаючого серверів, незалежно один від одного. Оскільки добуток б та P може мати максимальне значення, що дорівнює одиниці, то передбачається, що компоненти відправника й одержувача роблять однаковий внесок у визначення n. Таким чином, кількість викликів, що підлягають переадресації, задається виразом:

де A = 0,5 - 6j + 0,5 - б₂. За такого розрахунку 6j визначається з використанням режиму на основі стану завантаження сервера-відправника, а б₂ розраховується з використанням стану завантаження сервера-приймача.

Загальний розкид значень 6j становить 0,0028^1, а визначення б₂ виконується згідно з алгоритмом на рис. 8. Проміжні розрахунки становлять: 0,175; 0,175; 0,325; 0,625. З урахованням отриманих даних характеристики робочого процесу показано на рис. 10.

Рис. 10. Результати розрахунку n при різних значеннях A

Таким чином, режим Fixed sending/receiving, як і режим Receiving, які використовують інформацію про навантаження від сервера-одержувача, демонструють хорошу продуктивність для широкого діапазону параметрів робочого навантаження. Проте режим Receiving вважається кращим вибором, оскільки він використовує менше інформації про стан системи, ніж режим Fixed sending/receiving, й тому очікується, що накладні витрати будуть нижчими.

Висновки

У роботі проведено дослідження режимів переадресації, суть яких засновано на ідеї перенаправлення заданої частки нових вхідних викликів на слабонавантажений сервер у кластері. Дослідження направлено на розрахунок та оцінку відносних характеристик адаптивного підходу для ефективної обробки стрибків навантаження, що виникають у одиночному сервері кластера. Дослідження проведено з метою оцінки ступеня стану системи, що спрямовано для досягнення високої продуктивності кластеру серверів.

Література

1. Clementia A., Nataleb E., Ziccardi I. Parallel Load Balancing on constrained client-server topologies. Theoretical Computer Science. Vol. 895, 2021, р. 16-33,doi:10.1145/3350755.3400232.

2. Gardner K., Abdul Jaleel J., Wickham A., Doroudi S. Scalable load balancing in the presence of heterogeneous servers. Performance Evaluation Review. Vol. 48, no. 3, 2020, р. 37-38, doi:10.1145/3453953.3453961.

3. Литвинов О.А., Хандецький В.С. Розподілена обробка інформації. Монографія. Дніпро: ТОВ Баланс-Клуб, 2013. 314 с.

4. Zhong H., Fang Y., Cui J., LBBSRT: An efficient SDN load balancing scheme based on server response time. Future Generation Computer Systems. Vol. 80, 2017, р. 409-416, doi:10.1016/j.future.2017.11.012.

5. Srivastava V., Shankar Pandey R. Machine intelligence approach: To solve load balancing problem with high quality of service performance for multi-controller based. Sustainable Computing: Informatics and Systems. Vol. 30, 2021, р. 1-11, doi:10.1016/j.suscom.2021.100511.

6. Черняк О.І., Захарченко П.В. Інтелектуальний аналіз даних. Підручник. Київ: Знання, 2010. 837 с.

7. Посібник користувача кластера. URL: http://horst-7.bitp.kiev.ua/Cluster-Manual/ (дата звернення 19.01.2023).

8. Кузьминых Е.Д. Анализ методов балансировки нагрузки в кластере SIP-серверов. Проблемы телекоммуникаций. Харьков: ХНУРЕ. № 2 (14), 2014, с. 67-75.

9. Noman Khalid Y., Aleem M., Ahmed U., Arshad Islam M., Azhar Iqbal Troodon M. A machine-learning based load-balancing application scheduler for CPU-GPU system. Journal of Parallel and Distributed Computing. Vol. 132, 2019, р. 79-94, doi.org/10.1016/jjpdc.2019.05.015.

10. Baker Kanbar A., Faraj K. Region aware dynamic task scheduling and resource virtualization for load balancing in IoT-fog multi-cloud environment. Future Generation Computer Systems. Vol. 137, 2022, р. 70-86, doi.org/10.1016/j.future.2022.06.005.

11. Колтаков О.А., Токар Л.О. Віртуалізація ресурсів підприємства. Матеріали IV Міжнародної студентської наукової конференції Наука сьогодення: від досліджень до стратегічних рішень. 2022, с.178-180.

12. Asif M. Load Sharing in Call Server Clusters.Canada: B.Sc. 2005. 138 р.

References

1. Clementia, A., Nataleb, E., & Ziccardi, I. (2021). Parallel Load Balancing on constrained client-server topologies. Theoretical Computer Science, 895, 16-33.

2. Gardner, K., Abdul Jaleel, J., Wickham, A., & Doroudi, S. (2020). Scalable load balancing in the presence of heterogeneous servers. Performance Evaluation Review, 48, 3, 37-38.

3. Lytvynov, O.A., & Khandetskyi, V.S. (2013). Rozpodilena obrobka informatsii [Distributed information processing]. Dnipro: TOV "Balans-Klub" [in Ukrainian].

4. Zhong, H., Fang, Y., & Cui, J. (2017). LBBSRT: An efficient SDN load balancing scheme based on server response time] Future Generation Computer Systems, 80, 409-416.

5. Srivastava, V., & Pandey, R. Sh. (2021). Machine intelligence approach: To solve load balancing problem with high quality of service performance for multi-controller based. Sustainable Computing: Informatics and Systems, 30, 1-11.

6. Cherniak, O.I., & Zakharchenko, P.V. (2010). Intelektualnyi analiz danykh [Intelligent data analysis]. Kyiv: "Znannia" [in Ukrainian].

7. Posibnyk korystuvacha klastera [Cluster User Guide]. horst-7.bitp.kiev.ua. Retrieved from: http://horst-7.bitp.kiev.ua/Cluster-Manual/ [in Ukrainian].

8. Kuzmynikh, E.D. (2014). Analyz metodov balansyrovky nahruzky v klastere SIP- serverov [Analysis of load balancing methods in a cluster of SIP servers]. Problemu telekommunykatsyi - Problems of Telecommunications, 2 (14), 67-75 [in Russian].

9. Noman Khalid, Y., Aleem, M., Ahmed, U., Arshad Islam, M., & Azhar Iqbal, M. (2019). A machine-learning based load-balancing application scheduler for CPU-GPU system. Journal of Parallel and Distributed Computing, 132, 79-94.

10. Baker Kanbar, A., & Faraj, K. (2022). Region aware dynamic task scheduling and resource virtualization for load balancing in IoT-fog multi-cloud environment. Future Generation Computer Systems, 137, 70-86.

11. Koltakov, O.A., & Tokar, L.O. (2022). Virtualizatsiia resursiv pidpryiemstva [Virtualization of enterprise resources]. Materialy IV Mizhnarodnoi studentskoi naukovoi konferentsii "Nauka sohodennia: vid doslidzhen do stratehichnykh rishen" - Materials of the 4th International Student Scientific Conference " Today's science: from research to strategic decisions". (pp. 178-180). Ivano-Frankivsk [in Ukrainian].

12. Asif, M. (2005). Load Sharing in Call Server Clusters .Canada: B.Sc.

Размещено на Allbest.ru