Организация администрирования параллельных процессов

Размещено на http://www.allbest.ru/

Организация администрирования параллельных процессов

Т.Л. Тен

За основу проектирования кластера взята высокопроизводительная сетевая система Beowulf. Beowulf (Beowolf) - кластер, состоящий из широко распространённого аппаратного обеспечения и работающий под управлением операционной системы, распространяемой с исходными кодами (например, GNU/Linux или FreeBSD). beowulf кластер аппаратный

Особенностью такого кластера также является масштабируемость, то есть возможность увеличения количества узлов системы с пропорциональным увеличением производительности. Узлами в кластере могут служить любые серийно выпускаемые автономные компьютеры, количество которых может быть от 2 до 1024 и более. Такой кластер имеет гетерогенную структуру. В него могут входить самые разнообразные по параметрам компьютеры, построенные на различных аппаратных платформах, например Intel Pentium различных версий, Alpha, RISC-процессоры, Transme-ta, 32- и 64-битовые процессоры. Более того, на компьютерах в кластере могут быть установлены самые различные системы: Linux, Windows, OS/2 WARP.

Аппаратная платформа кластера кафедры ВТиПО однообразна. Структура разрабатываемого кластера представлена на рисунке.

Структура кластера кафедры ВТиПО

В данном виде кластеров можно выделить следующие основные особенности:

- кластер состоит из нескольких отдельных узлов, объединенных в общую сеть, общие ресурсы узлами кластера не используются;

- оптимальным считается построение кластеров на базе двухпроцессорных SMP систем;

- для уменьшения накладных расходов на взаимодействие между узлами применяют полнодуплексный 100 MB Fast Ethernet (реже используют SCI), создают несколько сетевых сегментов или соединяют узлы кластера через коммутатор;

- в качестве программного обеспечения применяют ОС Linux и бесплатно распространяемые коммуникационные библиотеки (PVM и MPI).

Это - или однопроцессорные ПК, или SMP-серверы с небольшим числом процессоров (2-4, возможно до 6). По некоторым причинам оптимальным считается построение кластеров на базе двухпроцессорных систем, несмотря на то, что в этом случае настройка кластера будет несколько сложнее (главным образом потому, что доступны относительно недорогие материнские платы для 2 процессоров Pentium II/III). Стоит установить на каждый узел 64-128MB оперативной памяти (для двухпроцессорных систем 64-256MB).

Одну из машин следует выделить в качестве центральной (головной), куда следует установить достаточно большой жесткий диск, возможно более мощный процессор и с большей памятью, чем на остальные (рабочие) узлы. Имеет смысл обеспечить (защищенную) связь этой машины с внешним миром.

При комплектации рабочих узлов вполне возможно отказаться от жестких дисков, эти узлы будут загружать ОС через сеть с центральной машины, что, кроме экономии средств, позволяет сконфигурировать ОС и все необходимое ПО только 1 раз (на центральной машине). Если эти узлы не будут одновременно использоваться в качестве пользовательских рабочих мест, нет необходимости устанавливать на них видеокарты и мониторы. Возможна установка узлов в стойки (rackmounting), что позволит уменьшить место, занимаемое узлами, но будет стоить несколько дороже.

Возможна организация кластеров на базе уже существующих сетей рабочих станций, т.е. рабочие станции пользователей могут использоваться в качестве узлов кластера ночью и в выходные дни. Системы такого типа иногда называют COW (Cluster of Workstations).

Количество узлов следует выбирать исходя из необходимых вычислительных ресурсов и доступных финансовых средств. Следует понимать, что при большом числе узлов придется также устанавливать более сложное и дорогое сетевое оборудование.

Основные типы локальных сетей, задействованные в рамках проекта Beowulf, - это Gigabit Ethernet, Fast Ethernet и 100-VG AnyLAN. В простейшем случае используется один сегмент Ethernet (10Mbit/sec на витой паре). Однако дешевизна такой сети вследствие коллизий оборачивается большими накладными расходами на межпроцессорные обмены, а хорошую производительность такого кластера следует ожидать только на задачах с очень простой параллельной структурой и при очень редких взаимодействиях между процессами (например, перебор вариантов).

Для получения хорошей производительности межпроцессорных обменов используют полнодуплексный Fast Ethernet на 100 Mbit/sec. При этом для уменьшения числа коллизий устанавливают или несколько «параллельных» сегментов Ethernet, или соединяют узлы кластера через коммутатор (switch).

Более дорогостоящим, но также популярным вариантом является использование коммутаторов типа Myrinet (1.28 Gbit/sec, полный дуплекс).

Менее популярными, но также реально используемыми при построении кластеров сетевыми технологиями, являются технологии с LAN, SCI и Gigabit Ethernet.

Иногда для связи между узлами кластера используют параллельно несколько физических каналов связи, так называемое «связывание каналов» (channel bonding), которое применяется обычно для технологии Fast Ethernet. При этом каждый узел подсоединяется к коммутатору Fast Ethernet более чем одним каналом. Чтобы достичь этого, узлы оснащаются либо несколькими сетевыми платами, либо многопортовыми платами Fast Ethernet. Применение связывания каналов в узлах под управлением ОС Linux позволяет организовать равномерное распределение нагрузки приема/передачи между соответствующими каналами.

Построение кластерной системы класса Beowulf реализуется на существующих рабочих станцих при лаборатории Tempus DESAS кафедры ВТиПО. Характеристики этих компьютеров представлены в таблице.

Использование в качестве узла кластера рабочих станций позволяет использовать задействованные аппаратные ресурсы как отдельно, так и в составе кластера.

В качестве центрального компьютера кластера сервера используется 4-ядерный процессор с параметрами, описанными в таблице 2. Для разработки кластера кафедры ВТиПО используются новые драйверы, в первую очередь для сетей Fast Ethernet и Gigabit Ethernet, и обеспечена возможность логического объединения нескольких параллельных сетевых соединений между персональными компьютерами (аналогично аппаратному связыванию каналов), что позволяет из дешевых локальных сетей, обладающих низкой пропускной способностью, соорудить сеть с высокой совокупной пропускной способностью.

После объединения всех машин в сеть и установки операционной системы необходимо произвести установку библиотеки для параллельного программирования и выполнения параллельных программ. Такие библиотеки называются коммуникационными библиотеками. Наиболее распространенным интерфейсом параллельного программирования в модели передачи сообщений является MPI.

Для кластеров на базе коммутатора разработана система PVM, куда также входит реализация MPI. Для эффективной организации параллелизма внутри одной SMP-cистемы возможны два варианта: для каждого процессора в SMP-машине порождается отдельный MPI-процесс, на каждой машине запускается только один MPI-процесс. Внутри каждого MPI-процесса производится распараллеливание в модели «общей памяти», например, с помощью директив OpenMP.

ParallelKnoppix - это модификация хорошо известного Linux-дистрибутива Knoppix live CD, которая позволяет установить кластер компьютеров для выполнения параллельных вычислений с использованием LAM-MPI и/или MPICH реализаций интерфейса MPI или параллельных виртуальных машин PVM. Если сетевые карты имеют возможность осуществлять PXE-загрузку, то запуск и конфигурация кластера занимают около 5 минут. Поддерживаются кластеры, содержащие от 2 до 200 машин. Руководство содержит детальные и пошаговые инструкции по установке и настройке кластера.

Debian Cluster Components (DCC) - это набор инструментов для максимально простого построения, управления и развертывания высокопроизводительного Linux-кластера. Набор состоит из следующих системных компонентов: инсталляционный набор, C3, система очередей TORQUE, OpenLDAP и Ganglia. Набор Debian-пакетов обеспечивает полные функциональные возможности главной консоли кластера.

DCC/Live - основанный на Knoppix загрузочный CD, который обеспечивает виртуальную инфраструктуру Linux-кластера на единственном компьютере. Консоль кластера (front-node) и три виртуальных вычислительных узла (work-nodes), запускаемых с помощью механизма User Mode Linux, доступны пользователю после загрузки системы. Планировщик очередей заданий и другие специфические сервисы кластера предустановлены в системе и не требуют дополнительной настройки. Этот проект главным образом разработан для образовательных целей. Примеры параллельных программ и инструкции включены в состав CD.

Этот набор программ, названный SCE (Scalable Computing Environment), состоит из инструментального набора для построения кластера, комплексной системы управления (SCMS), масштабируемой системы контроля в реальном времени, Web-ориентированной системы мониторинга (KCAP), параллельных версий Unix-команд и планировщика задач.

Характеристики узлов кластера

Таблица 2 - Характеристики узлов кластера

СПИСОК ЛИТЕРАТУРЫ

1. Воеводин В.В., Воеводин Вл.В. Параллельные вычисления. М.: Изд-во МГУ, 2002. 342 с.

2. Антонова А.С. Параллельное программирование с использованием технологии MPI. М.: Изд-во МГУ, 2004. 351 с.

Размещено на Allbest.ru