Исследование эффективности реализации коллективной операции типа «all-to-all» для вычислительных кластеров

1 ВВЕДЕНИЕ 7
2 ПОСТАНОВКА ЗАДАЧИ 8
3 РАСПРЕДЕЛЕННЫЕ ВЫЧИСЛИТЕЛЬНЫЕ СИСТЕМЫ 9
3.1 Вычислительные системы 9
3.2 Классификация ВС 9
3.3 Кластерные ВС 10
3.4 Системы управления ресурсами 11
4 ПАРАЛЛЕЛЬНЫЕ АЛГОРИТМЫ И ПРОГРАММЫ 13
4.1 Понятие параллельного алгоритма 13
4.2 Средства разработки параллельных программ 13
4.3 Стандарт MPI 13
4.4 Операция «all-to-all» 14
4.5 Блочный алгоритм 15
4.6 Алгоритм попарных обменов 16
5 ИСЛЕДОВАНИЕ ЭФФЕКТИВНОСТИ 17
5.1 Аппаратно-программное обеспечение 17
5.2 Проведение экспериментов 17
6 ЗАКЛЮЧЕНИЕ 21
ПРИЛОЖЕНИЕ А 22
ПРИЛОЖЕНИЕ Б 23
ПРИЛОЖЕНИЕ B 24
ПРИЛОЖЕНИЕ Г 26
ПРИЛОЖЕНИЕ Д 27

Весь текст будет доступен после покупки

Среди основных схем информационных обменов значительное место по частоте использования и приходящемуся на них суммарному времени выполнения занимают коллективные операции обмена информацией (групповые, глобальные, collective communications). Эффективная реализация коллективных операций в значительной степени влияет на масштабируемость параллельных алгоритмов и программ. Основная часть алгоритмов коллективных обменов реализуются на базе примитивов двусторонних обменов (send/recv) и основана на ряде фиксированных методов: рассылка данных по кольцу (ring), рекурсивное удваивание сообщения (recursivedoubling) и расстояния между взаимодействующими процессами, рекурсивное деление сообщения пополам (recursivehalving), алгоритм Дж. Брука (J. Bruck), попарные обмены (pairwiseexchange) и методы, упорядочивающие процессы в деревья различных видов: биномиальные деревья, сбалансированные k-арные деревья, плоские деревья, конвейеры/цепочки [1].

Весь текст будет доступен после покупки

2 ПОСТАНОВКА ЗАДАЧИ
В рамках выпускной квалификационной работы необходимо провести исследование эффективности реализации коллективной операции типа «all-to-all» в зависимости от размеров передаваемых сообщений на вычислительной системе Центра параллельных технологий СибГУТИ.
Для этого необходимо:
1. Реализовать алгоритмы коллективной операции типа «all-to-all»,
2. создать программное обеспечение проведения экспериментальных исследований реализованных алгоритмов.
3 РАСПРЕДЕЛЕННЫЕ ВЫЧИСЛИТЕЛЬНЫЕ СИСТЕМЫ
3.1 Вычислительные системы
Вычислительная система (ВС) – это совокупность взаимосвязанных и взаимодействующих между собой процессоров или ЭВМ, периферийного оборудования и программного обеспечения, предназначенная для сбора, хранения, обработки и распределения информации.
Отличительной особенностью ВС по отношению к ЭВМ является наличие в них нескольких вычислителей, реализующих параллельную обработку. Создание ВС преследует следующие основные цели: повышение производительности системы за счет ускорения процессов обработки данных, повышение надежности и достоверности вычислений.
3.2 Классификация ВС
Существует большое количество признаков, методов и подходов к классификации ВС. Наиболее известна классификация М. Флинна предложенная в 1966 году. Данная классификация основывается на понятии потока. Под потоком понимается последовательность команд или данных обрабатываемых процессором. По классификации Флинна выделяется четыре класса архитектур ВС:
1. SISD (Single Instruction, Single Data stream),
2. SIMD (Single Instruction, Multiple Data),
3. MIMD (Multiple Instruction, Multiple Data),
4. MISD (Multiple Instruction, Single Data).
На рисунке 3.1 представлена классификация Флинна. УУ – устройство управления, порождает поток инструкций, который поступает на процессор ПР. ПД – поток данных обрабатывается потоком инструкций.

Весь текст будет доступен после покупки

1. Перышкова Е.Н. Средства управления ресурсами вычислительных систем в режиме обслуживания потока задач с не фиксированными параметрами //Диссертация на соискание ученой степени кандидата технических наук
2. Курносов М.Г. Структурно-ориентированный метод оптимизации алгоритмов коллективных обменов в распределённых вычислительных системах. / Курносов М.Г.//– Вестник СибГУТИ.2010. №2
3. Official MPICH Repository. – Режим доступа URL: https://github.com/pmodels/mpich
4. Реализация алгоритмов коллективных обменов: временная и пространственная эффективность. Автор: Курносов М.Г. – URL: http://conf.nsc.ru/files/conferences/opcs2017/416055/RKurnosov.pdf (дата обращения 05.05.2019).

Весь текст будет доступен после покупки