Верифицируемые контрольные точки восстановления для параллельных приложений

Введение 3
Постановка задачи 5
Обзор литературы 6
Глава 1. Теоретические аспекты обеспечения отказоустойчивости параллельных приложений. 9
1.1 Основные понятия и определения 9
1.2 Сравнительный анализ подходов к обеспечению отказоустойчивости параллельных приложений 10
1.3 Обзор существующих решений 12
Глава 2. Верифицируемые контрольные точки восстановления для параллельных приложений 19
2.1 Реализация 19
2.2 Тестирование решения 22
Выводы 37
Заключение 38
Список литературы 39

Весь текст будет доступен после покупки

В настоящее время, задачи, решаемые компьютерными системами, становятся всё сложнее и объемнее. На компьютер возлагаются такие задачи как: автоматизированный сбор, хранение и обработка большого объема данных, моделирование процессов в различных сложных системах, визуализация комплексных физических явлений и многое другое.
Вычисления такого рода могут быть организованы либо как параллельные (оборудование находится в одном физическом месте, узлы тесно соединены между собой и все параметры их работы известны), либо как распределённые (нет тесной постоянной связи между узлами, узлы распределены по некоторой территории и параметры работы этой системы динамичны и не всегда известны).
Для каждого из типов организации вычислений существует устоявшийся набор инструментов, с помощью которого пользователь может адаптировать свои программы под систему с общей памятью (единая оперативная память, единая операционная система, единая подсистема ввода-вывода, процессоры образуют множество) или с распределённой (на каждом вычислительном узле функционирует собственные копии операционной системы, под управлением которых выполняются независимые программы).

Весь текст будет доступен после покупки

Глава 1. Теоретические аспекты обеспечения отказоустойчивости параллельных приложений.

1.1 Основные понятия и определения

Для обеспечения отказоустойчивости параллельных приложений, использующих MPI как способ взаимодействия, обычно используют один из следующих подходов:

1. system-level checkpoint/restart - периодическая остановка приложения операционной системой, выгрузка содержимого памяти всех параллельных процессов в файл и возобновление выполнения;
2. application-level checkpoint/restart - сохранение указанных разработчиком переменных в файл на каждой n-й итерации основного цикла программы и восстановление из файла до начала основного цикла программы.

Определение: контрольная точка – файл, содержащий значения переменных программы, в определённый момент времени, сохранённый в какой-либо файловой системе (локальной или распределённой) с целью восстановления значений этих переменных в случае перезапуска программы, сбоя, отказа оборудования или с целью продолжения вычислений с определённого этапа.

Таким образом, основой обеспечения отказоустойчивости параллельных приложений является создание контрольных точек в тот или иной момент времени одним из вышеописанных способов для дальнейшего восстановления состояния приложения из них.


1.2 Сравнительный анализ подходов к обеспечению отказоустойчивости параллельных приложений

Очевидный недостаток подхода system-level checkpoint/restart, заключается в том, что он неэффективен для большого количества параллельных процессов и сохраняет слишком много данных, если вызов создания контрольной точки происходит во время какой-либо фазы работы приложения с пиковым использованием памяти. Это связано с тем, что приложение рассматривается в данном подходе как чёрный ящик и механизм создания контрольных точек не может учитывать особенности его архитектуры или какие-либо внутренние характеристики. Однако, существенным преимуществом подхода создания контрольных точек на уровне системы является отсутствие необходимости модифицировать исходный код приложения для добавления отказоустойчивости.
Подход application-level checkpoint/restart в свою очередь подразумевает создание контрольных точек на более высоком уровне в сравнении с system-level checkpoint/restart, что даёт возможность учитывать структуры данных и выбирать переменные, которые разработчик хочет сохранить. Поэтому размер контрольных точек в данном подходе оптимален – в неё входят исключительно те данные, которые необходимы для восстановления работы программы, а не всё адресное пространство. Контрольные точки при данном подходе могут быть перенесены между гетерогенными машинами, поскольку система знает типы данных переменных в контрольных точках, а сам файл может быть сохранён в распределённую систему в поддерживаемом всеми машинами формате.
В таблице 1 приведена сравнительная характеристика двух подходов по основным параметрам:

Весь текст будет доступен после покупки

1. Message Passing Interface // Wikipedia: https://ru.wikipedia.org/wiki/Message_Passing_Interface (дата обращения: 26.05.2022).
2. Hargrove P. H., Duell J. C. Berkeley lab checkpoint/restart (BLCR) for Linux clusters //Journal of Physics: Conference Series. – IOP Publishing, 2006. – Vol. 46. – Issue 1. – P. 067
3. Application checkpointing // Wikipedia: https://en.wikipedia.org/wiki/Application_checkpointing (дата обращения: 26.05.2022).
4. Van der Wijngaart R. F., Wong P. NAS parallel benchmarks version 2.4. – 2002.
5. Heroux M. A. et al. Improving performance via mini-applications //Sandia National Laboratories, Tech. Rep. SAND2009-5574. – 2009. – Vol. 3
6. Ansel J., Arya K., Cooperman G. DMTCP: Transparent checkpointing for cluster computations and the desktop //2009 IEEE International Symposium on Parallel & Distributed Processing. – IEEE, 2009. – P. 1-12.
7. ECC Memory // Wikipedia: https://en.wikipedia.org/wiki/ECC_memory (дата обращения: 26.05.2022).
8. Shahzad F. et al. CRAFT: A library for easier application-level checkpoint/restart and automatic fault tolerance //IEEE Transactions on Parallel and Distributed Systems. – 2018. – Vol. 30. – Issue 3. – P. 501-514.
9. A. Moody, G. Bronevetsky, K. Mohror, and B. R. d. Supinski, “Design, Modeling, and Evaluation of a Scalable Multi-level Checkpointing System,” in Proceedings of the 2010 ACM/IEEE International Conference for High Performance Computing, Networking, Storage and Analysis, ser. SC ’10. Washington, DC, USA: IEEE Computer Society, Nov. 2010, pp. 1–11.
10. L. M. Silva and J. G. Silva, “System-level versus user-defined checkpointing,” in The Seventeenth Symposium on Reliable Distributed Systems, SRDS 1998,

Весь текст будет доступен после покупки