When Amdahl Meets Young/Daly - Inria - Institut national de recherche en sciences et technologies du numérique
Reports (Research Report) Year : 2016

When Amdahl Meets Young/Daly

Quand Amdahl rencontre Young/Daly

Abstract

This paper investigates the optimal number of processors to execute a parallel job, whose speedup profile obeys Amdahl's law, on a large-scale platform subject to fail-stop and silent errors. We combine the traditional checkpointing and rollback recovery strategies with verification mechanisms to cope with both error sources. We provide an exact formula to express the execution overhead incurred by a periodic checkpointing pattern of length $T$ and with $P$ processors, and we give first-order approximations for the optimal values $T^{*}$ and $P^{*}$ as a function of the individual processor failure rate $\lambda_{\mathrm{ind}}$. A striking result is that $P^{*}$ is of the order $\lambda_{\mathrm{ind}}^{-1/4}$ when the checkpointing cost grows linearly with the number of processors, and of the order $\lambda_{\mathrm{ind}}^{-1/3}$ when the checkpointing cost stays bounded for any $P$. We conduct an extensive set of simulations to support the theoretical study. The results confirm the accuracy of the first-order approximation under a wide range of parameter settings.
Cet article étudie le nombre optimal de processeurs pour exécuter un travail parallèle dont le profil d'accélération obéit à la loi d'Amdahl, sur une plateforme à grande échelle exposée aux pannes et aux erreurs silencieuses. Nous combinons l'approche traditionnelle de checkpointing/recovery avec des mécanismes de vérification pour faire face aux deux types d'erreurs. Nous fournissons une formule exacte pour mesurer le surcoût du temps d'exécution induit par un motif de checkpoint périodique de longueur $T$ et avec $P$ processeurs, et nous donnons une approximation au premier ordre des valeurs optimales de $T^{*}$ et $P^{*}$ en fonction du taux d'erreur individuel d'un processeur $\lambda_{\mathrm{ind}}$ Un résultat frappant est que $P^{*}$ est de l'ordre de $\lambda_{\mathrm{ind}}^{-1/4}$ quand le coût de checkpoint croît linéairement avec le nombre de processeurs, et de l'ordre de $\lambda_{\mathrm{ind}}^{-1/3}$ quand le coût de checkpoint reste borné par $P$. Nous menons une large campagne de simulations pour appuyer l'étude théorique. Les résultats confirmes la précision de l'approximation au premier ordre pour une large gamme de paramètres.
Fichier principal
Vignette du fichier
RR-8871_update.pdf (1.37 Mo) Télécharger le fichier
Origin Files produced by the author(s)
Loading...

Dates and versions

hal-01280004 , version 1 (28-02-2016)
hal-01280004 , version 2 (04-03-2016)
hal-01280004 , version 3 (14-05-2016)
hal-01280004 , version 4 (06-07-2016)

Identifiers

  • HAL Id : hal-01280004 , version 4

Cite

Aurélien Cavelan, Jiafan Li, Yves Robert, Hongyang Sun. When Amdahl Meets Young/Daly. [Research Report] RR-8871, ENS Lyon, CNRS & INRIA. 2016. ⟨hal-01280004v4⟩
243 View
320 Download

Share

More