Reducing the communication and computational costs of Enlarged Krylov subspaces Conjugate Gradient - Inria - Institut national de recherche en sciences et technologies du numérique Access content directly
Reports (Research Report) Year : 2017

Reducing the communication and computational costs of Enlarged Krylov subspaces Conjugate Gradient

Réduction des coûts de communication et de calcul du Gradient Conjugué dans les sous-espaces de Krylov Élargi

Abstract

In this paper we propose an algebraic method in order to reduce dynamically the number of search directions during block Conjugate Gradient iterations. Indeed, by monitoring the rank of the optimal step α k it is possible to detect inexact breakdowns and remove the corresponding search directions. We also propose an algebraic criterion that ensures in theory the equivalence between our method with dynamic reduction of the search directions and the classical block Conjugate Gradient. Numerical experiments show that the method is both stable, the number of iterations with or without reduction is of the same order, and effective, the search space is significantly reduced. We use this approach in the context of enlarged Krylov subspace methods which reduce communication when implemented on large scale machines. The reduction of the number of search directions further reduces the computation cost and the memory usage of those methods.
Dans ce papier, nous proposons une méthode algébrique pour réduire dynamiquement le nombre de directions de recherche pendant les itérations du Gradient Conjugué par bloc. En effet, en mesurant la perte de rang numérique du pas optimal α k, il est possible d'enlever les directions de recherche superflues. Nous proposons aussi un critère algébrique qui assure en théorie l'équivalence entre notre méthode avec réduction dynamique des directions de recherche et le Gradient Conjugué par bloc classique. Les résultats numériques obtenus montrent que la méthode est à la fois stable, le nombre d'itérations est du même ordre avec ou sans la réduction, et efficace, l'espace de recherche est significativement réduit. Nous utilisons cette approche dans le contexte des méthodes de Krylov élargis qui réduisent les communications lorsqu'elles sont utilisées sur des machines parallèle à grande échelle. La réduction du nombre de directions de recherche réduit encore plus le coût de calcul et l'occupation mémoire de ces méthodes.
Fichier principal
Vignette du fichier
RR-9023.pdf (778.95 Ko) Télécharger le fichier
Origin : Files produced by the author(s)
Loading...

Dates and versions

hal-01451199 , version 1 (01-02-2017)
hal-01451199 , version 2 (01-02-2017)

Identifiers

  • HAL Id : hal-01451199 , version 2

Cite

Laura Grigori, Olivier Tissot. Reducing the communication and computational costs of Enlarged Krylov subspaces Conjugate Gradient. [Research Report] RR-9023, Inria Paris. 2017. ⟨hal-01451199v2⟩
564 View
511 Download

Share

Gmail Facebook X LinkedIn More