Scaling is all you need: quantization of butterfly matrix products via optimal rank-one quantization - Inria - Institut national de recherche en sciences et technologies du numérique
Conference Papers Year : 2023

Scaling is all you need: quantization of butterfly matrix products via optimal rank-one quantization

Abstract

We consider the problem of quantizing the factors of butterfly factorizations. We show how the properties of butterfly supports can be exploited to reduce the problem to the solution of a series of rank-one quantization problems. We thus propose an algorithm that, exploiting the intrinsic scaling invariance of the problem, gives the optimal solution of the rank-one quantization problem. We employ this algorithm as a building block in a heuristic procedure to solve the quantization problem of butterfly factors, which we show can be much more accurate that the naive round-to-nearest startegy of quantizing each factor independently.
On s'intéresse à la quantification des facteurs dans un produit de matrices creuses à structure papillon. On montre que les propriétés particulières es supports des facteurs papillon permettent d'aborder le problème comme une séquence de problème de quantification de rang un. On propose un algorithme optimal de quantification de rang un utilisant les invariances du problème par remise à l'échelle. Cet algorithme sert de brique de base dans une approche heuristique pour la quantification de produits papillon, qui s'avère bien plus précis qu'une approche naive basée sur la quantification de chaque facteur au plus proche voisin indépendamment.
Fichier principal
Vignette du fichier
gretsi_optimal_rank1_quantization (3).pdf (289.46 Ko) Télécharger le fichier
Origin Files produced by the author(s)

Dates and versions

hal-04146706 , version 1 (30-06-2023)

Licence

Identifiers

  • HAL Id : hal-04146706 , version 1

Cite

Rémi Gribonval, Theo Mary, Elisa Riccietti. Scaling is all you need: quantization of butterfly matrix products via optimal rank-one quantization. 29ème Colloque sur le traitement du signal et des images (GRETSI), Aug 2023, Grenoble, France. pp.497-500. ⟨hal-04146706⟩
116 View
116 Download

Share

More