Numerical Accuracy Evaluation for Polynomial Computation - Inria - Institut national de recherche en sciences et technologies du numérique
Rapport (Rapport De Recherche) Année : 2012

Numerical Accuracy Evaluation for Polynomial Computation

Résumé

Fixed-point conversion requires fast analytical methods to evaluate the accuracy degradation due to quantization noises. Usually, analytical methods do not consider the correlation between quantization noises. Correlation between quantization noises occurs when a data is quantized several times. This report explained, through an example, the methodology used in the ID.Fix tool to support correlation. To decrease the complexity, a method to group together several quantization noises inside a same noise source is described. The maximal relative estimation error obtained with the proposed approach is less than 2 %.
La conversion en virgule fixe nécessite des méthodes analytiques rapides pour évaluer la dégradation de la précision liée aux bruits de quantification. Actuellement, les méthodes analytiques ne considèrent pas la corrélation entre les bruits de quantification. Cette corrélation est due à la quantification d'une même donnée plusieurs fois. Ce rapport explique, au travers d'un exemple, la méthodologie utilisée dans l'outils ID.Fix pour prendre en compte la corrélation. Pour diminuer la complexité, une méthode de regroupement des bruits de quantification dans une source de bruit est décrite. La valeur maximale de l'erreur d'estimation relative obtenue avec l'approche proposée est inférieuree à 2\%.
Fichier principal
Vignette du fichier
RR-7878.pdf (655.83 Ko) Télécharger le fichier
Origine Fichiers produits par l'(les) auteur(s)
Loading...

Dates et versions

hal-00672654 , version 1 (21-02-2012)

Identifiants

  • HAL Id : hal-00672654 , version 1

Citer

Naud Jean-Charles, Daniel Menard. Numerical Accuracy Evaluation for Polynomial Computation. [Research Report] RR-7878, INRIA. 2012, pp.20. ⟨hal-00672654⟩
193 Consultations
158 Téléchargements

Partager

More