Low-cost methods for constrained multi-objective optimization under uncertainty
Méthodes à faible coût pour l'optimisation sous incertitude multi-objectif sous contrainte
Résumé
Optimization Under Uncertainty is a fundamental axis of research in many companies nowadays, due to both the evergrowing computational power available and the need for efficiency, reliability and cost optimality. Among others, some challenges are the formulation of a suitable metric for the optimization problem of interest and the search for an ideal trade-off between computational cost and accuracy in the case of problems involving complex and expensive numerical solvers. The targeted class of problem here is constrained multiobjective optimization where fitness functions are uncertainty-driven metrics, such as statistical moments or quantiles.
This thesis relies on two main ideas. First, the accuracy for approximating the objectives and constraints at a given design should be driven by the probability for this design of being non-dominated. This choice permits to reduce the effort for evaluating designs which are unlikely to be optimal. To this extent, we introduce the concept of probabilistic dominance for constrained multi-objective optimization under uncertainty through the computation of the so-called Pareto-Optimal Probability (POP). Secondly, these approximated evaluations and their associated errors can be used to construct a predictive representation of the objectives and constraints over the whole design space to accelerate the optimization process. Overall, the approximation of different uncertainty-based metrics with tunable accuracy and the use of a Surrogate-Assisting strategy are the main ingredients of the proposed algorithm, called SAMATA. This approach is flexible in terms of metrics formulations and reveals very parsimonious. Note that this algorithm is applicable with generic optimization methods.
This thesis then explores the influence of the error distribution on the algorithm performance. We first make a simplifying and conservative assumption by considering a Uniform distribution of the error. In this case, the proposed formulation yields a Bounding-Box approach, where the estimation error can be regarded with the abstraction of an interval (in one-dimensional problems) or a product of intervals (in multi-dimensional problems) around the estimated value, naturally allowing for the computation of an approximated Pareto front. This approach is then supplemented by a Surrogate-Assisting strategy that directly estimates the objective and constraint values. Under some hypotheses, we study the convergence properties of the method in terms of the distance between the approximated Pareto front and the true continuous one.
Secondly, we propose to compute non-parametric approximations of the error distributions with a sampling-based technique. We propose a first algorithm relying on an approximation scheme with controlled accuracy for drawing large-scale Gaussian random field realizations in the coupled space between design and uncertain parameters. It notably permits a sharper computation of the POP and detects possible correlations between the different objectives and constraints. Joint realizations can be drawn on multiple designs in order to generate Surrogate-Assisting models of the objectives and constraints. Since the construction of a Gaussian random field can be hard in the context of high dimensionality or non-parametric inputs, we also propose a KDE-based Surrogate-Assisting model as an extension of the classical heteroscedastic Gaussian process, with the capability to take as input disjoint objective and constraint realizations.
We assess the proposed variants on several analytical uncertainty-based optimization test-cases with respect to an a priori metamodel approach by computing a probabilistic modified Hausdorff distance to the exact Pareto optimal set. The method is then employed on several engineering applications: the two-bar truss, a thermal protection system for atmospheric reentry and the blades of an Organic Rankine Cycle turbine.
L’optimisation sous incertitude est un axe de recherche fondamental chez de nombreuses entreprises, de par l’accroissement de la puissance de
calcul et la recherche continuelle d’efficience, de fiabilité et d’optimalité des coûts. Parmi les difficultés associées, on peut citer, entre autres, la bonne formulation d’une métrique d’optimisation pour le problème d’intérêt et la recherche d’un compromis idéal entre parcimonie et précision lorsque des simulations complexes et coûteuses sont impliquées. Cet travail vise à traiter les problèmes d’optimisation multi-objectif sous contrainte, où les objectifs et contraintes tiennent compte des paramètres incertains sous la forme, par exemple, de moments statistiques ou de quantiles.
Cette thèse repose sur deux idées principales. Premièrement, la précision d’approximation des objectifs et contraintes à chaque point devrait être guidée par la probabilité de ce point d’être non-dominé. Cela permet de réduire l’effort alloué aux points dont l’optimalité est peu probable. Pour cela, nous introduisons le concept de dominance probabiliste pour l’optimisation multi-objectif sous contrainte, basé sur le concept de probabilité d’être Pareto-optimal (POP). Deuxièmement, dans le but d’accélérer le processus d’optimisation, ces approximations et leur erreur associée peuvent être exploitée afin de construire un modèle prédictif des objectifs et contraintes. Ces deux techniques, approximations des objectifs et contraintes avec une précision adaptative et assistance par métamodèle, sont au coeur de l’algorithme proposé, appelé SAMATA. Ce dernier est flexible en termes de métriques utilisées et se révèle très parcimonieux. Cet algorithme est d’ailleurs applicable avec des méthodes génériques d’optimisation.
Nous explorons ensuite l’influence de la distribution de l’erreur d’approximation. Une première supposition simplificatrice et conservative consiste à considérer cette distribution uniforme. La formulation proposée devient une approche par boîtes, ou l’erreur est réduite à un intervalle (en mono-dimensionel) ou un produit d’intervalles (en multidimensionel) autour de la valeur estimée, ce qui permet naturellement le calcul d’un front de Pareto imprécis. Cette approche est couplée à une assistance par métamodèle, construit directement sur les objectifs et contraintes. Sous quelques hypothèses, nous étudions la convergence du front de Pareto approximé vers le front réel.
Par la suite, nous proposons une approximation non-paramétrique par échantillonnage de la distribution de l’erreur. Un premier algorithme
repose sur une approximation avec contrôle de précision permettant de tirer des réalisations de champ Gaussien sur un très grand nombre de points dans l’espace couplé entre variables de contrôle et incertaines. Cela permet notamment des comparaisons probabilistes plus précises et la capture de corrélations entre les différents objectifs et contraintes. Des réalisations jointes sont tirées à différents points afin de générer un métamodèle pour assister l’optimisation. La construction de ce champ Gaussien dans l’espace couplé peut se révéler infaisable lorsque la
dimensionalité est trop élevée ou que les incertitudes sont non-paramétriques. Nous proposons donc aussi la construction d’un métamodèle, construit sur des réalisations disjointes des objectifs et contraintes, comme extension des processus Gaussiens hétéroscedastiques classiques.
Les variantes proposées sont testées sur plusieurs cas analytiques d’optimisation sous incertitudes, et sont comparées à une approche par métamodèle a priori à l’aide d’un indicateur probabiliste de distance de Hausdorff au front de Pareto exact. La méthode est finalement mise en pratique sur plusieurs applications pour l’ingénierie : la charpente à deux barres, un système de protection thermique pour la rentrée atmosphérique et les pâles d’une turbine à cycle de Rankine organique.
| Origine | Fichiers produits par l'(les) auteur(s) |
|---|