Pose estimation of rigid objects and robots - Inria - Institut national de recherche en sciences et technologies du numérique Access content directly
Theses Year : 2023

Pose estimation of rigid objects and robots

Estimation de pose d'objets rigides et de robots

Abstract

The goal of this thesis is to develop methods for recovering the 3D configuration of scenes containing rigid objects and articulated robots with known 3D models using one or multiple RGB images as inputs. We consider the following challenging scenes and visual conditions: (i) textureless and/or symmetric objects (ii) robot arms with several degrees of freedom, (iii) scenes imaged under challenging conditions (e.g. viewpoint or illumination) and (iv) objects or robots partially occluded. The key contributions of this thesis are as follows. First, we introduce a method for identifying a variable number of objects in a robot’s workspace and estimate the 2D coordinate of the object’s centroids in the robot coordinate frame. Our approach does not require extrinsic camera-to-robot calibration. Second, we propose a method for efficiently solving the planar rearrangement planning problem. We propose a discrete action parametrization of this problem, and efficiently apply Monte-Carlo Tree Search (MCTS) to solve it. Third, we introduce a novel learning-based method for 6D pose estimation of rigid objects with known 3D models. Our approach relies on the render-and-compare strategy. We introduce innovations of the training loss and rotation parametrization to explicitly handle object symmetries and achieve stable training. We train our approach on synthetic data using heavy image augmentations and show the crucial importance of data augmentation for the trans- fer to real scenes. Fourth, we introduce an approach for multi-view multi-object 6D pose estimation. We introduce a novel object-level RANSAC strategy to jointly estimate relative camera poses and find correspondences between single-view pose hypotheses. Poses of all objects and cameras are jointly refined by solving an object-level bundle adjustment problem. Fifth, we develop an approach to estimate the pose of novel objects, i.e. objects unseen during training, but for which the 3D model is available at test time. We introduce a scoring network for finding the best initial estimate among a set of coarse hypotheses, and design a network for iterative refinement where the object shape and coordinate system are implicitly provided as inputs. The model is trained on a novel large-scale synthetic dataset displaying thousands of different objects in challenging visual conditions. Finally, we introduce a method for estimating the 6D pose and joint angles of an articulated robot. We extend the render-and-compare strategy to handle robots with several degrees of freedom. We show the crucial importance of robot parametrization in this problem, and propose an effective strategy that is independent of the robot. The methods presented in this thesis advance the state-of-the-art on existing datasets and benchmarks for object and robot pose estimation. For known rigid objects, our single-view approach CosyPose is the winning entry in the BOP Challenge 2020. Our approach for unseen objects, MegaPose, achieves similar performance while not requiring the objects to be known in advance for training, paving the way for real applications where rapid deployment is key.
L’objectif de cette thèse est de développer des méthodes permettant d’estimer la configuration 3D de scènes contenant des objets rigides et des robots articulés dont les modèles 3D sont connus, en utilisant une ou plusieurs images RGB en entrée. Nous considérons les scènes difficiles et les conditions visuelles suivantes: (i) des objets sans textures et / ou symétriques (ii) des robots avec plusieurs degrés de liberté, (iii) des scènes imagées dans des conditions difficiles (en terme de point de vue ou d’éclairage) et (iv) des objets ou des robots partiellement occlus. Les principales contributions de cette thèse sont les suivantes. Tout d’abord, nous introduisons une méthode pour identifier un nombre variable d’objets dans l’espace de travail d’un robot et estimer les coordonnées 2D des centroïdes des objets dans le système de coordonnées du robot. Notre approche ne nécessite pas de calibration extrinsèque caméra-robot. Deuxièmement, nous proposons une méthode pour résoudre efficacement le problème de réarrangement. Nous proposons une paramétrisation d’action discrète de ce problème, et appliquons efficacement Monte-Carlo Tree Search (MCTS) pour le résoudre. Troisièmement, nous introduisons une nouvelle méthode basée sur l’apprentissage pour l’estimation 6D de la pose d’objets rigides dont les modèles 3D sont connus. Notre approche repose sur une stratégie de rendu et de comparaison. Nous introduisons des innovations dans le paramétrage de la fonction de coût et de l’orientation de l’objet pour gérer explicite- ment les symétries d’objets et obtenir un entraînement stable. Nous entraînons notre approche sur des données synthétiques en utilisant des augmentations d’images importantes et montrons l’importance cruciale de l’augmentation des données pour le transfert vers des scènes réelles. Quatrièmement, nous introduisons une approche multi-objet multi-vues pour l’estimation de pose. Nous introduisons une nouvelle stratégie RANSAC au niveau des objets pour estimer conjointement les poses relatives des caméras et trouver des correspondances entre les hypothèses de poses prédites dans chacune des vues indépendamment. Les poses des objets et des caméras sont affinées conjointement en résolvant un problème d’optimisation. Cinquièmement, nous étendons notre troisième contribution pour estimer la pose de nouveaux objets, c’est-à-dire des objets inconnus pendant l’entraînement. Nous introduisons un réseau de notation pour trouver la meilleure estimation initiale parmi un ensemble d’hypothèses grossières, et un réseau pour le raffinement itératif où la forme de l’objet et le système de coordonnées sont implicitement fournis en entrée. Les réseaux sont entraînés sur un nouvel ensemble de données synthétiques à grande échelle affichant des milliers d’objets différents dans des conditions visuelles difficiles. Enfin, nous introduisons une méthode pour estimer la pose 6D et les angles articulaires d’un robot articulé. Nous étendons la stratégie de rendu et de comparaison pour gérer les robots avec plusieurs degrés de liberté. Nous montrons l’importance cruciale du paramétrage du robot dans ce problème, et proposons une stratégie efficace et indépendante du robot. Les méthodes présentées dans cette thèse font progresser l’état de l’art sur les benchmarks existants pour l’estimation de la pose d’objets et de robots. Pour les objets rigides connus, notre approche CosyPose est la méthode qui a gagné le BOP Challenge 2020. Notre approche pour les objets inconnus pendant l’entraînement, MegaPose, atteint des performances similaires tout en ne nécessitant pas que les objets soient connus à l’avance pour l’entraînement, ouvrant la voie à des applications où le déploiement rapide est crucial.
Fichier principal
Vignette du fichier
main.pdf (36.45 Mo) Télécharger le fichier
Origin Files produced by the author(s)
Licence
Public Domain

Dates and versions

tel-04124865 , version 1 (11-06-2023)

Licence

Public Domain

Identifiers

  • HAL Id : tel-04124865 , version 1

Cite

Yann Labbé. Pose estimation of rigid objects and robots. Computer Science [cs]. Ecole Normale Supérieure, 2023. English. ⟨NNT : ⟩. ⟨tel-04124865⟩
313 View
95 Download

Share

Gmail Mastodon Facebook X LinkedIn More