On the tradeoffs of statistical learning with privacy
Sur les compromis liés à l’apprentissage statistique sous contraintes de confidentialité
Résumé
This thesis studies the tradeoffs between statistical learning and privacy. On the one hand, learning, which is defined as estimating meaningful quantities or trends at the scale of a population with only access to sampled observations of that population, will be easier if granted unrestricted access to its training data. On the other hand, the training data can be sensitive, and its unrestricted use can lead to privacy issues. Since the spectrum of security and privacy issues can be very large, it is necessary to specify the range of this thesis. In the considered setup, the data is aggregated by a single actor that uses it to train a statistical model (estimation procedure, neural network, . . . ). This model is then shared to the entire world. The problem that is considered is the inversion one : is it possible to break the privacy of the individual samples of the training data by the sole observation of the trained model ? This thesis studies multiple statistical learning problems when the estimator is constrained to satisfy differential privacy.
Cette thèse étudie les compromis entre l’apprentissage statistique et la protection de la vie privée. D’une part, l’apprentissage, qui se définit comme l’estimation de quantités ou de tendances significatives à l’échelle d’une population en n’ayant accès qu’ à des observations échantillonnées de cette population, sera plus facile si l’on accorde un accès illimité aux données d’apprentissage. D’un autre côté, les données d’apprentissage peuvent être sensibles et leur utilisation sans restriction pourrait entraîner des problèmes de confidentialité. Le spectre des problèmes de s´ecurité et de confidentialité pouvant être très large, il est nécessaire de préciser le champ d’application de cette thèse. Dans la configuration considérée, les données sont agrégées par un seul acteur qui les utilise pour entraîner un modèle statistique (procédure d’estimation, réseau neuronal, . . . ). Ce modèle est ensuite partagé avec le monde entier. Le problème considéré est celui de l’inversion : est-il possible de briser la confidentialité des échantillons des données d’entraînement individuels par la seule observation du modèle entraîné ? Cette thèse étudie plusieurs problèmes d’apprentissage statistique lorsque l’estimateur considéré satisfait une propriété de confidentialité différentielle.
| Origine | Version validée par le jury (STAR) |
|---|