Empreinte de réseaux avec des entrées authentiques - Inria - Institut national de recherche en sciences et technologies du numérique Access content directly
Conference Papers Year :

FBI: Fingerprinting models with Benign Inputs

Empreinte de réseaux avec des entrées authentiques

Abstract

Les avancées récentes dans le domaine des empreintes de réseaux profonds détectent des instances de modèles placées dans une boîte noire. Les entrées utilisées en tant qu'empreintes sont spécifiquement conc ¸ues pour chaque modèle à vérifier. Bien qu'efficace dans un tel scénario, il en résulte néanmoins un manque de garantie après une simple modification (e.g. réentraînement, quantification) d'un modèle. Cet article s'attaque aux défis de proposer i) des empreintes qui résistent aux modifications significatives des modèles, en généralisant la notion de familles de modèles et leurs variantes, ii) une extension de la tâche d'empreinte à des scénarios o ù l'on souhaite un modèle précis (précédemment appelé tâche de detection), mais aussi d'identifier la famille de modèles qui se trouve dans la boîte noire (tâche d'identification). Nous atteignons ces deux objectifs en démontrant que des entrées authentiques (non modifiées) sont un matériau suffisant pour les deux tâches. Nous utilisons la théorie de l'information pour la tâche d'identification et un algorithme glouton pour la tâche de détection. Les deux approches sont validées expérimentalement sur un ensemble inédit de plus de 1 000 réseaux.
Fichier principal
Vignette du fichier
CAID_2022_paper_1396.pdf (342.53 Ko) Télécharger le fichier
Origin : Files produced by the author(s)

Dates and versions

hal-03879849 , version 1 (30-11-2022)

Licence

Attribution - NonCommercial - NoDerivatives

Identifiers

  • HAL Id : hal-03879849 , version 1

Cite

Thibault Maho, Teddy Furon, Erwan Le Merrer. Empreinte de réseaux avec des entrées authentiques. CAID 2022 - Conference on Artificial Intelligence for Defense, DGA Maîtrise de l'Information, Nov 2022, Rennes, France. ⟨hal-03879849⟩
44 View
17 Download

Share

Gmail Facebook Twitter LinkedIn More