Ré-identification dans les données synthétiques financières : ce que les plateformes IA ne disent pas toujours clairement à leurs clients
La ré-identification est le processus par lequel un individu réel devient identifiable à partir de données supposément anonymes ou synthétiques. Dans le domaine des données financières synthétiques, ce risque prend deux formes principales : la mémorisation directe d'enregistrements réels par le modèle génératif, et la reconstruction indirecte par croisement des données synthétiques avec des sources externes. Notre équipe examine ces deux mécanismes, les outils de test disponibles pour les mesurer, et le cadre réglementaire suisse applicable à leur gestion. L'objectif de cette analyse est de fournir aux équipes techniques et aux responsables de la conformité un cadre de lecture fondé sur des éléments vérifiables plutôt que sur des affirmations de sécurité absolue.
1.Mémorisation directe par le modèle génératif
Le premier mécanisme de ré-identification dans les données synthétiques est la mémorisation directe. Un modèle génératif entraîné sur des données réelles peut, dans certaines configurations, mémoriser des enregistrements spécifiques de son jeu d'entraînement et les reproduire dans ses sorties. Ce phénomène est particulièrement documenté pour les grands modèles génératifs entraînés sur des jeux de données de taille limitée, une configuration fréquente en finance où les données de certains événements rares sont peu nombreuses. Notre équipe note que la détection de ce phénomène nécessite des tests spécifiques appelés membership inference attacks : ces tests cherchent à déterminer si un enregistrement réel spécifique peut être retrouvé dans les données générées par le modèle. L'absence de documentation de tels tests dans la documentation d'une plateforme est un signal d'alerte que notre équipe traite systématiquement. Les plateformes les plus rigoureuses publient les résultats de ces tests et décrivent les mesures prises pour réduire le risque de mémorisation, notamment via des techniques de differential privacy intégrées dans le processus d'entraînement.
La mémorisation est plus fréquente sur des jeux d'entraînement de petite taille, une configuration courante pour les données d'événements rares en finance.
2.Reconstruction indirecte par croisement de données
Le second mécanisme est plus subtil et souvent négligé dans les évaluations de plateformes. Même si les données synthétiques ne contiennent aucun enregistrement réel mémorisé, elles peuvent permettre de reconstituer des informations sur des individus réels par croisement avec des sources externes. Ce risque est particulièrement pertinent pour les données financières synthétiques qui reproduisent fidèlement les distributions statistiques d'une population spécifique : en combinant les données synthétiques avec des informations publiques disponibles sur des individus membres de cette population, il peut être possible d'inférer des caractéristiques financières de ces individus avec une précision significative. Notre équipe recommande de conduire une analyse de risque de ré-identification indirecte en plus des tests de mémorisation directe. Cette analyse doit identifier les sources externes avec lesquelles les données synthétiques pourraient être croisées et évaluer le niveau de précision des inférences possibles. Dans le cadre réglementaire suisse, cette analyse fait partie des mesures de protection des données que les organisations doivent documenter avant de déployer une solution de génération de données synthétiques.
Le croisement avec des sources externes est un vecteur de ré-identification indirecte souvent absent des évaluations de plateformes de données synthétiques financières.
3.Tests disponibles et leur interprétation
Notre équipe a identifié plusieurs catégories de tests utilisés pour mesurer le risque de ré-identification dans les données synthétiques. Les membership inference attacks testent si un enregistrement réel spécifique peut être distingué comme appartenant au jeu d'entraînement à partir des données synthétiques générées. Les attribute inference attacks testent si des attributs sensibles d'un individu peuvent être inférés à partir des données synthétiques. Les nearest neighbor distance tests mesurent la distance statistique entre les données synthétiques et les données d'entraînement les plus proches, pour identifier les cas de mémorisation quasi-exacte. Chaque type de test a ses propres limites : aucun ne peut prouver l'absence totale de risque de ré-identification, mais leur combinaison permet d'estimer le niveau de risque résiduel. Notre équipe recommande de demander aux fournisseurs de plateformes de documenter précisément quels tests ont été conduits, sur quelles données de référence, avec quels résultats, et quelles mesures ont été prises pour réduire les risques identifiés. Cette documentation doit être accessible à l'acheteur, pas seulement disponible sur demande auprès du fournisseur.
Aucun test ne prouve l'absence totale de risque de ré-identification. La combinaison de plusieurs types de tests permet d'estimer le niveau de risque résiduel.
4.Cadre réglementaire suisse et obligations pratiques
En Suisse, la loi fédérale sur la protection des données révisée impose aux organisations de documenter les mesures techniques et organisationnelles prises pour protéger les données personnelles. La question de savoir si les données synthétiques constituent des données personnelles au sens de cette loi dépend précisément du niveau de risque de ré-identification résiduel : si ce risque est non négligeable, les données synthétiques peuvent être considérées comme des données personnelles et soumises aux obligations correspondantes. Notre équipe recommande aux organisations suisses qui déploient des plateformes de données synthétiques financières de conduire une analyse de risque de ré-identification documentée avant tout déploiement, de conserver cette documentation dans leur registre des activités de traitement, et de la mettre à jour lorsque les données d'entraînement du générateur ou la configuration du modèle changent. Cette démarche, bien que non prescrite de façon exhaustive par la loi, constitue une bonne pratique défendable en cas de contrôle par les autorités compétentes.
Le statut légal des données synthétiques en Suisse dépend du niveau de risque de ré-identification résiduel évalué par une analyse documentée.