Sécurité IA pour DPO : protéger les données personnelles dans l'IA

Le DPO en 2026 fait face à un paradoxe : l'IA générative est partout dans l'organisation (officielle ou shadow), traite massivement des données personnelles, et les outils techniques classiques (DPIA, registre Article 30, procédures droits) doivent être adaptés à des systèmes dont les propriétés sont nouvelles : modèles entraînés inversibles, hallucinations identifiables, transferts internationaux structurels, droit à l'effacement quasi-impossible techniquement. Cet article documente la roadmap DPO 6 mois, les DPIA spécifiques IA, les procédures droits des personnes adaptées, le vendor management et la coordination cross-équipes.

Pour les pièges RGPD/IA : conformité RGPD et IA générative. Pour le règlement IA distinct : EU AI Act pour entreprises. Pour le pendant RSSI : sécurité IA pour RSSI.

Le mandat DPO sur les workflows IA

Trois propriétés rendent la mission DPO sur l'IA spécifique :

1. Données personnelles partout : prompts utilisateurs (souvent PII), corpus RAG (documents avec personnes mentionnées), training data (potentiellement PII), outputs (hallucinations identifiables).
2. Droits des personnes complexes à appliquer : effacement sur modèle entraîné techniquement très difficile, position CNIL/CEPD en évolution.
3. Coordination obligatoire : DPO + RSSI sur DPIA/FRIA, DPO + AppSec sur mesures techniques, DPO + métiers sur usages réels.

Tip, Le DPO 2026 n'a pas à devenir expert technique IA. Il doit comprendre les propriétés différenciantes (mémorisation, inversion, hallucination identifiable) pour bien encadrer juridiquement et coordonner techniquement. La technicité reste portée par RSSI/AppSec.

Plan 6 mois pour DPO

Mois 1, Inventaire des traitements IA

Objectifs :

• Recenser tous les traitements IA dans l'organisation.
• Mettre à jour le registre Article 30.
• Identifier les transferts internationaux.

Sources de découverte :

• Coordination avec RSSI pour inventaire shadow AI.
• Audit factures cloud IA (Azure OpenAI, AWS Bedrock, Google Vertex, OpenAI API direct, Anthropic API direct, Mistral, Cohere).
• Audit applications SaaS avec composants IA (Salesforce Einstein, Microsoft Copilot, Google Workspace AI, Notion AI, Slack AI, Zoom AI Companion).
• Audit licences IA (GitHub Copilot, ChatGPT Enterprise/Team, Claude Enterprise, etc.).

Mise à jour registre Article 30 :

# registre/traitements-ia.yml
traitements_ia:
  - id: TRAIT-IA-001
    intitule: "Chatbot support clients B2B"
    finalite: "Assistance utilisateurs sur produits Acme"
    base_legale: "Intérêt légitime (Article 6.1.f)"
    categories_personnes: ["clients B2B", "utilisateurs finaux"]
    categories_donnees: ["nom", "email", "historique support", "contenu requêtes"]
    destinataires: ["équipe support interne"]
    sous_traitants:
      - nom: "OpenAI Inc."
        localisation: "USA"
        encadrement: "DPA + CCT + DPF UE-US"
        sous_processeurs: ["Microsoft Azure (US-EU)"]
    transferts: "Oui, vers USA via DPF + CCT"
    duree_conservation: "13 mois (logs)"
    mesures_techniques:
      - "Pseudonymisation prompts (Presidio)"
      - "Output filter PII"
      - "Logs hash 90j + clear 30j sur signal"
    dpia_required: true
    dpia_completed: false  # ← gap mois 2-3
    fria_required: false  # risque limité
    
  - id: TRAIT-IA-002
    intitule: "Outil sélection candidats"
    finalite: "Pré-sélection automatisée CVs"
    base_legale: "Consentement (Art. 6.1.a) + Intérêt légitime"
    categories_personnes: ["candidats"]
    categories_donnees: ["CV complet", "lettre motivation", "scoring"]
    destinataires: ["équipe RH"]
    sous_traitants:
      - nom: "VendorRH IA"
        localisation: "France"
        encadrement: "DPA conforme"
    transferts: "Non (UE)"
    duree_conservation: "2 ans après dernière interaction"
    dpia_required: true
    dpia_completed: true
    fria_required: true  # haut risque Annexe III pt 4
    fria_completed: false  # ← gap critique
    
  - id: TRAIT-IA-SHADOW-001
    intitule: "ChatGPT individuel par employés"
    finalite: "Multiple non-encadré"
    base_legale: "Aucune base légale formellement établie"
    risque: "TRÈS ÉLEVÉ, violations potentielles multiples"
    action_immediate: "Politique d'usage + alternative interne, 2026-05-15"

Livrable : registre Article 30 v2.0 avec section IA + traitements shadow identifiés.

Mois 2, Classification et risques

Objectifs :

• Classifier chaque traitement par niveau de risque RGPD.
• Identifier les traitements nécessitant DPIA / FRIA.
• Prioriser les actions.

Critères pour DPIA obligatoire (RGPD Article 35) :

• Risque élevé pour droits et libertés.
• Évaluation systématique d'aspects personnels (profilage).
• Traitement à grande échelle de données sensibles (Article 9).
• Surveillance systématique d'une zone publique.
• Liste CNIL des traitements obligatoirement soumis à DPIA, inclut explicitement plusieurs cas IA.

Critères pour FRIA obligatoire (EU AI Act Article 27) :

• Système haut-risque (Annexe III) déployé dans le secteur public.
• Système haut-risque utilisé pour évaluation de solvabilité ou éligibilité aux services privés essentiels.
• Système haut-risque pour évaluation des risques en assurance vie/santé.

Matrice de priorisation :

Mois 3, DPIA et FRIA pour traitements à risque

Objectifs :

• Réaliser les DPIA pour tous les traitements à risque élevé.
• Coordonner FRIA avec RSSI pour systèmes haut-risque EU AI Act.
• Identifier mesures de mitigation.

Structure DPIA spécifique IA :

# DPIA, TRAIT-IA-001 Chatbot support B2B
 
## 1. Description du traitement
- Finalité, périmètre, parties prenantes.
- Données traitées : catégories, volumes, sources.
- Cycle de vie complet (collecte → traitement → conservation → suppression).
- Architecture technique simplifiée (en coordination avec RSSI).
 
## 2. Évaluation de la nécessité et proportionnalité
- Pertinence des données collectées (minimisation Article 5.1.c).
- Base légale solide ?
- Mesures de minimisation effectives.
 
## 3. Risques pour les droits et libertés
### 3.1 Risques spécifiques IA générative
- **Mémorisation** : risque que le modèle ait mémorisé des PII (cf. Carlini 2021).
- **Inversion d'embeddings** : risque que la vector DB compromise révèle les documents source (Vec2Text Morris 2023).
- **Hallucinations identifiables** : risque que le LLM produise des informations fausses concernant des personnes réelles.
- **Transferts internationaux** : si fournisseur US.
- **Profilage automatisé** : Article 22 RGPD si décisions automatisées.
 
### 3.2 Évaluation par risque
[Tableau probabilité × impact pour chaque risque]
 
## 4. Mesures envisagées
- **Techniques** : pseudonymisation entrée, output filter, ACL retrieval, audit logs, etc.
- **Organisationnelles** : politique d'usage, formation, procédures droits.
- **Contractuelles** : DPA, CCT, suppression à demande.
 
## 5. Risque résiduel
- Si élevé : consultation préalable CNIL Article 36.
- Si acceptable : décision de poursuite avec monitoring.
 
## 6. Validation
- DPO : avis motivé.
- Sponsor métier : décision.
- Direction : validation finale si risque résiduel élevé.
 
## 7. Revue
- Annuelle minimum.
- À chaque changement substantiel.

Pour systèmes haut-risque EU AI Act : ajouter section FRIA avec impact spécifique sur droits fondamentaux (non-discrimination, dignité, vie privée, liberté d'expression).

Mois 4, Procédures droits des personnes adaptées IA

Objectifs :

• Définir les procédures pour exercice des droits sur systèmes IA.
• Documenter les positions DPO sur les cas difficiles.
• Mettre en place les outils techniques.

Procédures par droit RGPD :

Article 15, Droit d'accès

Demande : "Quelles données personnelles me concernant traitez-vous via vos systèmes IA ?"
 
Procédure :
1. Identification de la personne et vérification.
2. Coordination avec tech : extraction des données dans :
   - RAG corpus (filtre par identifiant personne).
   - Logs d'utilisation (prompts/réponses la concernant).
   - Mémoire long-terme agents (si applicable).
3. Pour le modèle entraîné lui-même : test d'extraction (verbatim, MIA).
4. Réponse documentée : ce qui est trouvé + mesures appliquées.
5. Délai 1 mois (extensible 2 mois si complexe).

Article 16, Droit de rectification

Demande : "Veuillez rectifier l'information X qui me concerne dans vos systèmes IA."
 
Procédure :
1. Vérifier l'erreur dans les sources (RAG, base de référence).
2. Corriger à la source + ré-indexer.
3. Si l'erreur a été générée par hallucination du LLM :
   - Ajouter la rectification au filter en sortie.
   - Ne pas pouvoir "corriger" les poids du modèle, mais garantir la non-répétition.
4. Confirmer à la personne.

Article 17, Droit à l'effacement

Demande : "Veuillez effacer toutes mes données dans vos systèmes IA."
 
Procédure :
1. RAG / vector DB / mémoire agent : SUPPRESSION effective + ré-indexation.
2. Logs : purge programmée selon politique de rétention.
3. Modèle entraîné :
   - Si fine-tuning sur les données de la personne : argumenter Article 17.3 (impossibilité technique disproportionnée, ré-entraîner = millions €).
   - Output filter : ajouter le nom au filter pour bloquer toute génération future.
   - Documenter la décision et les mesures alternatives.
4. Confirmer à la personne avec explication des limites techniques.

Article 22, Décision automatisée

Pour systèmes IA prenant des décisions affectant la personne (recrutement, crédit, etc.) :
- Information de la personne sur l'existence du traitement automatisé.
- Possibilité d'obtenir une intervention humaine (HITL).
- Possibilité de contester la décision.
- Information sur la logique sous-jacente (sans révéler le système prompt complet).

Mois 5, Vendor management et transferts internationaux

Objectifs :

• Audit des fournisseurs IA actifs.
• Mise à jour DPA pour conformité 2026.
• Documentation Schrems II + DPF.

Checklist DPO vendor IA :

Endpoints UE recommandés (préférer) :

• Azure OpenAI : régions UE explicites (France, Suède, Pays-Bas).
• Anthropic via Google Vertex AI : régions UE.
• Mistral (FR) : hébergement souverain disponible.
• OVHcloud : LLM hébergés sur infrastructure souveraine.
• AWS Bedrock : régions UE (Frankfurt, Ireland, Paris).

Pour données très sensibles : SecNumCloud (Outscale, OVH, Bleu, S3NS, Numspot).

Mois 6, Audit interne et amélioration continue

Objectifs :

• Audit de la maturité atteinte.
• Plan d'amélioration pour année 2.
• Préparation audits externes (CNIL, certifications).

Audit interne checklist :

• Registre Article 30 à jour avec tous traitements IA.
• DPIA réalisé pour 100% traitements à risque élevé.
• FRIA réalisé pour 100% systèmes haut-risque EU AI Act applicable.
• Procédures droits documentées et testées (test de demandes simulées).
• DPA signés avec tous fournisseurs IA actifs.
• Schrems II analyses documentées.
• Politique d'usage IA validée et diffusée.
• Information utilisateurs (mentions, CGU) à jour.
• Procédure de notification 72h documentée et testée.
• Coordination DPO/RSSI/AppSec opérationnelle.

DPIA spécifique IA, template

Section "Risques spécifiques" différenciante d'une DPIA classique :

Coordination DPO ↔ RSSI ↔ AppSec ↔ métier

RACI pour activités IA

A=Accountable, R=Responsible, C=Consulté, I=Informé.

Anti-pattern à éviter : DPO traitant l'IA en silo sans coordination RSSI/AppSec. Les mesures techniques (output filter, isolation tenant, etc.) sont requises pour conformité RGPD mais portées par les équipes techniques. Sans coordination = mesures non-implémentées = non-conformité de fait.

Outils utiles au DPO

Communication CNIL

Notification de violation (Article 33, sous 72h)

Procédure type pour violation impliquant système IA :

1. Détection (souvent par SOC, escaladé au DPO).
2. Évaluation (DPO + RSSI) : violation au sens RGPD ? Risque pour droits/libertés ?
3. Si oui : notification CNIL via téléservice dans 72h max.
4. Si risque élevé : information des personnes concernées (Article 34).
5. Documentation : registre interne des violations (Article 33.5).

Spécificités IA : si l'incident concerne extraction verbatim de PII training, ou cross-tenant leak avec PII, ou hallucination diffamatoire ayant causé préjudice, toujours notifier.

Consultation préalable (Article 36)

Si la DPIA conclut à un risque résiduel élevé non-mitigeable, consultation préalable CNIL avant déploiement.

Réponse à demande CNIL

En cas de plainte ou d'investigation CNIL :

• Coordination juridique + DPO + RSSI immédiate.
• Préparation dossier complet (registre, DPIA, mesures, contrats).
• Réponse dans les délais (souvent 1 mois).

Position DPO sur les sujets émergents

Hallucinations diffamatoires

Position recommandée : traitement de données personnelles si la sortie permet d'identifier la personne. Conséquences : droits de rectification (filter en sortie), possible procédure pénale en cas de diffamation (compétence juridique distincte).

Effacement sur modèles entraînés

Position recommandée : argumenter impossibilité technique disproportionnée (Article 17.3) avec motivation rigoureuse. Privilégier :

• Suppression effective de tous les autres systèmes (RAG, logs, mémoire).
• Output filter pour bloquer génération future.
• Documentation de la décision.

Surveiller l'évolution de la position CNIL/CEPD en 2026-2027.

Transferts internationaux post-DPF

Position recommandée : anticiper un Schrems III. Privilégier endpoints UE quand possible. Documenter analyses Schrems II rigoureuses. Préparer plans de contingence (migration vers fournisseurs UE).

Erreurs fréquentes DPO sur l'IA

Pour aller plus loin

• Conformité RGPD et IA générative : pièges, détail RGPD spécifique IA.
• EU AI Act pour entreprises, règlement IA distinct/complémentaire.
• Membership inference attack, comprendre la mémorisation.
• Model inversion, comprendre l'inversion.
• Architecture RAG sécurisée, pour audits techniques.
• Empêcher l'exfiltration via chatbot RAG, output filter.

Points clés à retenir

• Mission DPO 2026 sur l'IA : registre Article 30 IA + DPIA/FRIA pour systèmes à risque + procédures droits adaptées + vendor management + coordination cross-équipes.
• Plan 6 mois : Inventaire (M1) → Classification (M2) → DPIA/FRIA (M3) → Procédures droits (M4) → Vendor management (M5) → Audit + amélioration (M6).
• DPIA + FRIA souvent ensemble pour systèmes haut-risque EU AI Act (RH, justice, secteur public). Templates CNIL + EU Commission.
• Droits des personnes spécifiques IA :
  • Article 17 (effacement) sur modèle entraîné : argumenter Article 17.3 (disproportion technique).
  • Article 22 (décision automatisée) : HITL obligatoire pour systèmes haut-risque.
  • Hallucinations identifiables : output filter + procédure rectification.
• Préférer endpoints UE : Azure OpenAI EU, Anthropic via Vertex EU, Mistral, OVHcloud. SecNumCloud pour très sensibles.
• 12 critères audit fournisseur IA : DPA, sous-processeurs, transferts, suppression, droits, notification, training data policy, certifications.
• Coordination DPO + RSSI + AppSec obligatoire : mesures techniques (output filter, isolation, etc.) sont nécessaires pour conformité RGPD mais portées par les équipes techniques.
• 8 erreurs fréquentes DPO : ignorer shadow AI, DPIA non-adaptée, confondre DPIA/FRIA, pas de coordination, vendor management formel, pas de procédure droits adaptée, pas de politique d'usage, transferts non encadrés.

Le DPO 2026 sur l'IA reste pleinement DPO, il applique le RGPD à des traitements aux propriétés nouvelles. Maturité défendable atteignable en 6 mois avec coordination rigoureuse RSSI/AppSec/métier. La technicité ne lui appartient pas, mais la compréhension des propriétés différenciantes (mémorisation, inversion, hallucinations identifiables) est indispensable.