L’affaire récemment jugée par le tribunal d’Aix-la-Chapelle contre Google est un rappel à l’ordre. Le moteur dopé à l’IA a faussement attribué à un praticien une condamnation, amalgamant des faits réels imputables à un tiers avec son identité. Face au refus du géant de la tech d’intervenir, la justice a tranché : l’entreprise demeure juridiquement responsable des allégations générées par ses outils.
🎯 Au-delà de la diffamation, cette décision touche au cœur de nos pratiques : la confrontation directe entre les « hallucinations » des modèles et l’article 16 du RGPD régissant le droit à la rectification.
Le RGPD impose deux obligations claires :
1/ Principe d’exactitude (art. 5-1-d) : les données à caractère personnel doivent être exactes et, si nécessaire, tenues à jour.
2/ Droit de rectification (art. 16) : la personne concernée a le droit d’obtenir la rectification, dans les meilleurs délais, des données inexactes la concernant.
Dans le cas d’une erreur affichée, comment applique-t-on le droit à la rectification sur des paramètres distribués ? On ne modifie pas chirurgicalement une inférence statistique sans réentraîner ou altérer la dynamique du réseau.
La mention générique « l’IA peut faire des erreurs » ne constitue ni une base légale recevable, ni une cause d’exonération de responsabilité devant les régulateurs ou les juridictions. Opposer la complexité algorithmique pour justifier l’inertie transforme une anomalie de sortie en manquement délibéré aux droits des personnes.
🛡️ Pour les DPO, RSSI et concepteurs de solutions IA, cet arrêt acte l’obligation de déployer des garde-fous opérationnels stricts dès la phase de conception (Privacy amp; Ethics by Design) :
– Mécanismes d’amendement et de purge : à défaut de réentraînement immédiat (machine unlearning), mise en place de couches de filtrage (guardrails, blocage post-génération ou listes d’exclusion ciblées) pour neutraliser toute récurrence d’une donnée contestée.
– Gouvernance RAG et traçabilité des sources : restreindre les inférences libres sur des personnes physiques en associant les affirmations à des corpus documentaires vérifiés et révisables.
– Processus d’escalade dédié : aligner les canaux d’exercice des droits RGPD avec l’ingénierie prompt/modèle pour traiter les requêtes de rectification sous 30 jours, sans renvoyer l’usager vers une impasse technique.
– Analyses d’impact (AIPD) actualisées : intégrer formellement le risque de génération d’allégations dommageables dans la matrice de criticité des traitements impliquant des LLM.
🔍Se pose alors la question de la gestion concrète de la rectification et de l’exactitude des données nominatives au sein des architectures RAG et agents autonomes en production ?
🔗 Source : https://next.ink/262894/un-homme-accuse-a-tort-de-crime-sexuel-par-lia-de-google-lentreprise-jugee-responsable/
