Nadia Naffi au Forum AI and the Law 2026 de York University, Osgoode Professional Development : hypertrucages, confiance et cyberrésilience
Le 28 octobre 2026, Nadia Naffi a participé au 4th Annual Forum on Artificial Intelligence (AI) and the Law, organisé par Osgoode Professional Development, York University, dans le cadre du panel AI Manipulation and Disinformation.
Dans sa présentation intitulée When Trust Becomes the Attack Surface, elle a examiné comment les hypertrucages, les médias synthétiques, l’ingénierie sociale et l’IA agentique transforment les conditions dans lesquelles les personnes et les organisations accordent leur confiance, évaluent les preuves et prennent des décisions.
Quand la crédibilité ne suffit plus
À partir de cas documentés de fraudes, d’usurpation d’identité et de manipulation de contenus, Nadia Naffi a montré que les signes habituellement associés à la crédibilité, comme une voix familière, une identité professionnelle, des renseignements exacts ou des documents convaincants, peuvent désormais être fabriqués ou exploités pour tromper.
Elle a notamment abordé les conséquences des hypertrucages sur les victimes, ainsi que le liar’s dividend, un phénomène par lequel une personne peut chercher à discréditer une preuve authentique en affirmant qu’elle a été générée par IA.
Ces transformations soulèvent des questions fondamentales pour le milieu juridique : comment établir l’authenticité et la fiabilité d’une preuve? Comment distinguer une information crédible d’une demande légitime? Et sur quelles bases peut-on autoriser une décision ou une action?
L’IA agentique : de nouveaux risques pour les organisations
Une partie importante de sa présentation portait sur les risques émergents associés à l’intégration d’agents d’IA dans les milieux professionnels.
Contrairement aux outils qui se limitent à générer du contenu, certains systèmes agentiques peuvent consulter des documents, accéder à des informations, utiliser des outils et exécuter plusieurs étapes d’un processus, selon les autorisations qui leur sont accordées.
Nadia Naffi a distingué deux mécanismes de manipulation : l’ingénierie sociale, qui cherche à influencer les décisions humaines, et l’injection de prompt, qui consiste notamment à introduire des instructions malveillantes dans des contenus consultés par un agent d’IA afin de détourner son comportement.
À partir d’une démonstration de Microsoft, elle a illustré comment un document contenant des instructions malveillantes peut tenter d’amener un agent à accéder à des informations sensibles et à les divulguer sans autorisation. Dans cette démonstration, les contrôles de sécurité ont bloqué l’envoi.
Cette évolution pose des questions concrètes pour les cabinets juridiques et les organisations : quelles informations les agents peuvent-ils consulter? Quelles actions sont-ils autorisés à accomplir? Quelles décisions nécessitent une approbation humaine? Et comment prévenir ou interrompre une action non autorisée?
La possibilité technique d’accomplir une action ne constitue pas, en elle-même, une autorisation de l’exécuter.
La cyberrésilience ne peut pas reposer uniquement sur la formation
En s’appuyant sur ses recherches auprès de jeunes adultes et sur une étude menée avec des professionnels de la santé au CHUM, Nadia Naffi a également souligné les limites des approches reposant exclusivement sur la sensibilisation et la formation.
Reconnaître un risque ne signifie pas nécessairement être en mesure d’y répondre.
Une personne peut comprendre qu’une demande nécessite une vérification supplémentaire sans disposer du temps, des procédures, de l’autorité ou du soutien nécessaires pour interrompre le processus.
Elle a ainsi proposé d’aborder la cyberrésilience humaine à travers quatre objectifs adaptés du cadre du NIST : anticiper les risques, résister aux tentatives de manipulation, soutenir la reprise après un incident et adapter les pratiques à partir des enseignements tirés.
Pour les cabinets juridiques, cette responsabilité dépasse donc la formation des équipes. Elle concerne également la conception des processus de travail, les mécanismes de vérification indépendante, la répartition des responsabilités, les limites imposées aux systèmes d’IA et les conditions permettant aux personnes de prendre des décisions éclairées, même sous pression.
La conférence s’est conclue sur une question adressée aux organisations : « Can your team still say “not yet”? »
Lorsque tout semble crédible, les personnes ont-elles réellement la possibilité de dire « Pas encore, nous devons vérifier »?
Et leur organisation a-t-elle prévu les moyens nécessaires pour leur permettre de le faire?
Cette réflexion s’inscrit dans les travaux de Nadia Naffi sur la crise du savoir, l’agentivité numérique et épistémique, la conception d’expériences d’apprentissage et le développement de la cyberrésilience humaine et organisationnelle à l’ère de l’intelligence artificielle.