IA et démocratie : de la détection du faux à l’agentivité démocratique

La question n’est plus seulement de savoir si une image, une vidéo ou un message est vrai ou faux.

À l’ère de l’intelligence artificielle générative, il faut aussi comprendre comment un contenu est produit, pourquoi il nous atteint, qui le diffuse, qui le crédibilise, quelle émotion il active, quels biais il mobilise, comment il circule, et ce qu’il fait au débat public.

C’est l’idée que j’ai défendue le 4 juin 2026, à HEC Montréal, lors de la table ronde « La gestion des risques éthiques », organisée dans le cadre du lancement de l’avis de la Commission de l’éthique en science et en technologie sur les risques éthiques des systèmes d’intelligence artificielle pour la démocratie.

Cet avis arrive à un moment crucial. Les systèmes d’intelligence artificielle (SIA) ne transforment pas seulement nos façons de produire du contenu, de travailler ou d’apprendre. Ils transforment aussi les conditions mêmes de la vie démocratique : ce qui est produit, ce qui circule, ce qui devient visible, ce qui est amplifié et ce qui influence les citoyennes et citoyens.

Les risques éthiques qui en découlent sont majeurs : désinformation politique, cyberviolences, microciblage, fragmentation de l’information, manipulation de l’opinion publique, manipulation des consultations publiques, surveillance, perte de confiance et affaiblissement de la qualité des débats publics.

Ces risques ne concernent pas uniquement la présence de contenus faux dans l’espace public. Ils touchent plus profondément notre capacité collective à débattre, à voter de manière éclairée et à maintenir un minimum de réalité partagée.

C’est précisément la force de l’avis de la CEST : déplacer la réflexion des SIA comme outils vers les SIA comme infrastructure d’influence, de circulation et de fragilisation possible du débat démocratique.

Agir là où c’est possible, et relier cela à l’éducation

Dans les discussions sur la gestion des risques éthiques, une question revient rapidement : quelle est la capacité d’action du Québec dans des espaces numériques largement contrôlés par les géants du numérique et de l’IA?

Il faut éviter deux pièges. Le premier serait de surestimer la capacité du Québec à contrôler des infrastructures qui ne lui appartiennent pas : plateformes transnationales, modèles d’IA, systèmes de recommandation, économie de l’attention et logiques algorithmiques de diffusion. Le second serait de conclure que le Québec est impuissant.

La souveraineté numérique du Québec est réelle, mais contrainte. Le Québec ne possède pas les plateformes. Il ne contrôle pas seul les architectures techniques qui structurent la circulation de l’information. Mais il peut agir sur les conditions démocratiques de leur présence dans notre espace public.

Il peut renforcer les capacités de veille, protéger l’intégrité des renseignements électoraux, soutenir l’accès à une information politique fiable, agir sur les pratiques trompeuses, encourager la transparence des contenus synthétiques, soutenir la recherche et outiller les institutions qui doivent répondre à ces risques.

Et surtout, il peut mobiliser ses leviers propres : l’éducation, la langue, les institutions publiques, les bibliothèques, les médias locaux, les organismes communautaires, les milieux de formation et les acteurs de proximité qui travaillent déjà avec les publics concernés.

L’enjeu n’est pas de prétendre que le Québec peut tout contrôler. L’enjeu est de rendre certains risques gouvernables, à une échelle adaptée aux réalités du terrain.

C’est précisément dans ces leviers d’éducation et d’institution que s’inscrit ce que j’appelle la littératie démocratique. Et c’est là que commence le vrai débat.

Harmoniser sans uniformiser

Cette capacité d’action du Québec doit toutefois s’articuler avec les efforts canadiens et internationaux. La souveraineté numérique ne peut pas signifier l’isolement réglementaire.

Les standards sur la transparence, la provenance des contenus, la traçabilité, la sécurité, la protection des droits fondamentaux et la responsabilité des plateformes doivent être harmonisés autant que possible. Les espaces numériques traversent les frontières. Les campagnes de désinformation aussi. Les systèmes d’IA qui structurent l’accès à l’information sont souvent conçus, déployés et optimisés ailleurs.

Mais cette harmonisation ne doit pas effacer les réalités locales.

Les vulnérabilités ne sont pas vécues de la même manière par les jeunes, les personnes aînées, les journalistes, les personnes candidates, les fonctionnaires, les organismes communautaires ou les institutions électorales. Les formats, les codes, les plateformes, les langues, les références culturelles et les relations de confiance varient selon les milieux.

L’équilibre à viser n’est donc pas l’uniformisation. C’est l’interopérabilité : des principes communs, des standards compatibles, mais des réponses adaptées aux vulnérabilités, aux publics et aux contextes propres à chaque société.

La littératie est indispensable, mais elle ne suffit plus

Mon intervention portait principalement sur les avantages et les limites des activités de littératie numérique et de littératie en IA pour gérer les risques associés aux systèmes d’IA.

La littératie est indispensable. Il faut apprendre à vérifier les sources, à reconnaître les hypertrucages, à comprendre les mécanismes de désinformation et à développer des réflexes critiques.

Mais elle devient insuffisante lorsqu’elle est réduite à une responsabilité individuelle de détection du faux.

Nous ne pouvons pas demander aux citoyennes et citoyens de devenir, seuls, les détecteurs permanents d’un environnement informationnel de plus en plus synthétique, personnalisé, automatisé et opaque.

Il n’existe pas d’outil infaillible de détection. Les outils de création évoluent rapidement. Ils deviennent plus accessibles, plus réalistes, moins coûteux et plus faciles à utiliser. Les outils de détection, eux, restent souvent dans une logique de rattrapage.

Le problème n’est donc pas seulement que des contenus faux circulent. Le problème est que des systèmes puissants peuvent produire, filtrer, recommander, amplifier, personnaliser et recontextualiser l’information à grande échelle.

La réponse éducative doit alors aller au-delà de la question : « Est-ce vrai ou faux? »

Elle doit aussi permettre de demander : qui a produit ce contenu? Pourquoi arrive-t-il à moi? Qui le diffuse? Qui le reprend? Qui le crédibilise? Quelle émotion cherche-t-il à activer? Quels biais mobilise-t-il? Comment circule-t-il? Comment change-t-il de sens? Et qu’est-ce qu’il fait au débat public?

Ce que les SIA changent dans la propagande

La propagande n’est pas nouvelle. La satire politique n’est pas nouvelle. La manipulation émotionnelle n’est pas nouvelle.

Ce qui change avec l’IA, c’est l’échelle, la vitesse, le coût, le réalisme, la personnalisation, l’automatisation et la diffusion en un clic.

Un contenu généré par IA peut être créé en quelques secondes, publié immédiatement, repris par des comptes humains, amplifié par des algorithmes, transformé en mème, traduit, recontextualisé, puis recirculé comme satire, rumeur, preuve apparente ou récit politique.

Ces contenus n’agissent pas toujours comme de simples mensonges. Ils peuvent prendre la forme de l’humour, de la parodie, du divertissement ou du commentaire politique. C’est précisément ce qui les rend difficiles à saisir. Leur effet démocratique peut être réel même lorsqu’ils sont présentés comme « juste une blague ».

L’enjeu n’est donc pas seulement de savoir si un contenu est authentique ou fabriqué. Il faut aussi comprendre sa trajectoire, ses usages, ses réappropriations, ses effets émotionnels et ses conséquences sur la qualité du débat public.

Interpréter, comprendre la circulation, agir

C’est pourquoi je plaide pour une littératie d’interprétation, de circulation et d’agentivité démocratique.

Prenons un exemple concret : une image générée par IA montrant une personne candidate dans une situation compromettante. Même si l’image est ensuite présentée comme une blague, une satire ou un mème, son effet ne disparaît pas nécessairement. Elle peut installer une association mentale, susciter du dégoût, renforcer un préjugé, miner une réputation, polariser une communauté ou détourner l’attention d’un enjeu politique plus important.

Une littératie d’interprétation permet de comprendre les registres, les émotions, les codes, les biais et les cadrages mobilisés par ce contenu. Elle ne s’arrête pas à l’objet médiatique. Elle interroge ce que cet objet rend visible, ce qu’il rend mémorable, ce qu’il normalise et ce qu’il rend acceptable.

Une littératie de circulation permet de comprendre la trajectoire de ce contenu : qui l’a créé, qui le reprend, qui le transforme, qui le crédibilise, dans quels espaces il circule, comment il change de sens et comment il est amplifié.

Une littératie d’agentivité démocratique vise à soutenir la capacité d’agir avec discernement : ralentir avant de partager, vérifier, contextualiser, signaler, consulter des sources fiables, éviter d’amplifier inutilement, et participer au débat public sans contribuer à la désinformation.

L’objectif n’est pas seulement de protéger les individus. Il est de protéger les conditions collectives du débat démocratique : le vote éclairé, le pluralisme, la participation citoyenne, l’accès à une information de qualité et la confiance justifiée dans les institutions.

Ne pas transformer la méfiance en doctrine

Il faut aussi éviter une dérive symétrique : transformer la littératie en injonction à se méfier de tout.

Une démocratie n’a pas besoin de citoyennes et citoyens qui ne croient plus rien. Elle a besoin de personnes capables d’accorder une confiance justifiée.

Le risque démocratique n’est pas seulement que les gens croient le faux. C’est aussi qu’ils ne croient plus rien. Dans un environnement où tout peut être soupçonné d’être fabriqué, manipulé ou synthétique, les contenus authentiques eux-mêmes peuvent être discrédités.

C’est ce que l’on appelle souvent le dividende du menteur : la possibilité de rejeter des preuves embarrassantes en affirmant simplement qu’elles sont fausses.

La littératie ne doit donc pas alimenter le cynisme. Elle doit renforcer la capacité à évaluer, à contextualiser et à reconstruire des repères communs.

La littératie ne peut pas être la dernière ligne de défense

La littératie ne doit pas devenir l’alibi d’un système défaillant. Elle ne peut pas porter seule une responsabilité qui appartient à un écosystème entier.

Elle doit s’inscrire dans un cadre plus large, qui inclut la transparence des contenus synthétiques, la veille institutionnelle, la recherche interdisciplinaire, l’imputabilité des plateformes, l’accès à des sources fiables, le soutien aux acteurs de terrain et le développement d’outils d’évaluation éthique.

La technologie seule ne suffira pas. La loi seule ne suffira pas. La littératie seule ne suffira pas.

Il faut une capacité collective et institutionnelle à anticiper, interpréter, transmettre et agir.

S’il fallait retenir une mesure prioritaire pour le Québec, ce serait la création d’une capacité permanente de résilience informationnelle et d’agentivité numérique. Non pas une campagne ponctuelle, ni une trousse déposée en ligne, mais un mécanisme durable, financé et intersectoriel.

Cette capacité devrait relier la recherche, l’éducation, les institutions électorales, les médias, les bibliothèques, les organismes communautaires, les acteurs de la cybersécurité, les décideurs publics, les organismes publics et la société civile.

Elle devrait permettre d’assurer une veille continue, de transférer rapidement les connaissances vers les milieux de pratique, et de développer des outils, des formations et des protocoles adaptés aux différents contextes démocratiques : élections, consultations publiques, débats publics, santé, fraudes, écoles, milieux de travail, personnes aînées, jeunes, personnes candidates, journalistes et fonction publique.

Une posture située, mais rigoureuse

À un moment du panel, la discussion sur la guerre informationnelle a fait émerger une dimension plus personnelle.

Ces risques ne sont pas abstraits pour moi. Comme chercheuse libanaise-canadienne, je les analyse aussi à partir d’une expérience située de la propagande, de la fragmentation de la réalité, des récits concurrents et des vérités instrumentalisées.

Cette posture ne remplace pas la rigueur scientifique. Elle la nourrit. Elle permet de comprendre certains phénomènes de l’intérieur, tout en les analysant avec les outils de la recherche.

Nommer cette position est important. La neutralité ne signifie pas l’absence d’histoire ou de sensibilité. Elle exige de rendre explicites les cadres à partir desquels on observe et comprend les phénomènes.

Les biais, lorsqu’ils sont nommés, assumés et travaillés avec rigueur, ne sont pas nécessairement des obstacles. Ils peuvent aussi devenir des instruments de lucidité.

Protéger les conditions du commun

Protéger la démocratie à l’ère de l’IA ne consiste pas seulement à lutter contre les contenus faux. Il faut aussi protéger les conditions du vrai, du fiable, du discutable et du commun.

Il faut apprendre à voir venir. À nommer. À anticiper. À transmettre. À agir.

Face à ces transformations, la réponse ne peut pas être seulement technique, juridique ou individuelle. Elle doit être collective, éducative, institutionnelle et démocratique.

La question n’est plus seulement : comment repérer le faux?

La question est aussi : comment reconstruire notre capacité collective à faire sens ensemble?

Nous n’avons pas encore toutes les réponses. Mais poser autrement le problème est déjà une condition pour mieux protéger la démocratie.