Très belle rencontre avec Kamila Benamghar et Esmerelda Priamelle Kouassi autour d’un sujet qui m’occupe depuis plusieurs années : les hypertrucages, la désinformation, la fraude amplifiée par l’IA et ce qu’ils changent, beaucoup plus profondément, dans notre rapport à la confiance, à la preuve et au savoir.
L’échange a été enregistré pour un prochain épisode du balado IA débat, un projet du Cercle Vinci développé en collaboration avec IVADO, avec une diffusion prévue sur CISM 89.3 FM.
Nous avons parlé de deepfakes, bien sûr. Mais surtout de ce qui se passe autour du deepfake.
De la puissance actuelle des systèmes d’IA, combinée à notre fonctionnement cognitif, à nos émotions, à nos biais, à nos relations de confiance, puis à des plateformes qui permettent de créer, tester, ajuster, recréer, personnaliser et diffuser presque instantanément.
C’est cette combinaison qui me préoccupe particulièrement.
Avant, il fallait souvent choisir entre une manipulation très personnalisée ou une diffusion à grande échelle. Aujourd’hui, l’IA permet de faire les deux. On peut adapter un message à une personne, à son rôle, à ses peurs, à ses croyances, observer ce qui fonctionne, ajuster, puis recommencer.
Et ensuite, il suffit parfois d’un clic pour que le contenu entre dans les logiques de circulation et d’amplification des plateformes.
Nous avons aussi parlé d’un point auquel je reviens constamment dans mes travaux : le danger n’est pas seulement de croire au faux.
C’est aussi de ne plus croire au vrai.
1 semaine ago