De la nécessité de démasquer l’IA
— Parlons maintenant de vos interventions dans les lycées. Pour vous, il est crucial de sensibiliser les élèves à un outil qu’ils utilisent souvent sans y réfléchir, qui comporte des risques de manipulation et qui influence leur manière de penser. J’imagine que vous commencez par leur expliquer ce que produit l’IA et son omniprésence dans leur vie quotidienne ?
Oui, exactement. Pour donner un peu de contexte, j’ai été sollicitée par l’Institut de Recherche sur l’Enseignement des Mathématiques (IREM), qui a créé un groupe de recherche sur l’enseignement de l’intelligence artificielle en terminale. Ils m’ont mise en contact avec les lycées. Mes interventions ne sont pas des cours, mais des sessions interactives avec plusieurs étapes. La première étape est de définir ce qu’est l’intelligence artificielle. Avant l’arrivée de ChatGPT, beaucoup avaient une vision de l’IA comme une sorte de super-humanoïde. Certains élèves ont déjà un peu de recul, et savent que l’IA implique des algorithmes et des modèles mathématiques. Mais majoritairement ils la voient surtout comme un outil imitant la pensée humaine, ce qui reste une définition très large.
Donc, une partie de mon intervention consiste à expliquer comment fonctionnent les algorithmes et à sensibiliser à la collecte systématique des données, en montrant qu’eux-mêmes génèrent des données partout, non seulement avec leur téléphone.
Depuis l’arrivée de ChatGPT, la vision de l’IA des élèves du secondaire s’est rétrécie. Ils voient ChatGPT principalement comme un rédacteur pour les devoirs, sans réaliser que l’IA peut se tromper.
— Ils ont donc une confiance absolue en ChatGPT ?
Oui, une partie de l’intervention vise à leur montrer que ChatGPT peut se tromper et leur parler des hallucinations des IA. Ils ne savent souvent pas que ChatGPT peut inventer des informations. L’idée est de leur montrer concrètement comment cela fonctionne pour qu’ils comprennent pourquoi ChatGPT peut parfois dire n’importe quoi.
— Vous les sensibilisez aussi aux fake news j’imagine ? Un domaine où cela progresse très vite : les fake news d’aujourd’hui ne sont plus du tout les mêmes qu’il y a quelques années…
Je leur parle du fonctionnement des algorithmes et justement de cette notion d’entraînement sur les données et cela m’amène ensuite à pouvoir leur parler de ce qu’on appelle les IA génératives qui sont aujourd’hui à l’origine de l’explosion des fake news. Et donc l’idée est très simple, j’en regarde avec eux… J’ai repris quelques exemples un peu classiques de fake news qu’on a pu voir circuler sur internet ces dernières années et on regarde ensemble comment nous pouvons les détecter. L’idée, c’est de leur montrer qu’elles étaient d’assez pauvre qualité au début, avec par exemple des personnes avec sept doigts mais sans nez, puis je leur montre des exemples de plus en plus raffinés, qui finalement proviennent des IA génératives les plus récentes, sans défaut.
De ce fait, la question est : quand il n’existe aucun défaut sur l’image, comment peut-on finalement détecter qu’il s’agit d’une fake news ?
— C’est une vraie question… pour les élèves comme pour tout le monde !
Oui, c’est la question de la source, sur laquelle ils sont censés avoir été sensibilisés, pas uniquement dans le cadre des IA mais de manière générale. Vu qu’ils s’informent beaucoup en ligne, les élèves doivent être formés sur la manière de vérifier les sources. Ici, c’est exactement la même règle qui va s’appliquer.
Et je leur parle aussi des chercheurs qui travaillent aujourd’hui en apprentissage automatique sur ce qu’on appelle des fact checker : des intelligences artificielles qui vont être capables de détecter si du contenu a été lui-même généré par une intelligence artificielle. Enfin, il y a aussi toute la question d’intégrer dans les images des sortes de signatures, qui sont générées par des IA pour pouvoir justement facilement détecter qu’il ne s’agit pas d’image réelle.
Comment tirer parti des IA ?
— Et leur parlez-vous aussi des aspects positifs de l’IA ?
Oui, je termine sur une note positive en évoquant les progrès que l’IA peut apporter, notamment en médecine et dans la recherche de nouveaux matériaux. Je les incite à réfléchir aux usages positifs et aux impacts bénéfiques de l’IA dans leur vie actuelle ou future.
— Vous citez la médecine et vous parlez du climat ; il y a tout ce qui est prédiction de scénarios climatiques pour réguler les impacts climatiques. Détaillez-vous ces questions avec eux ?
Oui, comme la prévision d’événements météorologiques extrêmes par exemple, qui va nous permettre d’anticiper des évacuations par exemple… j’essaie de les amener sur ces sujets-là. Et aujourd’hui, sur la question de l’environnement et du développement durable, il y a toute la recherche menée en intelligence artificielle pour la découverte de nouveaux matériaux…
… qui va justement dans la direction d’une IA finalement en mesure de nous aider à développer un modèle plus viable pour notre planète.
— Pensez-vous que les scientifiques devraient intervenir davantage dans les lycées ?
Oui, je pense que les scientifiques actifs sur le sujet devraient intervenir plus souvent. Des lycées mettent en place des programmes expérimentaux comme le Lycée Paul Valéry, mais il n’existe pas vraiment d’action nationale ou régionale. Il faudrait mobiliser plus d’enseignants-chercheurs et de doctorants pour parler d’intelligence artificielle aux élèves de lycée.
