Les intelligences artificielles generatives (IA) sont concues pour parcourir d'immenses quantites de textes, d'images ou de videos afin d'y reperer des regularites. Elles s'en servent ensuite pour creer de nouveaux contenus : des textes, des images ou des videos. Et plus on les utilise, plus elles deviennent performantes grce l'apprentissage automatique.

mesure que l'IA s'intgre dans la vie universitaire, une realite preoccupante apparat : les etudiants sont extrmement vulnerables son utilisation. Ils ne matrisent ni son fonctionnement, ni leur propre discipline assez bien pour en evaluer les limites. Et ils ne connaissent pas suffisamment leur matire pour pouvoir porter un jugement ce sujet. Plus preoccupant encore, ils ignorent qu'ils ne matrisent l'outil IA.

Nous sommes deux universitaires impliques par l'enseignement superieur. Nous avons identifie quatre dangers majeurs pour les etudiants :

la confiance aveugle en ses capacites

son utilisation pour contourner l'apprentissage reel

la meconnaissance de son fonctionnement

L'elargissement du fosse entre l'expertise reelle et le bruit des fausses certitudes.

Compte tenu de notre experience en tant qu'universitaires ayant elabore des programmes d'etudes pour les etudiants et mene des recherches sur l'IA generative, nous pensons que les universites peuvent agir de trois manires. Elles devraient apprendre aux etudiants un esprit critique vis--vis de l'IA, insister sur la necessite d'acquerir des connaissances solides et leur montre en quoi l'expertise est essentielle pour interagir de manire efficace avec les outils IA.

Une confiance aveugle dans les fausses certitudes de l'IA Un recent rapport de Microsoft a montre que ceux qui connaissent le moins un sujet sont les plus enclins croire les reponses donnees par l'intelligence artificielle. Les programmes d'IA generative tels que ChatGPT et Claude produisent des textes avec une assurance remarquable. Les etudiants qui ne possdent pas d'expertise dans le domaine ne sont pas en mesure de determiner quand ces systmes se trompent compltement.

Les titres de la presse montrent dej les consequences de cette situation sur le lieu de travail : des avocats ont cite des decisions de justice fictives generees par l'IA des avocats soumettent des citations de jurisprudence inventees par l'IA et des hopitaux utilisent des outils de transcription bases sur l'IA qui fabriquent des propos jamais tenus.

L'IA generative peut se tromper parce qu'elle ne comprend rien au sens humain du terme. Mais elle peut identifier et reproduire des modles avec une sophistication remarquable, que ce soit dans les mots, les idees, le ton ou le style.

Passer cote du pouvoir de l'education. L'un des objectifs fondamentaux de l'enseignement superieur est de donner aux etudiants une nouvelle facon de comprendre le monde et leur place dans celui-ci. Lorsque les etudiants utilisent l'IA d'une manire qui contourne les defis intellectuels, ils passent cote de cette transformation essentielle.

Lorsque les etudiants se contentent de deleguer leur reflexion l'IA, ils obtiennent des diplomes sans competences. Ils peuvent obtenir un diplome, mais sans les connaissances et l'expertise qui vont avec.

Le pige de la fausse assurance Mme les etudiants qui developpent une conscience critique des limites de l'IA sont confrontes ce que Punya Mishra, professeur d'ingenierie de l'apprentissage l'universite d'Etat de l'Arizona, appelle Le pige de la fausse assurance . Ils peuvent reconnatre que l'IA peut produire des erreurs, mais ne disposent pas des connaissances suffisantes pour les corriger.

Comme l'explique Mishra :

C'est comme avoir un detecteur de mensonges generique, mais sans aucun moyen de distinguer la verite de la fiction.

Cela cree une situation dangereuse o les etudiants reconnaissent que l'IA n'est pas parfaite, mais ne sont pas en mesure d'evaluer efficacement ses resultats.

Creuser le fosse des connaissances. mesure que l'IA se generalise sur le lieu de travail, le fosse entre ceux qui possdent une veritable expertise et ceux qui s'appuient uniquement sur l'IA va se creuser. Les etudiants qui n'ont pas de bases solides de connaissances seront de plus en plus marginalises dans un monde o, paradoxalement, l'expertise humaine devient encore plus precieuse mesure que l'IA progresse.

Face aux defis poses par l'IA, les unversites peuvent ont trois grandes responsabilites

Integrer une culture critique de l'IA. Les etudiants doivent comprendre comment fonctionne l'IA generative, comment l'IA est entranee partir d'enormes bases de donnees de textes et d'images crees par l'homme afin d'identifier des modles partir desquels elle peut produire de nouveaux contenus.

Il ne suffit pas d'avoir un cours d' introduction l'IA . Chaque discipline doit montrer aux etudiants comment l'IA s'applique leur domaine et, surtout, leur donner les moyens de reflechir aux implications ethiques de son utilisation.

Par exemple, se poser des questions sur l'utilisation de contenus proteges par le droit d'auteur pour l'entranement de l'IA generative, sur les biais inherents aux textes et images generes par l'IA, et sur le cot environnemental considerable de l'utilisation de l'IA.

Mettre l'accent sur le developpement des connaissances. Les etablissements d'enseignement superieur doivent lutter activement contre l'idee que l'universite se resume la delivrance de diplomes. Nous devons aider les etudiants comprendre l'intert d'acquerir une expertise dans un domaine. Ce n'est pas toujours evident pour ceux qui voient l'universite comme un simple tremplin pour obtenir un emploi. Pour eux, le savoir n'est qu'un outil. Il peuvent ainsi tre tentes de recourir souvent l'IA, pour eviter de se confronter des idees complexes. Ce qu'il faut, c'est developper un rapport personnel au savoir. C'est ce qui les preparera un avenir o l'IA sera partout. La promotion du pouvoir des connaissances doit tre au cur de la mission de chaque universitaire.

Donner l'exemple d'une double expertise. Les universitaires doivent donner l'exemple de ce que Mishra appelle le defi de la double expertise , qui consiste combiner des connaissances dans un domaine avec une matrise critique de l'IA. Autrement dit, montrer aux etudiants comment les experts interagissent avec l'IA : analyser ses resultats par rapport aux connaissances etablies, en identifiant ses biais ou ses lacunes et en s'en servant pour enrichir l'expertise humaine, pas pour la remplacer.

Plus l'IA progresse, plus l'expertise humaine prend de la valeur. Les universites qui forment leurs etudiants utiliser ces outils avec esprit critique, tout en leur transmettant un vrai savoir disciplinaire, seront les mieux preparees faire face un monde en perpetuelle evolution technologique

Le defi est de taille, mais l'expertise reste plus que jamais precieuse.