Les risques associés à l'IA générative

Dépendance excessive à l'égard de l'IA générative

Il existe de véritables risques liés à l'usage excessif des outils d'IA générative et les étudiant(e)s sont particulièrement vulnérables à ces derniers. Pour toutes celles et ceux qui réalisent le potentiel de ces outils, il est très important d'avoir connaissances desdits risques. 

Érosion de la pensée critique

Une dépendance excessive aux outils d'IA générative peut négativement impacter la capacité des personnes à analyser une situation complexe, élaborer un raisonnement et trouver des solutions. Demander à une IA générative de trouver des solutions à des problèmes rencontrés de manière systématique sans essayer d'y réfléchir mène nécessairement à un appauvrissement de la pensée critique sur le temps. Une IA ne remplace pas le raisonnement humain.

Mauvaises interprétations et hallucinations

Ces outils ne sont pas parfaits, il est tout à fait possible que l'outil interprète "mal" la requête d'un utilisateur ou que l'utilisateur interprète "mal" la réponse d'une IA. Pire encore, il arrive que ces outils "hallucinent" et procurent de fausses réponses aux utilisateurs, même si c'est de plus en plus rare. Une IA ne remplace pas la compréhension humaine.

Perte d'imagination et de créativité

Les IA génératives sont entraînées sur des jeux de données excessivement larges : elles sont capables de générer des concepts, des idées ou des médias très variés qui peuvent paraître comme bien plus originaux que ce que les utilisateurs seraient capable de produire. Il est important de se rappeler que sans les productions des utilisateurs, il n'y aurait pas d'IA générative, et que si l'IA venait à remplacer la créativité humaine, ce serait la fin de la créativité.

Dévaluation des efforts et de la persévérance

Les efforts et la persévérance sont des mécanismes importants qui permettent de conserver une bonne motivation et ressentir une satisfaction des résultats obtenus. Pour les étudiant(e)s, ne pas apprendre, par l'expérience, à sortir triomphant(e)s d'une épreuve par le biais d'efforts et de persévérance, c'est les empêcher de mûrir pleinement en tant qu'apprenant(e)s, et aura forcément un impact dans leur vie professionnelle.

Bien d'autres...

D'autres risques existent : dépendance technologique dans les processus d'apprentissage, risques sur les données personnelles / sensibles, confiance aveugle en la machine, réduction des compétences liées aux interactions sociales, et bien d'autres.

Une utilisation raisonnable

Ce n'est pas la première fois que la technologie vient impacter négativement le développement de certaines compétences : les calculatrices ont eu un impact négatif sur le développement (et le maintien) du calcul mental, tandis que la dépendance aux correcteurs de grammaire et d'orthographe impacte nécessairement les compétences en expression écrite. 

Les chambres d'écho des réseaux sociaux confortent ses utilisateurs, rejettent les opinions contradictoires et polarisent les croyances. Considéré comme l'un des maux du 21ème siècle, ce n'est rien comparé aux risques liés à l'IA générative : le réel danger de cette technologique capable de répondre à (pratiquement) toutes les questions, c'est d'empêcher les étudiant(e)s d'apprendre à apprendre, à penser et à raisonner.

Le seul véritable moyen d'atténuer ces effets néfastes, c'est par le biais de l'éducation : il est nécessaire que les étudiant(e)s soient sensibilisé(e)s, par le biais de ce cours par exemple, aux risques auxquels ils et elles s'exposent. Ce serait une erreur de bannir l'utilisation de l'IA générative à l'université : les étudiant(e)s devront utiliser ces outils durant leur vie professionnelle, il est important de les connaître. Ce serait une erreur d'autant plus grave que de les encourager à utiliser ces outils sans les éduquer aux risques au préalable.

Mise en pratique

Sans utiliser un outil d'IA générative, réfléchissez aux raisons pour lesquelles une utilisation abusive des outils d'IAG serait néfaste pour les étudiant(e)s. Écrivez un texte entre 100 et 150 mots et soumettez-le à un outil d'IAG (comme ChatGPT), échangez avec l'outil pour trouver 3 pistes d'exploration pour la prévention des utilisatitons abusives, résumez ces pistes dans un document, et déposez le document sous format .pdf dans l'activité ci-dessous.