Le pape Léon m’a fait repenser la façon dont j’utilise l’IA

En fouillant dans le traité exhaustif du pape Léon XIV sur l’humanité et l’IA, j’ai été frappé par un thème récurrent : l’IA simule des traits humains fondamentaux qu’elle ne possède pas réellement.

Pour commencer, l’IA n’a pas les bases que nous, humains, tirons de nos expériences du monde réel, a noté le pape Léon dans sa première encyclique, publiée lundi par le Vatican. Oui, les modèles d’IA comme ChatGPT (ou plus précisément GPT), Claude et Gemini sont formés sur des montagnes de données qui semblent représenter l’intégralité des connaissances humaines. Mais toutes ces données ne sont que cela : des données. Des milliards et des milliards de mots. Ce ne sont pas des expériences du monde réel avec des textures, des images, des sons, des odeurs et une signification.

Le Pape a également souligné que l’IA ne peut que simuler l’empathie et la moralité humaines, et qu’elle n’a aucun véritable sens des conséquences. L’IA peut également apparaître comme objective alors qu’elle est en réalité liée aux préjugés de ceux qui l’ont créée et formée.

Tous ces facteurs influencent les réponses que nous obtenons de l’IA et devraient (idéalement) servir à contextualiser ces réponses. Que nous demandions à ChatGPT de nous aider à choisir le meilleur moniteur portable ou à évaluer une décision importante dans la vie, les réponses que nous obtenons sont dépourvues de connaissances tirées d’une expérience réelle, de préoccupation pour notre bien-être ou de considération pour la façon dont un choix donné pourrait affecter notre vie ou celle des autres.

Tout cela conduit à une observation cruciale dans l’encyclique du pape Léon : que l’IA est un « outil précieux qui nécessite de la vigilance ». Le Pape s’adresse principalement aux dirigeants mondiaux, aux gouvernements et aux entreprises lorsqu’il appelle à la « prudence » et à un « rythme plus lent » en matière d’adoption de l’IA, mais je pense qu’il y a ici des leçons à tirer pour les utilisateurs quotidiens de l’IA comme nous.

Personnellement, je pense qu’utiliser l’IA avec « vigilance » signifie être plus réfléchi dans l’utilisation de ChatGPT, Claude et Gemini. Par « réfléchi », j’entends littéralement que nous devrions réfléchir activement lorsque nous les utilisons. Nous devons réfléchir attentivement au moment et à la raison de leur utilisation, ainsi qu’à ce que nous leur demandons réellement.

J’avoue qu’il y a eu de nombreuses fois où j’ai pensé avec désinvolture « oh, je vais juste demander à ChatGPT » face à un problème que je pourrais probablement résoudre moi-même. Et lorsque j’obtiens une réponse, j’ai souvent été trop prompt à la prendre au pied de la lettre, sans vraiment prendre en compte les biais potentiels du modèle, son cadre de référence limité ou le fait qu’il n’a aucun intérêt dans le résultat.

J’ai souvent écrit ici sur la nécessité pour les humains de jouer un rôle actif non seulement dans l’élaboration de tâches discrètes et appropriées pour l’IA, mais également en prenant le temps de façonner pleinement les résultats souhaités, c’est-à-dire en se plaçant au début. et à la fin des workflows d’IA.

Cela dit, j’admets volontiers qu’il y a eu trop de fois où je n’ai pas suivi mes propres conseils. Laissez simplement l’IA faire le travail ! Mais capituler face à un modèle d’IA est un moyen facile de s’attirer des ennuis – et croyez-moi, je sais de quoi je parle.

Alors oui, je repense ma façon d’utiliser l’IA, et « réfléchir » est le maître mot.