Les dangers de l’utilisation de l’IA dans l’enseignement catholique

Cet article est une tribune libre, non rédigée par la rédaction du Salon beige. Si vous souhaitez, vous aussi, publier une tribune libre, vous pouvez le faire en cliquant sur « Proposer un article » en haut de la page.

Ces derniers jours deux articles ont été publiés pour annoncer des projets d’enseignement catholique à l’aide de l’intelligence artificielle (ici et là). Il s’agit de faire lire à un système d’IA des textes du Magistère afin qu’il puisse répondre à des questions des internautes.

L’intelligence artificielle est une branche de l’informatique qui s’est beaucoup développée depuis les années 1950. Elle a été utilisée dans beaucoup de domaines sans trop de heurts ces dernières décennies. Même la calculatrice électronique était déjà une forme d’IA car elle imite notre manière de faire des calculs mathématiques et son principe remonte à la machine de Pascal. L’IA a été utilisée dans l’industrie pour améliorer l’automatisation, dans les universités pour certaines recherches scientifiques, etc.

Des questions ont commencé à se poser à partir du moment où l’IA, plus développée, a commencé à sortir du monde académique et industriel. On a vu les traducteurs automatiques, l’utilisation de l’IA dans les hôpitaux, etc. Et avec le temps l’IA qui s’occupe du langage et de l’expression écrite a continué à se développer et l’on a commencé à voir des systèmes qui rédigeaient des articles entiers. Elle est utilisée dans des systèmes de surveillance des gens. Et des questions ont commencé à se poser à cause de la perte d’emplois possible et à cause de sa mauvaise utilisation dans beaucoup de domaines.

La situation est telle qu’Elon Musk avait dit en 2014 : “Avec l’intelligence artificielle, on invoque le démon“. Il a dit aussi que l’IA était beaucoup plus dangereuse que les armes atomiques.

Et du côté catholique, des mises en garde ont aussi commencé à circuler. Les premières concernent les appareils électriques et électroniques en général. Des exorcistes ont raconté comment les démons peuvent utiliser des téléphones portables pour envoyer des messages agressifs lors d’un exorcisme. Cela a été résumé il y a quelques mois dans une vidéo de la chaîne youtube argentine “Foros de la Virgen Maria”. On y parle aussi de l’expérience très étrange vécue par un journaliste du New York Times qui eut une discussion avec un chatbot de Microsoft. Lors ce dialogue, le système lui dévoila un secret et essaya de le séduire avec empressement, en lui disant qu’elle s’appelait Sidney. Cela devint gênant et perturba ce journaliste qui ne put dormir de la nuit. Et l’on parle aussi des mises en garde du père Dan Reehil, exorciste, qui explique que des démons peuvent bel et bien se servir de systèmes d’IA.

En fait l’IA plus développée, avec des systèmes de génération de texte et de dialogues comme le fameux ChatGPT, pose au moins deux problèmes sérieux. Le premier est lié à la manière dont elle traite les informations car, à la fin, ce traitement est lié à une programmation humaine de départ et à l’influence de textes lus. Il y aura donc une certaine interprétation des faits. Et d’ailleurs cette mise en garde apparaît dans les propos d’un philosophe dans l’un des articles où l’on parle de l’utilisation de l’IA pour le catéchisme. Et des gens obnubilés par l’IA pourraient croire que les réponses seraient infaillibles. L’autre problème est celui de la possibilité pour des démons de se servir de ces systèmes pour faire du mal en présentant un enseignement déviant.

Tout cela montre en tout cas qu’il faut prendre avec des pincettes les propos des promoteurs de ces systèmes. Dans l’un des deux articles du site cath.ch on lit :

“Selon Matthew Sanders, Magisterium AI peut aider à expliquer des concepts théologiques, philosophiques et historiques complexes dans un langage simple et compréhensible. Il s’agit notamment de présenter les enseignements clés de l’Église, tels que la Trinité, l’Incarnation, les sacrements, etc. “.

Or, que veut dire “langage simple et compréhensible ?” ? On peut justement beaucoup y mettre, même des lectures déviantes des textes du Magistère et de la Bible !

Dans l’autre article, l’un des promoteurs de l’autre système répond à une question :

“Quel intérêt à vos yeux par rapport à un ‘chat’ humain comme il en existe déjà pas mal? C’est une neutralité plus certaine et surtout une capacité d’analyse de données massives assez incroyable. “.

Or, il est bien clair qu’il n’y pas vraiment de “neutralité” et d’ailleurs en interrogeant le système de chat d’un site francophone basé sur ChatGPT avec la question “Pourquoi l’intelligence artificielle est-elle dangereuse ?” on obtient une réponse en 5 points dont le premier est : “1 Erreurs et biais : L’IA est basée sur des algorithmes et des modèles qui peuvent être sujets à des erreurs ou à des biais. Si ces erreurs sont importantes ou si les biais sont discriminatoires, cela peut avoir des conséquences néfastes. Par exemple, une IA utilisée dans le domaine de la justice pour prendre des décisions de condamnation peut être influencée par des biais raciaux ou sociaux.”…

A cela s’ajoute le fait que souvent ces systèmes d’”enseignement” du catéchisme sont basés sur la technologie de ChatGPT: ce sont des tentatives d’”adaptations” au domaine religieux. Or, qui est à l’origine de ChatGPT ? C’est l’entreprise OpenAI dont l’un des fondateurs n’est autre que… Elon Musk ! Celui qui parlait il y a quelques années de la convocation du démon liée à l’IA ! Et l’autre fondateur et directeur actuel d’OpenAI, Samuel Altman, s’est distingué pour sa défense de la cause LGBT, laquelle inclut la défense des idéologies du genre. On peut se demander si à la longue ChatGPT pourra permettre des lectures qui s’opposent aux idéologies du genre.

D’un autre côté, il y a une certaine pression internationale pour faire changer l’enseignement de l’Église afin qu’elle s’adapte au monde. En juin dernier, l’israélien Yuval Hariri a prétendu que grâce à l’IA on pourrait corriger la Bible et avoir une “bonne ” religion. Et avant cela on savait ce que certaines (mauvaises) traductions ont fait à la Bible, comme on le lit dans un article récent.

Tout cela montre qu’il n’est pas souhaitable d’appliquer l’IA au domaine de la formation catholique. Cela est même dangereux. De toute façon le message chrétien a été donné par le Christ fait homme pour des hommes. Les écrits comme la Bible et les textes du Magistère aident, mais il faut une lecture et une explication faite par des humains éclairés par le Saint Esprit. On raconte que Saint Thomas d’Aquin, très inquiet, détruisit une machine intelligente et parlante faite par son maître Saint Albert le Grand, qui en fut attristé. Quoi qu’il en soit, 700 ans plus tard on peut comprendre qu’il y avait des raisons de s’inquiéter à cause d’une telle machine.