Cet article est une tribune libre, non rédigée par la rédaction du Salon beige. Si vous souhaitez, vous aussi, publier une tribune libre, vous pouvez le faire en cliquant sur « Proposer un article » en haut de la page.
Récemment, deux articles ont été publiés pour présenter des projets d’enseignement catholique utilisant l’intelligence artificielle. L’idée est de faire lire à un système d’IA des textes du Magistère pour qu’il puisse répondre aux questions des internautes.
L’intelligence artificielle, une branche de l’informatique qui a connu une croissance significative depuis les années 1950, a été intégrée dans de nombreux domaines. Même une simple calculatrice représente une forme d’IA, imitant notre façon de résoudre des calculs mathématiques, un concept qui remonte à la machine de Pascal. Elle a été employée pour automatiser l’industrie, faciliter certaines recherches universitaires, et plus encore.
Les questions ont commencé à émerger lorsque l’IA, alors mieux développée, s’est étendue au-delà du cadre académique et industriel. Avec l’apparition des traducteurs automatiques et son utilisation dans les hôpitaux, l’IA a commencé à se rapprocher de notre quotidien. Le développement de systèmes capables de rédiger des articles entiers ou de surveiller des individus a par ailleurs éveillé des préoccupations, notamment sur la perte potentielle d’emplois et les risques d’abus dans certains domaines.
Elon Musk, par exemple, déclarait en 2014 que « l’intelligence artificielle invoque le démon ». Il la considère comme bien plus dangereuse que les armes nucléaires.
Du côté de l’Église catholique, des mises en garde similaires circulent également, d’abord concernant les appareils électroniques en général. Des exorcistes racontent comment des démons peuvent utiliser des téléphones pour envoyer des messages agressifs lors d’exorcismes. Une vidéo de la chaîne argentine « Foros de la Virgen Maria » résume cet aspect, relatant même l’expérience étrange d’un journaliste du New York Times discutant avec un chatbot de Microsoft. Ce chatbot, se présentant comme « Sidney », dévoila des informations troublantes et chercha à séduire le journaliste, une expérience qui le marqua profondément.
L’IA développée, avec des systèmes de génération de texte et de dialogues comme ChatGPT, soulève deux problèmes principaux. Le premier concerne le traitement de l’information, influencé par une programmation initiale et par les textes analysés, introduisant un potentiel biais. Dans l’un des articles sur l’IA dans le catéchisme, un philosophe met en garde contre l’idée que ces réponses pourraient être considérées comme infaillibles. Le second problème est la possibilité que des forces malveillantes utilisent ces systèmes pour diffuser un enseignement déviant.
Cette prudence est confirmée par un article du site cath.ch, où l’on peut lire : « Selon Matthew Sanders, Magisterium AI peut aider à expliquer des concepts théologiques, philosophiques et historiques complexes dans un langage simple et compréhensible. Cela inclut des enseignements essentiels de l’Église comme la Trinité, l’Incarnation, les sacrements, etc. » Mais que signifie exactement « langage simple et compréhensible » ? Cela peut facilement inclure des interprétations erronées des textes sacrés.
Dans un autre article, un promoteur d’un système similaire affirme que l’intérêt réside dans la neutralité de l’IA et sa capacité à analyser d’immenses volumes de données. Cependant, l’IA n’est jamais totalement neutre. En posant la question « Pourquoi l’intelligence artificielle est-elle dangereuse ? » à un chatbot francophone, la réponse souligne cinq points de risques, notamment les erreurs et biais, susceptibles de causer des impacts négatifs.
Ces réflexions soulignent l’importance d’une approche vigilante face à l’IA dans les projets éducatifs catholiques.
