Risques et potentiels de l’intelligence artificielle

Depuis quelques années, l’intelligence artificielle a fait irruption dans nos vies. Mais l’ensemble des pratiques réunies sous ce nom génériques pose régulièrement des questions éthiques – qui se résument toutes plus ou moins à cette question fondamentale: la technique est-elle bonne pour les personnes humaines ou vise-t-elle à développer une “post-humanité”?

Dans ce cadre, il est intéressant de lire la tribune que plusieurs centaines de personnalités (y compris des personnalités plutôt attachées au transhumanisme ou liées au monde de la technologie) visant à fixer des “lignes rouges” – tribune qui commence par ce paragraphe:

L’intelligence artificielle (IA) recèle un potentiel immense pour le progrès humain, mais sa trajectoire actuelle présente des dangers sans précédent. L’IA pourrait bientôt dépasser de loin les capacités humaines et exacerber des risques tels que le développement de pandémies artificielles, la manipulation des individus, y compris des enfants, la désinformation à grande échelle, les menaces pour la sécurité nationale et internationale, le chômage de masse et les violations systématiques des droits humains.

Mais, surtout, il est intéressant de lire ce que le Vatican lui-même dit du sujet. Ainsi Mgr Gallagher, secrétaire pour les Relations avec les États et les organisations internationales, est-il intervenu le 29 septembre lors de la dernière assemblée plénière de l’ONU pour attirer l’attention sur les risques de l’IA. L’agence de presse Vatican News résumait ainsi l’intervention du diplomate ecclésiastique sur ce thème:

Outre les grands défis mondiaux, comme l’a déjà souligné le Pape Léon XIV, la communauté internationale est confrontée à «une autre révolution industrielle», celle de l’intelligence artificielle (IA). Elle représente «une avancée technologique extraordinaire» qui se forme grâce à la créativité humaine, mais qui produit des résultats pouvant dépasser ses capacités, «suscitant des inquiétudes quant à son impact sur notre société». Ces préoccupations reposent sur le risque que l’IA alimente un «paradigme technocratique», selon lequel tous les problèmes du monde ne peuvent être résolus que par la technologie. Une approche qui risque de subordonner la dignité et la fraternité humaines à l’efficacité. Le Saint-Siège a donc appelé à l’élaboration et à l’adoption de lignes directrices éthiques et de cadres réglementaires clairs pour l’IA.

Préserver les droits des travailleurs

L’utilisation de plus en plus répandue de l’IA, a poursuivi le diplomate du Saint-Siège, met en péril de nombreux emplois. Il devient donc nécessaire de mettre en place des systèmes économiques qui mettent l’accent sur la création de nouveaux emplois, en favorisant l’esprit d’entreprise. Des salaires équitables et des conditions de travail durables, en particulier pour les femmes, sont également essentiels pour renforcer les cellules familiales. Le Saint-Siège a également appelé à un engagement renouvelé en faveur des jeunes qui souhaitent fonder une famille.

Les principes de la doctrine sociale de l’Eglise (défense du bien commun, principe de subsidiarité, dignité de la personne humaine, etc.) demeurent d’actualité, quelles que soient les techniques envisagées…