(ZENIT News / Rome, 14 juin 2026) – Pendant des années, les mises en garde concernant les risques de l’intelligence artificielle provenaient principalement de philosophes, d’éthiciens et de chefs religieux. Désormais, certaines des mises en garde les plus fortes émanent de l’industrie elle-même.
Quelques semaines seulement après la publication par le pape Léon XIV de Magnifica Humanitas, son premier document majeur sur l’intelligence artificielle, l’une des plus grandes entreprises mondiales du secteur a publiquement exprimé ses inquiétudes quant à la rapidité avec laquelle cette technologie progresse, dépassant ainsi la capacité de la société à la maîtriser. La convergence est frappante : le Vatican et la Silicon Valley, souvent perçus comme deux mondes aux antipodes, partagent de plus en plus de craintes similaires concernant la future relation entre l’humanité et les machines intelligentes.
Anthropic, la société à l’origine du modèle d’IA Claude, a publié un avertissement détaillé le 4 juin par l’intermédiaire de son cofondateur Jack Clark et de la directrice de l’Institut Anthropic, Marina Favaro. Leur inquiétude porte sur une possibilité appelée « auto-amélioration récursive », un scénario dans lequel les systèmes d’intelligence artificielle deviennent capables de concevoir des successeurs toujours plus performants avec peu ou pas d’intervention humaine.
D’après l’entreprise, les systèmes d’IA actuels prennent déjà en charge une part croissante du travail de programmation nécessaire au développement des futurs modèles. Anthropic a constaté que la quantité de travail que ses systèmes peuvent effectuer de manière autonome augmente à un rythme extraordinaire. Bien que l’entreprise souligne que l’amélioration entièrement autonome n’est pas encore une réalité et pourrait ne jamais se produire, ses chercheurs reconnaissent que de nombreuses institutions semblent mal préparées à cette éventualité.
Les implications sont profondes. Si les machines acquièrent un jour la capacité de développer de nouvelles générations d’intelligence artificielle de manière autonome, les méthodes traditionnelles de contrôle pourraient devenir de plus en plus difficiles à maintenir. Le défi ne serait pas seulement technique, mais aussi civilisationnel : il s’agirait de garantir que le jugement humain reste capable de guider des technologies susceptibles de surpasser les capacités humaines dans certains domaines.
Plutôt que de préconiser un arrêt définitif, Anthropic a proposé que les gouvernements et les entreprises technologiques explorent des mécanismes permettant de ralentir, voire de suspendre temporairement, le développement des systèmes les plus avancés si nécessaire. L’entreprise a toutefois reconnu l’obstacle majeur à une telle proposition : tout ralentissement significatif exigerait une coopération internationale sans précédent. Autrement, les nations ou les entreprises qui poursuivent leurs progrès pourraient tout simplement acquérir un avantage stratégique sur celles qui font preuve de retenue.
Ce débat fait écho aux thèmes récemment abordés par le pape Léon XIV. Dans Magnifica Humanitas, le pontife mettait en garde contre la création de ce qu’il décrivait comme une nouvelle « Tour de Babel », une culture technologique capable d’un pouvoir immense mais déconnectée d’une vision morale partagée. Léon XIV a maintes fois affirmé que la question centrale n’est pas de savoir si l’innovation doit se poursuivre, mais si l’humanité peut garantir que le progrès technologique demeure orienté vers un authentique épanouissement humain.
Cette préoccupation a trouvé un écho inattendu auprès de certains chercheurs travaillant directement avec le secteur technologique. Charles Camosy, théologien moraliste ayant collaboré avec la revue Anthropic sur des questions éthiques, soutient que l’appel du pape à « désarmer » l’intelligence artificielle ne doit pas être interprété comme une opposition à l’innovation. Il s’agit plutôt d’un appel à empêcher que la technologie ne domine la personne humaine ou ne remplace les relations humaines essentielles.
Le problème dépasse le simple cadre de la sécurité technique. Les critiques s’inquiètent de plus en plus de la tendance croissante à déléguer des responsabilités spécifiquement humaines – telles que l’éducation, les soins, le mentorat et même la formation morale – à des systèmes d’intelligence artificielle. Le risque, selon de nombreux éthiciens, n’est pas que les machines se rebellent soudainement contre l’humanité, mais que les êtres humains abandonnent progressivement les activités qui cultivent la sagesse, le sens des responsabilités et de véritables liens interpersonnels.
Dans le même temps, de nouvelles recherches universitaires mettent en lumière un autre défi, largement négligé : la difficulté pour l’IA d’intégrer les perspectives religieuses. Le Consortium pour la foi et l’éthique en IA, qui réunit des chercheurs des universités Baylor, Brigham Young, Notre-Dame et Yeshiva, a récemment constaté que la plupart des grands modèles de langage omettent en grande partie les points de vue religieux lorsqu’ils abordent des questions éthiques.
L’étude comparative « All Faith Benchmark » du consortium a analysé les réponses de quatorze systèmes d’IA de pointe, développés par des entreprises telles qu’Anthropic, OpenAI, Google, Meta et xAI. Les chercheurs ont conclu que, si la religion continue d’influencer la vision morale d’une grande partie de la population mondiale, les systèmes d’IA peinent souvent à refléter cette réalité. L’étude a également mis en évidence des différences mesurables dans la représentation des diverses traditions religieuses, soulevant des questions d’équité, de biais et de compréhension culturelle dans les réponses générées par les machines.
Ces résultats confortent un argument plus large, de plus en plus présent dans les milieux universitaires et religieux : l’intelligence artificielle ne saurait se réduire à un simple défi d’ingénierie. Elle soulève également des questions d’anthropologie, d’éthique, de culture et de dignité humaine.
L’évolution la plus significative est peut-être que ce débat ne se limite plus aux églises, aux universités ou aux groupes de réflexion. Les grandes entreprises technologiques elles-mêmes commencent à reconnaître que l’avenir de l’IA pourrait nécessiter non seulement des machines plus puissantes, mais aussi une réflexion plus profonde sur ce que signifie être humain.
C’est précisément la question que le pape Léon XIV a placée au cœur du débat. Le danger ultime, selon lui, n’est pas que les machines deviennent trop humaines, mais que les êtres humains oublient les dons uniques qui les distinguent : la responsabilité morale, la sagesse, l’émerveillement et la capacité de reconnaître la vérité, la beauté et la dignité de chaque personne.
Merci d’avoir lu notre article. Si vous souhaitez recevoir les actualités quotidiennes de ZENIT par e-mail, vous pouvez vous abonner gratuitement via ce lien.
