L’innovation numérique est « un don de Dieu, c’est-à-dire une ressource qui peut porter de bons fruits », affirme le pape François, mais elle doit être accompagné d’une éthique et d’« une action éducative plus ample ».
Le pape étant indisposé ce 28 février 2020, son discours à l’assemblée plénière de l’Académie pour la vie – qui se déroule au Vatican du 26 au 28 février sur le thème de l’intelligence artificielle – a été lu par Mgr Vincenzo Paglia, président de l’Académie.
Evoquant les algorithmes qui « extraient des données qui permettent de contrôler les habitudes mentales et relationnelles » des utilisateurs d’internet, « à des fins commerciales ou politiques », le pape met en garde : « Cette asymétrie, selon laquelle un petit nombre sait tout de nous, tandis que nous ne savons rien d’eux, engourdit la pensée critique et l’exercice conscient de la liberté. Les inégalités s’amplifient démesurément, la connaissance et la richesse s’accumulent dans les mains d’un petit nombre, entraînant des risques graves pour les sociétés démocratiques. »
Il invite à garde « au centre de la connaissance et des pratiques sociales, la personne dans toutes ses dimensions, y compris les dimensions spirituelles ».
Voici notre traduction du discours du pape François.
HG
Discours du pape François
Mesdames et Messieurs les autorités,
Mesdames et Messieurs,
Chers frères et sœurs,
Je vous salue cordialement à l’occasion de l’assemblée générale de l’Académie pontificale pour la vie et je remercie Mgr Paglia pour ses aimables paroles. Je suis reconnaissant pour leur présence envers le président du Parlement européen, le directeur général de la FAO et les autres autorités et personnalités dans le domaine de la technologie informatique. Je salue également les personnes qui participent, de l’Auditorium Conciliazione, et je me réjouis de la présence nombreuse, notamment de jeunes : c’est un signe d’espérance.
Les thèmes que vous avez affrontés ces jours-ci concernent un des changements les plus importants qui caractérisent le monde d’aujourd’hui. Ou plutôt, nous pourrions dire que la « galaxie numérique », et en particulier ce que l’on appelle l’ « intelligence artificielle », se trouve précisément au coeur du changement d’époque que nous traversons. L’innovation numérique, en effet, touche tous les aspects de la vie, personnels et sociaux. Elle a une incidence sur notre façon de comprendre le monde et nous-mêmes. Elle est de plus en plus présente dans l’activité et jusque dans les décisions humaines, et elle change ainsi notre manière de penser et d’agir. Les décisions, notamment les plus importantes comme dans le domaine médical, économique ou social, sont aujourd’hui le fruit d’un vouloir humain et d’une série de contributions algorithmiques. L’acte personnel en vient à se trouver au point de convergence entre l’apport proprement humain et le calcul automatique, de sorte qu’il devient toujours plus complexe d’en comprendre l’objet, d’en prévoir les effets et d’en définir les responsabilités.
Certes, l’humanité a déjà vécu dans son histoire des bouleversements profonds comme, par exemple, quand a été introduite la machine à vapeur, ou l’électricité, ou l’invention de l’imprimerie qui a révolutionné la manière de conserver et de transmettre les informations. Aujourd’hui, la convergence entre différents savoirs scientifiques et technologiques a un effet d’amplification et permet d’intervenir sur des phénomènes d’une grandeur infinitésimale et d’une portée planétaire, au point de rendre floues des frontières jusqu’ici considérées comme bien reconnaissables : entre matière inorganique et matière organique, entre réel et virtuel, entre identités stables et événements en relation continue entre eux.
Sur le plan personnel, l’époque numérique change la perception de l’espace, du temps et du corps. Elle donne un sens d’expansion de soi qui semble ne plus rencontrer de limites et l’homologation s’affirme comme critère dominant de regroupement : reconnaître et apprécier la différence devient de plus en plus difficile. Sur le plan socio-économique, les usagers sont souvent réduits à des « consommateurs », asservis à des intérêts privés concentrés dans les mains d’un petit nombre. Des traces numériques disséminées sur internet, les algorithmes extraient des données qui permettent de contrôler les habitudes mentales et relationnelles, à des fins commerciales ou politiques, souvent à notre insu. Cette asymétrie, selon laquelle un petit nombre sait tout de nous, tandis que nous ne savons rien d’eux, engourdit la pensée critique et l’exercice conscient de la liberté. Les inégalités s’amplifient démesurément, la connaissance et la richesse s’accumulent dans les mains d’un petit nombre, entraînant des risques graves pour les sociétés démocratiques. Ces dangers ne doivent cependant pas nous cacher les grandes potentialités que les nouvelles technologies nous offrent. Nous sommes devant un don de Dieu, c’est-à-dire une ressource qui peut porter de bons fruits.
Les questions dont votre Académie s’est occupée depuis sa création, se présentent aujourd’hui de manière nouvelle. Les sciences biologiques recourent de plus en plus largement aux dispositifs rendus disponibles par l’ « intelligence artificielle ». Ce développement entraîne des mutations profondes dans la façon d’interpréter et de gérer les êtres vivants et les caractéristiques propres de la vie humaine, qu’il est de notre devoir de protéger et de promouvoir, non seulement dans sa dimension constitutive biologique, mais aussi dans sa qualité biographique distinctive. La corrélation et l’intégration entre la vie vivante et la vie vécue ne peuvent être suprimées au profit d’un simple calcul idéologique des prestations fonctionnelles et des coûts durables. Les interrogations éthiques qui émergent de la façon dont les nouveaux dispositifs peuvent – précisément – « disposer » de la naissance et du destin des personnes requièrent un engagement renouvelé en faveur de la qualité humaine de toute l’histoire communautaire de la vie.
Je suis donc reconnaissant envers l’Académie pontificale pour la vie, pour le chemin qu’elle a entrepris en développant une réflexion sérieuse qui a favorisé le dialogue entre disciplines scientifiques différentes et indispensables pour affronter des phénomènes aussi complexes.
Je note avec satisfaction que la rencontre de cette année voit la présence de personnes qui assument différents rôles importants de responsabilité internationale, sur le plan scientifique, industriel ou politique. J’en suis heureux et je vous en remercie. En tant que croyants, en effet, nous n’avons pas de notions toutes faites avec lesquelles répondre aux questions inédites que l’histoire nous pose aujourd’hui. Notre tâche est plutôt de marcher avec les autres, en écoutant avec attention et en reliant expérience et réflexion. Nous devons nous laisser interpeller en tant que croyants, pour que la Parole et la Tradition de la foi nous aident à interpréter les phénomènes de notre monde, en distinguant des chemins d’humanisation, et donc d’évangélisation aimante, à parcourir ensemble. Nous pourrons ainsi dialoguer de manière profitable avec toutes les personnes qui sont à la recherche du développement humain, en gardant, au centre de la connaissance et des pratiques sociales, la personne dans toutes ses dimensions, y compris les dimensions spirituelles. Nous sommes devant une tâche qui implique la famille humaine dans son ensemble.
À la lumière de ce qui a été dit, la simple éducation à l’usage correct des nouvelles technologies ne suffit pas : en effet, ce ne sont pas des instruments « neutres » parce que, comme nous l’avons vu, ils façonnent le monde et engagent les consciences sur le plan des valeurs. Il faut une action éducative plus ample. Il est nécessaire de mûrir des motivations fortes pour persévérer dans la recherche du bien commun, même quand cela ne donne pas lieu à un profit immédiat. Il existe une dimension politique dans la production et dans l’usage de ce que l’on appelle « intelligence artificielle », qui ne concerne pas seulement la distribution de ses avantages individuels et abstraitement fonctionnels. En d’autres termes : il ne suffit pas simplement de faire confiance à la sensibilité morale de ceux qui font de la recherche et qui conçoivent des dispositifs et des algorithmes ; il est au contraire nécessaire de créer des corps sociaux intermédiaires qui assurent la représentation de la sensibilité éthique des utilisateurs et des éducateurs.
Les compétences, qui interviennent dans le processus d’élaboration des appareils technologiques (recherche, conception, production, distribution, usage individuel et collectif), sont nombreuses et chacune d’elle comporte une responsabilité spécifique. On entrevoit une nouvelle frontière que nous pourrions appeler « algor-éthique » (cf. Discours aux participants au Congrès ‘Child Dignity in the Digital World’, 14 novembre 2019). Elle vise à assurer une vérification compétente et commune des processus selon lesquels s’intègrent les rapports entre les êtres humains et les machines à notre ère. Dans une recherche commune de ces objectifs, les principes de la Doctrine sociale de l’Église offrent une contribution décisive : dignité de la personne, justice, subsidiarité et solidarité. Ils expriment l’engagement à se mettre au service de toute personne dans son intégralité et de toutes les personnes, sans discrimination ni exclusions. Mais la complexité du monde technologique nous demande une élaboration éthique plus articulée, pour que cet engagement soit réellement incisif.
L’ « algor-éthique » pourra être un pont pour faire en sorte que les principes s’inscrivent concrètement dans les technologies numériques, à travers un dialogue transdisciplinaire effectif. En outre, dans la rencontre entre différentes visions du monde, les droits humains représentent un important point de convergence pour la recherche d’un terrain commun. Pour le moment, en outre, une réflexion mise à jour sur les droits et les devoirs dans ce domaine semble nécessaire. En effet, la profondeur et l’accélération des transformations de l’ère numérique soulèvent des problématiques inattendues, qui imposent de nouvelles conditions à l’ethos individuel et collectif. L’Appel que vous avez signé aujourd’hui est certainement un pas important dans cette direction, avec les trois axes fondamentaux sur lesquels avancer : l’éthique, l’éducation et le droit.
Chers amis, je vous exprime mon soutien pour la générosité et le dynamisme avec lesquels vous vous êtes engagés à lancer un processus de réflexion aussi exigeant et courageux. Je vous invite à le poursuivre avec audace et discernement, en cherchant les moyens d’impliquer toujours plus largement tous ceux qui ont à cœur le bien de la famille humaine. J’invoque sur vous la bénédiction de Dieu, pour que votre chemin puisse se dérouler dans la sérénité et la paix, dans un esprit de collaboration. Puisse la Vierge Marie vous assister et ma bénédiction vous accompagner ! Et, s’il vous plaît, n’oubliez pas de prier pour moi. Merci.
© Traduction de Zenit, Hélène Ginabat
