Aujourd’hui, « nous sommes en mesure de construire des machines qui peuvent prendre des décisions autonomes et coexister avec l’homme », explique le p. Paolo Benanti, T.O.R., professeur de théologie morale et éthique des technologies à l’Université pontificale grégorienne et académicien de l’Académie pontificale pour la Vie. En effet, « l’évolution technologique de l’information et du monde compris comme une série de données se concrétise dans les intelligences artificielles et dans les robots ».
Le pape François a adressé une lettre au président de l’Académie pontificale pour la Vie, Mgr Vincenzo Paglia, à l’occasion du 25èmeanniversaire de son institution par Jean-Paul II sur suggestion du prof. Jérôme Lejeune.
À cette occasion, une conférence de presse a eu lieu à la salle de presse du Saint-Siège mardi 15 janvier 2019. La prochaine Assemblée générale de l’Académie, intitulée « Robot-éthique. Personnes, machines et santé », se tiendra du 25 au 27 février prochains au Vatican, dans la Salle Nouvelle du Synode.
Dans la vie quotidienne, souligne le p. Paolo Benanti, « les systèmes d’intelligence artificielle sont de plus en plus envahissants », c’est pourquoi il est urgent de comprendre « de quelle manière cette réalité mixte, composée d’agents autonomes humains et d’agents autonomes robotiques, peut coexister ». Pour le professeur franciscain, « le plus grand danger ne vient pas des intelligences artificielles en elles-mêmes mais de la méconnaissance de ces technologies et du fait qu’on laisse décider de leur emploi une classe dirigeante qui n’est absolument pas préparée à gérer cette question ».
Outre le p. Paolo Benanti, T.O.R., sont aussi intervenus Mgr Vincenzo Paglia, président de l’Académie pontificale pour la Vie, Mgr Renzo Pegoraro, chancelier de l’Académie, et Laura Palazzani, professeur de bio-droit et de philosophie du droit à l’Université libre Maria Santissima Assunta (LUMSA) et académicienne de l’APV.
Voici notre traduction de l’intervention du p. Paolo Benanti, T.O.R., prononcée en italien.
HG
Intervention du p. Paolo Benanti, T.O.R.
Intelligences artificielles, robots et défis éthiques
L’événement de la recherche numérique, où tout est transformé en données numériques, donne la capacité d’étudier le monde selon de nouveaux paradigmes gnoséologiques. Ce qui apparaît comme résultat de cette nouvelle révolution est la domination de l’information, un labyrinthe conceptuel dont la définition la plus répandue est basée sur la catégorie tout aussi problématique de données.
L’évolution technologique de l’information et du monde compris comme une série de données se concrétise dans les intelligences artificielles (AI) et dans les robots : nous sommes en mesure de construire des machines qui peuvent prendre des décisions autonomes et coexister avec l’homme. Que l’on pense aux machines à conduite automatique qu’Uber, le service de transport automobile privé bien connu, utilise déjà dans certaines villes comme Pittsburgh, ou à des systèmes de radio-chirurgie comme le Cyberknife ou les robots destinés au travail à côté de l’homme dans les processus de production en usine. Les AI, ces nouvelles technologies, sont envahissantes. Elles s’insinuent dans tous les domaines de notre existence. Tant dans les systèmes de production, s’incarnant dans les robots, que dans les systèmes de gestion en se substituant aux serveurs et aux analystes. Mais dans la vie quotidienne aussi, les systèmes d’AI sont de plus en plus envahissants.
Dans le développement des intelligences artificielles (AI), la divulgation des succès obtenus par ces machines a toujours été présentée selon un modèle compétitif par rapport à l’homme. Ces apparitions médiatiques des AI pourraient nous faire penser que celles-ci sont des systèmes en compétition avec l’homme et qu’entre l’homo sapiens et cette nouvelle machina sapiens/machine autonome, s’est instaurée une rivalité de nature évolutive qui verra un seul vainqueur et condamnera le perdant à une inexorable extinction. En réalité, ces machines n’ont jamais été construites pour rivaliser avec l’homme mais pour réaliser une nouvelle symbiose entre l’homme et ses produits (homo + machina) sapiens.
Il existe des défis extrêmement délicats dans la société contemporaine où la variable la plus importante n’est pas l’intelligence mais le peu de temps à disposition pour décider et les machines cognitives trouvent là un grand intérêt d’application. À ce niveau s’ouvre toute une série de problématiques éthiques sur la manière de valider la cognition d’une machine à la lumière justement de la rapidité de la réponse que l’on cherche à mettre en œuvre et à obtenir. Toutefois, le plus grand danger ne vient pas des AI en elles-mêmes mais de la méconnaissance de ces technologies et du fait qu’on laisse décider de leur emploi une classe dirigeante qui n’est absolument pas préparée à gérer cette question.
Si l’horizon de l’existence des personnes, dans un avenir proche – en réalité déjà actuellement – est celui d’une coopération entre intelligence humaine et intelligence artificielle, et entre agents humains et agents robotiques autonomes, il devient urgent de chercher à comprendre de quelle manière cette réalité mixte, composée d’agents autonomes humains et d’agents autonomes robotiques, peut coexister.
Le cœur de la question sur la gestion et le développement des intelligences artificielles est un large espace de discernement éthique qui doit tenir compte de l’effet potentiellement explosif de ces technologies lié à leur potentiel d’innovation technologique.
© Traduction de Zenit, Hélène Ginabat
