L’émergence de nouvelles technologies utilisant l’intelligence artificielle dans le domaine médical suscite d’importantes questions éthiques. Celles-ci sont à examiner, pour inspirer le législateur et donner un cadre juridique respectueux des droits fondamentaux de l’homme. Qu’en dit le Magistère de l’Église ?
- Contexte – L’accélération des avancées techniques, dans un contexte de mondialisation, a pour conséquence un déploiement de politiques publiques à tous les niveaux (national, européen et international). L’idée est d’encadrer telle ou telle technique de manière plus ou moins souple. Les finalités mises en avant laissent transparaître la recherche d’un équilibre entre différents droits et libertés fondamentaux, tout au moins dans l’Union européenne.
Parmi les techniques en voie de développement, il convient de s’intéresser ici à l’intelligence artificielle (I.A.). Cette dernière peut être définie comme un « champ interdisciplinaire théorique et pratique qui a pour objet la compréhension de mécanismes de la cognition et de la réflexion, et leur imitation par un dispositif matériel et logiciel, à des fins d’assistance ou de substitution à des activités humaines ». (1)
L’actualité européenne en matière d’IA illustre la volonté d’appréhender la technique de manière globale en ayant pour objectif la recherche d’un consensus des intérêts en présence. On peut lire sur le site du Parlement européen : « Le 14 juin 2023, le Parlement européen a adopté sa position de négociation sur la loi sur l’IA. La priorité du Parlement est de veiller à ce que les systèmes d’IA utilisés dans l’UE soient sûrs, transparents, traçables, non discriminatoires et respectueux de l’environnement. Le Parlement souhaite également établir une définition uniforme et neutre sur le plan technologique de l’IA qui pourrait être appliquée aux futurs systèmes d’IA. La loi sur l’IA établit différentes règles pour différents niveaux de risque liés à l’IA. » (2)
La mise en ligne récente par la start-up OpenAI du service d’IA générative Chat GPT (Generative Pre-trained Transformer) a très certainement exercé une influence sur les parlementaires européens quant au choix, non pas d’un moratoire, mais celui d’une réglementation accrue des systèmes d’IA en général et des IA génératives de contenus textuels.
- Puissance de la technique – De manière générale, ce qui est saisissant, c’est la puissance de cette lame de fond que représente le développement de la technique.
- Puissance tout d’abord, d’un point de vue spatial et temporel : aucun État n’échappe à ce phénomène d’accélération des nouvelles technologies (du moins s’agissant des pays suffisamment riches d’un point de vue économique). Il s’en suit très souvent toutes sortes d’actions politiques, juridiques, économiques en vue d’obtenir la levée des obstacles à leur développement.
- Ensuite, cette lame de fond semble avoir pour cible l’Homme, sa nature, son corps, son intelligence et de fait, l’intégralité de son être. Que l’on pense, par exemple, à la recherche sur les embryons, aux techniques de reproduction sexuelle. Le corps humain apparaît, plus que jamais, fragmenté, manipulé, transformé, tel un « matériau biologique ou social toujours disponible». (3) D’un point de vue juridique et donc rationnel, cette lame de fond vient peu à peu éroder le principe civiliste d’indisponibilité du corps humain. (4) Ce phénomène n’est pas sans lien non plus avec une certaine forme de mise à mal du corps humain, temple de l’Esprit Saint.
Dans le cas de l’IA, c’est le rapport de l’Homme à la connaissance de soi, des autres et de Dieu qui est interrogé. L’histoire singulière de chaque être humain, pas plus que l’histoire des civilisations, ne sauraient être réduites à un ensemble de données que l’on peut maîtriser, calculer, prévoir, anticiper. La vie humaine n’est pas un problème mathématique, elle ne « se solutionne » pas !
- Enfin, la puissance de la technique s’exerce également sur le Droit, lequel tend à devenir à son tour une pure technique, fatras de réglementations complexes, formelles et surtout décorrélées de toutes réflexions anthropologiques : « qu’est-ce que l’homme pour que tu penses à lui, le fils d’un homme, que tu en prennes souci ?» (Ps 8, 5).
- La primauté de l’amour dans la vérité
Dans son encyclique Caritas in veritate (« L’amour dans la vérité »), le pape Benoît XVI revient précisément sur deux phénomènes évoqués précédemment, l’interdépendance réelle entre les hommes et dans un chapitre dédié, « le développement des peuples et la technique ». (5)
Dans l’introduction, le Saint-Père rappelle quelle est la véritable signification de la charité. Loin de se restreindre à la figure de la personne respectable qui fait de bonnes actions dans sa sphère privée,
« La charité est la voie maîtresse de la doctrine sociale de l’Église. Toute responsabilité et tout engagement définis par cette doctrine sont imprégnés de l’amour qui, selon l’enseignement du Christ, est la synthèse de toute la Loi (cf. Mt 22, 36-40). L’amour donne une substance authentique à la relation personnelle avec Dieu et avec le prochain. Il est le principe non seulement des micro-relations : rapports amicaux, familiaux, en petits groupes, mais également des macro-relations : rapports sociaux, économiques, politiques. » (6)
L’encyclique souligne encore quel est le risque, dans un contexte de mondialisation, « qu’à l’interdépendance déjà réelle entre les hommes et les peuples, ne corresponde pas l’interaction éthique des consciences et des intelligences dont le fruit devrait être l’émergence d’un développement vraiment humain. » (7)
Autrement dit, d’un point de vue strictement rationnel, la quête d’une éthique universelle apparaît difficile. En revanche, replacée dans une perspective de raison et de foi qui sont les deux modes de connaissance de la vérité, elle apparaît non seulement possible mais également bénéfique.
« Seule la charité, éclairée par la lumière de la raison et de la foi, permettra d’atteindre des objectifs de développement porteurs d’une valeur plus humaine et plus humanisante. Le partage des biens et des ressources, d’où provient le vrai développement, n’est pas assuré par le seul progrès technique et par de simples relations de convenance, mais par la puissance de l’amour qui vainc le mal par le bien (cf. Rm 12, 21) et qui ouvre à la réciprocité des consciences et des libertés. » (8)
- Doctrine sociale de l’Église et élaboration de normes juridiques
Appliqué au droit, cela signifie que l’amour dans la vérité peut être présenté comme un principe propre à éclairer l’élaboration des normes juridiques, dans l’objectif de construire un droit plus humanisant.
Suivant cette orientation, il peut être fait mention, du côté du Vatican, de l’existence d’initiatives concrètes en vue de proposer à toute personne de bonne volonté (opérateurs économiques, représentants des institutions civiles, délégations religieuses) un ensemble de préconisations fondées sur la Doctrine sociale de l’Église.
Lors d’une conférence internationale organisée par l’Académie pontificale pour la vie, le 28 février 2020, un document intitulé Rome Call for AI Ethics (Appel de Rome pour une éthique de l’Intelligence artificielle) avait pu ainsi être signé. (9) Dans la troisième partie du document intitulé « Droits », est promue « l’algor-éthique » à savoir l’utilisation éthique de l’IA telle que définie par les principes de transparence, inclusion, responsabilité, impartialité, fiabilité sécurité et confidentialité. A l’occasion de la rencontre avec les participants à l’assemblée plénière de l’Académie pontificale pour la vie, le pape François était revenu sur la contribution décisive de la Doctrine sociale de l’Église et le « devoir de protéger et de promouvoir, non seulement dans sa dimension biologique constitutive, mais également dans sa qualité biographique incontournable », « les êtres vivants et les caractéristiques propres de la vie humaine. » (10) Le Saint-Père soulignait encore que : « La corrélation et l’intégration entre la vie vivante et la vie vécue ne peuvent être éliminées au profit d’un simple calcul idéologique des prestations fonctionnelles et des coûts supportables. »
Dans la continuité de cet événement destiné à « promouvoir une anthropologie numérique basée sur trois éléments fondamentaux : l’éthique, l’éducation et le droit », l’Académie pontificale pour la vie et la Fondation RenAIssance (11) ont organisé en janvier 2023 une conférence intitulée « une Éthique en IA : un engagement abrahamique pour l’Appel de Rome » (AI Ethics: An Abrahamic commitment to the Rome Call) à laquelle participaient des délégations juives et islamiques. (12)
On notera enfin que la Commission des conférences épiscopales de l’Union européenne (COMECE), à l’occasion de sa contribution à la rédaction du « Livre blanc sur l’intelligence artificielle » rédigé et présenté par la Commission européenne le 16 juillet 2020, avait insisté sur la nécessité « d’adopter une approche de l’intelligence artificielle (IA) centrée sur l’homme, afin de promouvoir le bien commun et de servir la vie de tous les êtres humains, dans leurs dimensions tant personnelles que communautaires. » (13)
- Analogie avec la finance
La contribution de la Doctrine sociale de l’Église dont « la voie maîtresse » est la charité trouve à s’illustrer dans un domaine proche du droit, celui de la finance. A la fin de l’année 2022, l’Académie Pontificale des Sciences Sociales a publié un texte après plusieurs années de réflexion, intitulé « Mensuram Bonam ». Faith-Based Measures for Catholic Investors: A Starting Point and Call to Action. (14) Ce texte se veut un premier guide des bonnes pratiques en matière éthique à destination de la « finance catholique » et bien au-delà. Certains opérateurs économiques tels que des sociétés de gestion offrant des solutions patrimoniales et assurancielles ont pour volonté affichée de travailler en accord avec les principes de la DSE et de partager les bonnes pratiques d’investissements à travers des valeurs comme la solidarité, la justice sociale ou l’inclusion des plus vulnérables. La composition du comité éthique dans ces entreprises est également importante : la présence de prêtres, de religieux et de laïcs formés à la DSE apparaissent nécessaire.
Dans l’avant-propos de « Mensuram Bonam », il est précisément fait référence aux enseignements du pape Benoît XVI dans Caritas in veritate, à propos de L’Église et de la politique :
« L’Église n’a pas de solutions techniques à offrir et ne prétend “aucunement s’immiscer dans la politique des États”. Elle a toutefois une mission de vérité à remplir, en tout temps et en toutes circonstances, en faveur d’une société à la mesure de l’homme, de sa dignité et de sa vocation. Sans vérité, on aboutit à une vision empirique et sceptique de la vie, incapable de s’élever au-dessus de l’agir, car inattentive à saisir les valeurs – et parfois pas même le sens des choses – qui permettraient de la juger et de l’orienter. La fidélité à l’homme exige la fidélité à la vérité qui, seule, est la garantie de la liberté (cf. Jn 8, 32) et de la possibilité d’un développement humain intégral. » (15)
Toujours dans l’avant-propos de « Mensuram Bonam », il est explicitement mené un raisonnement par analogie, à propos non plus de la politique, mais de la finance :
« Mensuram bonam défend les mêmes positions dans le domaine de la finance. En conséquence, la lumière de l’Évangile et de l’enseignement social catholique avec laquelle MB cherche à éclairer la “gestion des actifs financiers” fait partie de la mission de vérité de l’Église ; et cette vérité n’est pas seulement celle de la foi, mais aussi celle de la raison. La Doctrine sociale de l’Église est un aspect particulier dans la rencontre entre la lumière de la foi et la lumière de la raison. » (16)
- L’amour dans la vérité et le droit de l’IA (l’exemple de la « médecine algorithmique ») De manière analogue à ce qui a été fait en finance, un guide des bonnes pratiques en matière d’IA peut être établi en s’appuyant sur les principes de la Doctrine sociale de l’Église. La nomination de sœur Helen Alford (OP), docteur en ingénierie en gestion à l’Université de Cambridge, à la présidence de l’Académie pontificale des sciences sociales est peut-être le signe d’une telle orientation. (17)
Sur le fond, des efforts peuvent être entrepris ici et là sur l’élaboration de normes en lien avec l’IA dans le sens d’une meilleure prise en compte de la dimension intégrale de la vie humaine. Un exemple tiré du droit de la santé permet d’illustrer de manière concrète comment la prise en compte de la seule technique pour elle-même aboutit à des résultats imparfaits.
L’ensemble des systèmes d’aides à la décision et des dispositifs médicaux embarquant de l’intelligence artificielle doivent utiliser des algorithmes les plus précis et les plus fiables possibles. (18) Dans ce contexte qui suppose des investissements très importants, les GAFAM et les BATX (19) apparaissent pour l’heure comme les acteurs dominant le marché des données de santé. Prenant acte de ce constat en 2019, les pouvoirs publics français ont entendu – dans une stratégie globale de l’IA – promouvoir la structuration d’une filière IA et Santé. (20) C’est une approche d’une « médecine algorithmique » fondée sur les données de santé qui fut alors défendue et dont les objectifs annoncés sont de faire évoluer le système médical français d’une « médecine curative de masse » à une « médecine personnalisée ». (21)
En réalité, au-delà du dispositif légal, c’est le modèle de médecine fondée sur la preuve, en anglais, Evidence-Based Medicine, qui est prônée. Or ce modèle, qui oblige à ce que la prise de décision médicale soit argumentée au regard de normes préétablies, n’est pas sans susciter certaines réticences, à commencer par celui des professionnels de santé. Différentes critiques ont précisément à voir avec la charité et la vérité dans l’exercice de leurs professions.
Tout d’abord, le recours aux « meilleures preuves » n’est pas sans appauvrir ce qu’est la médecine en réalité. Le patient ne saurait être réduit à des données de santé. Quant à l’acte médical, il suppose un discernement de la part du médecin en toute conscience, laquelle se trouve bridée à devoir justifier toute décision individuelle qui s’écarterait des solutions préconisées par les outils médicaux dotés d’IA. (22) Ensuite, dans une conception classique de la médecine telle que décrite par l’éthique médicale, la décision repose sur un trépied temporel : le premier temps est celui du colloque entre le médecin et le patient (l’écoute), le deuxième temps est consacré à la réflexion médicale (l’intelligence, la sagesse), le troisième, à la prise de décision (la responsabilité). Or « L’immédiateté » du rendu des résultats issus d’un système d’IA et leur « univocité » constituent deux caractéristiques de nature à bouleverser le processus de la décision médicale. (23) La rétractation du temps ainsi que la prétendue performance des outils dotés d’IA propres à trouver une solution dans toute circonstance suscitent l’inquiétude des professionnels de santé.
Cet exemple illustre combien il est essentiel pour le législateur de sonder la vérité pleine et entière de la réalité humaine. Les professionnels de la santé comme les patients ont ici quelque chose à dire de l’écoute, de la compassion, de la confiance, de l’attention à l’autre, de leur droiture à vouloir bien accomplir leur vocation. Il ne faudrait pas qu’un droit technique, coupé de toutes ces réflexions, néglige voire, pire, décourage l’exercice de vertus au service de l’amour authentique entre les Hommes.
Dans le chapitre VI de l’encyclique Caritas in Veritate, le Saint-Père Benoît XVI revient sur le lien entre la technique et la mission que Dieu a confié aux Hommes :
« La technique est l’aspect objectif de l’agir humain, dont l’origine et la raison d’être résident dans l’élément subjectif : l’homme qui travaille. C’est pourquoi la technique n’est jamais purement technique. Elle manifeste l’homme et ses aspirations au développement, elle exprime la tendance de l’esprit humain au dépassement progressif de certains conditionnements matériels. La technique s’inscrit donc dans la mission de cultiver et de garder la terre (cf. Gn 2, 15) que Dieu a confiée à l’homme, et elle doit tendre à renforcer l’alliance entre l’être humain et l’environnement appelé à être le reflet de l’amour créateur de Dieu. » (24)
Céline Rey
Maître de conférences, droit privé
Notes
1) Commission d’’enrichissement de la langue française, Vocabulaire de l’’intelligence artificielle, J.O. du 7 déc. 2018. V. égal. D. Lambert, Quelques définitions. Dans La robotique et l’intelligence artificielle, 2019, Editions Jésuites/Fidélité.
3) Lettre encyclique, Veritatis Splendor du Souverain pontife Jean-Paul II à tous les évêques de l’Église catholique sur quelques questions fondamentales de l’enseignement moral de l’Eglise, n°46.
4) Académie catholique de France pour le rayonnement du savoir et de la foi, Paris, Déclaration Sur l’indisponibilité du corps humain, P. Thierry Magnin, Edgardo Carosella, Yvonne Flour, Chantal Delsol, P. Philippe Capelle-Dumont, 2018, https://academiecatholiquedefrance.fr
5) Benoît XVI, Encyclique L’amour dans la vérité, Lettre encyclique sur le développement humain intégral dans la charité et la vérité, Collège des Bernardins, Lethielleux/Parole et Silence, Cahier hors-série, Présentation-Commentaire Mgr J. Beau, 2009. Ci-après « Caritas in Veritate ».
6) « Caritas in Veritate » n°2.
7) « Caritas in Veritate » n°9.
8) «Caritas in Veritate », eod. loc.
11) https://www.romecall.org/renaissance-foundation/
13) https://fr.zenit.org/2020/07/20/intelligence-artificielle-adopter-une-approche-centree-sur-lhomme/
14) https://www.pass.va/en/publications/other-publications/mensuram_bonam_eng.html
15) « Caritas in Veritate » n°9.
16) Page 4 de l’avant-propos : “Mensuram Bonam adopts the same posture towards the world of finance. Accordingly, the light of the Gospel and of Catholic Social Teaching which MB seeks to shed on ‘the management of financial assets’ belongs to the Church’s mission of truth, which is not only the truth of faith, but also the truth of reason. The Church’s social teaching is a particular application of this encounter between the light of faith and the light of reason.” https://www.pass.va/content/dam/casinapioiv/pass/pdf-volumi/other-publications/mb_eng_final_14_11_22.pdf (traduction de Zenit).
17) https://fr.aleteia.org/2023/04/15/leglise-peut-ouvrir-les-esprits-sur-lintelligence-artificielle/
18) Pour des exemples en matière d’imagerie médicale, de V. Chassagne, J. Despatin, F. Pax, J. Tedesco, Intelligence artificielle et innovations digitales en santé. Transformation des prises en charge et des métiers, 2021, Berger-Levrault.
19) GAFAM, acronyme de Google, Apple, Facebook, Amazon et Microsoft ; BATX, acronyme de Baidu, Alibaba, Tencent et Xiaomi.
20) Loi n° 2019-774 du 24 juillet 2019 relative à l’’organisation et à la transformation du système de santé (OTSS), art. 41 à 45. Adde, arrêté du 29 novembre 2019 portant approbation d’un avenant à la convention constitutive du groupement d’intérêt public I’« Institut national des données de santé » portant création du groupement d’intérêt public «Plateforme des données de santé», JORF 30 nov. 2019, texte 13.
21) Mission de préfiguration Health Data Hub, 2018, p. 11.
22) J.-P. Cléro, La décision médicale, la fin des décideurs. Revue française d’éthique appliquée, 2016, 1, 24.
23) E. Kempf, A. Kempf, L’informatisation de l’aide à la décision : la décision médicale est-elle indemne ? L’exemple d’un outil prédictif en cancérologie. Revue française d’éthique appliquée, 2016, 1, 50.
24) « Caritas in Veritate » n°69.
