Face au phénomène lié à la diffusion de l’Intelligence artificielle (IA), il est nécessaire de « régir le changement qu’elle implique et l’orienter vers le bien commun », affirme Maria Chiara Carrozza.
Maria Chiara Carrozza, professeur ordinaire de bioingéniérie industrielle à l’École supérieure Sant’Anna de Pise, est intervenue à une conférence de presse au Vatican, mardi 25 février 2020, pour présenter l’Atelier et l’Assemblée de l’Académie pontificale pour la Vie (PAV) sur le thème « Le “bon” algorithme ? Intelligence artificielle : Éthique, droit, santé », qui se tiennent dans la Nouvelle Salle du Synode du Vatican les 26 et 27 février. Sont aussi intervenus Mgr Vincenzo Paglia, président de l’Académie et le p. Paolo Benanti, T.O.R., académicien de cette même Académie.
Dans le domaine de la médecine en particulier, explique-t-elle, si « l’IA peut permettre des analyses et des décisions de plus en plus efficaces », les institutions ont le devoir de « garantir aux citoyens que les processus sont basés sur des méthodologies reposant sur des preuves scientifiques et sur le respect de principes éthiques ».
Maria Chiara Carrozza met en garde : le « potentiel énorme » de l’IA dans le domaine médical ne doit pas faire oublier les « grands risques d’iniquité et d’exploitation » ; il faut, souligne-t-elle, « relever le défi d’établir une éthique de l’IA inspirée du principe universel d’égalité. La disponibilité des technologies pour quelques-uns ne crée pas de valeur, au contraire, elle génère de la dévalorisation et de l’inégalité ». C’est pourquoi, « pour l’administration publique et en général pour toutes les parties prenantes, les principes d’égalité et d’équité devraient être la boussole du développement de l’IA en médecine ».
Voici notre traduction de l’intervention de Mme Maria Chiara Carrozza.
HG
Intervention de Mme Maria Chiara Carrozza
L’intelligence artificielle (IA) est une des technologies qualifiantes qui caractérisent la quatrième révolution industrielle, mais son influence ira bien au-delà du monde de la production de biens et de l’offre de services, parce qu’elle aura un impact social et culturel explosif à travers l’omniprésence avec laquelle elle entrera dans notre avenir, transformant notre rapport à la société.
La compréhension du phénomène lié à la diffusion de l’IA devient par conséquent fondamentale afin que l’on puisse régir le changement qu’elle implique et l’orienter vers le bien commun, selon un scénario de référence géopolitique et institutionnelle profondément intriqué avec le développement et la « possession » des différentes technologies.
L’un des domaines de référence avec le plus grand impact pour le développement de l’IA est sans doute la médecine à partir de ce que l’on appelle ‘transformation numérique’ centrée sur l’utilisation des données disponibles à travers des infrastructures opportunes. Le succès de l’utilisation de l’IA dans les multiples domaines où elle peut trouver un développement passe certainement par la capacité à sélectionner efficacement les données qui iront alimenter l’algorithme à la base du fonctionnement des mécanismes d’IA. Les données peuvent être générées par différentes sources, en particulier : par les êtres humains, par les machines, par les organisations ou par la combinaison de ces acteurs. Les possibilités d’obtenir des données augmentent de manière exponentielle grâce à l’usage de technologies variées dans le monde de l’ « Internet des Objets ».
Il y a en effet de très nombreuses possibilités d’utiliser des algorithmes d’IA en médecine : de l’expérimentation et la recherche translationnelles à la médecine personnalisée, du diagnostic à la relation médecin-patient, de la télé-assistance et télé-réadaptation à la chirurgie robotique, de l’encadrement virtuel à la médecine prédictive, de l’aide à l’amélioration fonctionnelle du patient grâce à la robotique et aux capteurs qui peuvent être portés ou implantés dans le corps humain. Au sein des différents champs d’application, l’IA peut jouer différents rôles qui peuvent varier selon le type de diagnostic à poser, la nature hospitalière ou territoriale du traitement et le caractère aigu ou chronique de la pathologie. En outre, selon le secteur d’application, les mécanismes d’IA peuvent donner des résultats plus ou moins fiables et ils doivent donc être soumis à différentes formes de validation pour garantir les droits du patient.
Le point fort du recueil des informations dans les bases de données réside dans le fait que, comme elles contiennent un grand nombre d’informations, il est possible de chercher des relations entre les différents ensembles de données pour trouver des corrélations. Ce type d’analyse a aussi une importante valeur prédictive ; son utilisation en médecine peut permettre de prévoir des conditions, situations et événements futurs, avec des prévisions statistiques au niveau de la population ou aussi ponctuellement au niveau personnel (la ‘médecine personnalisée’).
Les données représentent le flux de combustible par lequel l’IA peut permettre des analyses et des décisions de plus en plus efficaces, y compris en clinique, mais il incombe aux institutions de garantir aux citoyens que les processus sont en tout cas basés sur des méthodologies reposant sur des preuves scientifiques et sur le respect de principes éthiques.
Il est donc possible de distinguer une série de principes clé de nature éthique en mesure de constituer une sorte de cadre à l’application de l’IA en médecine :
– La médecine est une prérogative humaine ; l’IA est un instrument qui peut soutenir le professionnel avec plus ou moins d’intensité selon le domaine concerné. Une réflexion sur la relation médecin-patient est nécessaire parce que l’IA ne peut pas représenter un élément d’une éventuelle déresponsabilisation du médecin.
– Une intervention humaine importante est de toutes façons nécessaire, parce que les applications de l’IA à la médecine, contrairement à ce qui peut parfois être perçu, ne sont pas neutres. La programmation de l’IA suppose des choix discrétionnaires qui peuvent avoir des conséquences très importantes, y compris en termes de santé, et qui devraient être faits en se basant sur une confrontation interdisciplinaire entre compétences différentes.
– Il est important que l’IA soit conçue de manière à répondre à des principes éthiques bien définis qui définissent les contours de la relation entre patient et technologie, et entre patient et médecin, en s’inspirant d’une voie déjà tracée avec la loi sur le ‘consentement éclairé’.
– Fondamentale est aussi la nécessité d’une formation spécifique dans le domaine de l’IA, nécessairement interdisciplinaire et continue, qui accompagne donc le professionnel pendant tout son parcours et qui soit en mesure de suivre constamment les changements globaux.
L’application de l’IA dans le domaine médical a eu des retombées, notamment en termes de choix de marché, favorisant différentes réalités d’entreprises qui ont apporté de l’innovation dans le domaine des soins de santé. Par exemple, dans le contexte européen, les fameuses ‘thérapies numériques’ font leur entrée en démontrant qu’un bon usage de l’IA est possible en administrant des thérapies intégrées, qui peuvent changer la vie et améliorer les conditions, même en présence de graves maladies chroniques, en guidant les patients vers des comportements optimisés selon leurs conditions physiologiques et cognitives. L’accès aux thérapies pourra se faire grâce à des plateformes appropriées qui se présenteront comme des applications sur les smartphones.
Dans ce scénario, l’IA devient un outil de développement qui doit garantir une utilisation éthique des données dans une économie qui protège l’individu dans la communauté, par rapport au chiffre d’affaires qui est créé autour des données et des plateformes qui exploitent les algorithmes, et donc l’éthique de l’IA est confrontée au respect des droits fondamentaux du patient. C’est un tableau évolutif au potentiel énorme mais aussi caractérisé par de grands risques d’iniquité et d’exploitation, il est nécessaire de relever le défi d’établir une éthique de l’IA inspirée du principe universel d’égalité. La disponibilité des technologies pour quelques-uns ne crée pas de valeur, au contraire, elle génère de la dévalorisation et de l’inégalité. L’engagement est donc de mettre ces technologies à la disposition de tous, quelles que soient leur origine géographique ou leurs conditions économiques. Pour l’administration publique et en général pour toutes les parties prenantes, les principes d’égalité et d’équité devraient être la boussole du développement de l’IA en médecine.
J’aimerais conclure mon discours en reprenant les mots récemment exprimés par la présidente de la Commission européenne, Ursula von der Leyen, lors de la présentation de la stratégie numérique de l’UE : « Nous présentons aujourd’hui notre ambition de façonner l’avenir numérique de l’Europe. La stratégie couvre tout, de la cybersécurité aux infrastructures critiques, de l’éducation numérique aux compétences, de la démocratie aux médias. Je veux que l’Europe numérique reflète le meilleur de l’Europe : ouverte, juste, diverse, démocratique et sûre d’elle-même ». Et moi aussi, comme la présidente (je cite son profil sur Twitter), « je suis une optimiste de la technologie. Je crois en la technologie comme une force en vue du bien » tant qu’elle est réglementée et dotée d’un appareil indispensable de valeurs éthiques.
© Traduction de Zenit, Hélène Ginabat
