Texte intégrale traduit de l’espagnol par ZENIT
Le Dicastère du Saint-Siège pour l’éducation et la culture a organisé à Rome une rencontre intitulée « Dialogues de Minerve ». Le pape a reçu les participants dans la matinée du lundi 27. Nous vous proposons le texte du discours.
Bienvenue à vous tous qui êtes réunis à Rome pour votre rencontre annuelle. Elle réunit des experts du monde de la technologie – scientifiques, ingénieurs, entrepreneurs, juristes et philosophes – et des représentants de l’Église – fonctionnaires de la Curie, théologiens et moralistes – dans le but d’encourager une plus grande prise de conscience et une meilleure prise en compte de l’impact social et culturel des technologies numériques, en particulier de l’intelligence artificielle.
J’apprécie beaucoup cette voie du dialogue qui, ces dernières années, nous a permis de partager nos expériences et nos points de vue, et de bénéficier de la sagesse de chacun. Votre présence témoigne de votre engagement à assurer un débat mondial sérieux et inclusif sur l’utilisation responsable de ces technologies, un débat ouvert aux valeurs religieuses. Je suis convaincu que le dialogue entre croyants et non-croyants sur les questions fondamentales de l’éthique, de la science et de l’art, et sur la recherche du sens de la vie, est une voie vers la construction de la paix et le développement humain intégral.
La technologie est d’une grande aide pour l’humanité. Pensons aux innombrables avancées dans les domaines de la médecine, de l’ingénierie et des communications (cf. Encyclique Laudato si, 102). En même temps que nous reconnaissons les bienfaits de la science et de la technologie, nous y voyons la preuve de la créativité humaine et aussi de la noblesse de notre vocation à participer de manière responsable à l’action créatrice de Dieu (cf. ibid., 131).
De ce point de vue, je pense que le développement de l’intelligence artificielle et de l’apprentissage automatisé a le potentiel d’apporter une contribution bénéfique à l’avenir de l’humanité, nous ne pouvons pas l’exclure.
Toutefois, je suis persuadé que ce potentiel ne se concrétisera que si ceux qui développent ces technologies font preuve d’une volonté constante d’agir de manière éthique et responsable. Je suis encouragé par l’engagement de tant de personnes qui travaillent dans ces domaines pour s’assurer que la technologie est centrée sur l’humain, que sa conception est fondée sur l’éthique et qu’elle est orientée vers le bien. Je me réjouis qu’un consensus ait été établi sur le fait que les processus de développement devraient respecter des valeurs telles que la participation, la transparence, la sécurité, l’équité, le respect de la vie privée et la responsabilité. Je salue également les efforts déployés par les organisations internationales pour réglementer ces technologies de manière à promouvoir un véritable progrès, c’est-à-dire à contribuer à favoriser un monde meilleur et une qualité de vie globalement plus élevée (cf. ibid., 194).
Il ne sera pas facile de parvenir à un accord dans ces domaines. En effet, « l’immense croissance technologique ne s’est pas accompagnée d’un développement humain en termes de responsabilité, de valeurs et de conscience » (ibid., 105). De plus, le monde d’aujourd’hui se caractérise par une grande pluralité de systèmes politiques, de cultures, de traditions, de conceptions philosophiques et éthiques et de croyances religieuses. Les opinions sont de plus en plus tranchées et, en l’absence de confiance et d’une vision commune de ce qui rend la vie digne d’être vécue, les débats publics risquent d’être polémiques et peu concluants.
Seul un dialogue ouvert, dans lequel les personnes recherchent ensemble la vérité, peut aboutir à un véritable consensus ; et cela se produira si nous partageons la conviction que « dans la réalité même de l’être humain et de la société […] un ensemble de structures de base soutiennent leur développement et leur survie ». (Fratelli tutti, 212). La valeur fondamentale que nous devons reconnaître et promouvoir est celle de la dignité de la personne humaine (cf. ibid., 213). Je vous invite donc, dans vos délibérations, à faire de la dignité intrinsèque de tout homme et de toute femme le critère clé d’évaluation des technologies émergentes, qui révèlent leur positivité éthique dans la mesure où elles contribuent à manifester cette dignité et à en accroître l’expression, à tous les niveaux de la vie humaine.
Je suis préoccupé par le fait que les informations recueillies jusqu’à présent semblent indiquer que les technologies numériques ont servi à accroître les inégalités dans le monde. Non seulement les différences de richesse matérielle, qui sont importantes, mais aussi les différences d’accès à l’influence politique et sociale. Nous posons la question suivante : nos institutions nationales et internationales sont-elles capables de tenir les entreprises technologiques responsables de l’impact social et culturel de leurs activités ? Les inégalités croissantes risquent-elles de compromettre notre sens de la solidarité humaine et sociale ? Pourrions-nous perdre notre sens du bien commun ? En effet, notre objectif est que la croissance de l’innovation scientifique et technologique s’accompagne d’une plus grande égalité et d’une meilleure intégration sociale (cf. Message vidéo du pape François lors de la conférence TED de Vancouver, 26 avril 2017).
Ce problème d’inégalité peut être aggravé par une fausse conception de la méritocratie qui affaiblit la notion de dignité humaine. Il existe une justification pour reconnaître et récompenser le mérite et l’effort humains, mais il y a un risque de concevoir l’avantage économique de quelques-uns comme étant gagné ou mérité, tandis que la pauvreté du plus grand nombre est considérée, dans un sens, comme leur faute. Cette approche sous-estime les inégalités de base entre les personnes en termes de richesse, d’opportunités d’éducation et de liens sociaux, et traite les privilèges et les avantages comme des réussites personnelles. Par conséquent, pour schématiser ; si la pauvreté est la faute des pauvres, les riches sont dispensés de faire quoi que ce soit à ce sujet (cf. Discours au monde du travail, Gênes, 27 mai 2017).
Le concept de dignité humaine – c’est le cœur – exige que nous reconnaissions et respections le fait que la valeur fondamentale d’une personne ne peut être mesurée par un ensemble de données. Dans les processus décisionnels sociaux et économiques, nous devons être prudents et ne pas confier nos jugements à des algorithmes qui traitent des données collectées, souvent subrepticement, sur les personnes et leurs particularités et comportements passés. Ces données peuvent être entachées de préjugés sociaux et d’idées préconçues. Mais surtout, le comportement passé d’une personne ne doit pas être utilisé pour lui refuser la possibilité de changer, de grandir et de contribuer à la société. Nous ne pouvons pas permettre aux algorithmes de limiter ou de conditionner le respect de la dignité humaine, ni d’exclure la compassion, la miséricorde, le pardon et, surtout, l’ouverture à l’espoir de changement de l’individu.
Chers amis, je voudrais conclure en réaffirmant ma conviction que seules des formes de dialogue véritablement participatives peuvent discerner avec sagesse comment mettre l’intelligence artificielle et les technologies numériques au service de la famille humaine.
L’histoire biblique de la Tour de Babel (cf. Gn 11) a souvent été utilisée pour attirer l’attention contre les ambitions excessives de la science et de la technologie. En effet, l’Écriture nous met en garde contre l’orgueil de vouloir « toucher le ciel » (v. 4), c’est-à-dire de saisir et de s’emparer de l’horizon des valeurs qui identifient et garantissent notre dignité humaine. Et toujours, lorsque cela se produit, nous aboutissons à une grave injustice dans la société elle-même. Dans le récit de la Tour de Babel, la fabrication d’une brique est difficile : faire la boue, la paille, l’empiler, puis la cuire… Lorsqu’une brique tombait, c’était une grande perte, on se plaignait beaucoup : « Nous avons perdu une brique. » Si un ouvrier tombait, personne ne disait rien. Cela devrait nous faire réfléchir : qu’est-ce qui est le plus important : la brique ou l’ouvrier ?
C’est une distinction qui doit nous faire réfléchir. Et après la Tour de Babel, la découverte de différentes langues devient, comme toute intervention de Dieu, une nouvelle possibilité. Elle nous invite à voir la différence et la diversité comme une richesse, car l’uniformité ne permet pas la croissance, l’uniformité impose. Seule une certaine uniformité disciplinaire est bonne – elle peut l’être – mais l’uniformité imposée ne compte pas. Le manque de diversité est un manque de richesse, car la diversité nous oblige à apprendre ensemble les uns des autres et à redécouvrir avec humilité le véritable sens et la portée de notre dignité humaine. N’oublions pas que les différences stimulent la créativité, « elles créent des tensions et c’est dans la résolution des tensions que réside le progrès de l’humanité » (Fratelli tutti, 203). Lorsque les tensions sont résolues sur un plan plus élevé, les différences n’annihilent pas les pôles en tension mais les amène à maturité.
Je vous souhaite le plus grand succès dans vos dialogues et je vous remercie pour votre engagement à écouter et à grandir dans la compréhension des contributions des autres. Je vous bénis et vous demande de prier pour moi. Je vous remercie.
