La nécessité urgence d’une « éthique dans la technologie », a été diagnostiquée par Mgr Vincenzo Paglia, président de l’Académie pontificale pour la vie, à l’occasion d’un congrès organisé à l’hôpital pédiatrique du Vatican « Bambino Gesù », à Rome, sur le thème « Quelle éthique pour quelle technologie », indique un communiqué de ce 12 décembre 2019.
La technologie, a fait observer Mgr Paglia, doit être orientée vers le développement et vers des modèles de gestion concrets qui prennent en compte les différences entre les personnes et les valeurs véhiculées par les cultures et les religions, sans exclusion.
A propos des technologies liées à l’intelligence artificielle (IA), le président de l’Académie pontificale pour la vie a annoncé que l’institution vaticane travaille à développer « un appel à l’éthique qui mène à une évaluation critique des effets de ces technologies, des risques qu’elles comportent, des voies réglementaires possibles, y compris dans l’éducation ». « Il s’agit d’examiner l’intégralité du parcours de traitement, qui va de la recherche et de la conception, à l’usage que les institutions ou les utilisateurs individuels peuvent en faire », a-t-il précisé.
Mgr Paglia a mis en garde contre « le risque » qui apparaît « avec le développement de l’Intelligence Artificielle » quand « l’accès et le traitement deviennent sélectivement réservés aux grands holdings économiques, aux systèmes de sécurité publique et aux acteurs de la gouvernance politique ». « En d’autres termes, a-t-il expliqué, dans la recherche d’informations ou dans le maintien des contacts avec les autres l’équité est en jeu si la sophistication des services sera automatiquement soustraite à ceux qui n’appartiennent pas à des groupes privilégiés ou n’ont pas de compétences particulières. »
« Le feed-back caractéristique de l’IA, a poursuivi Mgr Paglia, est précisément la puissance et la sophistication de ce mécanisme sélectif de conformité sociale au dispositif. Ainsi se maintient un circuit qui, dans le but de conditionner et de diriger le comportement, profite de la sujétion inconsciente de l’utilisateur qui l’alimente, qui devient dominée par une véritable «algocratie» (domaine de l’algorithme). » « C’est une problématique qui pose un nouveau paradigme pour le cadrage d’une éthique praticable dans ce domaine », a dit le président.
