Pour prévenir la course à l’armement et l’augmentation des inégalités et de l’instabilité, il faut agir « rapidement », insiste le Saint-Siège à l’ONU. Et de mettre en garde : déléguer aux systèmes d’armes létales autonomes du pouvoir décisionnaire serait « une pente savonneuse périlleuse ».
Mgr Ivan Jurkovič, observateur permanent du Saint-Siège aux Nations-Unies à Genève, est intervenu en ces termes devant le Groupe d’experts gouvernementaux sur les systèmes d’armes létales autonomes (SALA), le 27 août 2018, à Genève.
L’archevêque a demandé notamment à étudier en « point de départ » les implications éthiques de leur utilisation. Car partir d’une perspective seulement technologique serait « courir le risque d’accepter implicitement des systèmes d’armes potentiellement dangereux dans l’avenir ».
Cela permettra d’identifier, « y compris a priori, les systèmes que nous ne pouvons pas accepter à cause de leurs fonctions, basées sur un cadre commun éthique et légal ». Et c’est aussi « une façon d’assurer le respect pour l’autorité politique ».
Mgr Jurkovic a rappelé que le fondement classique des systèmes légaux était « la reconnaissance de la personne humaine comme sujet responsable qui pourrait être sanctionné pour ses actes répréhensibles et être obligée de rendre réparation pour les dommages causés ».
« La notion de responsabilité, a-t-il ajouté, s’origine dans la réalité profonde de la personne humaine comme un être libre et de raison. Un système autonome n’a pas d’intention. Il met en oeuvre et élabore des algorithmes mais il ne possède pas d’intentions. » En ce sens, « les systèmes d’armes autonomes qui cachent le sujet responsable sont inacceptables ».
« Si l’on délègue d’importants pouvoirs de décision à une machine dont l’attitude est imprévisible ou dont les domaines d’opération ne sont pas bien définis ni connus (par exemple si la machine a des capacités d’apprentissage), l’action/responsabilité cruciale serait inévitablement compromise », a averti le représentant du Saint-Siège : « Nous accepterions une flagrante contradiction et donc saperions les fondations légales sur lesquelles les institutions légales sont basées, y compris la répression des crimes. »
