Le 14 juin 2024, le pape François s'adressait de façon exceptionnelle aux dirigeants des pays du G7 (groupe comprenant sept des dix pays les plus puissants de la planète — Allemagne, Canada, États-Unis, France, Italie, Japon et Royaume-Uni — mais n'incluant pas la Chine, la Russie et l'Inde) en étant présent à leur session de Borgo Egnazia, dans la région des Pouilles, en Italie, pour leur présenter « une réflexion sur les effets de l'intelligence artificielle (IA) sur l'avenir de l'humanité », un « outil fascinant et redoutable », les mettant en garde contre les dangers de l'IA, et le besoin de l'encadrer pour que les humains n'en deviennent pas les victimes. Voici certains extraits de son discours :
Le Saint-Père s’adressant aux dirigeants du G7L'intelligence artificielle est un outil extrêmement puissant, utilisé dans de nombreux domaines de l'activité humaine : de la médecine au monde du travail, de la culture à la communication, de l'éducation à la politique. Et l'on peut désormais supposer que son utilisation influencera de plus en plus notre mode de vie, nos relations sociales et même, à l'avenir, la manière dont nous concevons notre identité en tant qu'êtres humains.
Le thème de l'intelligence artificielle est cependant souvent perçu comme ambivalent : d'une part, il enthousiasme par les possibilités qu'il offre, d'autre part, il suscite la crainte par les conséquences qu'il laisse présager. À cet égard, on peut dire que nous sommes tous, à des degrés divers, traversés par deux émotions : nous sommes enthousiastes lorsque nous imaginons les progrès qui peuvent découler de l'intelligence artificielle, mais, en même temps, nous sommes effrayés lorsque nous voyons les dangers inhérents à son utilisation. (…)
L'utilisation de nos outils n'est pas toujours uniquement orientée vers le bien… Lorsque nos ancêtres aiguisaient des silex pour fabriquer des couteaux, ils les utilisaient à la fois pour couper le cuir pour les vêtements et pour s'entretuer. On pourrait dire la même chose pour d'autres technologies beaucoup plus avancées, comme l'énergie produite par la fusion d'atomes telle qu'elle se produit sur le soleil, qui pourrait certes être utilisée pour produire une énergie propre et renouvelable, mais aussi pour réduire notre planète en un tas de cendres (les bombes atomiques).
L'intelligence artificielle est cependant un outil encore plus complexe. Je dirais presque qu'il s'agit d'un outil sui generis (unique en son genre). Alors que l'utilisation d'un outil simple (comme le couteau) est sous le contrôle de l'être humain qui l'utilise et que son bon usage ne dépend que de lui, l'intelligence artificielle, en revanche, peut s'adapter de manière autonome à la tâche qui lui est assignée et, si elle est conçue de cette manière, faire des choix indépendants de l'être humain pour atteindre l'objectif fixé.
Ce que fait la machine est un choix technique entre plusieurs possibilités et se base soit sur des critères bien définis, soit sur des déductions statistiques. L'être humain, quant à lui, non seulement choisit, mais dans son cœur il est capable de décider… Face aux prodiges des machines, qui semblent capables de choisir de manière autonome, nous devons être clairs sur le fait que la décision doit toujours être laissée à l'être humain, même dans une tournure dramatique et urgente avec laquelle elle se présente parfois dans nos vies. Nous condamnerions l'humanité à un avenir sans espoir si nous retirions aux gens la capacité de décider d'eux-mêmes et de leur vie, les condamnant à dépendre des choix des machines. Nous devons garantir et protéger un espace de contrôle humain significatif sur le processus de choix des programmes d'intelligence artificielle : la dignité humaine elle-même en dépend.
Permettez-moi d'insister précisément sur ce sujet : dans un drame tel qu'un conflit armé, il est urgent de repenser le développement et l'utilisation de dispositifs tels que les "armes autonomes létales" afin d'en interdire l'usage, en commençant déjà par un engagement dynamique et concret à introduire un contrôle humain de plus en plus significatif. Aucune machine ne devrait jamais choisir d'ôter la vie à un être humain.
Il faut, en outre, ajouter que le bon usage, au moins des formes avancées d'intelligence artificielle, ne sera pas entièrement sous le contrôle des utilisateurs ou des programmateurs qui en ont défini les visées originelles au moment de la conception.
Ceci est d'autant plus vrai qu'il est fort probable que, dans un avenir assez proche, les programmes d'intelligence artificielle pourront communiquer directement entre eux afin d'améliorer leurs performances. Et si, dans le passé, les hommes qui ont façonné des outils simples ont vu leur existence modifiée par eux – le couteau leur a permis de survivre au froid mais aussi de développer l'art de la guerre –, maintenant que les hommes ont façonné un outil complexe, ils verront celui-ci modifier encore davantage leur existence.
