Que dit l’encyclique dans les grandes lignes ?

En résumé, la première partie de l’encyclique fait un certain nombre de rappels importants. Il y a notamment une prise de position forte sur le rôle de l’Église face aux grands enjeux contemporains, dont ceux que soulève l’IA. Au moins depuis le concile de Vatican II, il est reconnu que l’Église n’a pas la vocation de se substituer aux gouvernements et aux États. Pourtant, l’Église n’entend pas jouer un rôle uniquement dans l’intimité des croyants. Il s’agit d’accompagner et de soutenir les efforts de discernement des personnes. Mais cette pensée catholique vivante ne doit pas rester confinée dans un entre-soi. Au contraire, l’ambition est de contribuer à l’effort collectif en direction du bien commun. Si ce premier grand rappel sur le rôle de l’Église touche plutôt à la forme, le second porte résolument sur le fond. L’encyclique vise en effet à mobiliser la doctrine sociale de l’Église pour éclairer les grands défis générés par l’IA. Le texte prend alors le temps d’expliquer les origines de cette pensée sociale et d’en détailler les grands principes (par exemple, le bien commun). Ces différentes ressources sont ensuite appliquées pour explorer les problématiques liées à l’IA. On trouve, en particulier, une discussion sur le rapport à la vérité, sur le travail et sur la liberté.

Quels sont les messages de l'encyclique ?

La question fondamentale qu’elle soulève est celle de la vision de l’humain et du bien commun qui vont guider l’action humaine, en particulier dans le contexte du développement technologique. Le pape met en garde contre le danger de positionner cette réflexion dans un « paradigme technocratique » qui aboutirait à penser l’humain et le bien commun exclusivement à travers des indicateurs de production, de productivité et de performance à optimiser grâce à la technologie. C’est l’un des grands messages de l’encyclique que d’alerter sur ce risque. On ne doit pas laisser la technologie enfermer l’humain. Au contraire, il s’agit de se mobiliser pour s’efforcer de mieux comprendre ce que signifie un bon futur, une bonne vie. C’est seulement à partir d’un tel effort de discernement que l’on pourra définir ce qu’est une bonne technologie ou un bon usage d’une technologie. Voilà le travail que la technologie ne peut pas faire par elle-même : donner une direction, un sens. Parfois, les « solutions » technologiques ne répondent pas aux besoins réels. Par exemple, a-t-on besoin de robots pour pallier le manque de personnel auprès des personnes dépendantes ? Si l’on commence par cette question, on risque de mutiler le débat. Il convient peut-être d’interroger le pourquoi de ce manque de personnel. Peut-être faut-il aussi s’interroger sur la reconnaissance et la rémunération de ce type d’emploi ? On pourrait multiplier les exemples. Utiliser l’IA générative pour répondre plus rapidement à une question, cela peut être un bon objectif, mais pas forcément dans toutes les situations. Parfois, on a besoin de temps pour réfléchir.

C'est-à-dire que l'IA doit rester un outil.

C'est cela, il ne faut pas que la technologie devienne l’unique prisme à travers lequel on pense nos besoins et nos objectifs. Il faut résister à la tentation de considérer comme un progrès automatique tout gain de performance ou d’efficacité, pour reprendre la main et réfléchir aux besoins de manière plus globale. L’encyclique fournit d’importantes ressources pour cela. Elle nous rappelle, par exemple, qu’un gain en efficacité de production n’est pas un authentique progrès s’il se fait au prix d’une souffrance injuste d’une partie de l’humanité (principe du bien commun). On peut directement appliquer cette réflexion aux « travailleurs du clic » qui doivent filtrer les réponses parfois affreuses des IA génératives. En outre, en abordant les thèmes du rapport à la vérité, du travail, de la liberté et de la responsabilité, l’encyclique met en avant une spécificité cruciale de l’humain que la machine ne peut pas reproduire : la capacité à prendre des décisions. L’IA ne peut pas décider. En effet, pour être capable de décider dans un sens fort, il faut disposer d’une sorte de libre arbitre. Un ordinateur est, par définition, sur des rails ; on ne veut surtout pas qu'il se comporte différemment de ce qui est prévu. Ce n’est pas le cas avec les êtres humains. Cela signifie que la responsabilité de la prise de décision reposera toujours sur ceux qui peuvent la prendre. Une machine ne peut pas être responsable de quoi que ce soit. L’IA peut être une aide inestimable dans le travail humain de production de connaissances, mais elle ne peut pas produire de connaissance elle-même, en autonomie. L’IA n’entretient pas en elle-même de rapport à la vérité, précisément parce qu’elle n’est pas capable de décider. Et cette faculté est l’un des aspects de la dignité humaine.

En fait, si, techniquement l'intelligence artificielle peut prendre des décisions.

Non ! Quand on dit qu'une IA prend une décision, c'est un abus de langage. Au fond c’est une question sémantique, dont la signification éthique est déterminante. L’informatique, IA incluse, est toujours basée sur un mécanisme qui produit un résultat, et si tout se passe bien, c’est le résultat désiré. Mais lorsqu’on met un ordinateur à la place d’un humain, on remplace une prise de décision authentique par une exécution mécanique d’instructions. Dans l’absolu, je veux bien qu'on parle d’une décision artificielle. Cependant, il faut admettre que cela n’a pas grand-chose à voir avec une décision humaine. En filigrane, il y a la notion de la responsabilité, de l’engagement attendu des humains lorsqu’ils prennent des décisions. Et tout cela est totalement étranger à l’ordinateur et donc à l’IA. Il est crucial de bien faire la distinction.