Discours du pape François au G7 : gardons le contrôle sur l'IA !

Publié le
23/7/24

En s’adressant aux membres du G7 réunis en Italie, le 14 juin 2024, le pape François a prononcé une vibrante exhortation à la responsabilité politique face aux innovations technologiques. Pourquoi choisit-il d’intervenir sur ce sujet, apparemment bien éloigné des questions spirituelles ? D'après le père Laurent Stalla-Bourdillon, c'est précisément, parce que cette révolution technologique nous concerne tous au plan social, quelles que soient nos convictions religieuses. C’est sa considération pour l’humanité dans son unité qui conduit le Pape François à s’impliquer dans l’épineuse question de la régulation des IA. Décryptage.

No items found.

Le père Laurent Stalla-Bourdillon est prêtre du diocèse de Paris, théologien et enseignant au Collège des Bernardins depuis plus de 10 ans. Analyste de la vie sociale et politique, il dirige notamment le service pour les professionnels de l'information.

Après une description très précise du fonctionnement technique[1] de ces nouveaux outils, il a rappelé combien seule l’éthique pouvait protéger l’humanité de ses propres inventions. Cette éthique repose sur la conscience de la dignité de la personne humaine et doit s’imposer aujourd’hui dans des décisions politiques au niveau international.

Il faut revenir à l’origine de ce potentiel créatif de notre intelligence : notre intériorité. C’est elle qui contient la clé d’un usage éthique associant liberté et responsabilité.

Le potentiel créatif, qui est un don de Dieu, a permis l’invention de ces outils extrêmement puissants, dont l’utilisation influencera de plus en plus notre mode de vie. L’IA demeure ambivalente, elle promet des progrès et fait apparaître des dangers. Cette véritable « révolution cognitivo-industrielle » va susciter « un nouveau système social caractérisé par de complexes transformations historiques. » Elle fait courir le risque d’une « plus grande injustice entre les pays riches et les pays en voie de développement, entre les classes sociales dominantes et les classes sociales opprimées, compromettant ainsi la possibilité d’une “culture de la rencontre” au profit d’une “culture du rejet”. »

Pour François, il faut revenir à l’origine de ce potentiel créatif de notre intelligence : notre intériorité. C’est elle qui contient la clé d’un usage éthique associant liberté et responsabilité.

Le Pape distingue les choix algorithmiques basés sur des déductions statistiques et le choix d’un être humain dans son cœur, qu’il appelle une décision. « La décision doit toujours être laissée à l’être humain, même dans une tournure dramatique et urgente avec laquelle elle se présente parfois dans nos vies. (…) Nous devons garantir et protéger un espace de contrôle humain significatif sur le processus de choix des programmes d’intelligence artificielle : la dignité humaine elle-même en dépend. » La dignité humaine se trouve dans la capacité de décision, il convient donc de la garantir et la protéger de la régulation algorithmique.

Or certaines formes avancées d’intelligence artificielle, ne sont déjà plus entièrement sous le contrôle des utilisateurs ou des programmateurs. Le Pape interroge donc la signification de la perte de contrôle sur l’IA. Il rappelle que « l’être humain évolue en permanence et se montre capable de surprendre par ses actes, chose que la machine ne peut pas prendre en compte. »  Il y a de l’imprédictible dans la vie humaine, en vertu de sa dimension spirituelle. Celle-ci nous fait désirer la vérité et le bonheur que les machines ne peuvent connaitre. Les mécanismes de calcul sont dépourvus « des qualités de certitude indiscutable et d’universalité irréfutable ».

La dignité humaine se trouve dans la capacité de décision, il convient donc de la garantir et la protéger de la régulation algorithmique.

François précise que l’intelligence artificielle est plutôt “renforçatrice” que générative. Elle réorganise des contenus existants, contribuant à les consolider, souvent sans vérifier s’ils contiennent des erreurs ou des idées préconçues. Il s’inquiète dès lors de ce que cette « saison d’innovation technologique s’accompagne d’une conjoncture sociale particulière et sans précédent : sur les grandes questions de la vie sociale, il est de plus en plus difficile de trouver des accords. (…) Au-delà de la complexité des visions légitimes qui caractérisent la famille humaine, un facteur émerge qui semble unir ces différentes instances. Nous assistons à une disparition ou du moins à une éclipse du sens de l’humain et à une apparente insignifiance du concept de dignité humaine[2]. Il semble que nous perdons la valeur et le sens profond de l’une des catégories fondamentales de l’Occident : la catégorie de la personne humaine. »

Nous assistons à une disparition ou du moins à une éclipse du sens de l’humain et à une apparente insignifiance du concept de dignité humaine. Il semble que nous perdons la valeur et le sens profond de l’une des catégories fondamentales de l’Occident : la catégorie de la personne humaine."

« Pour que ces outils participent à la construction du bien et d’un avenir meilleur, ils doivent toujours être ordonnés au bien de chaque être humain » implore le Pape. Ils doivent avoir une inspiration éthique. La décision éthique prend en compte « non seulement des résultats d’une action, mais aussi des valeurs en jeu et des devoirs qui en découlent. Seule une régulation éthique évitera le risque que l’intelligence artificielle limite la vision du monde à des réalités exprimables en chiffres et enfermées dans des catégories préconçues, (…)  en imposant des modèles anthropologiques, socio-économiques et culturels uniformes. Cette technologie risque de renforcer le “paradigme technocratique” qui domine la décision humaine. « Nous devons faire de l’intelligence artificielle un rempart précisément contre son expansion » demande le Pape.

Les effets de l’intelligence artificielle sur l’avenir de l’humanité nous amènent donc à considérer l’importance d’une “saine politique” pour envisager notre avenir avec espoir et confiance. « Il appartient à chacun d’en faire bon usage et à la politique de créer les conditions pour que cet usage soit possible et fécond. »

[1] « Dans son essence, l’intelligence artificielle est un outil conçu pour résoudre un problème et fonctionne par un enchaînement logique d’opérations algébriques, effectuées sur des catégories de données, qui sont confrontées pour découvrir des corrélations, en améliorant leur valeur statistique, grâce à un processus d’auto-apprentissage, basé sur la recherche de nouvelles données et l’auto-modification de ses procédures de calcul. »

[2] Dicastère pour la Doctrine de la Foi, Déclaration Dignitas infinita sur la dignité humaine (2 avril 2024).

Cet article est republié à partir du service pour les professionnels de l'information

No items found.
Saviez-vous que près de la moitié des ressources du Collège des Bernardins provient de vos dons ?

Les Bernardins sont une association à but non lucratif qui vit grâce à la générosité de chacun d'entre vous. Votre don soutient notre vocation : promouvoir un dialogue fécond au sein de notre société. Je donne