L’INTELLIGENCE ARTIFICIELLE ET LA PÉDAGOGIE DES LIMITES : LE DÉBAT LE PLUS URGENT POUR L’HUMANITÉ

Et si le véritable danger n’était pas que les machines finissent par nous ressembler, mais que nous finissions, nous, par leur ressembler?

Depuis janvier 2023, date à laquelle j’ai commencé à explorer ce que pourrait être un travail «en tandem» entre l’intelligence artificielle et l’expérience accumulée par l’humanité au fil des millénaires, sur tous les continents et dans les domaines les plus divers, une conviction s’est imposée à moi : l’IA compte parmi nos plus grandes réussites techniques. Mais elle nous expose aussi à l’une de nos tentations les plus redoutables: prendre une puissance technologique hors du commun pour une forme d’omnipotence.

Je suis convaincu que la question essentielle que soulève l’IA n’est donc pas seulement technologique. Elle est philosophique, anthropologique, politique et, en dernière instance, spirituelle.

Je distinguerais cinq grands risques liés à l’IA, que je présenterais de la manière suivante:

1. Les limites de l’intelligence artificielle

L’IA peut surpasser l’être humain dans quantité de tâches intellectuelles : traiter des informations, déceler des régularités, formuler des hypothèses ou résoudre des problèmes d’une extrême complexité.

Mais l’intelligence ne se confond pas avec la sagesse. La première nous apprend comment accomplir une chose ; la seconde nous invite à nous demander s’il est souhaitable de l’accomplir.

Un système peut préconiser la solution la plus efficace. Cela ne lui confère en rien la légitimité morale de décider de ce qui est juste, digne ou désirable.

L’IA connaît, par ailleurs, d’importantes limites dans sa relation au savoir. Elle peut se tromper, inventer des informations, reproduire des biais préexistants et livrer des réponses convaincantes sans saisir pleinement les circonstances humaines dans lesquelles elles seront utilisées.

Nous ignorons également si un système d’IA pourrait un jour développer une forme de conscience. Il n’existe pas non plus de consensus scientifique sur les critères qui permettraient de l’établir.

2. Le risque de l’omnipotence technologique

Je vois ici un paradoxe historique fascinant. La science moderne a bouleversé notre rapport aux frontières du possible, en nous donnant les moyens de dépasser des limites que l’on croyait autrefois infranchissables.

Avec l’IA apparaît une perspective plus troublante encore : à mesure que grandit notre capacité d’agir sur le monde, nous pourrions en venir à penser qu’aucune limite ne devrait plus nous retenir.

Or, pouvoir faire quelque chose ne signifie pas avoir le droit de le faire.

L’histoire humaine regorge d’inventions dont les conséquences sociales, politiques et morales ont largement échappé à la prévision de leurs créateurs.

La fission nucléaire en est une illustration particulièrement éloquente.

3. Les cinq risques qui me préoccupent le plus

Si je devais hiérarchiser les dangers de l’IA, je les présenterais ainsi:

a. L’abandon du jugement humain. Des individus, des institutions et des gouvernements pourraient déléguer des décisions lourdes de conséquences sans en comprendre réellement la portée ni en interroger le sens et les effets.

b. La concentration du pouvoir. Quelques entreprises ou États pourraient contrôler les infrastructures, les données et les modèles qui façonneront une grande partie de notre vie économique et sociale.

c. L’affaiblissement de notre capacité collective à distinguer le vrai du faux. La production massive d’images, de voix, de textes et d’argumentaires générés artificiellement risque d’affaiblir notre capacité collective à distinguer le vrai du faux.

d. La perte d’autonomie. À mesure que ces systèmes gagnent en puissance, ils peuvent orienter nos préférences et nos comportements, transformer nos relations et peser sur nos choix, parfois par des formes de manipulation presque imperceptibles.

e. La perte de maîtrise des systèmes avancés. Une IA de plus en plus autonome pourrait poursuivre ses objectifs d’une manière contraire aux intérêts humains, notamment lorsqu’elle intervient, partiellement ou entièrement, dans les infrastructures critiques, la cybersécurité ou les systèmes militaires.

Ce dernier risque appelle une vigilance particulière. Les spécialistes ne s’entendent pas sur la probabilité des scénarios extrêmes. Mais la gravité de leurs conséquences éventuelles impose d’en étudier sérieusement la vraisemblance et les effets, de mettre en place des garde-fous exigeants et d’en surveiller continuellement l’efficacité.

4. Le risque le plus profond : l’appauvrissement spirituel

C’est, à mes yeux, la question la plus passionnante et la plus pressante.

Imaginons une humanité capable, grâce à l’IA, de produire presque n’importe quel contenu, de résoudre d’innombrables problèmes pratiques et de satisfaire une part toujours plus grande de ses besoins matériels.

Vivrait-elle nécessairement mieux ?

Rien n’est moins sûr.

Être humain, hier comme aujourd’hui et demain, ne consiste pas seulement à résoudre des problèmes par la technique ou l’ingéniosité. C’est aimer et souffrir, nourrir des espoirs, des rêves et des projets, pardonner, méditer, cultiver des vertus, donner un sens à nos relations et chercher une raison de vivre.

L’IA peut nous aider à examiner et à décrire ces expériences, voire à y réfléchir avec nous. Elle ne peut cependant se substituer à l’expérience profondément humaine de les vivre soi-même.

Je retrouve ici un lien essentiel avec les recherches qui m’ont conduit à écrire mon dernier ouvrage, « AI and the Wisdom of Popular Religiosity: Human Limits and the Dream of Omnipotence » (2026), consacré aux limites humaines et au rêve d’omnipotence.

Les traditions religieuses et les pratiques de spiritualité populaire nous rappellent une vérité que notre culture de l’efficacité tend trop souvent à oublier : tout ce qui a de la valeur ne se mesure pas en chiffres ; tout ce qui compte ne produit pas des résultats tangibles ; et tout ce que nous pouvons maîtriser ne correspond pas nécessairement à ce dont nous avons véritablement besoin.

Une procession, un pèlerinage, la méditation, le jeûne ou la prière collective — des pratiques que j’ai étudiées en Afrique, dans les Amériques, en Asie, en Europe, au Proche-Orient et en Océanie — ne visent pas à accroître la productivité. Elles cultivent des dimensions de l’existence irréductibles à une opération informatique.

5. Nous avons besoin d’une pédagogie des limites

Je pense que cette idée pourrait devenir l’un des fondements intellectuels majeurs d’une philosophie de l’IA.

Il ne s’agit nullement de freiner le progrès technologique.

Il s’agit d’apprendre à distinguer trois questions fondamentales:

• Ce que nous pouvons faire : la capacité technologique.

• Ce que nous devons faire : la responsabilité éthique.

• Ce qui mérite d’être fait : la sagesse quant aux finalités de l’existence.

Une civilisation qui développe formidablement la première capacité tout en négligeant les deux autres peut gagner en puissance sans gagner en sagesse.

Voilà pourquoi les traditions spirituelles ont, selon moi, quelque chose d’important à apporter au débat contemporain sur l’IA. Non qu’elles détiennent des réponses techniques à ses défis, mais parce que des siècles de réflexion leur ont permis d’interroger le pouvoir, la tentation, l’humilité, la responsabilité et la condition humaine.

En conclusion

Une idée me paraît particulièrement forte et éclairante : l’IA serait peut-être bien moins dangereuse si les machines finissaient par nous ressembler que si nous apprenions, à leur contact, à nous comporter comme elles.

Dans ce second cas, nous risquerions de sacrifier la réflexion patiente à la vitesse et à l’efficacité, et le discernement au calcul. Les liens humains pourraient céder la place à des substituts artificiels, tandis que l’accumulation d’informations supplanterait la sagesse.

Mais rien de tout cela n’est écrit d’avance. L’IA pourrait aussi nous affranchir des tâches répétitives et ouvrir des perspectives extraordinaires à la science, à l’éducation, à la santé et à la créativité.

Le destin de ce tandem entre humains et IA dépendra en grande partie d’une question que j’abordais déjà en septembre 2024, alors que cette technologie commençait à peine à se diffuser largement, dans mon livre «Timeless Insights on AI: Artificial Intelligence through the eyes of History´s Greatest».

Dans cet ouvrage, nous avons fait appel aux voix de centaines de grandes figures, issues des domaines les plus divers, ayant marqué des millénaires d’histoire sur les cinq continents. Elles nous ont servi de « sherpas » pour nous aventurer dans un territoire encore inconnu. Après tout, chaque technologie naissante a connu ses techno-optimistes et ses techno-pessimistes.

De ce voyage à travers l’histoire, je retiens un enseignement qui n’a rien perdu de son actualité: notre avenir avec l’IA dépendra des institutions que nous construirons, des décisions que nous prendrons et des valeurs que nous choisirons de préserver.

La grande question du XXIe siècle n’est pas seulement de savoir jusqu’où l’intelligence artificielle peut aller. Elle est de déterminer jusqu’où elle devrait aller — et ce que signifie rester humain dans un monde où les machines accomplissent de plus en plus de tâches que nous pensions autrefois n’appartenir qu’à nous.

Et si l’intelligence artificielle, en élargissant nos capacités au-delà de tout ce que nous imaginions possible, nous contraignait précisément à redécouvrir l’importance de nos limites?

C’est l’un des paradoxes les plus urgents que mon livre « AI and the Wisdom of Popular Religiosity: Human Limits and the Dream of Omnipotence » (2026) souhaite porter dans un débat qui concerne l’humanité tout entière, avec des questions ouvertes et des réponses qu’il nous reste à chercher ensemble. Et par « ensemble », j’entends expressément toutes les régions du monde, y compris celles qui se trouvent loin des lieux où se conçoit une technologie aux ambitions universelles. Il s’agit peut-être de la conversation la plus importante de notre présent et de notre avenir.

Alejandro Félix de Souza

www.alejandrofelixdesouza.com

À propos de l’auteur

Alejandro Félix de Souza est un analyste politique et social panaméen-uruguayen, écrivain, entrepreneur, conseiller stratégique de haut niveau et ancien diplomate. Il est l’auteur de «Timeless Insights on A.I.: Artificial Intelligence Through the Eyes of History’s Greatest» (2024), «The Venusian Perspective: Great Women in History and Artificial Intelligence» (2025) et «AI and the Wisdom of Popular Religiosity: Human Limits and the Dream of Omnipotence» (2026). Son œuvre examine l’intelligence artificielle à la lumière de l’histoire, de l’éthique, de l’humanisme et de la sagesse accumulée par les civilisations.