LA INTELIGENCIA ARTIFICIAL Y LA PEDAGOGÍA DE LOS LÍMITES: EL DEBATE MÁS URGENTE DE LA SOCIEDAD HUMANA
¿Y si el verdadero peligro no fuera que las máquinas se parezcan a nosotros, sino que nosotros terminemos pareciéndonos a ellas?
Desde que en enero de 2023 comencé a investigar la interacción en “modo tándem” entre la Inteligencia Artificial y la experiencia acumulada por la humanidad a lo largo de milenios, continentes y campos de actividad, he llegado a una convicción: la IA representa uno de nuestros mayores logros técnicos, pero también una de nuestras tentaciones más peligrosas: la de confundir una capacidad tecnológica extraordinaria con una forma de omnipotencia.
Y considero que el problema más importante de la IA no es exclusivamente tecnológico. Es filosófico, antropológico, político y, en última instancia, espiritual.
Mi reflexión se organiza alrededor de cinco grandes cuestiones.
1. Los límites de la inteligencia artificial
La IA puede superar al ser humano en múltiples actividades intelectuales: procesar información, reconocer patrones, formular hipótesis y resolver problemas extremadamente complejos.
Pero existen diferencias fundamentales entre la inteligencia y la sabiduría. La inteligencia permite descubrir cómo hacer ciertas cosas; la sabiduría nos invita a preguntarnos si conviene hacerlas.
Un sistema puede recomendar la opción más eficiente, pero la eficiencia, por sí sola, no le otorga legitimidad moral para determinar qué es justo, digno o deseable.
Además, la IA tiene importantes límites epistemológicos: puede equivocarse, inventar información, reproducir sesgos preexistentes, y ofrecer respuestas convincentes sin comprender plenamente las circunstancias o el contexto humano en el que serán utilizadas.
No sabemos tampoco si algún sistema de IA podría desarrollar conciencia. No existe consenso científico sobre cómo determinarlo.
2. El riesgo de la omnipotencia tecnológica
Aquí encuentro una paradoja histórica fascinante. La ciencia moderna transformó la concepción humana de cómo lidiar con límites o fronteras respecto a nuestras posibilidades de hacer, brindándonos maneras de superar muchas restricciones anteriores.
Ahora la IA introduce una posibilidad inquietante: que confundamos la capacidad creciente de dominar nuestro entorno con la posibilidad de prescindir de cualquier límite.
Sin embargo, poder hacer algo no equivale a tener derecho a hacerlo.
La historia de la humanidad está repleta de invenciones y tecnologías cuyos efectos sociales, políticos y morales superaron la capacidad de previsión de sus creadores.
La fisión nuclear constituye un ejemplo especialmente elocuente.
3. Los cinco riesgos que más me preocupan
Yo clasificaría básicamente los riesgos de la IA de la siguiente manera:
a. La renuncia al juicio humano. Que las personas, instituciones y gobiernos comiencen a delegar decisiones importantes sin comprenderlas integralmente, ni cuestionar su sentido o sus efectos.
b. La concentración del poder. Que unas pocas empresas o Estados controlen las infraestructuras, los datos y los modelos que condicionarán buena parte de la vida económica y social.
c. La dificultad colectiva de discernir entre lo verdadero y lo falso. Que la producción a gran escala de imágenes, voces, textos y argumentos sintéticos debilite nuestra capacidad colectiva de distinguir lo verdadero de lo falso.
d. La pérdida de autonomía. Que a medida que estos sistemas se vuelven más capaces, pueden moldear nuestras preferencias y nuestra forma de actuar, afectar nuestras relaciones, e influir en nuestras decisiones, a veces mediante una manipulación difícil de detectar.
e. La pérdida de control sobre sistemas avanzados. Que una IA con creciente autonomía persiga objetivos de maneras que entren en conflicto con los intereses humanos, especialmente cuando opera parcial o totalmente sobre infraestructuras críticas, sistemas de ciberseguridad o sistemas militares.
Este riesgo merece especial atención. Aunque los expertos discrepan sobre la probabilidad de escenarios extremos, la gravedad de sus posibles consecuencias justifica investigar rigurosamente sus probabilidades e impactos, establecer controles estrictos y supervisar permanentemente su eficacia y dinámica.
4. El riesgo más profundo: el empobrecimiento espiritual
Este es, para mí, el aspecto más interesante y apremiante.
Imaginemos una humanidad que consigue mediante la IA producir casi cualquier contenido, resolver una enorme variedad de problemas prácticos, y satisfacer una proporción creciente de sus necesidades materiales.
¿Significaría eso que viviríamos mejor?
No necesariamente.
Ser humano, hoy, ayer y mañana, implica más que solucionar problemas con ayuda de la tecnología o el ingenio. Implica amar y sufrir, abrigar esperanzas, sueños y proyectos, perdonar, reflexionar profundamente, cultivar virtudes, encontrar significados a nuestras relaciones, y darle sentido a la vida.
La IA puede ayudarnos a examinar y describir esas experiencias, incluso a reflexionar sobre ellas con nosotros, pero la IA no puede reemplazar el hecho humano de vivirlas en carne propia.
Aquí encuentro una conexión particularmente importante con la investigación que me llevó a escribir mi último libro: “AI and the Wisdom of Popular Religiosity: Human Limits and the Dream of Omnipotence” (2026), que trata sobre los límites humanos y el sueño de la omnipotencia.
Las tradiciones religiosas y las prácticas de espiritualidad popular nos recuerdan algo que la cultura de la eficiencia suele olvidar: no todo lo valioso para el ser humano puede medirse en números, no todo lo importante produce resultados tangibles, y no todo lo que podemos controlar constituye aquello que verdaderamente necesitamos.
Una procesión, una peregrinación, la meditación, el ayuno o la oración compartida, prácticas que he investigado en África, América, Asia, Europa, Cercano Oriente y Oceanía, no tienen como objetivo aumentar la productividad. Estas prácticas se centran en aspectos de la vida que no pueden reducirse a una operación computacional.
5. Necesitamos una pedagogía de los límites
Considero que este concepto podría convertirse en uno de los fundamentos intelectuales más importantes de una filosofía de la IA.
No implica detener el progreso tecnológico.
Significa aprender a distinguir entre tres cuestiones fundamentales:
• Lo que podemos hacer: la capacidad tecnológica.
• Lo que debemos hacer: la responsabilidad ética.
• Lo que merece la pena hacer: la sabiduría sobre los fines de la existencia.
Una civilización que desarrolla extraordinariamente la primera capacidad, pero descuida las otras dos, puede volverse más poderosa sin volverse más sabia.
Por eso, pienso que las tradiciones espirituales tienen una contribución importante que ofrecer a la discusión contemporánea sobre la IA. No porque posean respuestas técnicas para sus desafíos, sino porque siglos de reflexión les han brindado algo que decir sobre el poder, la tentación, la humildad, la responsabilidad y lo que significa ser humano.
Mi conclusión
Hay una idea que considero especialmente potente y esclarecedora: la IA podría ser mucho menos peligrosa si se asemeja a nosotros, que si nos enseña a comportarnos como máquinas.
Si hiciéramos lo segundo, podríamos sacrificar la reflexión pausada, por la velocidad o la eficiencia, y el juicio o discernimiento, por el cálculo computacional. La conexión humana podría ceder ante sustitutos artificiales, mientras que la acumulación de información desplazaría la sabiduría.
Pero esto no es un destino inevitable. La IA también podría liberarnos de tareas repetitivas y abrir oportunidades extraordinarias para la ciencia, la educación, la salud y la creatividad.
El destino de este tándem humano-IA dependerá, en buena medida, de algo sobre lo que ya reflexionaba en septiembre de 2024, cuando esta tecnología apenas comenzaba a masificarse, en mi libro “Timeless Insights on AI: Artificial Intelligence through the eyes of History´s Greatest”.
Allí, recurrimos a las voces de cientos de grandes personajes de decenas de actividades humanas a lo largo de miles de años de historia en los cinco continentes como “sherpas” para adentrarnos en este mundo desconocido (porque a lo largo de la historia humana, toda tecnología naciente siempre tuvo sus tecno-optimistas y sus tecno-pesimistas).
Una enseñanza fundamental de aquel recorrido por la historia humana sigue plenamente vigente: nuestro futuro con la IA dependerá de las instituciones que construyamos, las decisiones que tomemos y los valores que decidamos preservar.
La gran pregunta del siglo XXI no será solamente hasta dónde puede llegar la inteligencia artificial, sino hasta dónde debería llegar, y qué significa seguir siendo humanos en un mundo donde las máquinas pueden hacer cada vez más cosas que antes considerábamos exclusivas de nosotros.
¿No será que la inteligencia artificial, precisamente al expandir nuestras capacidades hasta niveles antes inimaginables, nos está obligando a redescubrir la importancia de nuestros límites?
Esa paradoja podría ser una de las aportaciones más urgentes y necesarias para este debate a nivel de toda la sociedad humana que mi libro “AI and the Wisdom of Popular Religiosity: Human Limits and the Dream of Omnipotence” (2026) pretende provocar, con preguntas abiertas y respuestas por buscar, entre todos. Cuando digo “entre todos”, me refiero explícitamente a que las respuestas incluyan a todas las geografías y regiones que están fuera de los lugares donde se produce esta tecnología con pretensión de alcance universal. Esta es quizás la discusión humana más importante de nuestro presente y de nuestro futuro.
Alejandro Félix de Souza
Sobre el autor
Alejandro Félix de Souza es un analista social y político panameño-uruguayo, escritor, emprendedor, asesor sénior VIP y exdiplomático. Es autor de “Timeless Insights on A.I.: Artificial Intelligence Through the Eyes of History’s Greatest” (2024), “The Venusian Perspective: Great Women in History and Artificial Intelligence” (2025) y “AI and the Wisdom of Popular Religiosity: Human Limits and the Dream of Omnipotence” (2026). Su obra explora la inteligencia artificial a través de la historia, la ética, el humanismo y la sabiduría acumulada por la civilización.
Comentarios