Robert Oppenheimer, Lise Meitner, la IA y las consecuencias no deseadas de la tecnología
Actualizado: 1 oct.
La diferencia entre “no la vi venir” y “la vi venir”
La historia tecnológica muestra la dificultad de identificar las consecuencias no deseadas de la innovación: quiénes “vieron venir” el peligro, quiénes no y qué hicieron al respecto. Robert Oppenheimer sabía para qué se construía la bomba atómica. Su tragedia moral es incómoda: ver el riesgo no garantiza detenerse antes de cruzar el umbral. Lise Meitner, co-descubridora de la fisión nuclear, convirtió la previsión en límite: “No tendré nada que ver con una bomba atómica”.
En septiembre de 2024 publiqué “Timeless Insights on A.I.: Artificial Intelligence Through the Eyes of History’s Greatest”. Allí, la voz ficcionada de Oppenheimer presentaba a la IA como continuación del viejo “dilema del doble uso”: la misma inteligencia que cura, descubre y nos conecta, puede vigilar, manipular y matar. “The Venusian Perspective: Great Women in History and Artificial Intelligence” (2025) retomó la advertencia desde la perspectiva de Meitner: ciencia, sí; ciencia sin conciencia, no. “AI and the Wisdom of Popular Religiosity: Human Limits and the Dream of Omnipotence” (2026) añadió el peligro de la tecnolatría y del viejo sueño humano de omnipotencia.
Estos textos no eran profecías. Eran ejercicios de memoria histórica: cientos de voces ficcionadas de cinco continentes y milenios de experiencia humana, usadas como lentes para mejorar nuestra lectura y comprensión de los beneficios y riesgos de la IA.
Ahora quienes construyen los sistemas de IA más poderosos advierten algo semejante. Dario Amodei pide desacelerar la frontera; Sam Altman, Demis Hassabis, Bill Gates, Sundar Pichai y Elon Musk respaldan el tener cautela y control. El “no la vi venir” pierde así su inocencia.
En “Un gran prompt para la Humanidad”, sobre la Encíclica Papal Magnifica Humanitas, se plantea la pregunta clave: no qué puede hacer la tecnología, sino para qué, para quién y bajo qué límites.
La IA necesita buenos prompts. La humanidad necesita algo más difícil, que exige disciplina y autocontrol: memoria, humildad y el coraje de decir “hasta aquí llegamos” antes de que solo nos quede explicar por qué no lo hicimos a tiempo.
Comentarios