Robert Oppenheimer, Lise Meitner, la IA y las consecuencias no deseadas de la tecnología
La diferencia entre “no la vi venir” y “la vi venir”
La historia tecnológica muestra la dificultad de identificar las consecuencias no deseadas de la innovación: quiénes “vieron venir” el peligro, quiénes no y qué hicieron al respecto.
Oppenheimer sabía para qué se construía la bomba. Su tragedia moral es incómoda: ver el riesgo no garantiza detenerse antes de cruzar el umbral.
Lise Meitner, co-descubridora de la fisión nuclear, convirtió la previsión en límite: “No tendré nada que ver con una bomba”.
En septiembre de 2024 publiqué “Timeless Insights on A.I.: Artificial Intelligence Through the Eyes of History’s Greatest”. Allí, la voz ficcionada de Oppenheimer presentaba a la IA como continuación del “dilema del doble uso”: la misma inteligencia que cura, descubre y conecta puede vigilar, manipular y matar.
“The Venusian Perspective: Great Women in History and Artificial Intelligence” (2025) retomó la advertencia desde Meitner: ciencia, sí; ciencia sin conciencia, no.
“AI and the Wisdom of Popular Religiosity: Human Limits and the Dream of Omnipotence” (2026) añadió el peligro de la tecnolatría y del viejo sueño humano de omnipotencia.
No eran profecías. Eran ejercicios de memoria histórica: cientos de voces ficcionadas de cinco continentes y milenios de experiencia humana, usadas como lentes para ampliar nuestra lectura de la IA.
Ahora quienes construyen los sistemas de IA más poderosos advierten algo semejante. Dario Amodei pide desacelerar la frontera; Sam Altman, Bill Gates, Demis Hassabis y Elon Musk respaldan cautela y control. El “no la vi venir” pierde así su inocencia.
En “Un gran prompt para la Humanidad”, sobre Magnifica Humanitas, se plantea la pregunta clave: no qué puede hacer la tecnología, sino para qué, para quién y bajo qué límites.
La IA necesita buenos prompts. La humanidad necesita algo más difícil, que exige disciplina y autocontrol: memoria, humildad y el coraje de decir “hasta aquí” antes de que solo nos quede explicar por qué no lo hicimos.
Comentarios