Robert Oppenheimer, Lise Meitner, l’IA e le conseguenze indesiderate della tecnologia

La differenza tra “non l’ho visto arrivare” e “l’ho visto arrivare”

La storia della tecnologia mostra quanto sia difficile individuare le conseguenze indesiderate dell’innovazione: chi “ha visto arrivare” il pericolo, chi non lo ha visto e che cosa ha fatto al riguardo. Oppenheimer sapeva a che cosa serviva la bomba. La sua tragedia morale è inquietante: vedere il rischio non garantisce di fermarsi prima di oltrepassare la soglia. Lise Meitner, co-scopritrice della fissione nucleare, trasformò la previsione in un limite: “Non voglio avere nulla a che fare con una bomba”.

Nel settembre 2024 pubblicai “Timeless Insights on A.I.: Artificial Intelligence Through the Eyes of History’s Greatest”. Lì, la voce romanzata di Oppenheimer presentava l’IA come continuazione del “dilemma del duplice uso”: la stessa intelligenza che cura, scopre e connette può anche sorvegliare, manipolare e uccidere. “The Venusian Perspective: Great Women in History and Artificial Intelligence” (2025) riprese l’avvertimento attraverso Meitner: scienza, sì; scienza senza coscienza, no. “AI and the Wisdom of Popular Religiosity: Human Limits and the Dream of Omnipotence” (2026) aggiunse il pericolo della tecnolatria e dell’antico sogno umano dell’onnipotenza.

Non erano profezie. Erano esercizi di memoria storica: centinaia di voci romanzate, provenienti da cinque continenti e da millenni di esperienza umana, usate come lenti per ampliare la nostra lettura dell’IA.

Ora chi costruisce i sistemi di IA più potenti lancia avvertimenti simili. Dario Amodei chiede di rallentare lo sviluppo di frontiera; Sam Altman, Demis Hassabis, Bill Gates, Sundar Pichai ed Elon Musk sostengono maggiore cautela e controllo. Il “non l’ho visto arrivare” perde così la sua innocenza.

In “Un grande prompt per l’umanità”, su Magnifica Humanitas, viene posta la domanda fondamentale: non che cosa può fare la tecnologia, ma a che cosa deve servire, al servizio di chi e entro quali limiti.

L’IA ha bisogno di buoni prompt. L’umanità ha bisogno di qualcosa di più difficile, che richiede disciplina e autocontrollo: memoria, umiltà e il coraggio di dire “fin qui” prima che ci resti soltanto da spiegare perché non lo abbiamo fatto in tempo.