Robert Oppenheimer, Lise Meitner, l’IA e le conseguenze indesiderate della tecnologia

La differenza tra “non l’ho visto arrivare” e “l’ho visto arrivare”

La storia della tecnologia mostra quanto sia difficile identificare le conseguenze indesiderate dell’innovazione: chi “ha visto arrivare” il pericolo, chi no e cosa ha fatto. Oppenheimer sapeva a cosa serviva la bomba. La sua tragedia morale è più scomoda: vedere il rischio non garantisce di fermarsi prima della soglia.

Lise Meitner, co-scopritrice della fissione nucleare, trasformò la previsione in limite: “Non voglio avere nulla a che fare con una bomba”.

Nel settembre 2024 pubblicai “Timeless Insights on A.I.: Artificial Intelligence Through the Eyes of History’s Greatest”. Lì, la voce romanzata di Oppenheimer presentava l’IA come continuazione del “dilemma del duplice uso”: la stessa intelligenza che cura, scopre e connette può sorvegliare, manipolare e uccidere.

“The Venusian Perspective: Great Women in History and Artificial Intelligence” (2025) riprese l’avvertimento attraverso Meitner: scienza, sì; scienza senza coscienza, no. “AI and the Wisdom of Popular Religiosity: Human Limits and the Dream of Omnipotence” (2026) aggiunse il pericolo della tecnolatria e dell’antico sogno umano dell’onnipotenza.

Non erano profezie. Erano esercizi di memoria storica: centinaia di voci romanzate, da cinque continenti e millenni di esperienza umana, usate come lenti per ampliare la nostra lettura dell’IA.

Ora chi costruisce i sistemi di IA più potenti lancia avvertimenti simili. Dario Amodei chiede di rallentare la frontiera; Sam Altman, Bill Gates, Demis Hassabis ed Elon Musk sostengono cautela e controllo. Il “non l’ho visto arrivare” perde la sua innocenza.

In “Un grande prompt per l’umanità”, su Magnifica Humanitas, viene posta la domanda chiave: non che cosa può fare la tecnologia, ma a che cosa serve, per chi e entro quali limiti.

L’IA ha bisogno di buoni prompt. L’umanità ha bisogno di qualcosa di più difficile, che richiede disciplina e autocontrollo: memoria, umiltà e il coraggio di dire “fin qui” prima che ci resti soltanto da spiegare perché non lo abbiamo fatto.