Di Albelice Salvatore, il rischio dell’IA.
Da molto tempo volevo scrivere qualcosa su Stanislav Petrov, un eroe globale dimenticato che salvò l’umanità da un disastro nucleare e la fine del pianeta Terra.

L’intelligenza Artificiale militare è un rischio concreto di conflitto nucleare involontario.

Il rischio di comprimere i tempi di riflessione e di accentuare la tendenza degli operatori umani ad assecondare in modo acritico gli output delle macchine , aumentano la possibilità di errori catastrofici nel corso di una crisi.

Questi e altri rischi connessi all’Intelligenza artificiale militare si inseriscono in uno scenario globale inedito e particolarmente critico e pericoloso per l’umanità.

Si deve valutare urgentemente e attentamente i potenziali rischi connessi agli usi militari dell’Intelligenza Artificiale.

L’applicazione dei sistemi di Intelligenza artificiale nella gestione delle armi nucleari e estremamente pericolosa.

Il Poseidon russo, ad esempio, è un veicolo sottomarino dotato di armi nucleari, funziona senza equipaggio e, una volta dispiegato, opererà in modo autonomo.

“Inoltre, l’eccessiva fiducia nelle risposte generate dall’Intelligenza artificiale e il ritmo sostenuto imposto da tali sistemi iper-veloci possono indebolire la capacità umana di giudizio, aumentando la probabilità di percezioni errate e di reazioni eccessive”.

In breve, l’uso dei sistemi decisionali basati sull’intelligenza artificiale nel processo decisionale militare influisce sul rischio di escalation nucleare non tanto eliminando completamente gli esseri umani dal processo, quanto minando le condizioni necessarie per esercitare un effettivo controllo umano lungo tutta la catena di raccolta, analisi, interpretazione e comunicazione delle informazioni.

“Cui va aggiunto il fatto che tali sistemi siano altamente suscettibile agli attacchi informatici: attori statali o non statali potrebbero manipolare i dati o alterare gli algoritmi per generare falsi allarmi o nascondere minacce reali”.

I dati storici relativi a escalation accidentali suggeriscono che la capacità tipicamente umana di esercitare il dubbio e disobbedire alle regole ha svolto un ruolo cruciale nel prevenire conseguenze catastrofiche. Il famoso caso di Stanislav Petrov, l’ufficiale sovietico che il 26 settembre 1983 ha scelto di non segnalare quello che si è poi rivelato un falso allarme nucleare, dovrebbe sempre essere richiamato come esempio e monito.

Stanislav Petrov è stato un tenente colonnello dell’esercito sovietico che, nel 1983, evitò una guerra nucleare grazie alla sua decisione di non rispondere a un falso allarme di attacco missilistico statunitense. La sua storia, inizialmente sconosciuta, è emersa negli anni successivi, facendolo diventare un eroe (oggi dimenticato) per aver salvato il mondo da un’imminente apocalisse.

Siamo nel 1983, durante la Guerra Fredda, con tensioni altissime tra Stati Uniti e Unione Sovietica.

La notte del 26 settembre, il sistema di allarme sovietico segnalò il lancio di missili nucleari dagli Stati Uniti. La procedura standard prevedeva una rappresaglia immediata, il lancio di missili nucleari sovietici contro gli Stati Uniti.
La decisione di Petrov: a capo della base missilistica, ebbe il compito di valutare la situazione. Nonostante le segnalazioni del sistema, egli ebbe il sospetto che si trattasse di un falso allarme. Le ragioni di questo sospetto sono varie, tra cui la mancanza di riscontri da parte di altri sistemi di rilevamento e la sua esperienza.

Invece di seguire la procedura standard, Petrov decise di non dare l’allarme ai suoi superiori, considerando l’evento come un errore del sistema.

Dopo 26 minuti, tempo sufficiente per un attacco nucleare, non si verificò nulla. La situazione fu poi chiarita: si trattava di un falso allarme causato da un malfunzionamento del sistema.

La decisione di Petrov evidenziò la fragilità dei sistemi di allarme e l’importanza del giudizio umano in situazioni di crisi. Il suo gesto sottolineò anche come un singolo individuo, in una situazione di pericolo estremo, possa fare la differenza tra la vita e la morte di milioni di persone.
La storia di Stanislav Petrov è un monito e un esempio di coraggio, di discernimento e di umanità, in un periodo storico segnato dalla paura di una guerra nucleare.

Invece che essere premiato, però, venne messo sotto accusa dai superiori che gli rimproverarono di non aver tenuto traccia degli eventi nel diario di bordo ( avevo il telefono in una mano e il citofono nell’altra e non ho una terza mano», si difese). Sta di fatto che la libertà intellettuale di un uomo cresciuto in epoca staliniana, ma che sapeva pensare con la sua testa, gli ha garantito quella indispensabile lucidità che, anni dopo, l’avrebbe incoronato come L’uomo che fermò l’apocalisse.

Nel 2013 l’Onu ha riconosciuto l’enorme valore del gesto di Stanislav Petrov , proclamando il 26 settembre “Giornata internazionale contro le armi nucleari”.

Vale la pena, quindi, custodire una frase che Petrov pronunciò in un’intervista al quotidiano tedesco Der Spiegel: “Quando giochiamo a fare Dio, chi può sapere quale sarà la prossima sorpresa?”.

Non dimentichiamo: La mattina del 6 agosto 1945, alle ore 8:15, l’aeronautica militare statunitense sganciò la bomba atomica Little Boy sulla città di Hiroshima, cui fece seguito, tre giorni dopo, lo sgancio della bomba atomica Fat Man su Nagasaki; le due missioni causarono in totale un numero di vittime dirette stimato fra le 150 000 e le 220 000 persone, quasi esclusivamente civili.