Moriremo tutti. Non è una notizia: in fondo, lo sappiamo già. È solo che ognuno cerca di non pensarci, nella speranza che il giorno in cui il tristo mietitore verrà a farci visita giunga il più tardi possibile.

Il problema non è il fatto che moriremo, ma come e quando. E, secondo un numero sempre crescente di scienziati, ciò accadrà ad opera dell’intelligenza artificiale e non in un futuro lontano, ma entro dieci anni al massimo.

A lanciare l’allarme non è stata una Cassandra qualunque, ma Bill Gates, il fondatore di Microsoft, l’uomo che con i sistemi operativi Windows ha portato il computer in tutte le case. Prima di lui, a dire il vero, il monito è stato pronunciato da Evan Hubinger, programmatore informatico di Anthropic che in precedenza ha lavorato per OpenAI, ovvero le due principali aziende nel settore dell’IA.

Hubinger ha dato le dimissioni da Anthropic proprio come gesto di protesta contro l’azienda, denunciando che i due colossi americani stanno sviluppando sistemi sempre più avanzati in concorrenza tra loro e che il risultato di questa sfida, in assenza di controlli da parte delle autorità, porterà entro pochi anni alla creazione di un’IA che sterminerà il genere umano.

Di fronte alla richiesta di porre dei limiti allo sviluppo dell’intelligenza artificiale, il presidente degli Stati Uniti Donald Trump ha dichiarato che l’America non può fermarsi, o sarà la Cina a creare l’IA più potente di tutte. Siamo dunque di fronte ad una replica della corsa agli armamenti che, decenni orsono, vide fronteggiarsi Stati Uniti ed Unione Sovietica e che, per nostra fortuna, non ha portato allo scoppio della terza guerra mondiale?

Tornando al presente, una domanda sorge spontanea: in che modo l’intelligenza artificiale potrebbe ucciderci? Quello che gli scienziati informatici paventano non è un futuro in stile Terminator, con eserciti di cyborg assassini che danno la caccia agli umani. I robot umanoidi tuttora in circolazione sono un numero esiguo, se davvero impazzissero tutti insieme (eventualità assai improbabile) non rappresenterebbero una minaccia: basterebbero le forze dell’ordine per neutralizzarli, non sarebbe nemmeno necessario ricorrere all’esercito.

Non sono i robot che spaventano, ma i software IA ai quali ormai sono delegati innumerevoli compiti negli ambiti più svariati, incluso quello cruciale della difesa militare. Nelle guerre tuttora in corso, in Ucraina come in Medio Oriente, si sta facendo un uso notevole di droni. Questi droni da una parte vengono lanciati in sciami contro obiettivi strategici, a volte anche civili; dall’altra parte vengono usati per intercettare gli attacchi nemici. E non sempre a pilotare un drone è un essere umano: oramai i droni sono equipaggiati con sistemi IA che decidono autonomamente dove colpire, naturalmente in base ad una programmazione.

Il primo caso documentato è avvenuto lo scorso agosto in Ucraina, per la precisione nella città di Zaporizhzhya: un drone in perlustrazione ha avvistato una stazione di servizio e, senza ricevere un ordine diretto, ma basandosi sulle direttive impartite all’IA di bordo, ha deciso di colpire. Nell’esplosione che ne è seguita hanno perso la vita tre persone, che possono così vantare il triste primato di primi esseri umani uccisi da una scelta autonoma dell’intelligenza artificiale.

Se è successo una volta, può succedere di nuovo. Se una nazione decide che i suoi droni possono selezionare e colpire i bersagli senza ordini diretti, altre nazioni faranno lo stesso. E se davvero l’umanità sarà sterminata dall’intelligenza artificiale, lo scenario più apocalittico prevede droni che continueranno a farsi la guerra a vicenda anche dopo che non ci saranno più esseri umani ad ordinare loro di farlo.

CARLO DELASSO