Dal 9 settembre, giorno in cui l’ex ricercatore Jacob Coxon ha lanciato l’allarme, ampiamente ripreso dai media, sui pericoli dell’IA, sono seguiti altri avvertimenti da parte di “addetti ai lavori”. Il 18 settembre, la CNN ha raccontato un episodio risalente alla primavera scorsa, quando i servizi militari statunitensi ricevettero un rapporto di intelligence secondo cui una nave cinese, in Medio Oriente, stava trasportando componenti di un programma di armamento nucleare. Venne rapidamente organizzata un’operazione per intercettare e abbordare la nave con una squadra armata e, solo all’ultimo momento, quando gli aerei erano già in volo, i funzionari si accorsero che un analista aveva generato il rapporto tramite un chatbot basato sull’IA e che questo aveva identificato erroneamente il carico della nave. La missione venne annullata in tempo. Altrimenti, come hanno osservato le fonti militari della CNN, avrebbe potuto degenerare in un conflitto armato tra Stati Uniti e Cina.
Il pericolo segnalato da Coxon è ancora più spaventoso. Lo stesso giorno in cui si è dimesso da Anthropic, questi ha scritto in una serie di post su X che le principali aziende americane di intelligenza artificiale stanno “correndo dritte verso una superintelligenza capace di auto-migliorarsi, giocando d’azzardo con le nostre vite”. Le persone che stanno costruendo l’IA, ha proseguito, “credono sinceramente che potrebbe ucciderci tutti entro la fine del decennio. Non si tratta di una trovata pubblicitaria.” Ha aggiunto che in OpenAI “molti non hanno interiorizzato a fondo la posta in gioco per la civiltà. In Anthropic la posta in gioco è ben compresa, ma l’azienda è bloccata in una corsa per arrivare prima degli altri: crede che nessun altro agirà in modo responsabile, e quindi deve farlo da sola, nonostante il rischio.”
Evan Hubinger, responsabile della squadra Alignment Science di Anthropic, ha risposto a Coxon su X, confermando che lui e i suoi colleghi “credono sinceramente che l’IA potrebbe uccidere tutti gli esseri umani”. Ha stimato in oltre il 10% la probabilità che ciò avvenga nel prossimo decennio. Hubinger ha aggiunto che “non c’è ancora un piano per risolvere il problema dell’allineamento per la superintelligenza e non siamo chiaramente sulla buona strada per averne uno.” L’amministratore delegato di Anthropic, Dario Amodei, ha dichiarato di essere più d’accordo che in disaccordo con Coxon.
Come a conferma dell’allarme, due giorni dopo le dimissioni di Coxon, Anthropic ha rivelato di aver impedito ad alcuni “attori malintenzionati” di usare impropriamente i propri modelli di IA per ricerche che avrebbero potuto portare allo sviluppo di armi biologiche. Nel maggio 2026, secondo quanto riportato, uno di questi “attori malintenzionati” voleva utilizzare Claude, il modello di IA di Anthropic, per condurre ricerche di gain-of-function sul virus chikungunya, mirate a modificarne “la trasmissibilità e le capacità di elusione del sistema immunitario”.
La richiesta riguardava una proposta di finanziamento per una ricerca volta a potenziare alcune mutazioni, in modo da rendere questo virus trasmesso dalle zanzare progressivamente più pericoloso. Pur potendo “certamente” essere impiegata per sviluppare vaccini e trattamenti migliori, ha riferito Anthropic, tale ricerca “potrebbe anche essere usata per rendere l’agente patogeno più pericoloso”. Solo dopo aver scoperto per caso la minaccia, Anthropic ha deciso di introdurre misure di sicurezza più severe per impedire che i suoi ultimi modelli vengano usati impropriamente per creare armi biologiche di questo tipo. In tutto il mondo, molte altre aziende di intelligenza artificiale, accecate dall’avidità e dalla geopolitica, probabilmente non stanno monitorando i rischi esistenziali che creano per l’umanità.