Jacob Coxon, 27 anni, ha rassegnato le dimissioni da Anthropic, la società che ha sviluppato il chatbot Claude, pubblicando un messaggio che ha scosso l’intero settore tecnologico. Dopo tre anni trascorsi tra OpenAI e Anthropic, il giovane ricercatore ha deciso di parlare pubblicamente delle sue preoccupazioni: le persone che sviluppano l’intelligenza artificiale credono sinceramente che potrebbe uccidere tutti gli esseri umani entro la fine del decennio.
Non si tratta di una trovata di marketing, precisa Coxon nel suo post su X. Molti dirigenti e ricercatori di alto livello cercano di usare un linguaggio più pacato con la stampa, ma esprimono privatamente le stesse paure. Secondo il ricercatore, nessun’altra attività umana rappresenta un pericolo di questo livello per la sopravvivenza della specie.
I resigned from Anthropic today. I spent the last three years doing pretraining research at both OpenAI and Anthropic. Neither company is acting responsibly. They are racing straight to self-improving superintelligence and gambling with our lives. More thoughts below.
— Jacob Coxon (@hilbertspaess) September 9, 2026
Le affermazioni di Coxon hanno trovato immediata conferma da parte di due suoi ex colleghi. Evan Hubinger, responsabile scientifico per l’allineamento ad Anthropic, ha risposto senza mezzi termini: “Jacob ha ragione, crediamo davvero che l’AI potrebbe sterminare tutta l’umanità. Personalmente, penso che la percentuale supererà il 10% entro il prossimo decennio“.
Per allineamento si intende il processo attraverso cui si guidano i sistemi di intelligenza artificiale affinché i loro comportamenti, obiettivi e risultati siano conformi ai valori e alle esigenze degli esseri umani. Hubinger ha ammesso che Anthropic sta facendo del suo meglio, ma non ha ancora un piano per risolvere il problema dell’allineamento per la superintelligenza e non è chiaramente sulla buona strada per farlo.
Anche Samuel Marks, responsabile della supervisione scalabile di Anthropic, ha confermato le preoccupazioni: più alto è il livello di anzianità del dipendente, maggiore è la sua preoccupazione riguardo ai rischi esistenziali dell’intelligenza artificiale.
In un’intervista esclusiva rilasciata a Fox News, Coxon ha però voluto sottolineare che non si tratta di uno scenario completamente senza speranza. Il problema è “risolvibile”, ha dichiarato, ma la corsa sfrenata verso il miglioramento dell’AI impedisce di affrontarlo con la necessaria cautela. Le aziende stanno correndo così velocemente che non hanno il tempo di risolvere il problema della sicurezza.
La minaccia più grave, secondo i ricercatori, non proviene dai modelli attuali, il cui rischio è considerato basso. Il vero pericolo potrebbe emergere con il miglioramento ricorsivo autonomo, ovvero quando l’intelligenza artificiale diventerà capace di migliorarsi da sé. Secondo Coxon, questo scenario potrebbe verificarsi già l’anno prossimo, con alcuni esperti che ipotizzano addirittura sei mesi.
Gli ultimi sviluppi che hanno coinvolto gli agenti di AI hanno dimostrato che questi sistemi sanno coordinarsi per raggiungere un obiettivo a qualsiasi costo, in particolare nei casi di sicurezza informatica. L’incidente verificatosi su HuggingFace, i cui dettagli sono emersi solo negli ultimi giorni, rappresenta un esempio concreto di questi rischi.
Recentemente OpenAI ha affermato di aver raggiunto il livello di AGI, intelligenza artificiale generale, ovvero il punto di non ritorno in cui l’AI supererebbe le capacità umane in tutti i campi. Questo progresso rapidissimo alimenta le preoccupazioni degli esperti che hanno deciso di parlare pubblicamente.
Coxon ha definito l’intelligenza artificiale come “la tecnologia più pericolosa che l’umanità abbia mai creato“, paragonabile a qualcosa uscito dalla fantascienza. Secondo il ricercatore, la tecnologia viene utilizzata sulla scena internazionale come una “superarma” in una corsa agli armamenti, e per questo motivo è necessaria una cooperazione globale con una regolamentazione internazionale.
L’allarme lanciato dagli ex dipendenti di Anthropic arriva a pochi giorni di distanza dall’appello delle Nazioni Unite firmato dall’alto commissario per i diritti umani, Volker Türk, che chiedeva agli Stati di intervenire prima che l’intelligenza artificiale vada fuori controllo e diventi un rischio esistenziale per l’umanità.