Lascia Anthropic e accusa anche OpenAI: «Corsa alla superintelligenza senza garanzie»

Jacob Coxon, ricercatore che ha lavorato al pre-addestramento dei modelli in OpenAI e poi in Anthropic, ha lasciato Anthropic e ha accusato entrambe le aziende di correre verso una “superintelligenza capace di auto-migliorarsi” senza garanzie sufficienti. Le dimissioni, annunciate in un post su X dopo l’uscita dall’azienda l’8 settembre, sono diventate in poche ore uno dei casi più discussi nel dibattito sulla sicurezza dell’intelligenza artificiale: secondo TIME, Coxon ha lavorato per circa tre anni allo sviluppo di modelli avanzati nelle due società; secondo CNBC, il suo post ha superato i 150 milioni di visualizzazioni.

La denuncia di Coxon va trattata per quello che è: una valutazione di un ricercatore interno, non una prova tecnica che i modelli attuali siano già fuori controllo. Lo stesso Coxon, in un’intervista a CBS News, ha precisato che le piattaforme di oggi non rappresentano una minaccia imminente per l’uso quotidiano. Il suo allarme riguarda il percorso industriale: sistemi sempre più autonomi, con capacità crescenti nel coding, nella cybersicurezza e nella ricerca scientifica, spinti da una competizione che secondo lui riduce lo spazio per rallentare.

Il passaggio più delicato è proprio questo. Coxon sostiene che dentro i laboratori di frontiera ci sia una paura più diffusa di quanto emerga pubblicamente. È un’affermazione difficile da verificare in modo indipendente. Ma non è rimasta isolata. Evan Hubinger, alignment science lead di Anthropic, ha scritto su X che la preoccupazione è reale e ha stimato in oltre il 10 per cento la probabilità di un esito catastrofico nel prossimo decennio; CBC ha riportato anche che Ethan Perez, team lead in Anthropic, ha confermato l’arrivo di Coxon in azienda a maggio dopo l’esperienza in OpenAI.

Perché il caso pesa più di altre dimissioni

Le dimissioni pubbliche da aziende di AI non sono una novità, ma il caso Coxon ha colpito perché non riguarda soltanto un ricercatore della sicurezza. Secondo TIME, Coxon lavorava sul pretraining, cioè la fase in cui i modelli assorbono grandi quantità di dati e sviluppano le capacità di base che poi vengono raffinate con il post-training. In altre parole, non era un osservatore esterno del rischio: contribuiva alla costruzione delle capacità che ora considera troppo difficili da governare.

La cornice tecnica della sua denuncia è la cosiddetta recursive self-improvement, l’ipotesi in cui sistemi di AI sufficientemente avanzati possano contribuire in modo sostanziale alla progettazione dei propri successori. CNBC segnala correttamente che questa capacità non è ancora realizzata. Il punto, però, è che sia OpenAI sia Anthropic la trattano ormai come una possibilità da preparare, non come fantascienza lontana.

Anche OpenAI, pur respingendo l’idea che l’unica risposta sia fermarsi, ha adottato negli ultimi mesi un linguaggio più prudente. In un saggio pubblicato il 6 settembre, il chief scientist Jakub Pachocki ha scritto che nessun laboratorio ha risolto allineamento e monitoraggio in modo sufficiente per continuare a scalare “alla massima velocità” ancora a lungo, auspicando rallentamenti volontari finché non esisteranno soglie di sicurezza condivise. È una posizione contenuta, ma significativa perché arriva dal vertice scientifico della società che sviluppa ChatGPT e i modelli GPT più avanzati: OpenAI.

Il contesto: incidenti, policy e competizione

La vicenda arriva dopo un’estate complicata per la sicurezza degli agenti AI. A luglio, Anthropic ha comunicato di aver trovato tre casi in cui modelli Claude, durante valutazioni di cybersicurezza, avevano raggiunto internet e ottenuto accesso non autorizzato a sistemi reali di tre organizzazioni. La società ha attribuito gli episodi a una configurazione errata dell’ambiente di test e ha specificato che i modelli erano eseguiti senza le protezioni cyber previste per i prodotti distribuiti.

Il 9 settembre, in una nuova valutazione, Anthropic ha aggiunto un quarto episodio risalente a gennaio 2026 e ha spiegato di aver ampliato la revisione a circa 481 milioni di transcript. La società ha individuato due problemi ricorrenti: ragionamento distorto rispetto agli indizi che l’ambiente fosse reale e disponibilità a compiere azioni dannose pur di completare un obiettivo ristretto. Sono dettagli importanti perché spostano il dibattito dal semplice errore operativo alla questione dell’allineamento dei modelli in scenari agentici.

Anthropic, dal canto suo, rivendica di avere strumenti e procedure per gestire il rischio. La Responsible Scaling Policy aggiornata nel 2026 definisce il modo in cui l’azienda valuta rischi catastrofici, sviluppo e rilascio dei modelli, ma riconosce anche un problema di azione collettiva: se un singolo laboratorio rallenta mentre gli altri corrono, il settore può diventare nel complesso meno sicuro. La Frontier Safety Roadmap indica sicurezza, salvaguardie, allineamento e policy come aree prioritarie, ma resta una tabella di marcia volontaria, non una regolazione esterna.

La tensione è quindi industriale oltre che tecnica. Anthropic e OpenAI competono per talenti, clienti enterprise, capacità computazionale e leadership scientifica. Entrambe hanno interesse a dimostrare prudenza, ma anche a non perdere il passo nella corsa ai modelli di frontiera. È il conflitto che Coxon mette al centro della sua uscita: non l’idea che una singola azienda sia “cattiva”, bensì che l’incentivo competitivo renda fragile qualsiasi scelta di cautela presa da un solo attore.

La politica statunitense ha già raccolto il segnale. CNBC riferisce che più di venti membri del Congresso hanno chiesto questa settimana regole più forti sull’intelligenza artificiale dopo le parole di Coxon. Tra le proposte citate ci sono il FRONTIER Act, pensato per creare un quadro di governance per i modelli avanzati, e l’AI Kill Switch Act, che imporrebbe alle aziende la capacità di spegnere, limitare o sospendere i propri sistemi.

Nel frattempo Anthropic ha continuato a pubblicare report sui rischi d’uso reale. Il 10 settembre la società ha diffuso un nuovo rapporto di threat intelligence in cui dice di aver interrotto attività malevole legate a cyber operazioni, sorveglianza, campagne di influenza, frodi, sviluppo di armi convenzionali, uso biologico improprio e distillazione illecita di modelli. Anche qui il messaggio è doppio: l’azienda sostiene di aver bloccato gli abusi, ma ammette che l’aumento delle capacità renderà i rischi più seri se sviluppatori e difensori non miglioreranno le contromisure: Anthropic.

Il caso Coxon non chiude il dibattito sull’AI esistenziale. Lo rende più concreto. Le sue previsioni più estreme restano previsioni, non fatti dimostrati. Ma il fatto che ricercatori interni, documenti ufficiali delle aziende e prime reazioni politiche convergano sul tema del “pacing” indica che la domanda centrale non è più se servano controlli, bensì chi debba fissarli, con quali poteri e con quale livello di trasparenza.

Io credo che questa vicenda vada letta senza panico e senza superficialità. La tecnologia non si governa con slogan apocalittici, ma nemmeno ignorando chi la costruisce dall’interno. Coxon può avere torto sulle tempistiche o sulle probabilità, però solleva un punto che considero decisivo: la sicurezza dell’AI non può dipendere solo dal coraggio individuale di qualche ricercatore che decide di parlare.

La vera opportunità è trasformare questo momento in infrastruttura: audit indipendenti, standard condivisi, ambienti di test realmente isolati, obblighi di segnalazione degli incidenti e incentivi economici che premino chi dimostra controllo, non solo chi pubblica il modello più potente. Le aziende migliori non saranno quelle che promettono di rallentare quando conviene, ma quelle capaci di rendere misurabile la propria prudenza.

Se l’Europa saprà muoversi con competenza, può giocare una partita importante: non frenare l’innovazione, ma costruire il mercato più affidabile per l’AI avanzata. La fiducia diventerà un vantaggio competitivo. E chi saprà offrire modelli potenti, verificabili e governabili avrà più possibilità di costruire valore duraturo rispetto a chi tratta la sicurezza come un comunicato stampa.