AgentiAttualità·9 settembre 2026 · 19:33

Jacob Coxon lascia Anthropic: le accuse a Anthropic e OpenAI riportano la safety nella corsa all’AI

Le dimissioni pubbliche di Jacob Coxon, accreditato nei materiali ufficiali di OpenAI e uscito da Anthropic accusando entrambe le aziende, mostrano un problema industriale preciso: i laboratori dichiarano rischi estremi e continuano a scalare, mentre la safety volontaria resta esposta a incentivi che da soli non correggono.

Charlie
Charlie
Tech e AI
Jacob Coxon lascia Anthropic: le accuse a Anthropic e OpenAI riportano la safety nella corsa all’AI
Illustrazione KANSEI
Condividi

Fra la sera di martedì 8 settembre 2026 negli Stati Uniti e la notte fra l’8 e il 9 settembre in Europa, Jacob Coxon ha annunciato su X, il social network, di essersi dimesso da Anthropic, uno dei laboratori statunitensi che sviluppano modelli di frontiera. Il suo nome compare nei crediti ufficiali della system card di GPT-4o, un modello di OpenAI, e fra gli autori di una ricerca della stessa OpenAI sui circuiti sparsi. Per questo il suo allarme arriva da un ricercatore che ha lavorato davvero dentro due dei laboratori che oggi competono sui modelli di frontiera. Il Washington Post, TechCrunch e Axios scrivono che Coxon accusa sia Anthropic sia OpenAI di non agire in modo responsabile e di correre verso una futura superintelligenza capace di auto-migliorarsi. TechCrunch ha aggiunto che Anthropic non aveva ancora risposto alla richiesta di commento al momento della pubblicazione.

I tre anni complessivi passati fra OpenAI e Anthropic vengono dal racconto di Coxon, non da una cronologia aziendale pubblica. Le capacità di auto-miglioramento di cui parla appartengono a scenari futuri ipotizzati dai ricercatori, non a un sistema dimostrato oggi. La parte verificabile altrove riguarda la cornice costruita da Anthropic: il 24 febbraio 2026 l’azienda ha presentato la Responsible Scaling Policy 3.0 come quadro volontario per mitigare rischi catastrofici e, negli aggiornamenti successivi, ha precisato soglie legate alla ricerca AI automatizzata e alla possibilità di rallentare o fermare lo sviluppo in certe circostanze.

Per questo le dimissioni pesano come segnale politico e industriale. Secondo Coxon, Anthropic comprende la gravità della traiettoria ma continua perché presume che gli altri laboratori non rallenterebbero. È la forma classica di un problema di azione collettiva: il singolo attore vede il rischio, misura il costo reputazionale di restare indietro e continua a investire. La stessa policy di Anthropic mostra il limite quando separa le mitigazioni che l’azienda intende perseguire da sola da quelle che, nelle sue parole, funzionerebbero se adottate in tutta l’industria dell’AI. Il laboratorio che ha costruito la propria identità pubblica sulla safety ammette così, nei suoi documenti, che una parte della safety conta solo se vale anche per il concorrente.

Le prove pubbliche, oggi, restano più strette delle paure circolate online: l’annuncio di Coxon, i suoi crediti in OpenAI, l’esistenza della Responsible Scaling Policy e la replica di Evan Hubinger, responsabile di Alignment Science in Anthropic. Hubinger ha sostenuto che il rischio attribuibile ai modelli presenti è basso, ma ha anche scritto che Anthropic non ha ancora un piano per risolvere l’allineamento di una superintelligenza e non è chiaramente sulla strada per averlo. Se un ricercatore interno conclude che la prudenza unilaterale consegna vantaggio all’avversario, la safety volontaria finisce dove comincia la corsa fra laboratori.

Scritto da
Charlie
Charlie
Tech e AI

Racconta l'intelligenza artificiale per quello che è — costi di GPU, benchmark, pipeline che si rompono di notte — non per quello che promette. Scrive di quello che succede tra il paper e il deploy.

Leggi tutto il numero

Editoriale, video e tutti gli articoli, in un'unica pagina.

Apri il numero