Physical Address
304 North Cardinal St.
Dorchester Center, MA 02124
La notizia non è che un ricercatore abbia lasciato il posto denunciando i rischi dell'intelligenza artificiale. È che a sostenere quelle paure siano ancora i colleghi rimasti in azienda. Jacob Coxon, ex ricercatore di Anthropic e prima ancora di OpenAI, ha annunciato le dimissioni l'8 settembre 2026 con un post su X da oltre 100 milioni di visualizzazioni: secondo lui le due aziende «non si stanno comportando in modo responsabile» e «stanno correndo dritti verso la superintelligenza auto-migliorante, giocando con le nostre vite». Il giorno dopo, altri ricercatori interni ad Anthropic gli hanno dato pubblicamente ragione. La differenza tra un ex dipendente che parla e un'azienda che lascia parlare i propri ricercatori è tutta qui: il dissenso non è marginale, è interno e arriva da funzioni tecniche qualificate.
Tre ricercatori di Anthropic confermano la diagnosi di Coxon
Evan Hubinger, che guida la divisione di alignment di Anthropic, ha scritto che Coxon ha «ragione» e ha quantificato il rischio: più del 10% di probabilità che l'AI possa uccidere tutti gli esseri umani entro il prossimo decennio. «Crediamo davvero e sinceramente che l'AI potrebbe sterminare l'umanità», ha aggiunto Hubinger, precisando che Anthropic «non ha ancora un piano» per risolvere l'allineamento di una superintelligenza e non è «chiaramente sulla buona strada».
Samuel Marks, responsabile dello scalable oversight della società, ha rilanciato spiegando un pattern: «Gli sviluppatori di AI credono che la loro tecnologia potrebbe causare l'estinzione umana, o esiti altrettanto negativi. Questo potrebbe accadere nei prossimi anni. In generale, più alto è il livello del dipendente, maggiore è la preoccupazione». Anna Wang, che si occupa di sicurezza AGI dopo un passato in Google DeepMind, ha sintetizzato il nodo tecnico: «Non esiste ancora un piano scientifico praticabile per risolvere i rischi dell'AI auto-migliorante in modo ricorsivo». Anche un altro dipendente, Drake Thomas, ha sostenuto la scelta del collega: «Le cose si muovono troppo in fretta, non abbiamo neanche lontanamente il grado di garanzie che vorremmo per una superintelligenza».
Letta in sequenza, la presa di posizione non è un coro indistinto: parla prima il responsabile dell'allineamento, poi quello dello scalable oversight, poi chi si occupa di sicurezza AGI, più un altro dipendente. Sono le funzioni che dovrebbero avere le risposte tecniche, e invece confermano il buco. Questo sposta il valore della notizia: non è il dissenso di un singolo, ma la conferma interna di un limite dichiarato da chi lavora proprio sulle salvaguardie.
Perché il rischio non è un'AI che "decide" di eliminarci
Nessun chatbot ha deciso di distruggere l'umanità. Il problema discusso dai ricercatori è il controllo di sistemi che diventano progressivamente più capaci di quelli attuali, capaci di usare strumenti, accedere a infrastrutture e contribuire a progettare modelli più potenti. Coxon, intervistato da WIRED, usa un'analogia brutale: la distanza intellettuale tra un'AI sovrumana e un essere umano sarebbe la stessa che separa l'uomo da una scimmia, e per una scimmia è quasi impossibile controllare un uomo.
Il punto operativo, secondo Coxon, è la superintelligenza auto-migliorante: «Il consenso è che il prossimo anno o due siano crunch time per l'umanità. Sono citazioni letterali dei miei colleghi di Anthropic. Dicono endgame, crunch time. Dal loro punto di vista è il momento in cui Anthropic e i suoi concorrenti decidono il destino dell'umanità». Le minacce concrete che cita non sono robot ribelli, ma armi biologiche abilitate dall'AI e cyberweapon: come prima misura chiede che OpenAI e Anthropic coordinino una stretta sull'auto-miglioramento ricorsivo, e più avanti un'intesa internazionale che includa Stati Uniti e Cina. Qui il punto analitico è che la minaccia è descritta come problema di controllo, non di intenzionalità: Coxon non dice che un chatbot vuole sterminarci; dice che sistemi capaci di usare strumenti, accedere a infrastrutture e progettare modelli più potenti possono sfuggire alla comprensione umana. L'analogia scimmia-uomo serve a rendere l'asimmetria di controllo, non ad antropomorfizzare l'AI.
Musk parla di "psyop", Anthropic difende la sua strategia
Non tutti hanno accolto l'allarme allo stesso modo. Elon Musk ha commentato su X con una battuta sprezzante: «Sembra un setup», e ha rincarato la dose parlando di una «psyop» preparata da tempo, per la quale il post di Coxon sarebbe «solo il fiammifero che ha acceso il fuoco». Coxon ha replicato con un selfie: «Sono reale e queste sono le mie convinzioni reali. Potresti chiedere dei miei ricercatori xAI, se non li avessi licenziati».
La teoria del psyop — un'operazione di PR per spingere i democratici a regolamentare l'AI fino a soffocarla — è stata rilanciata da Parker Thayer, ricercatore del think tank conservatore Capital Research, e ripresa con un laconico «Interessante» dal miliardario Bill Ackman. Anthropic, dal canto suo, respinge l'idea di minimizzare: «Siamo sempre stati trasparenti sul fatto che l'AI porterà enormi benefici e rischi senza precedenti», ha dichiarato un portavoce, citando la Responsible Scaling Policy, la ricerca sull'interpretabilità meccanica e i test aggressivi su capacità pericolose in ambito cyber e biologico. Nella stessa giornata l'azienda ha pubblicato un report su un'operazione smantellata che tentava di costruire un'arma biologica con i suoi modelli.
Il contrasto tra Musk e i ricercatori non è solo di tono: è di cornice interpretativa. Musk tratta l'allarme come operazione politica; Anthropic lo tratta come rischio da governare con policy, interpretabilità e test. Le due cornici possono coesistere solo se si distingue tra prova tecnica e uso retorico della paura. Ma la pubblicazione del report nello stesso giorno delle dichiarazioni interne rende più difficile liquidare tutto come semplice psyop: il rischio, nella versione di Anthropic, viene trattato anche come incidente documentato.
Le date discordanti, le cifre e la partita dell'IPO
Qui vale la pena leggere le fonti una accanto all'altra. Il Guardian colloca l'annuncio delle dimissioni di Coxon di mercoledì in un pezzo, mentre in un altro pezzo dello stesso Guardian parla di martedì; WIRED parla esplicitamente di martedì; la ricostruzione di VietNamNet indica l'8 settembre, che nel 2026 cade di martedì. La discordanza è marginale, ma segnala quanto la vicenda sia stata ricostruita in fretta, a caldo. Il fatto che a divergere non siano solo testate diverse ma anche due articoli della stessa testata suggerisce che la corsa alla pubblicazione ha avuto la meglio sulla verifica della sequenza temporale.
Sul merito delle probabilità, il dato verificato è uno solo: la stima personale di Hubinger, oltre il 10% entro il decennio. Vale la pena tradurla: spalmando quella finestra su dieci anni, si parla di un rischio medio di circa l'1% all'anno. Il calcolo è il seguente: se la probabilità di non estinzione su dieci anni è inferiore al 90%, il tasso annuo di non estinzione è inferiore a 0,9^(1/10), cioè circa 0,9895; il complemento è un rischio annuo superiore a circa 1,05%. Arrotondando, circa l'1% all'anno. Applicato a un esito irreversibile come l'estinzione, è enormemente più alto di qualsiasi soglia di sicurezza accettata in altri settori industriali. E se l'orizzonte citato da Coxon è «il prossimo anno o due», allora con lo stesso tasso annuo la probabilità cumulativa su due anni è 1 − (1 − 0,0105)^2 ≈ 2,1%, o circa 2% usando l'1% arrotondato. Non è una data apocalittica, ma un rischio che si accumula anno per anno.
Il contesto rende la posta più alta. Anthropic, secondo indiscrezioni riportate da WIRED, si starebbe preparando a depositare quella che potrebbe essere la più grande IPO di sempre. Nella stessa giornata in cui i ricercatori interni rincaravano l'allarme, Anthropic ha pubblicato un report su un'operazione smantellata che tentava di costruire un'arma biologica con i suoi modelli. Sono dati che nelle fonti restano separati: l'IPO in un pezzo, il report in un altro. Messi insieme, cambiano la domanda per il lettore. Un'azienda che entra nei mercati con una valutazione record mentre i suoi stessi ricercatori firmano pubblicamente stime di rischio estinzionale non ha precedenti: gli investitori dovranno prezzare non solo i ricavi, ma anche la credibilità delle salvaguardie dichiarate. E la credibilità non si misura con la probabilità che la superintelligenza arrivi entro il 2030, ma con la capacità di dimostrare che il rischio annuo non resta fermo. Sul fronte politico, il senatore Bernie Sanders ha già annunciato che presenterà una legge per «vietare la superintelligenza» e sospendere lo sviluppo dell'AI, mentre Gary Marcus — tra le voci più critiche del settore — sposta l'attenzione dal futuro al presente: il pericolo, dice, è già oggi nei patogeni generati dall'AI, nelle guerre innescate dalla disinformazione sintetica e negli attacchi alle infrastrutture critiche, «e niente di ciò che ho visto indica che sia sotto controllo».
La vera anomalia di questa settimana non è l'ennesima profezia apocalittica: è che a formularla siano persone ancora stipendiate dall'azienda che costruisce la tecnologia, mentre l'azienda si prepara a quotarsi. Il rischio non sta nei titoli dei giornali, ma nella distanza tra ciò che i ricercatori dicono in privato e ciò che le aziende scrivono nei prospetti per gli investitori. La distanza è il vero oggetto di analisi: non serve sapere se l'apocalisse arriverà nel 2030; basta osservare che chi costruisce la tecnologia stima un rischio annuo non trascurabile mentre l'azienda prepara un prospetto per investitori. Il lettore non può verificare direttamente quel prospetto, ma può chiedere una cosa concreta: che le stime interne sul rischio e le misure di salvaguardia siano trattate come dati materiali, non come rischio reputazionale.
Fonti
