Physical Address
304 North Cardinal St.
Dorchester Center, MA 02124
Mentre deposita i documenti per una quotazione in borsa da 1 trilione di dollari, Anthropic chiede una "pausa temporanea mondiale" nello sviluppo dell'intelligenza artificiale. La richiesta non nasce dal nulla: a maggio 2026, oltre l'80% del codice integrato nel codebase interno dell'azienda è stato scritto da Claude. Il passo successivo — quello che la società chiama "auto-miglioramento ricorsivo" — è la capacità di un sistema IA di progettare autonomamente versioni di sé stesso sempre più potenti, e nessuno sa con certezza dove quella traiettoria conduca.
Claude verso il self-improvement: il confine che preoccupa Anthropic
L'auto-miglioramento ricorsivo è la soglia che gli esperti di sicurezza IA considerano il punto critico verso la superintelligenza. Nel post pubblicato il 5 giugno, Anthropic descrive una "tendenza" nella crescita delle capacità di Claude che, "con sufficiente potenza di calcolo, punta a un sistema IA capace di progettare autonomamente il proprio successore" — con il rischio concreto che gli esseri umani perdano il controllo sui sistemi AI.
La società non afferma di aver già raggiunto quella soglia. Claude sa "eseguire esperimenti", proporre varianti di ricerca e accelerare sezioni di codice, ma sempre entro confini definiti e in ambito coding. La differenza tra vera autonomia e accelerazione assistita è sottile, e non è quella che Anthropic marca con precisione.
La risposta proposta è convocare un tavolo internazionale — con policy maker, ricercatori, società civile e altri sviluppatori IA — per affrontare le domande prima che le risposte diventino urgenti.
La lettera congiunta: screening obbligatorio per il DNA sintetico
In parallelo, i CEO delle principali aziende IA hanno firmato una lettera aperta al Congresso americano chiedendo norme obbligatorie per lo screening degli ordini di DNA e RNA sintetico. I firmatari includono Sam Altman (OpenAI), Dario Amodei (Anthropic), Demis Hassabis (Google DeepMind) e Mustafa Suleyman (Microsoft AI), insieme ai premi Nobel David Baker e Martin Hellman.
La preoccupazione centrale: i modelli IA superano ormai le competenze di un virologo con dottorato nelle domande su procedure di laboratorio, abbassando la barriera tecnica per chiunque voglia produrre agenti biologici pericolosi. Scienziati e legislatori sanno da oltre vent'anni che i virus possono essere ricostruiti da DNA sintetico. Nel 2017, ricercatori canadesi ricostituirono il virus horsepox estinto ordinando per posta sequenze genetiche per 100.000 dollari. Da allora, la sintesi genetica è diventata ancora più economica.
David Relman, microbiologo e esperto di biosicurezza alla Stanford University, sintetizza il rischio operativo: "Gli strumenti IA consentono di identificare rapidamente dove ordinare sequenze non soggette a screening. Se interrogati nel modo giusto, possono anche suggerire come modificare l'ordine per eludere i sistemi di controllo esistenti."
L'International Gene Synthesis Consortium pratica screening volontario dal 2009, ma la lettera — organizzata dall'Institute for Progress e dalla Foundation for American Innovation — chiede norme vincolanti per tutti i fornitori che operano negli Stati Uniti, con requisiti di tracciabilità documentale. Geoff Ralston, ex presidente di Y Combinator e partner del Safe AI Fund, aggiunge: "Dovrebbe essere molto difficile, se non impossibile, chiedere a un modello di aiutarti a fare qualcosa di imminentemente pericoloso."
La contraddizione che l'annuncio non risolve
Qui sta il nodo più difficile da sciogliere. Anthropic chiede una pausa mondiale e convoca un tavolo su AI safety nello stesso momento in cui — come abbiamo già riportato — ha inviato sei ingegneri alla NSA per adattare il modello Mythos a operazioni di intelligence offensiva.
Steven Murdoch, professore all'University College London, non è sorpreso: "Anthropic può dare l'impressione di essere calorosa e rassicurante, ma la loro definizione di sicurezza IA è ristretta. Supportare le autorità statunitensi nello sviluppo di capacità offensive non è mai stato qualcosa contro cui si sono espressi." Murdoch sottolinea anche che Anthropic "ha cercato di attirare l'attenzione dei policy maker sin dalla fondazione" — la novità è di tono, non di sostanza.
La lettera sul DNA sintetico è la misura più concreta tra i due annunci. Screening obbligatorio e tracciabilità documentale non rallentano lo sviluppo dell'IA, ma chiudono una vulnerabilità reale già documentata. I firmatari la descrivono come "un raro momento di accordo tra parti spesso in conflitto": che OpenAI, Anthropic, Google DeepMind e Microsoft AI convergano con tale unanimità su un tema di sicurezza è un segnale che vale la pena registrare, indipendentemente da quello che fanno — o non fanno — nel resto.
Il vero test per Anthropic non è il tavolo con i policy maker che intende convocare. È se le regole che propone per il settore si applicheranno anche ai propri contratti con le agenzie di intelligence, dove il confine tra sicurezza offensiva e rischio sistemico è esattamente quello che la società dice di voler discutere con il mondo.
