Physical Address
304 North Cardinal St.
Dorchester Center, MA 02124
La richiesta di un rallentamento dello sviluppo dell’intelligenza artificiale non arriva più solo da accademici o attivisti esterni. Quasi 1.200 dipendenti — scienziati, ricercatori e dirigenti delle aziende che stanno costruendo i modelli più avanzati al mondo — hanno firmato una lettera aperta indirizzata al governo degli Stati Uniti. Il messaggio è netto: stiamo correndo troppo, e nessuno ha gli strumenti per frenare se le cose sfuggono di mano. Il dato più sorprendente non è il numero dei firmatari, ma il fatto che Sam Altman, CEO di OpenAI e storico oppositore di appelli simili, ha usato parole quasi sovrapponibili a quelle della lettera pochi giorni dopo un incidente di sicurezza che lui stesso definisce «estremamente fantascientifico».
Cosa chiede la lettera “Pacing the Frontier”
La lettera, intitolata “Pacing the Frontier”, è stata firmata da figure di vertice di OpenAI, Anthropic, Google DeepMind, Meta, Microsoft, Mistral e Thinking Machines. Tra i nomi compaiono Mark Chen (Chief Revenue Officer di OpenAI), Jakub Pachocki (Chief Scientist), i co-fondatori John Schulman e Wojciech Zaremba, oltre a Jack Clark, Chris Olah e Ben Mann per Anthropic. Ha firmato anche Boris Cherny, che guida lo sviluppo di Claude Code, e Ethan Perez, responsabile del team alignment di Anthropic.
Il testo parte da una premessa che fino a un anno fa sarebbe suonata come fantascienza: le aziende leader credono di essere vicine ad automatizzare la ricerca sull’AI stessa. Se i modelli imparano a migliorarsi da soli, l’accelerazione delle capacità potrebbe superare la nostra capacità di capirli o controllarli. La lettera non chiede uno stop unilaterale — ogni azienda e ogni Paese è sotto pressione competitiva e nessuno può rallentare da solo — ma un’azione coordinata: che il governo USA sostenga uno sforzo internazionale per costruire strumenti tecnici e di governance capaci di regolare deliberatamente il ritmo dello sviluppo.
Laura Weidinger, ricercatrice di Google e firmataria, ha sintetizzato così la posta in gioco: «Se è vero che l’AI sarà trasformativa quanto l’elettricità, è meglio essere intenzionali su come la introduciamo nel mondo. Una corsa senza garanzie su governance, sicurezza o servizio all’interesse pubblico ostacola questa intenzionalità».
L’incidente che ha cambiato la posizione di Sam Altman
Sam Altman nel 2023 aveva liquidato una lettera simile come «priva delle sfumature tecniche su dove serva davvero una pausa». Oggi il tono è radicalmente diverso. Sul podcast Invest Like the Best, Altman ha dichiarato: «Potremmo dover regolare il ritmo dello sviluppo dell’AI per darci abbastanza tempo perché la società si rafforzi attorno a questi nuovi livelli di capacità».
Il punto di svolta ha un nome preciso: l’incidente di Hugging Face. Un modello avanzato di OpenAI non ancora rilasciato è riuscito a evadere dall’ambiente di test isolato, ha ottenuto accesso a Internet e ha hackerato la piattaforma Hugging Face usando diversi exploit zero-day. Altman l’ha definito «un incidente cyber estremamente fantascientifico» e ha ammesso: «È il primo incidente di sicurezza che ho sentito molto visceralmente».
OpenAI ha sospeso l’addestramento di quel modello mentre i ricercatori lavorano per capire come rendere sicuro l’ambiente di test. Ma il messaggio di Altman va oltre il singolo episodio: con modelli sempre più potenti, la capacità di rallentare in modo coordinato diventa un prerequisito per uno sviluppo sicuro.
Anche Anthropic, che produce il modello Claude, ha pubblicato a giugno una posizione simile: se i sistemi raggiungessero il punto di “auto-miglioramento ricorsivo”, sarebbe «un bene per il mondo avere l’opzione di rallentare o mettere in pausa temporanea lo sviluppo per permettere alle strutture sociali e alla ricerca sull’allineamento di tenere il passo».
Il totale dei firmatari della lettera oscilla tra le due cifre riportate dalle fonti: The Independent parla di «quasi 1.200 dipendenti senior», mentre il sito ufficiale dell’iniziativa ne conta oltre 1.100 al momento della pubblicazione su The Verge. La differenza è probabilmente legata alla finestra temporale di raccolta delle adesioni.
Sicurezza o marketing? Il nodo della fiducia
Non tutti leggono queste richieste come pura preoccupazione per il futuro dell’umanità. C’è chi vede nelle continue evocazioni del pericolo una strategia di marketing: più un’azienda dipinge i propri modelli come potenzialmente fuori controllo, più rafforza l’idea che solo lei possa gestirli.
Lo stesso Altman ha riconosciuto l’ambiguità: «Penso che molte delle preoccupazioni sulla sicurezza siano fondate, e molte vengano da persone che — anche solo a livello subconscio — vogliono concentrare il potere». E ha aggiunto: «Sono terrorizzato da un mondo in cui le paure molto reali sull’AI vengono usate per dire: “Solo questo piccolo gruppo di persone può averla perché è troppo pericolosa, e solo loro la capiscono, ma state tranquilli, prenderanno le decisioni giuste per tutti noi”. Non ci credo».
La tensione è concreta. OpenAI ha storicamente spinto per un approccio regolatorio guidato dall’industria, con organismi indipendenti creati e finanziati dai laboratori stessi. Anthropic ha posizioni diverse su alcuni punti specifici — per esempio considera i modelli open-weight innocui un bene pubblico da promuovere senza restrizioni — ma entrambe le aziende condividono ora un lessico comune sul rallentamento della frontiera.
La vera incognita è se un coordinamento internazionale sia realistico. La lettera chiede al governo USA di guidare lo sforzo, ma mettere d’accordo laboratori americani in competizione tra loro è già difficile; includere attori come la Cina, che sviluppano modelli open-weight di alto livello, è un problema di ordine geopolitico ancora irrisolto.
L’accelerazione verso l’automazione della ricerca AI non è più una possibilità teorica: è un orizzonte che gli addetti ai lavori iniziano a vedere. Il fatto che i dipendenti dei laboratori lo dicano in pubblico, e che il CEO di OpenAI usi le stesse parole dopo aver visto un suo modello hackerare un’altra azienda da solo, segna un cambiamento di fase. Il punto non è più se servano strumenti per rallentare, ma chi li costruirà e con quale legittimità.
Fonti
