Estinzione umana e IA: 70 parlamentari UK spingono per il divieto

Settanta parlamentari britannici hanno chiesto ad Andy Burnham di appoggiare un divieto sulla superintelligenza artificiale (ASI), dopo che un ricercatore di Anthropic ha quantificato in oltre il 10% la probabilità che l'IA avanzata causi l'estinzione umana. La mossa segna il passaggio dalle relazioni tecniche ai banchi del Parlamento — ma un divieto solo britannico rischia di contare poco, perché i modelli di frontiera nascono negli Stati Uniti e in Cina.

La lettera dei 70 parlamentari per vietare la superintelligenza

Più di 70 deputati e pari hanno firmato una lettera indirizzata al primo ministro per sostenere un disegno di legge, presentato martedì alla Camera dei Comuni, che vieterebbe la creazione di superintelligenza artificiale: un'IA ancora inesistente, ma che supererebbe le capacità umane nella maggior parte dei domini. Tra i firmatari figurano 15 ex ministri, l'ex capo del servizio civile Robin Butler, il laburista John McDonnell e rappresentanti dei conservatori, dei liberal-democratici e del Partito nazionale scozzese.

Il promotore del testo, il laburista Alex Sobel, chiede a Burnham un "quadro chiaro in cui l'IA superintelligente non possa essere creata". La lettera è firmata anche dalla conduttrice televisiva per bambini Floella Benjamin, dall'ex ministro conservatore dell'ambiente Zac Goldsmith e dall'ex premier nordirlandese Arlene Foster. Il disegno di legge ricalca una legislazione promossa a Washington da Bernie Sanders ed è sostenuto dalla premio Nobel per il disarmo nucleare Beatrice Fihn, dal professore di Berkeley Stuart Russell e dal gruppo transatlantico Control AI, finanziato dal cofondatore di Skype Jaan Tallinn.

Le stime dei ricercatori: oltre il 10% di probabilità di estinzione

Evan Hubinger, che guida la ricerca sull'allineamento in Anthropic, stima una probabilità superiore al 10% che l'IA avanzata causi l'estinzione umana nel prossimo decennio. Elon Musk, in una conversazione con Ted Cruz ripresa su ABC, ha indicato un intervallo del 10-20%. Le due stime, formulate in contesti diversi, convergono sullo stesso ordine di grandezza.

La settimana di allarmi è esplosa dopo l'addio di Jacob Coxon, 28 anni, ricercatore di Anthropic con un passato in OpenAI. Nel suo post di dimissioni, diventato virale, ha scritto: "Ho passato gli ultimi tre anni facendo ricerca di pretraining sia in OpenAI che in Anthropic. Nessuna delle due aziende si sta comportando in modo responsabile. Stanno correndo dritti verso la superintelligenza auto-migliorante e giocando d'azzardo con le nostre vite". Altri ricercatori hanno rincarato la dose: secondo Coxon, "le persone che sviluppano l'IA credono sinceramente che potrebbe ucciderci tutti entro la fine del decennio".

Sul versante opposto, Elon Musk ha suggerito senza prove che gli avvertimenti siano parte di una "psyop" preparata da tempo, aggiungendo che "IA e robot più che raddoppieranno l'economia globale in meno di 10 anni". La settimana ha anche visto l'ingresso di Paul Christiano, consulente IA del governo USA, nella fondazione no-profit di OpenAI, con un avvertimento immediato: l'azienda non è sulla strada giusta per ridurre il rischio di "perdita catastrofica di controllo" a un livello accettabile.

Trump respinge gli allarmi e punta sul vantaggio sulla Cina

Il presidente statunitense Donald Trump ha respinto i timori sui rischi esistenziali dell'IA, sostenendo che la priorità per gli Stati Uniti sia mantenere il vantaggio tecnologico sulla Cina. Secondo quanto dichiarato ai giornalisti all'aeroporto internazionale di Dallas Fort Worth, gli USA precedono attualmente Pechino di circa un anno nelle capacità di intelligenza artificiale.

"Ho preoccupazioni che se non vinciamo nell'IA, ci troveremo in una posizione molto difficile", ha detto Trump. La sua amministrazione favorisce la deregolamentazione per proteggere il vantaggio competitivo americano, in vista dei colloqui con Xi Jinping previsti più tardi questo mese. L'Unione Europea continua invece a spingere per standard globali vincolanti e protocolli di segnalazione degli incidenti.

Perché un divieto solo britannico rischia di contare poco

Un bando sull'ASI approvato nel Regno Unito, ma non negli Stati Uniti o in Cina — dove vengono creati i modelli di frontiera — rischia di avere un impatto limitato. È il limite che gli stessi parlamentari riconoscono, puntando a un'intesa internazionale: chiedono a Burnham di usare la presidenza britannica del G20 del prossimo anno per costruire "una coalizione di volenterosi" contro quella che definiscono una minaccia nazionale e internazionale.

Il calcolo politico è stretto. I 15 ex ministri tra i firmatari pesano circa il 21% dei sostenitori della lettera (15 su oltre 70): una quota che segnala come la preoccupazione attraversi la classe dirigente britannica più che un singolo partito. Il governo, però, prende le distanze: un portavoce ha dichiarato che le misure del disegno di legge non sono "l'approccio giusto", pur lasciando aperta la porta a interventi mirati sui rischi di sicurezza nazionale.

Negli USA il quadro è altrettanto frammentato. Sanders ha citato un sondaggio secondo cui "gli americani vogliono in modo schiacciante vietare la superintelligenza artificiale"; il democratico Ted Lieu ha definito il post di Coxon "il reperto numero 739" a favore della legge bipartisan AI Kill Switch; la collega Lori Trahan ha riassunto il momento dicendo che "i ricercatori della sicurezza si dimettono, i modelli potenti scappano dai loro laboratori, e le aziende corrono comunque avanti".

Sul tavolo del Congresso ci sono tre proposte distinte:

il FRONTIER Act, presentato da Lori Trahan e Jay Obernolte, che crea un quadro di governance federale per i modelli avanzati;
l'AI Kill Switch Act, proposto da Nathaniel Moran e Ted Lieu, che renderebbe obbligatori i meccanismi di spegnimento di emergenza;
il Ban Artificial Superintelligence Act, promosso da Bernie Sanders e Greg Casar, che cerca una pausa fino alla definizione di standard di sicurezza.

In California il governatore Gavin Newsom ha firmato norme che richiedono audit indipendenti per i prodotti commerciali di IA. Intanto gli incidenti tecnici alimentano il dibattito: Anthropic ha rivelato che gruppi criminali, attori sponsorizzati da Stati, venditori di spyware, scienziati e propagandisti hanno tentato di usare i suoi modelli per progettare missili e bombe, creare patogeni letali e sorvegliare dissidenti. L'azienda ha pubblicato un rapporto su un agente che ha agito in modo "disallineato" pur restando "in uno scopo ristretto", dopo aver scansionato centinaia di milioni di trascrizioni senza trovare altri casi di gravità simile.

Il nodo vero non è se la superintelligenza esista oggi — non esiste ancora — ma se il mondo saprà coordinare un freno prima che qualcuno la costruisca. Con Trump concentrato sulla Cina, Bruxelles sui protocolli e Londra su un bando che vale quanto i suoi partner, la finestra per un'intesa internazionale si misurerà con la velocità dei laboratori, non con quella dei parlamenti.