Physical Address
304 North Cardinal St.
Dorchester Center, MA 02124
Le parole di Dario Amodei riaccendono il dibattito su apertura e sicurezza nell’intelligenza artificiale: il CEO di Anthropic non chiede un bando ai modelli open-weight, ma avverte che senza regole rischiano di favorire potenze autoritarie e attacchi biologici. Una posizione che distingue con nettezza tra modelli innocui – da sostenere come bene pubblico – e modelli pericolosi, da testare con obbligo globale, mentre crescono le pressioni del fronte open-source contro ogni restrizione.
Il post pubblicato lunedì 27 luglio sul blog di Anthropic è una risposta diretta alle accuse di voler chiudere l’ecosistema aperto. Amodei nega con forza di aver mai sostenuto un divieto, ma elenca due “scenari incubo” e chiede interventi mirati su controlli all’export di chip, contrasto alla distillazione industriale e test di sicurezza vincolanti per tutti i modelli più capaci, indipendentemente dalla licenza o dal Paese d’origine.
I due scenari incubo: superiorità militare cinese e armi biologiche
Amodei teme che governi autoritari, e in particolare il Partito Comunista Cinese, possano costruire modelli più potenti di quelli statunitensi e usarli per ottenere una superiorità militare permanente o per reprimere la popolazione con sorveglianza di massa. Non è l’unico regime che lo preoccupa, ha precisato, ma è “il più capace”.
Il secondo scenario riguarda l’uso malevolo dei modelli open-weight per attacchi informatici o biologici. In questi ambiti, ha spiegato, i modelli aperti sono più rischiosi di quelli chiusi perché non hanno filtri di sicurezza e, una volta rilasciati, non possono essere ritirati. Amodei riconosce che anche i modelli chiusi subiscono tentativi di uso improprio – i laboratori lo vedono nei dati di utilizzo – ma ritiene che l’assenza di guardrail renda la versione aperta più pericolosa, specialmente sulle minacce biologiche: creare virus potenziati potrebbe richiedere pochissimo tempo, mentre sviluppare difese richiederebbe anni anche nel migliore dei casi. Un rapporto dell’UK AI Security Institute citato nel post mostra che i modelli open-weight sono indietro di pochi mesi rispetto ai modelli di frontiera nella sicurezza informatica, confermando che il divario si sta assottigliando.
La richiesta: test di sicurezza globali e stop alla distillazione industriale
Per scongiurare questi rischi, Amodei propone tre leve. La prima è rendere più stringenti i controlli sull’export di chip verso la Cina, così da impedirle di addestrare modelli più avanzati di quelli americani senza i semiconduttori statunitensi. La seconda è agire contro la distillazione industriale – la tecnica con cui un modello impara da un altro interrogandolo a tappeto – che secondo Amodei consente alla Cina di aggirare in parte le restrizioni e fungere da “free rider” sui successi AI americani. La terza è istituire test di sicurezza obbligatori per tutti i modelli potenti, a prescindere dalla licenza o dal paese di origine, esentando solo i modelli meno capaci come quelli di startup e università.
Su quest’ultimo punto, Amodei ha dichiarato di vedere un consenso in formazione: “Penso che questa idea sia in realtà vicina a un consenso: sono stato incoraggiato sia dal fatto che l’amministrazione Trump si sia mossa in questa direzione negli ultimi mesi, sia dalle recenti proposte dell’industria che applicherebbero tali test ai modelli più capaci indipendentemente dal loro paese d’origine o dal fatto che siano aperti o chiusi”. Ha aggiunto che per essere efficace il meccanismo dovrebbe essere globale, includendo anche la Cina: una cooperazione limitata sulla prevenzione delle armi biologiche potrebbe essere possibile perché “è nell’interesse anche della Cina”.
Critiche e risposta: “Mai chiesto un bando”
La precisazione di Amodei arriva dopo che un’ampia coalizione di aziende – tra cui Nvidia, Meta, Microsoft, Mistral e Hugging Face – ha firmato una lettera aperta per scongiurare “restrizioni premature” sui modelli open-weight. Sebbene la lettera non citasse esplicitamente la Cina, il dibattito ruota proprio attorno al timore che i laboratori cinesi stiano usando la proprietà intellettuale americana tramite distillazione. I critici accusano Anthropic di voler proteggere il proprio business dalla concorrenza dei modelli open-weight più economici. OpenAI stessa, secondo indiscrezioni, continuerebbe a fare lobbying contro i pesi aperti nonostante abbia firmato la lettera.
Amodei respinge questa lettura: “Anthropic non ha mai sostenuto un divieto sui modelli open-weight”, ha scritto in grassetto nel post. Ha poi chiarito che i modelli open-weight privi di capacità pericolose sono “un bene pubblico: non costano nulla se non la computazione necessaria per eseguirli e danno valore a imprese, sviluppatori e ricercatori”. La linea di demarcazione, per lui, non è tra aperto e chiuso, ma tra modelli innocui da promuovere e modelli capaci di fare danni, che vanno testati a prescindere.
Una regolamentazione che può funzionare solo se è globale
La strategia di Amodei cerca un punto di equilibrio tra sicurezza e innovazione, ma il suo stesso riconoscimento che i test dovrebbero coinvolgere Pechino mostra il vero scoglio. Senza un’adesione cinese, le restrizioni unilaterali rischiano di essere lette come protezionismo, alimentando la narrazione di chi – come i firmatari della lettera – vede in queste mosse un freno all’open-source. Per gli sviluppatori e le aziende che usano modelli aperti, la richiesta di test obbligatori per i sistemi più capaci potrebbe tradursi in nuovi oneri normativi, ma anche in standard di sicurezza più elevati. Il confine sottile sta nella definizione di “capacità pericolosa”: è qui che si giocherà la prossima partita regolatoria.
Fonti
