Distillazione AI: la Cina addestra i suoi modelli militari sui reasoning americani

Un'indagine condotta dalla Jamestown Foundation e verificata da Reuters ha portato alla luce qualcosa che fino a oggi era solo un sospetto: i laboratori militari cinesi stanno usando modelli di OpenAI e Anthropic per addestrare, via distillazione, i propri sistemi di intelligenza artificiale da combattimento. Non è un incidente isolato. Sono più di 60 i research paper esaminati, e il dettaglio più inquietante non è la copia degli output — è il tentativo sistematico di trasferire il ragionamento proprietario dei modelli occidentali dentro architetture più piccole, eseguibili su hardware cinese e scollegate dalla rete globale.

Che cos'è la distillazione e perché spaventa il Pentagono

La distillazione è una tecnica diffusa in tutta l'industria AI: un modello più piccolo impara non solo le risposte giuste, ma il processo con cui un modello più grande le produce. "Teaching a model the right answer is one thing, but teaching it the reasoning behind the answer is much harder", spiega Sunny Cheung, fellow del Jamestown Foundation che ha analizzato i paper. "These papers show Chinese military-linked researchers are trying to transfer that expensive, proprietary reasoning from Western models into smaller systems they can control and deploy locally."

Il problema per Washington è duplice: da un lato la tecnica elude i controlli all'esportazione sui chip avanzati, perché i modelli distillati girano su hardware meno potente; dall'altro erode la protezione della proprietà intellettuale, permettendo a Pechino di replicare capacità costruite con miliardi di dollari di investimenti privati americani.

Dai droni alle operazioni navali: dove finisce la tecnologia americana

I paper esaminati mostrano applicazioni tutt'altro che teoriche. Un'unità di intelligence e guerra cibernetica dell'Esercito Popolare di Liberazione (PLA Unit 96941) ha descritto l'uso di GPT-3.5 di OpenAI per analizzare codice militare, trasferendo poi la conoscenza in un modello domestico capace di funzionare interamente dentro le reti interne cinesi. Altri studi citano Claude di Anthropic per generare dati di addestramento destinati a sistemi di monitoraggio dei social media e moderazione dei contenuti.

Chip di intelligenza artificiale su superficie minimalista con flusso luminoso di dati, distillazione di modelli AI — La distillazione trasferisce il ragionamento dei modelli occidentali in architetture più piccole, scollegate dalla rete globale.

I sistemi su cui i modelli distillati vengono caricati includono:

Droni con elaborazione video a bordo, senza dipendere da comunicazioni esterne
Navi autonome e sottomarini senza equipaggio in simulazioni navali
Sistemi di sorveglianza e cyber-operazioni a basso consumo computazionale

Trevor Koverko, co-founder di Sapien, frena però sulla portata reale della tecnica: "It is best understood as transferring selected capabilities into a cheaper, locally controlled system, not achieving independence from frontier AI". In altre parole: il risultato è un clone parziale, non un'alternativa che rende superflui i modelli americani. Ma la parzialità, su un campo di battaglia dove bastano capacità mirate, può essere più che sufficiente.

Anthropic avverte: i modelli distillati perdono le protezioni di sicurezza

Anthropic ha dichiarato di non fornire accesso commerciale a Claude in Cina o a società controllate da Pechino, e di avere sistemi per rilevare violazioni delle proprie policy. L'azienda ha però aggiunto un avvertimento tecnico: i modelli distillati possono perdere importanti protezioni di safety pur mantenendo capacità operative rilevanti. È un cortocircuito noto nella ricerca AI: più si comprime un modello per farlo girare su hardware ridotto, più diventa difficile conservare i guardrail che ne limitano usi pericolosi.

La Cina respinge le accuse e accusa Washington di voler mantenere il monopolio sull'intelligenza artificiale. Il punto, però, non è chi detiene il primato. È che la distillazione sta trasformando i modelli commerciali americani in una supply chain involontaria per applicazioni militari cinesi. Con la Casa Bianca, il Pentagono e OpenAI che per ora non commentano, il confronto tra controlli all'esportazione e tecniche di trasferimento della conoscenza è appena entrato nella sua fase più concreta.