Physical Address
304 North Cardinal St.
Dorchester Center, MA 02124
Google DeepMind ha annunciato l'11 giugno 2026 un bando da $10 milioni dedicato alla sicurezza dei sistemi multi-agente, con Schmidt Sciences, la Cooperative AI Foundation, ARIA — l'agenzia moonshot del governo britannico — e Google.org. La premessa è scomoda: nessuno sa ancora cosa succede quando milioni di agenti AI costruiti da organizzazioni diverse iniziano a interagire tra loro, e il tempo per studiarlo senza conseguenze si sta restringendo.
Un campo di ricerca che non esiste ancora
Rohin Shah, direttore della ricerca su AGI safety e alignment di Google DeepMind, ha sintetizzato il problema: «Il problema principale è che non esiste ancora un vero campo di ricerca per la sicurezza multi-agente. Vorremmo che esistesse». Il programma punta a costruirlo fuori dai laboratori privati, dove l'accademia «può guardare molto lontano nel futuro e fare il tipo di lavoro che non è prioritario nei laboratori industriali».
La preoccupazione di fondo riguarda i comportamenti emergenti: quando grandi gruppi di agenti interagiscono, possono comparire all'improvviso capacità collettive nuove e difficili da prevedere. Gli strumenti per misurare e monitorare queste transizioni ancora non esistono. Shah ha usato un'analogia: «Lo vediamo anche con l'umanità: le nostre istituzioni riescono a ottenere cose che nessun individuo potrebbe raggiungere da solo».
Le candidature si chiudono l'8 agosto 2026; i vincitori saranno comunicati nell'autunno 2026.
Quattro aree di ricerca e i rischi dietro di esse
Il programma finanzia proposte in quattro filoni:
- Sandbox e ambienti di test: costruire ambienti realistici e riproducibili per valutare sistemi multi-agente, inclusi marketplace virtuali ed ecosistemi simulati.
- Scienza delle reti di agenti: capire come emergono capacità collettive, come le reti diventano instabili e come rilevare comportamenti pericolosi a livello di popolazione.
- Infrastruttura degli agenti: stress-test dei protocolli di identità e reputazione necessari per interazioni sicure tra piattaforme diverse.
- Supervisione e controllo: metodi per monitorare popolazioni di agenti dispiegati e mitigare danni collettivi a scala.
I rischi concreti sono soprattutto versioni potenziate di minacce già esistenti: truffe, prompt injection — dove un agente viene manipolato tramite istruzioni malevole trasformandosi in malware autonomo — e altri attacchi informatici. James Fox, responsabile del programma Science of Trustworthy AI di Schmidt Sciences, ha descritto la posta in gioco: «Abbiamo un commons digitale che è parte integrante del funzionamento della società, e non si può lasciare che degeneri nell'anarchia».
Un fondo piccolo, un problema urgente
Refael Angel, cofondatore e CTO di Akeyless (azienda di cybersecurity di Tel Aviv), ha spiegato perché la sicurezza tradizionale non regge: «Un agente rompe tutte quelle assunzioni. Ragiona, improvvisa, e può essere dirottato da una singola frase sepolta in un documento a cui è stato chiesto di rispondere». Angel accoglie il finanziamento, ma avverte che i ricercatori di safety rischiano di privilegiare scenari ipotetici esotici ignorando i problemi banali già presenti.
I $10 milioni sono modesti rispetto ai budget interni di Google DeepMind — una sproporzione che MIT Technology Review sottolinea esplicitamente — ma la scommessa è creare una comunità di ricerca indipendente, dove non esistono pressioni commerciali a breve termine. Come sintetizza lo stesso Angel: «Nessun singolo laboratorio dovrebbe scrivere gli standard di sicurezza di cui tutti gli altri devono fidarsi». Per chi sviluppa o integra agenti AI oggi, questa lacuna è già operativa: non esistono standard condivisi su come gestire identità, reputazione e comportamento collettivo tra sistemi di organizzazioni diverse.
Shah stima che manchino ancora alcuni mesi prima che gli agenti raggiungano una diffusione tale da rendere i rischi concreti. Considerando che le candidature chiudono l'8 agosto 2026 e i vincitori vengono annunciati in autunno, il campo scientifico che Shah vuole costruire dovrà prendere forma proprio mentre la tecnologia che intende studiare viene già dispiegata. Fox ha chiuso con la sintesi più lucida: «Il futuro è arrivato più in fretta di quanto ci si aspettasse».
Fonti
