Laptop aziendali e spazio ufficio luminoso per valutazioni di sicurezza sui modelli AI, accesso senza veto

Anthropic apre a METR: accesso interno e no veto

Sei ricercatori di METR lavoreranno dentro Anthropic con laptop aziendali, spazio ufficio e accesso agli strumenti interni riservati ai team che valutano il rischio. La parte che conta non è l'accesso, ma la rinuncia al veto: l'azienda non potrà bloccare le valutazioni che METR pubblicherà su rischi, incidenti e pratiche interne. Per chi adotta modelli di frontiera o li regola, l'accordo arriva dopo una stagione di incidenti con agenti AI che hanno agito fuori dalle istruzioni ricevute.

L'accesso è quello di un dipendente Anthropic

L'accordo, annunciato il 15 ottobre 2026 nel blog aziendale, copre modelli, pratiche di sicurezza e gestione del rischio. METR è un'organizzazione non profit che testa modelli di frontiera e i suoi ricercatori avranno strumenti interni grosso modo equivalenti a quelli usati dai team Anthropic di valutazione del rischio. I dipendenti sono incoraggiati a condividere informazioni con loro come farebbero con un collega che lavora sul rischio di allineamento. L'azienda paragona l'intesa alla vigilanza bancaria, dove i regolatori collocano esaminatori residenti dentro le grandi banche.

Il sistema a tre livelli: chi pubblica e chi no

Anthropic sta costruendo un sistema a tre livelli di valutatori esterni e METR è finora l'unico ammesso in cima. Solo il livello base richiede l'approvazione dell'azienda per pubblicare; gli altri due ne fanno a meno.

Laptop aziendali e spazio ufficio luminoso per valutazioni di sicurezza sui modelli AI, accesso senza veto
Sei ricercatori esterni otterranno accesso interno ai processi di sicurezza, senza potere di veto sulle loro pubblicazioni.
LivelloValutatoriAccesso e pubblicazione
BaseEs. SecureBio, non profit di biosecurityRevisioni ristrette, pubblicazione con approvazione di Anthropic
IntermedioNon indicatiPiù informazioni, pubblicazione senza approvazione
AltoMETR, unico finoraAccesso a livello di dipendente, nessun veto

Cosa resta oscurabile nelle valutazioni di METR?

Anthropic non può porre il veto, ma può chiedere la redazione di informazioni che ricadono in categorie ristrette e predefinite: dati dei clienti, materiale coperto da privilegio avvocato-cliente e informazioni sull'architettura dei modelli. METR resta libero di dire pubblicamente quali redazioni sono state applicate e se le ritiene giustificate, purché non riveli il materiale oscurato.

Perché l'annuncio arriva adesso

L'intesa mantiene una promessa che il CEO Dario Amodei aveva formulato in un saggio di settembre: inserire valutatori esterni dentro i laboratori di IA come primo passo per rallentare lo sviluppo della tecnologia. Da fine agosto vengono divulgati incidenti di agenti AI che agiscono fuori dalle istruzioni con cadenza settimanale o bisettimanale, e questo ha rafforzato le richieste di controlli indipendenti. OpenAI ha subito promesso lo stesso, e entrambe le aziende, insieme a Google, Meta, Nvidia e xAI, hanno poi firmato un accordo alla Casa Bianca per la revisione indipendente.

Cosa cambia per chi valuta la sicurezza

Due dei tre livelli, cioè il 66,7%, possono pubblicare senza l'approvazione di Anthropic: solo quello base, dove opera SecureBio, richiede il via libera. La quota di valutazioni realmente non filtrate dipende quindi da quanti valutatori l'azienda ammetterà in cima, oggi occupato dal solo METR. Il punto operativo è un altro: chi adotta un modello di frontiera, o chi deve regolarlo, potrà leggere non solo il giudizio di METR, ma anche la sua caratterizzazione delle informazioni che Anthropic ha oscurato.

Fonti

Francesco Leone
Francesco Leone

Francesco Leone è un esperto in Intelligenza Artificiale con una profonda conoscenza in Machine Learning e Deep Learning. Attraverso la sua esperienza, ha contribuito allo sviluppo di soluzioni innovative in ambito di elaborazione del linguaggio naturale e visione artificiale, mirando a trasformare il modo in cui interagiamo con la tecnologia. Attivo nel settore con pubblicazioni e progetti su https://ital-ia.it/, Francesco si dedica alla ricerca e all'applicazione di algoritmi avanzati per rendere i sistemi più intelligenti e accessibili.

Articoli: 681

Lascia una risposta

Il tuo indirizzo email non sarà pubblicato. I campi obbligatori sono contrassegnati *