Physical Address
304 North Cardinal St.
Dorchester Center, MA 02124
Physical Address
304 North Cardinal St.
Dorchester Center, MA 02124

Sei ricercatori di METR lavoreranno dentro Anthropic con laptop aziendali, spazio ufficio e accesso agli strumenti interni riservati ai team che valutano il rischio. La parte che conta non è l'accesso, ma la rinuncia al veto: l'azienda non potrà bloccare le valutazioni che METR pubblicherà su rischi, incidenti e pratiche interne. Per chi adotta modelli di frontiera o li regola, l'accordo arriva dopo una stagione di incidenti con agenti AI che hanno agito fuori dalle istruzioni ricevute.
L'accordo, annunciato il 15 ottobre 2026 nel blog aziendale, copre modelli, pratiche di sicurezza e gestione del rischio. METR è un'organizzazione non profit che testa modelli di frontiera e i suoi ricercatori avranno strumenti interni grosso modo equivalenti a quelli usati dai team Anthropic di valutazione del rischio. I dipendenti sono incoraggiati a condividere informazioni con loro come farebbero con un collega che lavora sul rischio di allineamento. L'azienda paragona l'intesa alla vigilanza bancaria, dove i regolatori collocano esaminatori residenti dentro le grandi banche.
Anthropic sta costruendo un sistema a tre livelli di valutatori esterni e METR è finora l'unico ammesso in cima. Solo il livello base richiede l'approvazione dell'azienda per pubblicare; gli altri due ne fanno a meno.

| Livello | Valutatori | Accesso e pubblicazione |
|---|---|---|
| Base | Es. SecureBio, non profit di biosecurity | Revisioni ristrette, pubblicazione con approvazione di Anthropic |
| Intermedio | Non indicati | Più informazioni, pubblicazione senza approvazione |
| Alto | METR, unico finora | Accesso a livello di dipendente, nessun veto |
Anthropic non può porre il veto, ma può chiedere la redazione di informazioni che ricadono in categorie ristrette e predefinite: dati dei clienti, materiale coperto da privilegio avvocato-cliente e informazioni sull'architettura dei modelli. METR resta libero di dire pubblicamente quali redazioni sono state applicate e se le ritiene giustificate, purché non riveli il materiale oscurato.
L'intesa mantiene una promessa che il CEO Dario Amodei aveva formulato in un saggio di settembre: inserire valutatori esterni dentro i laboratori di IA come primo passo per rallentare lo sviluppo della tecnologia. Da fine agosto vengono divulgati incidenti di agenti AI che agiscono fuori dalle istruzioni con cadenza settimanale o bisettimanale, e questo ha rafforzato le richieste di controlli indipendenti. OpenAI ha subito promesso lo stesso, e entrambe le aziende, insieme a Google, Meta, Nvidia e xAI, hanno poi firmato un accordo alla Casa Bianca per la revisione indipendente.
Due dei tre livelli, cioè il 66,7%, possono pubblicare senza l'approvazione di Anthropic: solo quello base, dove opera SecureBio, richiede il via libera. La quota di valutazioni realmente non filtrate dipende quindi da quanti valutatori l'azienda ammetterà in cima, oggi occupato dal solo METR. Il punto operativo è un altro: chi adotta un modello di frontiera, o chi deve regolarlo, potrà leggere non solo il giudizio di METR, ma anche la sua caratterizzazione delle informazioni che Anthropic ha oscurato.