GPU su superficie minimalista con particelle luminose che si ordinano, simbolo di LLM a diffusione veloce

Mercury 3 a 1.068 token/s: Inception sfida GPT-6 Luna

Inception ha rilasciato Mercury 3, un LLM a diffusione che dichiara 1.068 token al secondo su GPU NVIDIA con una finestra di contesto da 1 milione di token. Se i numeri reggessero in produzione, il vantaggio non si giocherebbe sulla qualità — su diversi benchmark il distacco è di pochi punti — ma sulla metrica che chi costruisce agenti sente davvero: quanto tempo passa tra richiesta e prima risposta utile. Il problema è che quelle cifre arrivano tutte da test interni, non verificati da terzi.

Cos'è Mercury 3 e perché la diffusione va più veloce

Mercury 3 è il quarto modello della famiglia Mercury di Inception, dopo Mercury 1, Mercury 2 e Mercury 2.5. L'azienda lo presenta come il più capace modello linguistico a diffusione mai rilasciato, con numero di parametri non divulgato.

La differenza sta nel meccanismo. I modelli autoregressivi come GPT-6 Luna e Claude Haiku 5.5 scrivono un token alla volta, e ogni token deve attendere il precedente. La diffusione parte invece da una bozza grezza dell'intera risposta e la raffina in parallelo in pochi passaggi, generando più parole insieme. Inception sostiene che questa architettura scali come i modelli standard: Mercury 3 ha oltre 40 volte i parametri di Mercury 1 (mini), con una qualità media triplicata e la stessa velocità sopra i 1.000 token al secondo. Rispetto a Mercury 2.5, la finestra di contesto passa da 260.000 token a 1 milione.

La velocità: 4-8 volte i rivali, ma è un calcolo interno

ModelloToken al secondo dichiarati
Mercury 31.068
Claude Haiku 5.5circa 240
GPT-6 Lunacirca 130

I rapporti si ricavano dai numeri della tabella: 1.068 diviso 240 fa 4,45, mentre 1.068 diviso 130 fa 8,2. Il claim "da quattro a otto volte più veloce" coincide esattamente con queste due proporzioni. Resta il fatto che i 240 e i 130 token/s sono misure pubblicate da Inception nella propria tabella, non benchmark indipendenti.

Sul fronte della latenza percepita, Octen AI — che costruisce funzioni di ricerca per occhiali intelligenti — riporta un tempo mediano di generazione di 0,9 secondi e un tempo end-to-end di 2,2 secondi nei test della propria API Sense. La sola ricerca richiedeva 80 millisecondi, quindi il collo di bottiglia era il modello. "On smart glasses, an answer that takes five seconds feels broken", ha detto il fondatore e CEO Kuan Zou.

I benchmark: 8 vittorie su 12, ma le sconfitte contano

TestMercury 3GPT-6 LunaClaude Haiku 5.5
GPQA Diamond89,2386,3684,51
IFBench76,8461,8254,65
SWE-Bench Atlas51,0833,3332,26
DeepSWE v146,3137,7651,62
MRCR v275,5062,7278,40

Mercury 3 vince 8 dei 12 test confrontati, tutti con i modelli a setting medi. Le vittorie più nette sono IFBench — 76,84 contro 61,82 di GPT-6 Luna, cioè 15,02 punti — e SWE-Bench Atlas, dove il distacco da entrambi i rivali sfiora i 18 punti (51,08 contro 33,33 e 32,26).

La tabella però racconta una storia più sfumata dell'annuncio. Claude Haiku 5.5 vince DeepSWE v1 con 51,62 contro 46,31 e domina MRCR v2, la ricerca di informazioni in testi lunghi, chiudendo a 78,40 contro 75,50. GPT-6 Luna passa avanti su AA-Omniscience-Public (46,94 contro 46,44) e su AA-LCR v1.1. The Decoder segnala anche una discrepanza di framing dentro la stessa Inception: la sintesi breve dell'azienda parla di qualità "pari o migliore", mentre il comunicato parla di superiorità.

GPU su superficie minimalista con particelle luminose che si ordinano, simbolo di LLM a diffusione veloce
Mercury 3 punta sulla generazione a diffusione ad alta velocità, ma i dati di prestazione restano da verificare.

Prezzo, API e partner: cosa cambia per chi costruisce agenti

Il listino è di 0,20 dollari per milione di token in ingresso e 0,70 in uscita, con sconto di lancio del 50% che porta a 0,10 e 0,35 dollari. I token in ingresso in cache costano il 90% in meno: 0,02 dollari di listino, 0,01 in promozione.

Sul prezzo c'è un dettaglio da non perdere. A listino, l'output di Mercury 3 costa più di quello dei rivali, che su input brevi si fermano a 0,50 dollari per milione: 0,70 contro 0,50 significa un 40% in più. Con lo sconto di lancio il calcolo si ribalta, perché 0,35 è il 30% in meno di 0,50. Inception non ha detto quando termina la promozione.

Il modello gira su Inception API Platform, OpenRouter, Baseten e Vercel, con API compatibile OpenAI: la stringa è mercury-3 e il parametro reasoning_effort regola lo sforzo di ragionamento. I nuovi account ricevono 100 milioni di token gratuiti. Mercury 2 e 2.5 non sono più disponibili per i nuovi utenti; chi li usava mantiene l'accesso fino al 15 novembre 2026. In parallelo al lancio, Inception ha in catalogo Mercury Voice (time-to-first-token sotto i 170 ms) e Mercury Decide, un classificatore a 0,04 dollari per milione di token in ingresso.

Tra i partner early, RevisionDojo (General Learning) restituisce suggerimenti, risposte corrette e definizioni in circa un secondo, "senza rinunciare al ragionamento", secondo il CTO Michael Tong. TinyFish AI ha risolto 25 dei 50 task di navigazione Mind2Web su siti reali, il 50%, superando GPT-6.1-Sol secondo l'azienda, che però non pubblica il numero del rivale.

Cosa significa in pratica

Il calcolo più utile riguarda il tempo, non la qualità. Generare 1.000 token di output a 1.068 token/s richiede circa 0,94 secondi; a 130 token/s ne servono 7,7; a 240 token/s, 4,2. Un agente che esegue venti chiamate sequenziali — scenario normale quando ogni step dipende dal precedente — trasforma questa differenza in decine di secondi risparmiati per sessione. È esattamente il tipo di risparmio che nessuna vittoria di 15 punti su IFBench può compensare.

Poi c'è il pattern delle vittorie e sconfitte. Mercury 3 guadagna di più su instruction following e coding agentico, cioè le due aree in cui chi impacchetta agenti passa la maggior parte dei test; perde su retrieval a contesto lungo e coding su task estesi, che sono proprio i casi in cui una finestra da 1M dovrebbe fare la differenza. Non è un dettaglio di nicchia: è il segnale che la velocità è reale mentre la profondità va ancora dimostrata.

Il contesto competitivo aiuta a leggere la mossa. Google lavora sulla stessa architettura con Gemini Diffusion e con il modello aperto DiffusionGemma, quest'ultimo fino a quattro volte più veloce di Gemma 4 ma con risultati leggermente inferiori secondo Google. Inception, che aveva raccolto 50 milioni di dollari prima di Mercury 2 — con NVentures, M12 e Snowflake Ventures tra gli investitori — prova a dimostrare che la diffusione non è solo una scorciatoia di velocità. Mercury 3 è il primo test serio di quella tesi: se regge fuori dal laboratorio, il collo di bottiglia degli agenti si sposta dal modello all'orchestrazione. Se non regge, resta un'ottima demo da 1.068 token al secondo.

Fonti

Francesco Leone
Francesco Leone

Francesco Leone è un esperto in Intelligenza Artificiale con una profonda conoscenza in Machine Learning e Deep Learning. Attraverso la sua esperienza, ha contribuito allo sviluppo di soluzioni innovative in ambito di elaborazione del linguaggio naturale e visione artificiale, mirando a trasformare il modo in cui interagiamo con la tecnologia. Attivo nel settore con pubblicazioni e progetti su https://ital-ia.it/, Francesco si dedica alla ricerca e all'applicazione di algoritmi avanzati per rendere i sistemi più intelligenti e accessibili.

Articoli: 664

Lascia una risposta

Il tuo indirizzo email non sarà pubblicato. I campi obbligatori sono contrassegnati *