Laptop su scrivania luminosa con flusso di luce astratto: simbolo del coding AI locale open-weight

Recursive Flint: coding locale da 40B a 131 token/s

Un modello da 39,8 miliardi di parametri che scrive codice a circa 131 token al secondo su un MacBook Pro, si scarica gratis da Hugging Face con licenza Apache 2.0 e occupa 22,86 GB su disco. Il dato che rende Flint diverso dagli altri open-weight usciti nell'ultimo mese non è la velocità: è che Recursive sostiene di averlo costruito da zero in meno di quattro mesi lasciando che fosse la sua Eureka Machine, un sistema di ricerca automatizzato, a progettare quasi ogni pezzo della pipeline. Se l'esperimento regge, il dibattito sul recursive self-improvement smette di essere materia da paper e diventa un file scaricabile sul laptop di uno sviluppatore.

Flint attiva 2,5 miliardi di parametri su 39,8 totali

Flint è un modello mixture-of-experts da 39,8 miliardi di parametri totali che ne accende circa 2,5 miliardi per ogni token generato. La scheda tecnica descrive 49 layer: i primi due densi, i restanti 47 con routing su 256 esperti, di cui 6 selezionati per token più uno condiviso sempre attivo. Il conteggio dei 2,5 miliardi include l'output head; il solo corpo attivo si ferma a 2,2 miliardi.

L'attenzione alterna 35 layer a finestra scorrevole da 513 token e 14 layer a full attention, con 32 teste di query e 4 teste chiave-valore: una geometria pensata per tenere piccola la cache KV nelle sessioni lunghe degli agenti. Il modello è text-only, gestisce il ragionamento e le tool call compatibili OpenAI, ed è addestrato per ispezionare codebase, correggere bug, implementare funzionalità e scrivere test.

Sul contesto la discrepanza è interna al fornitore: la model card documenta 262.144 token tra prompt e output, il blog di lancio parla di «fino a 512k» e nella stessa pagina consiglia di restare entro 256k per il coding. Due numeri dello stesso giorno, a un paragrafo di distanza.

I benchmark dichiarati: 74,2% su SWE-bench Verified, 54,9% su Terminal-Bench 2.1

Flint segna 74,2% su SWE-bench Verified e 54,9% su Terminal-Bench 2.1, con la versione NVFP4 che perde appena 0,1 punti sul primo benchmark. Sono valutazioni di rilascio dichiarate da Recursive, non riprodotte da terzi: alla data del 22 ottobre l'indice di Artificial Analysis non ha ancora una voce dedicata al modello.

BenchmarkFlint BF16Flint NVFP4Qwen 3.6 (MoE)Qwen 3.8 (dense)
SWE-bench Verified74,2%74,1%73,4%75,6%
Terminal-Bench 2.154,9%53,7%44,9%73,0%
LiveCodeBench v680,3%80,8%80,4%90,3%
IFEval95,1%94,6%89,6%94,6%

Il protocollo è più severo della media: Terminal-Bench con harness Terminus 2 e soluzioni trovate via web conteggiate come fallimenti, SWE-bench con mini-swe-agent senza accesso a Internet, pass@1 mediato su almeno cinque tentativi, temperatura 1.0, top-p 0.95 e top-k 20. Il primato dichiarato però è stretto: Flint guida i modelli MoE sotto i 50 miliardi nel coding agentico, mentre i densi più forti restano davanti. Su Terminal-Bench 2.1 Qwen 3.8 arriva a 73,0%, e sulla media dei sei test usata da Recursive l'unico modello sopra Flint è Qwen3.8 27B. Il dato dell'89,7% su SWE-bench Pro v2, misurato internamente, non è confrontabile con i risultati pubblici sullo stesso nome.

Laptop su scrivania luminosa con flusso di luce astratto: simbolo del coding AI locale open-weight
Flint promette codice generato in locale su un laptop, con pesi aperti e licenza Apache 2.0.

Velocità e memoria: 48 GB bastano, i pesi NVFP4 e int4 safetensors stanno intorno a 23 GB; il GGUF int4 q4_1 arriva a 26 GB

Per eseguirlo in locale servono 48 GB di memoria: Apple Silicon M4 Pro, M5 Pro o M5 Max, oppure una GPU NVIDIA con almeno 48 GB. I pesi NVFP4 e int4 safetensors stanno intorno a 23 GB; il GGUF int4 q4_1 arriva a 26 GB. Il motore di inferenza rec engine dichiara da 1,4 a 2,6 volte il throughput di llama.cpp su un M4 Pro.

FormatoDimensioneNote
BF16 (checkpoint)79,59 GB15 shard safetensors, per fine-tuning e server
NVFP4 GGUF22,86 GBla build di inferenza completa più piccola
int4 GGUF (q4_1)25,99 GBpiù grande del file NVFP4 nonostante il nome
int4 safetensors22,58 GBper runtime che preferiscono pesi shardati

I pesi MLX INT4 citati da MarkTechPost stanno in circa 22,6 GB. Recursive dichiara più di 125 token al secondo su un MacBook Pro M4 Pro e oltre 150 su una RTX Spark da 64 GB; i test riportati da TechCrunch parlano di circa 131 token/s contro i 58-69 token/s di modelli simili come Gemma 4 e Nemotron 3.5 Lightning sulla stessa macchina. Flint gira anche con llama.cpp, Ollama, Unsloth, LM Studio, vLLM e SGLang, mentre il checkpoint BF16 da 80 GB richiede una B300 o una H200 per replica.

La Eureka Machine dietro Flint e i 650 milioni di Recursive

Flint è il primo modello di Recursive, startup uscita dallo stealth a maggio 2026 con 650 milioni di dollari raccolti a una valutazione di 4,65 miliardi, con GV, Nvidia e AMD Ventures tra gli investitori e Richard Socher, ex chief scientist di Salesforce, come CEO. La Eureka Machine ha contribuito a quasi ogni fase, dal pretraining al post-training all'inferenza: ha scelto una forma più sparsa partendo da una baseline da 35 miliardi con 3 miliardi attivi, ha spinto il low-bit training che ha ridotto il modello del 71% quasi senza perdite di qualità, ha scritto kernel specializzati tra cui un megakernel Metal che fonde l'intero forward pass di decode su M4 e M5.

TechCrunch la inquadra come un test pubblico anticipato di recursive self-improvement, l'idea che l'AI possa costruire AI migliore, e ricorda che alcuni ricercatori temono che un sistema del genere possa sfuggire al controllo. La versione attuale è più modesta: un assistente di ricerca supervisionato da persone. Will Knight di Wired ha usato Flint su un Mac da 48 GB per costruire una to-do list e uno strumento di ricerca web, e il modello ha centrato ogni richiesta. Recursive ammette però che Flint richiede più guida dei grandi assistenti a pagamento e consiglia di spezzare i task grandi in passaggi piccoli.

Cosa cambia per chi sviluppa in locale

Un calcolo sui file pubblicati mostra quanto abbia inciso il low-bit training: il checkpoint BF16 pesa 79,59 GB, il GGUF NVFP4 22,86 GB, cioè il 28,7% del totale, una riduzione del 71,3% coerente con il -71% dichiarato. La stessa logica vale per la sparsity: 2,5 miliardi su 39,8 significa che per ogni token si muove il 6,3% dei pesi, e il corpo attivo da 2,2 miliardi appena il 5,5%. Sono i due numeri che spiegano come un modello da 40 miliardi possa stare su un laptop.

La conseguenza pratica è una soglia di memoria netta: 48 GB escludono i Mac da 36 GB su cui gira Laguna XS 2.1 di Poolside, e questo restringe il parco macchine utilizzabili. Il vantaggio in cambio è triplo: si lavora offline, il codice non lascia il computer e non si pagano tariffe per token. Sul fronte velocità, 131 diviso 69 fa 1,9 e 131 diviso 58 fa 2,3: nei loop degli agenti, dove il modello compila, testa e corregge, il collo di bottiglia si sposta dal tempo di generazione alla gestione del task.

Flint non è un sostituto dei modelli di frontiera e Recursive non lo presenta come tale. Il test decisivo non è la riga nella tabella dei benchmark, ma se la Eureka Machine riuscirà a costruire il modello successivo più rapidamente di quanto un piccolo team umano abbia costruito questo: quattro mesi sono il tempo da battere.

Fonti

Francesco Leone
Francesco Leone

Francesco Leone è un esperto in Intelligenza Artificiale con una profonda conoscenza in Machine Learning e Deep Learning. Attraverso la sua esperienza, ha contribuito allo sviluppo di soluzioni innovative in ambito di elaborazione del linguaggio naturale e visione artificiale, mirando a trasformare il modo in cui interagiamo con la tecnologia. Attivo nel settore con pubblicazioni e progetti su https://ital-ia.it/, Francesco si dedica alla ricerca e all'applicazione di algoritmi avanzati per rendere i sistemi più intelligenti e accessibili.

Articoli: 664

Lascia una risposta

Il tuo indirizzo email non sarà pubblicato. I campi obbligatori sono contrassegnati *