Mostra sommario Nascondi sommario
Il 21 ottobre la startup Recursive ha presentato Flint, un modello pensato per far girare codice direttamente sul laptop. È gratuito, i pesi sono pubblici e gran parte del lavoro sarebbe stata generata da un sistema di intelligenza artificiale interno.
Cos’è Flint e come si scarica
Flint è distribuito con licenza Apache 2.0 e i pesi sono disponibili su Hugging Face. Questo permette a chiunque di usare e modificare il modello senza vincoli commerciali.
Gemini 4 Argon di Google: arriva la rivoluzione per programmazione e scienza
Flint 40 miliardi di parametri: modello di coding per laptop firmato Recursive
- Accesso: download pubblico su Hugging Face.
- Licenza: Apache 2.0, uso e modifica liberi.
- Focus: ottimizzato per esecuzione locale su laptop.
Architettura e dimensioni pensate per laptop
Si tratta di un modello di tipo mixture-of-experts con una capacità aggregata intorno ai 40 miliardi di parametri.
Per ogni compito vengono attivati solo pochi miliardi di parametri, rendendo possibile l’esecuzione su macchine comuni.
- Parametri totali: circa 40 miliardi.
- Parametri attivi per task: circa 2,5 miliardi.
- Obiettivo: eseguire offline su laptop senza server cloud.
Prestazioni misurate: velocità e benchmark
Recursive pubblica numeri di performance che mostrano valori interessanti su hardware consumer.
Velocità su laptop e GPU
- MacBook Pro M4 Pro: ~131 token al secondo, secondo i dati aziendali.
- Nvidia RTX Spark: oltre 150 token al secondo.
Confronti con altri modelli
Secondo i test interni Flint risulterebbe più veloce di alcuni modelli concorrenti sotto i 50B. I confronti includono nomi noti del settore.
- Test citati da Recursive: Gemma 4 di Google e Nemotron 3.5 Lightning di Nvidia.
- In una media su sei benchmark, solo Qwen3.8 27B di Alibaba ha ottenuto un punteggio superiore.
- Su SWE-Bench Verified, specializzato nella correzione di bug, Flint supera modelli sotto i 50 miliardi.
Il ruolo di Eureka Machine nell’intero processo
La creazione di Flint è stata guidata in gran parte da un sistema di ricerca automatica chiamato Eureka Machine.
- Eureka genera ipotesi e lancia esperimenti.
- Analizza i risultati e decide i passaggi successivi.
- Avrebbe contribuito dal pre-training all’inferenza.
Tra le idee sviluppate dal sistema ci sarebbero architetture più sparse, addestramento a bassa precisione e kernel GPU personalizzati. Secondo la società, questi approcci hanno ridotto la dimensione del modello fino al 71% con perdite di qualità contenute.
Vantaggi pratici per gli sviluppatori
Flint nasce con una promessa semplice: permettere agli sviluppatori di lavorare offline e mantenere il codice privato.
- Privacy: il codice rimane locale.
- Costi: nessuna tariffa a token da provider cloud.
- Compatibilità: segnali iniziali mostrano supporto per strumenti popolari come Ollama, LM Studio e llama.cpp.
Limitazioni, verifiche indipendenti e rischi
I numeri presentati provengono dall’azienda. Alcuni media fanno notare che mancano controlli indipendenti.
Il rilascio è anche un banco di prova per il concetto di autoperfezionamento ricorsivo. L’idea è che un’IA costruisca un’IA migliore in cicli successivi.
- Preoccupazioni: alcuni ricercatori temono che processi ricorsivi possano sfuggire al controllo umano.
- Implementazione di Recursive: sistema supervisionato con obiettivi fissati e possibilità di arresto umano.
- Situazione finanziaria: la società è uscita dal stealth con finanziamenti significativi e una valutazione alta.
Cosa rimane da verificare e i prossimi passi
Se i benchmark resisteranno a test indipendenti, i modelli locali potrebbero diventare una scelta concreta per chi sviluppa codice ogni giorno.
La prossima versione di Flint sarà un indicatore chiave della capacità di Eureka Machine di migliorare ciclicamente i risultati.
