Con Flint, Recursive sposta l'AI per il coding dal cloud al computer personale. La startup, fondata l'anno precedente e guidata da Richard Socher, ha rilasciato il suo primo modello come software gratuito, scaricabile da Hugging Face con licenza Apache 2.0. L'obiettivo è offrire agli sviluppatori uno strumento locale, operativo anche offline, riducendo costi e rischi di condivisione del codice con servizi remoti.
Un modello ottimizzato per l'esecuzione su laptop
Flint è un modello mixture-of-experts da 40 miliardi di parametri, che ne attiva circa 2,5 miliardi per ogni compito.
Questa architettura consente al sistema di selezionare solo le parti più rilevanti, abbassando il carico computazionale. Ciò rende possibile l'esecuzione su laptop performanti, come MacBook Pro con chip Apple Silicon o workstation con GPU Nvidia, senza dipendere da server esterni.
I benchmark interni indicano che Flint raggiunge circa 131 token al secondo su un MacBook Pro con M4 Pro e oltre 150 token al secondo su hardware Nvidia RTX Spark. Anche sui test di coding come SWE-Bench Verified, i risultati si mostrano competitivi tra i modelli sotto i 50 miliardi di parametri. È importante notare, tuttavia, che questi dati sono forniti da Recursive e attendono ancora una verifica indipendente.
Eureka Machine: l'AI che sviluppa l'AI
L'aspetto più significativo del lancio è il ruolo di Eureka Machine. Recursive sostiene che il suo sistema automatizzato di ricerca abbia contribuito a molte fasi dello sviluppo di Flint: dalla generazione di idee agli esperimenti, dall'addestramento all'ottimizzazione. Questo incarna il concetto di recursive self-improvement: AI che aiuta a progettare AI migliori, sotto supervisione umana. Un'idea potente ma controversa, che solleva interrogativi sul controllo dei sistemi capaci di auto-migliorarsi.
Una prospettiva più prudente sottolinea che le prestazioni e la velocità sono auto-riportate dall'azienda. Il valore effettivo di Flint dipenderà dai test sul campo degli sviluppatori e dalla capacità di Recursive di replicare questo metodo nei futuri modelli.
Questa distinzione è cruciale, separando dimostrazione tecnologica e validazione di mercato. Un modello locale, per quanto promettente, deve dimostrare affidabilità in ambienti reali, gestendo repository complessi e contesti aziendali dove errori, regressioni e sicurezza contano più della velocità.
Perché il coding locale torna strategico
Il lancio di Flint intercetta una tendenza piùù