Nel panorama tecnologico attuale, l'industria dell'intelligenza artificiale ha intrapreso una corsa alla creazione di hardware sempre più specializzati. Tuttavia, la startup parigina Kog propone un approccio radicalmente diverso, puntando a raggiungere le velocità tipiche dei chip dedicati utilizzando le GPU standard, già ampiamente diffuse nei data center aziendali.
L'ottimizzazione software sblocca il potenziale delle GPU
Kog ha dimostrato la possibilità di ottenere un'inferenza AI estremamente rapida senza la necessità di investire in nuovi hardware costosi.
La sua innovazione si concentra sull'ottimizzazione software profonda delle GPU esistenti, come le AMD MI300X e NVIDIA H200, per migliorare drasticamente le prestazioni di inferenza. Questa strategia ha già suscitato un notevole interesse, con il CEO Gaël Delalleau che ha riferito di oltre 200 contatti commerciali concreti.
Il Kog Inference Engine (KIE) è presentato come la soluzione per accelerare i carichi di lavoro, garantendo maggiore efficienza nell'utilizzo di modelli di grandi dimensioni. L'azienda si distingue per un'ottimizzazione a basso livello che sfrutta una profonda comprensione tecnica dell'hardware, un metodo simile a quello impiegato da prestigiosi laboratori di ricerca come lo Stanford Hazy Research.
Kog sfida la corsa ai chip specializzati
L'approccio di Kog si pone in netta controtendenza rispetto alla direzione predominante nel settore dell'AI, che ha visto aziende come Cerebras e Groq investire miliardi nello sviluppo di chip specializzati. Queste realtà sostengono che un'inferenza AI veramente veloce richieda nuove architetture hardware. La recente IPO di Cerebras, che ha valutato l'azienda a 56 miliardi di dollari, ha ulteriormente rafforzato questa convinzione.
Tuttavia, Kog sfida apertamente questa narrativa consolidata, dimostrando che non è indispensabile migrare verso nuovi e complessi ecosistemi hardware per ottenere prestazioni elevate. Al contrario, l'azienda suggerisce che sia possibile sfruttare in modo più intelligente ed efficace le risorse computazionali già disponibili.
Il futuro dell'AI: efficienza e sovranità tecnologica
La metodologia di Kog non offre solo un vantaggio economico, evitando onerosi aggiornamenti hardware, ma anche un beneficio strategico. Con il supporto di programmi come French Tech 2030, l'azienda mira a rafforzare la sovranità tecnologica europea, integrando la sua tecnologia in pipeline basate su agenti e ampliando il supporto a una gamma più vasta di chip e modelli.
Entro settembre, Kog prevede di dimostrare la sua tecnologia su un modello principale, puntando a raggiungere una velocità di inferenza dieci volte superiore rispetto agli standard attuali. Questo traguardo non solo promette un'efficienza senza precedenti, ma è anche un passo fondamentale per attrarre nuovi investimenti e completare la sua Serie A di finanziamento.
In sintesi, Kog sta tracciando una nuova rotta per le infrastrutture AI, focalizzandosi non solo sull'hardware, ma soprattutto su un uso più intelligente e ottimizzato delle tecnologie esistenti. Questo potrebbe ridefinire le percezioni sulle necessità tecnologiche per l'inferenza in tempo reale, rendendo l'AI più accessibile, efficiente e sostenibile.
