La recursive self-improvement (RSI) non è più un mero concetto da laboratorio o un tema di dibattito teorico sulla superintelligenza. Anthropic ha segnalato, in un proprio documento S-1/A, la possibile vicinanza a una soglia critica: quella in cui l’AI contribuisce in maniera significativa ad accelerare lo sviluppo di modelli sempre più capaci. L'aspetto cruciale non è che Claude abbia già raggiunto una piena autonomia, ma che l’impiego dell’AI nella ricerca interna stia acquisendo una rilevanza tale da sollevare importanti questioni industriali e regolatorie.
La soglia RSI nei documenti finanziari di Anthropic
Nel contesto dei propri documenti ufficiali, Anthropic riconosce che l'utilizzo di sistemi di AI per creare AI più potenti può portare a notevoli benefici, ma al contempo introduce significativi rischi per la sicurezza. L'azienda esprime preoccupazione per un potenziale disallineamento temporale: i modelli potrebbero evolvere a una velocità superiore rispetto alla capacità dell'azienda di validare efficacemente le misure di sicurezza, allineamento e controllo. Questa dichiarazione, pur essendo formulata con prudenza, è rilevante poiché eleva la discussione sulla recursive self-improvement dal piano della mera speculazione a quello della disclosure verso gli investitori e il mercato.
Anthropic chiarisce che nessun modello attuale ha superato la soglia interna stabilita dalla sua Responsible Scaling Policy. Tuttavia, stime e proiezioni sui futuri modelli suggeriscono un possibile avvicinamento a una definizione di progresso drasticamente accelerato, direttamente attribuibile all'AI stessa. È fondamentale sottolineare questa distinzione: non si tratta di un sistema che progetta autonomamente i propri successori, bensì di una catena di ricerca in cui il peso dell'automazione è in costante aumento.
Il dibattito sulla RSI nei grandi laboratori AI
Il panorama generale evidenzia come la recursive self-improvement sia intesa come la capacità dei modelli di contribuire attivamente al proprio miglioramento e alla progettazione delle versioni successive.
Anthropic, ad esempio, afferma che il suo Claude guida ormai il 26% della ricerca e sviluppo sui propri modelli, sebbene le attività siano ancora svolte tramite prompt di alto livello e sotto supervisione umana. OpenAI, in un contesto simile, ha menzionato un “research intern” automatizzato, delineando un percorso verso ricercatori AI più autonomi entro il 2028.
Questo confronto rivela che le definizioni di RSI non sono ancora univoche o stabili. Per alcuni laboratori, è sufficiente che l’AI fornisca feedback utili allo sviluppo; per altri, la RSI implica un'autonomia quasi completa nella progettazione, nel training e nella validazione dei modelli successivi. Tale ambiguità rende complessa la misurazione del fenomeno, ma non ne diminuisce affatto la rilevanza: se l’AI è in grado di accelerare la ricerca sulla stessa AI, il ciclo innovativo subisce un'accelerazione esponenziale.
