Tecnologia: novità, recensioni e tutorial

Pubblicità
Le news del momento

Anthropic vicina all'AI auto-migliorata: i rischi nei documenti finanziari

Anthropic avverte: l'AI si avvicina alla capacità di auto-migliorarsi, sollevando questioni di controllo e governance
La recursive self-improvement (RSI) non è più un mero concetto da laboratorio o un tema di dibattito teorico sulla superintelligenza. Anthropic ha segnalato, in un proprio documento S-1/A, la possibile vicinanza a una soglia critica: quella in cui l’AI contribuisce in maniera significativa ad accelerare lo sviluppo di modelli sempre più capaci. L'aspetto cruciale non è che Claude abbia già raggiunto una piena autonomia, ma che l’impiego dell’AI nella ricerca interna stia acquisendo una rilevanza tale da sollevare importanti questioni industriali e regolatorie.La soglia RSI nei documenti finanziari di AnthropicNel contesto dei propri documenti ufficiali, Anthropic riconosce che l'utilizzo di sistemi di AI per creare AI più potenti può portare a notevoli benefici, ma al contempo introduce significativi rischi per la sicurezza. L'azienda esprime preoccupazione per un potenziale disallineamento temporale: i modelli potrebbero evolvere a una velocità superiore rispetto alla...
Pubblicità