La superintelligenza artificiale non è più un mero scenario futuribile o un tema da laboratorio. Il dibattito sulla sua opportunità si sposta ora sul piano politico, sollevando una domanda cruciale: se sistemi con capacità superiori a quelle umane fossero imminenti, dovremmo consentirne lo sviluppo? Questa è la posizione radicale sostenuta da Connor Leahy, ricercatore di AI, imprenditore e direttore esecutivo USA della nonprofit ControlAI, il quale propone di fermare le aziende prima che possano creare una superintelligenza.
Questa proposta, seppur radicale, riflette un mutato clima di discussione.
La questione è strettamente legata a recenti incidenti di sicurezza e alla crescente difficoltà di affidarsi unicamente a strategie di alignment e contenimento. Tali approcci mirano a rendere i modelli di intelligenza artificiale coerenti con gli obiettivi umani e a confinarli entro limiti tecnici. Tuttavia, la tesi di Leahy è chiara: superata una determinata soglia di capacità, questi strumenti non sarebbero più adeguati a garantire il controllo.
Dalla Sicurezza Tecnica alla Scelta Politica
La superintelligenza artificiale viene inquadrata come una questione di governance. Le aziende del settore la presentano spesso come inevitabile, ma questa visione è considerata una costruzione economica e narrativa, non una legge naturale.
Se la traiettoria di sviluppo dovesse diventare eccessivamente rischiosa, il ruolo delle istituzioni non sarebbe quello di ottimizzare la corsa tecnologica, bensì di valutarne l'interruzione, come sostiene Leahy.
Il punto focale è il cambiamento nel linguaggio adottato: non si discute più solo di test migliorati, audit o "red teaming", ma di veri e propri divieti, responsabilità legali e nuove iniziative legislative. In tal senso, la sicurezza dell'AI avanzata si inserisce nel medesimo contesto regolatorio delle tecnologie a dual use, ovvero strumenti capaci di generare benefici significativi ma anche danni sistemici qualora il loro sviluppo fosse lasciato esclusivamente alla competizione industriale.
La Crescita Esponenziale e i suoi Rischi
Il ragionamento di Leahy viene ulteriormente approfondito. L'ex cofondatore di Conjecture descrive l'AI come un fenomeno di crescita esponenziale, non lineare, un'accelerazione che complica la comprensione del momento opportuno per intervenire. Secondo la sua analisi, i sistemi moderni non sono sviluppati riga per riga come il software tradizionale, ma piuttosto "cresciuti" attraverso reti neurali e vaste quantità di dati.
Questa distinzione è fondamentale. Se un sistema non è pienamente interpretabile nemmeno dai suoi stessi sviluppatori, assicurare che una futura superintelligenza artificiale rimanga sotto il controllo umano rappresenta una sfida scientifica ancora irrisolta.
Leahy associa il rischio non all'immagine stereotipata del robot ostile, bensì a un processo più comune: agenti AI che competono in settori come l'economia, la finanza, la comunicazione politica e la difesa, acquisendo progressivamente influenza e capacità.
