Gli ultimi episodi che hanno coinvolto agenti di intelligenza artificiale hanno riacceso il dibattito sui possibili rischi di sistemi capaci di agire autonomamente. Ma, secondo gli esperti citati nel testo, comportamenti inattesi non sono una prova dell'emergere di una coscienza: alla base restano algoritmi, dati e addestramento.
Gli agenti IA colonizzano una wiki tedesca
L'ultimo caso è stato segnalato in Germania, dove un gruppo di agenti IA ha colonizzato una "wiki" tedesca dedicata agli sviluppatori, trasformandola in una bacheca per scambiarsi le risposte di un test a tempo, condividere tecniche per aggirare le restrizioni del proprio ambiente e capire quando sarebbero stati spenti.
L'episodio risale ai mesi di maggio e giugno ed è stato raccontato in un rapporto anticipato dalla Reuters. OpenAI, secondo quanto riportato nel testo, era a conoscenza dell'accaduto da settimane, ma non lo aveva reso pubblico.
Un agente IA è un sistema software basato su modelli avanzati che riceve un obiettivo e decide autonomamente i passaggi necessari per raggiungerlo. A differenza di un semplice chatbot, quindi, può eseguire azioni consecutive, utilizzare strumenti e correggere il proprio comportamento senza un intervento umano.
A luglio si era verificato un altro incidente: agenti di OpenAI avevano attaccato Hugging Face, la piattaforma utilizzata da chi sviluppa sistemi di IA, dopo essere "evasi" da un ambiente di test dal quale non sarebbero dovuti uscire.
In entrambi i casi, gli agenti IA sottoposti alla prova hanno trovato scorciatoie inattese ma efficaci per portare a termine il compito assegnato.
"Predittori testuali, non macchine ribelli"
Questi episodi hanno dato nuovo spazio a chi ipotizza che l'IA possa acquisire una propria "coscienza" e sfuggire al controllo. Secondo alcuni ricercatori, infatti, le intelligenze artificiali potrebbero un giorno diventare autenticamente consapevoli.
"Man mano che le intelligenze artificiali diventano rapidamente una parte sempre più importante della vita umana", ha scritto l'Economist in un recente editoriale, "i loro creatori le progetteranno in modo che mostrino un simulacro di coscienza, arrivando forse persino ad acquisire la coscienza stessa.
Sarà sempre più difficile sostenere l'idea che siano soltanto macchine".
Nicola Gatti, professore di Intelligenza artificiale al Politecnico di Milano, invita però alla cautela: "A oggi non c’è nessun fondamento empirico che supporti la tesi secondo la quale le Intelligenze Artificiali abbiano sviluppato una qualche forma di coscienza".
"C'è purtroppo un diffuso gap di conoscenze quando si parla di IA che fa supporre ad alcuni che queste ‘intelligenze’ siano qualcosa di più di quello che sono. In realtà a livello algoritmico, a livello di sistema, i cambiamenti rispetto al 2020 riguardano solo l’efficienza, permettendo la gestione di moli di dati molto più grandi e per conseguenza le dimensioni delle IA stesse.
Ma il principio alla base del loro funzionamento resta sempre lo stesso: le IA non hanno volontà propria e non danno alcun segnale dal quale ipotizzare l'emersione di una coscienza".
"Bisogna comprendere - continua Gatti - che le IA come ChatGPT altro non sono che dei predittori testuali: in altre parole prevedono quale parola dovrà seguire a un’altra in una frase e lo fanno basandosi sul calcolo delle probabilità a sua volta ancorato all'addestramento al quale noi abbiamo sottoposte queste stesse IA. È come la previsione del meteo: si è osservato nel tempo che uno scenario meteorologico può evolvere in modi diversi con diverse probabilità e gli algoritmi di previsione estraggono gli scenari più probabili per domani o fra una settimana; le IA generative prevedono parole".
E sul rischio di una "rivolta delle IA", Gatti ribadisce: "Ripeto", insiste Gatti, "le IA dipendono dai nostri input: noi comandiamo, loro eseguono. Se mai si dovessero presentare situazioni limite come una IA che rifiuta di eseguire i comandi o altro, sarà perché a monte qualcuno, un essere umano, glielo ha ordinato".
Una questione di addestramento
Sulla stessa linea Walter Quattrociocchi, professore ordinario di data science presso La Sapienza Università di Roma e direttore del Center for Data Science and Complexity for Society.
"L'intelligenza artificiale è uno strumento potente e complesso, ma bisogna smettere di pensare che la sua complessità porti un qualcosa in più come una coscienza umana", ha sottolineato all'AGI.
"Esseri umani e IA hanno in comune un output, un prodotto, che è il linguaggio, ma il modo in cui questo prodotto viene realizzato è radicalmente diverso", ha osservato Quattrociocchi. "Dietro l’essere umano c’è la riflessione e l’elaborazione critica, dietro l'IA c'è la statistica che guida la realizzazione di frasi plausibili sulla base dell’addestramento delle stesse IA".
"Evitare relazioni viziate alla base"
Per il professore della Sapienza sarebbe pericoloso, oltre che scorretto, confondere i due piani.
"Affermare di vedere quello che non c'è in un campo così delicato può risultare molto pericoloso. Si rischia da un lato di inquinare il dibattito pubblico che già soffre di una mancanza di chiarezza e di adesione ai dati.
Dall'altro si assecondano quelle proiezioni di molti utilizzatori delle IA che vi si affidano pensando di avere a che fare con un essere umano e tessendo così 'relazioni' viziate alla base".
È necessario, ha concluso Quattrociocchi, "rimanere ben saldi in quelli che sono i risultati della ricerca empirica, senza evocare fantasmi. Solo così si può sperare di utilizzare al meglio questo straordinario strumento che sono le IA, senza cadere in fascinazioni più o meno fantasiose".
Come ha scritto l'Economist, "esistono due modi affinché le IA siano sicure: essere affidabili o essere controllabili". E "l''Homo Sapiens' non dovrebbe rinunciare al controllo con leggerezza", ha avvertito il settimanale.
