Un team di ricerca guidato da Jean Barbier presso il Centro internazionale di fisica teorica Abdus Salam (ICTP) di Trieste ha svelato il meccanismo con cui l'Intelligenza artificiale apprende dai dati. Lo studio, pubblicato su Physical Review X, affronta un problema teorico rimasto aperto per decenni: come le reti neurali profonde estraggano le caratteristiche più rilevanti dalle informazioni ricevute.
Il gruppo di cinque ricercatori ha sviluppato una descrizione teorica dell'apprendimento in una classe di reti neurali profonde. Nonostante l'efficienza dell'IA nell'elaborare grandi volumi di dati, riconoscere schemi e identificare elementi chiave, il funzionamento intrinseco di questi sistemi non era pienamente compreso.
Barbier ha sottolineato: “Questo problema rappresentava un ostacolo significativo, sul quale la comunità scientifica era bloccata da decenni. Il quadro teorico elaborato è il passo cruciale per capire come operano le reti neurali complesse alla base delle applicazioni moderne”.
L'apprendimento delle caratteristiche (Feature Learning)
Il fulcro della ricerca risiede nel feature learning, l'apprendimento delle caratteristiche. Questa capacità rende le reti neurali potenti, permettendo di individuare le strutture nascoste nei dati iniziali e di generalizzare le conoscenze acquisite oltre il set di dati di addestramento. I ricercatori si sono concentrati sul regime di near-interpolation, condizione in cui il numero di parametri della rete neurale è comparabile alla quantità di dati usati per l'addestramento, ed è qui che emerge un autentico apprendimento delle caratteristiche.
Per descrivere con precisione questo complesso processo, il team ha combinato due approcci teorici: la teoria dei sistemi disordinati, usata da oltre quarant'anni dai fisici per analizzare l'emergere e la rilevabilità di schemi in dati complessi, e la teoria delle matrici casuali, essenziale per descrivere il comportamento statistico di sistemi di grandi dimensioni. Gli strumenti teorici precedenti erano insufficienti, in quanto permettevano di considerare solo reti troppo semplici per le moderne applicazioni. Tra gli autori figura Francesco Camilli, co-autore.
