Campbell Brown, già responsabile delle news di Meta e stimata giornalista televisiva, ha fondato Forum AI con un obiettivo ambizioso: garantire che l'intelligenza artificiale diventi uno strumento affidabile per la valutazione di temi ad alto impatto. Questi includono ambiti cruciali come la geopolitica, la salute mentale, la finanza e la selezione del personale, dove l'accuratezza e la responsabilità sono fondamentali.
La genesi di Forum AI: un'esigenza di affidabilità
La visione di Brown ha preso forma con il rilascio pubblico di ChatGPT, un momento che le ha fatto comprendere la portata della trasformazione: “Questa sarà la via attraverso cui passeranno tutte le informazioni.
E non è molto buona”. La consapevolezza che l'informazione automatizzata potesse compromettere la formazione delle nuove generazioni – “I miei figli diventeranno davvero stupidi se non risolviamo questo problema” – ha spinto Brown a fondare Forum AI diciassette mesi fa a New York. L'iniziativa mira a porre gli esperti al centro della valutazione dei modelli di linguaggio generativi.
Esperti di fama globale e giudici AI
Forum AI si avvale della collaborazione di una giuria di esperti di calibro internazionale, tra cui Niall Ferguson, Fareed Zakaria, Tony Blinken, Kevin McCarthy e Anne Neuberger. La metodologia prevede che questi professionisti definiscano benchmark rigorosi, mentre i “giudici AI” si occupano di valutare i modelli generativi su vasta scala.
L'obiettivo dichiarato è raggiungere un consenso del 90% con le valutazioni umane, un traguardo che Forum AI afferma di aver già conseguito.
Criticità attuali e soluzioni possibili
L'analisi dei modelli AI più diffusi ha rivelato diverse criticità. Brown ha evidenziato bias politici (ad esempio, inclinazioni a sinistra) e l'uso di fonti inadeguate, come contenuti del Partito Comunista Cinese in contesti non pertinenti. Si riscontrano inoltre frequenti mancanze di contesto e di diverse prospettive, oltre all'uso non segnalato di tecniche come lo straw-manning. Nonostante la complessità, Brown sostiene che “ci sono alcune correzioni molto semplici che migliorerebbero sensibilmente i risultati”.
La lezione di Meta: oltre l'engagement
L'esperienza di Brown a Meta ha fornito insegnamenti preziosi. L'ottimizzazione per l'engagement, ha osservato, può seriamente compromettere la qualità dell'informazione. “Abbiamo fallito in molte delle iniziative intraprese”, inclusi i programmi di fact-checking, oggi non più attivi. L'enfasi sui click e sul coinvolgimento ha, di fatto, impoverito l'informazione, lasciando gli utenti meno consapevoli.
AI e verità: un nuovo paradigma
Per invertire questa tendenza, Brown propone un cambio di paradigma: l'AI non dovrebbe inseguire ciò che l'utente desidera, ma ciò che è vero e affidabile. Si tratta di una scelta fondamentale: “le aziende potrebbero scegliere di dare alle persone ciò che vogliono, oppure ciò che è reale, onesto, veritiero”.
La fiducia nell'AI è attualmente bassa e spesso giustificata. Mentre nella Silicon Valley si discute di scenari futuristici, gli utenti comuni si confrontano spesso con risposte imprecise o fuorvianti.
Il ruolo dell'impresa nella responsabilità dell'AI
Forum AI scommette sulla domanda proveniente dal settore aziendale. Le imprese che operano in settori sensibili come il credito, le assicurazioni o la selezione del personale necessitano di sistemi AI affidabili e responsabili per mitigare i rischi legali. In questo contesto, la compliance tradizionale, basata su audit superficiali o benchmark standardizzati, si rivela insufficiente e spesso inefficace nel rilevare violazioni, come dimostrato dalla legge di New York sugli audit per bias nei sistemi di selezione.
Un lavoro rigoroso, sottolinea Brown, richiede una profonda competenza di dominio e la capacità di affrontare anche i casi limite, perché “i generalisti intelligenti non bastano”.
Finanziamenti e la realtà dell'AI per l'utente
Forum AI ha recentemente raccolto 3 milioni di dollari, guidati da Lerer Hippeau. Questa posizione privilegiata permette a Brown di osservare il divario tra le grandi promesse dell'industria tecnologica e la realtà quotidiana degli utenti. Nonostante le affermazioni sull'AI che “cambierà il mondo”, molti si trovano ancora a gestire chatbot che forniscono risposte imprecise. Questa diffidenza è spesso fondata, poiché “la conversazione tra chi fa AI e il consumatore è completamente diversa”.
La visione di Brown, presentata anche a TechCrunch, è chiara: l'AI può diventare un alleato potente per l'informazione, ma solo attraverso un approccio di valutazione consapevole, lontano dall'affidamento passivo. La sua esperienza come giornalista e manager dei media si rivela un patrimonio cruciale in questa sfida.
