Un recente episodio nel settore dei servizi professionali ha sollevato interrogativi sull'affidabilità dell'intelligenza artificiale (AI) nella produzione di report. KPMG, primaria società di consulenza, ha ritirato il rapporto "Redefining excellence in the age of agentic AI", pubblicato a ottobre 2025. Il documento conteneva affermazioni false, contestate da diverse organizzazioni, innescando un dibattito sui limiti dell'AI nella generazione di contenuti professionali.
Le 'allucinazioni' dell'AI
Le inesattezze nel rapporto KPMG sono state attribuite a "allucinazioni" dell'AI.
Questo fenomeno descrive la tendenza degli algoritmi a generare informazioni apparentemente plausibili ma infondate. L'episodio evidenzia i rischi di un'eccessiva dipendenza dall'AI per documenti che richiedono precisione e verifica.
Le contestazioni e la risposta di KPMG
Diverse entità hanno rilevato discrepanze nei dati KPMG: UBS, il National Health Service del Regno Unito, le Ferrovie Federali Svizzere e Transport for London. Tutte hanno smentito o definito fuorvianti le informazioni sul loro uso dell'AI. KPMG ha rimosso il rapporto, avviando un'indagine interna.
Controllo umano e uso responsabile dell'AI
L'episodio solleva interrogativi sull'affidabilità dell'AI per compiti critici. KPMG ha ribadito l'importanza di seguire le linee guida per un uso responsabile dell'AI, con controllo umano e verifica delle fonti.
Misure essenziali per evitare la diffusione di informazioni errate e preservare la fiducia nei processi decisionali supportati dall'AI.
Precedenti e supervisione necessaria
L'incidente KPMG non è isolato. Anche EY ha ritirato un report sui programmi di fedeltà con note a piè di pagina false, riconducibili a "allucinazioni" dell'AI. Ciò evidenzia la necessità di competenze umane per supervisionare il lavoro dell'AI, con dati sensibili e strategici.
In prospettiva, è fondamentale che le aziende implementino pratiche robuste per la supervisione e l'autenticazione delle informazioni generate dall'AI. Solo così sarà possibile sfruttare i benefici di questa tecnologia, mitigando rischi reputazionali e commerciali.
