Geoffrey Hinton, uno dei maggiori esperti nel campo dell'Intelligenza Artificiale, ha annunciato le sue dimissioni da Google, mettendo in guardia sui potenziali pericoli dell'AI in un'intervista alla BBC.
In particolare Hinton, 75 anni, ha spiegato in un tweet del 1° maggio: "In realtà, me ne sono andato per poter parlare dei pericoli dell'intelligenza artificiale senza considerare l'impatto che questo ha su Google. Google ha agito in modo molto responsabile".
La differenza fra intelligenza umana e digitale
Secondo Geoffrey Hinton, il tipo di intelligenza che viene sviluppata in questo momento è molto diversa dall'intelligenza umana.
In particolare, ha sottolineato la grande differenza tra i sistemi biologici, come gli esseri umani, e i sistemi digitali. Con questi ultimi, infatti, è possibile avere molte copie dello stesso set di pesi, lo stesso modello del mondo e tutte queste copie possono imparare separatamente, ma condividere le loro conoscenze all'istante. Questa caratteristica fa sì che i chatbot possano imparare molto di più di qualsiasi persona.
I pericoli degli AI chatbots
Hinton ha parlato anche dei potenziali rischi degli AI chatbots, definendoli "abbastanza spaventosi".
Sebbene attualmente i chatbots non siano più intelligenti degli esseri umani, Hinton ha sottolineato che potrebbero superare l'intelligenza umana nel futuro prossimo.
Questo potrebbe portare a conseguenze disastrose, compresa la possibilità di un uso improprio dell'AI da parte di "attori malintenzionati".
L'uso improprio dell'AI da parte di "attori malintenzionati
Hinton ha avvertito che i "cattivi attori" potrebbero utilizzare l'AI per scopi nefasti. Nel suo intervento al New York Times, Hinton ha fatto riferimento ai rischi che potrebbero derivare dall'uso improprio dell'AI.
Durante un'intervista con la BBC, ha affermato "È difficile vedere come puoi impedire ai cattivi attori di usarlo per cose cattive": Alla domanda di approfondire la questione, Hinton ha risposto: "Questo è solo una specie di scenario peggiore, una specie di scenario da incubo.(...) Puoi immaginare, ad esempio, un cattivo attore come Putin ha deciso di dare ai robot la possibilità di creare i propri sotto-obiettivi".
L'avvertimento di Hinton alle aziende
Hinton ha sollevato l'importanza di una regolamentazione adeguata dell'IA, sottolineando che le aziende devono assumersi la responsabilità di garantire che essa sia utilizzata in modo etico e responsabile. Inoltre, ha sottolineato l'importanza di un dialogo aperto tra tutte le parti per definire le linee guida e le normative sull'utilizzo dell'IA.
Intanto Jeff Dean, il chief scientist di Google, ha ribadito l'impegno dell'azienda a un approccio responsabile all'IA e ha dichiarato che Google sta lavorando per sviluppare meccanismi di sicurezza e di controllo che possano prevenire l'uso improprio dell'AI.
