È stata chiama Norman, in onore del protagonista di “Psycho” Norman Bates, la prima intelligenza artificiale che manifesta chiari sintomi di psicopatia. Il prototipo è stato realizzato dal Media Lab del Mit di Boston, nel quale i ricercatori hanno voluto analizzare i possibili rischi che possono intervenire nella creazione e nella realizzazione di un’intelligenza artificiale. Obiettivo dell’IA - Intelligenza Artificiale, disciplina appartenente all'informatica, è infatti quello di studiare i fondamenti teorici, le metodologie e le tecniche che consentano la progettazione di sistemi hardware e sistemi di programmi software capaci di fornire prestazioni che sembrerebbero esclusivi dell’intelligenza umana.
In particolare si è voluta testare l’incidenza della qualità e quantità di dati che la macchina ha ricevuto durante la fase di machine learning, e come questi ne hanno definito lo sviluppo.
Il test di Rorschach
Nel caso specifico dello sviluppo di Norman, l’intelligenza artificiale è stata addestrata tramite informazioni inquietanti e cupe tratte da canali statunitensi dedicati alla documentazione e all’osservazione della realtà della morte. Questa serie di immagini macabre hanno prodotto un’IA che, stando ai test alle quali è stata sottoposta, mostra le dinamiche tipiche della psicopatia, come la mancanza di empatia, la tendenza all’imbroglio e alla paranoia. Gli esiti del test di Rorschach hanno sottolineato le differenze fra Norman e un’altra intelligenza artificiale addestrata con immagini piacevoli e neutrali.
Il Rorschach è un test psicologico proiettivo utilizzato per l'indagine della personalità umana ma che, nel caso delle intelligenze artificiali, ha dato risultati interessanti. L'esperimento consiste nell’interpretazione da parte del soggetto di macchie di inchiostro simmetriche, a seconda delle risposte è possibile delineare un profilo psicologico ed eventuali problematiche con risultati piuttosto attendibili.
Nell’interpretazione delle macchie di inchiostro sulle tavole, Norman non ha elaborato che immagini di morte, esecuzioni capitali, assassini, sangue e incubi di varia natura. Al contrario l’intelligenza neutrale vedeva fiori, uccellini e oggetti di uso quotidiano.
Il senso dell'esperimento
Oltre a questi risultati spaventosi e ai possibili scenari apocalittici che sfociano nella fantascienza, l’obiettivo dei ricercatori è quello di dimostrare quanto e come i dati influiscano nella creazione di un’IA, più dello stesso algoritmo.
Iyad Rahwan, professore associato del Mit e membro del team che ha sviluppato Norman, spiega infatti che l’esperimento mostra quanto sia importante il genere di dati con i quali viene nutrita la macchina. Da essi dipende la percezione del mondo dell’IA e di conseguenza il loro comportamento nel fronteggiare diverse situazioni. In un mondo dove le intelligenze artificiali vengono utilizzate negli ambiti più disparati, è necessario trovare il modo di bilanciare i dati e studiare una sorta di psicologia da applicare alle macchine per verificare periodicamente il funzionamento dei sistemi sviluppati precedentemente. Essi potrebbero infatti modificarsi nel corso del tempo, con l’acquisizione di nuovi dati da parte della macchina.
Per quanto lo sviluppo di Norman non sembri al momento avere un’utilità pratica, servirà sicuramente a risollevare la discussione riguardo la stesura di un protocollo etico che regoli la creazione di intelligenze artificiali nel segno della chiarezza e della responsabilità.
