Meta ha annunciato l'implementazione di nuove soluzioni basate su intelligenza artificiale (AI) per la moderazione dei contenuti sulle sue piattaforme, tra cui Facebook e Instagram. Questa iniziativa rappresenta un passaggio strategico verso l'automazione dei processi di enforcement, con l'obiettivo primario di ridurre la dipendenza da fornitori di servizi esterni.
Il potenziamento della moderazione con l'AI
I nuovi sistemi di AI di Meta sono progettati per affrontare contenuti problematici come terrorismo, sfruttamento minorile, droghe, frodi e truffe.
Saranno attivati pubblicamente solo dopo aver dimostrato di superare le attuali metodologie di moderazione in termini di efficacia e precisione. Durante i test, l'AI ha rilevato il doppio dei contenuti legati alla sollecitazione sessuale rispetto ai team umani, riducendo i tassi di errore di oltre il 60%, un incremento significativo nella precisione della moderazione.
L'insostituibile ruolo della supervisione umana
Nonostante l'adozione massiccia di sistemi automatizzati, Meta ribadisce che gli esperti umani manterranno un ruolo cruciale nella supervisione delle decisioni critiche, inclusi ricorsi e rinvii alle forze dell'ordine. Questo approccio ibrido assicura che il giudizio umano resti centrale nei processi decisionali più delicati, pur migliorando l'efficienza con l'automazione.
Questa strategia si allinea ad altri cambiamenti di Meta, come la transizione a Community Notes per una moderazione più flessibile dei contenuti politici.
Un nuovo assistente AI per il supporto utenti
In parallelo al rafforzamento dei sistemi di enforcement, Meta ha introdotto un assistente di supporto basato su AI, disponibile 24/7. Questa funzionalità è accessibile globalmente tramite le app Facebook e Instagram (iOS, Android e desktop), offrendo supporto continuo agli utenti.
L'evoluzione di Meta verso una maggiore automazione si inserisce in un contesto di crescente scrutinio e azioni legali contro i giganti tech, specie sulla sicurezza degli utenti. L'AI promette una moderazione più rapida, intelligente e scalabile, mantenendo il coinvolgimento umano per le decisioni critiche. Ciò conferma l'impegno di Meta nel migliorare la gestione delle piattaforme, garantendo sicurezza e integrità dell'esperienza utente.
