Nell'era dell'intelligenza artificiale, i modelli linguistici di grandi dimensioni (LLM) hanno rivoluzionato l'interazione online, ma hanno anche amplificato problemi come lo spam e i contenuti automatizzati non autentici. Reddit ha scelto di affrontare questa sfida adottando la stessa tecnologia responsabile del problema, combattendo il fenomeno con strumenti avanzati.
La lotta di Reddit contro lo spam con gli LLM
La diffusione capillare di sistemi AI accessibili ha facilitato la proliferazione di spam. Reddit ha sviluppato strumenti basati su LLM per ridurre significativamente lo spam, gran parte del quale è generato dagli stessi LLM.
Questo approccio, seppur ironico, è necessario per contrastare problemi complessi con soluzioni altrettanto sofisticate.
Reddit blocca quotidianamente 23 milioni di visualizzazioni di spam e identifica circa 25.000 nuovi post e commenti di spam al giorno. La piattaforma, con una lunga esperienza negli strumenti automatizzati anti-spam, ha migliorato sostanzialmente il tasso di rilevamento grazie alle nuove tecnologie.
Moderazione avanzata e sicurezza della piattaforma
L'azienda ha potenziato le sue difese automatiche, riducendo l'esposizione degli utenti allo spam del 20% rispetto ai mesi precedenti e revocando quasi 2 milioni di voti falsi giornalmente. Per affrontare problemi più critici, Reddit ha implementato sistemi che riducono il tempo di intervento su contenuti dannosi a meno di cinque secondi.
La moderazione su Reddit è un processo multilivello. Le politiche di piattaforma sono imposte dagli amministratori e supportate da moderatori comunitari volontari che utilizzano strumenti AI per gestire utenti e contenuti. Gli utenti stessi contribuiscono alla visibilità dei contenuti tramite il sistema di voti, aiutando a marginalizzare quelli di bassa qualità.
Sinergia tra intelligenza artificiale e intervento umano
L'automazione offre un potente set di strumenti, ma la moderazione umana rimane cruciale per garantirne l'efficacia. Per ottenere i migliori risultati, la moderazione dei contenuti richiede un equilibrio tra processi automatizzati e revisione umana. Questo approccio combinato consente a Reddit di affrontare non solo lo spam, ma anche contenuti come discorsi d'odio e minacce di violenza, riducendo i falsi positivi.
Reddit ha ampliato i suoi sistemi automatizzati per contrastare rapidamente abusi coordinati e contenuti violenti, migliorando precisione ed efficienza. L'azienda ha registrato un incremento del 200% nelle azioni di enforcement contro contenuti dannosi e una riduzione dell'esposizione a questi contenuti di oltre il 40%.
L'approccio di Reddit mira a proteggere l'autenticità delle discussioni e a mantenere la salute del suo ecosistema in un'era di minacce digitali in continua evoluzione. La collaborazione tra AI e moderatori umani si conferma la chiave per un ambiente online più sicuro e autentico.
