Facebook, il 97% dei contenuti d’odio rimossi è stato trovato dall’Ia

Su Facebook, la lotta ai contenuti che incitano all’odio si combatte anche a colpi di intelligenza artificiale (Ia). È quanto emerge dai dati contenuti nell’ultimo Report periodico sugli Standard della community. Il 97% dei contenuti d’odio rimossi dal social è stato individuato dai sistemi automatizzati prima che qualsiasi utente lo segnalasse. Nel trimestre precedente la percentuale era al 94% e all’80,5% alla fine del 2019. Nel 2017 era appena al 24%.

I passi avanti dell’intelligenza artificiale

L’Ia è diventata anche più efficacie nell’individuare i post che veicolano bullismo e molestie sessuali. Su Facebook è stata capace di riconoscerli nel 49% dei casi (nel terzo trimestre del 2020 ci riusciva solo il 26% delle volte). Un’altra area in cui l’Ia ha fatto dei passi avanti è il modo in cui i sistemi funzionano in più lingue, anche quelle diffuse come lo spagnolo e l’arabo: la quantità di contenuti di incitamento all’odio rimossa ha raggiunto 26,9 milioni, rispetto ai 22,1 del trimestre precedente.

Gli obiettivi di Facebook

“Stiamo lentamente proseguendo nel reintegrare la nostra forza lavoro addetta alla revisione dei contenuti al livello globale, anche se prevediamo che quest’area sarà influenzata dal Covid-19 fino a quando un vaccino non sarà ampiamente disponibile”. A dirlo è Guy Rosen, Vice president of Integrity di Facebook. “A causa della limitata capacità, diamo priorità ai contenuti più dannosi, come quelli riguardanti il suicidio e l’autolesionismo, che vengono esaminati dai nostri team”. Per il 2021, il colosso di Menlo Park “intende condividere ulteriori metriche su Instagram e aggiungere nuove categorie di policy su Facebook”. Continuerà, inoltre, “a ottimizzare le tecnologie e gli sforzi per tenere i contenuti dannosi fuori dalle app”.

L’Ia al servizio della age verification

L’uso dell’intelligenza artificiale nei social media è sempre più diffuso e massiccio. TikTok ha da poco annunciato che sfrutterà proprio l’Ia per verificare in modo più preciso l’età degli utenti ed eliminare gli account degli utenti che hanno mentito sulla loro data di nascita.