La technologie d'intelligence artificielle (IA) avancée de Facebook a permis à la plateforme de supprimer un volume record de discours de haine. Au troisième trimestre 2020, son système de détection a identifié proactivement 95 % des contenus haineux.
Le dernier rapport sur l'application des normes communautaires de Facebook met en lumière l'impact majeur de l'IA dans la modération des discours de haine.
Au troisième trimestre 2020, Facebook a détecté proactivement environ 95 % des discours de haine, supprimant au total 22,1 millions de contenus sur Facebook et 6,5 millions sur Instagram.
Cela représente une progression spectaculaire par rapport au dernier trimestre 2017, où seulement 24 % des discours de haine étaient détectés proactivement sur Facebook et Instagram.
La plateforme combine rapports utilisateurs et IA pour agir, mais cet essor est largement dû à ses algorithmes avancés.
L'IA détecte et traite les contenus haineux avant signalement, et priorise les cas complexes pour les examinateurs humains. Facebook précise :
Que le contenu soit détecté proactivement ou signalé par les utilisateurs, nous utilisons souvent l'IA pour les cas simples et priorisons les nuances contextuelles pour nos examinateurs.
Facebook note aussi une hausse de la prévalence des discours de haine : sur 10 000 vues de contenu, 10 à 11 contenaient du discours haineux, mesuré via échantillonnage représentatif.
Facebook affine continuellement sa définition. En août 2020, elle a intégré les théories complotistes antisémites et le blackface, adaptant ses politiques aux évolutions sociétales.
Actuellement, le discours de haine désigne toute attaque directe basée sur des caractéristiques protégées : race, origine ethnique, nationale, religion, orientation sexuelle, sexe, genre, identité de genre, handicap ou maladie grave.
En 2020, Facebook a relevé de multiples défis : désinformation sur le COVID-19 et élections américaines, traités par étiquetage ou suppression.
Avec l'évolution continue de son IA, la plateforme devrait intensifier les suppressions de contenus problématiques.
