Facebook renforce son efficacité dans la détection et la suppression des contenus haineux. Selon le rapport sur l'application des normes communautaires du dernier trimestre 2020, la prévalence des discours de haine a significativement diminué.
Le rapport sur l'application des normes communautaires de Facebook (octobre-décembre 2020) met en lumière des progrès notables dans la gestion des discours de haine. Guy Rosen, vice-président en charge de l'intégrité chez Facebook, l'a annoncé dans un article sur le blog officiel de la plateforme.
Sur 10 000 vues de contenu, seulement 7 à 8 concernaient des publications haineuses. La plateforme a agi contre 6,3 millions de messages d'intimidation et de harcèlement, contre 2,5 millions au trimestre précédent.
Facebook a également supprimé 6,4 millions de contenus haineux organisés, un bond par rapport aux 4 millions du trimestre antérieur.
Des améliorations similaires sont observées sur Instagram : 5 millions de messages de harcèlement/intimidation supprimés, 6,6 millions de contenus haineux et 308 000 contenus haineux organisés, tous en hausse par rapport au T3.
Le taux proactif de suppression (avant signalement utilisateur) s'améliore : de 26 % à 49 % pour l'intimidation/harcèlement sur Facebook, et de 55 % à 80 % sur Instagram.
L'IA de détection des discours de haine joue un rôle clé. Rosen souligne les avancées dans les cas nuancés, comme le discours de haine ou le harcèlement, contribuant à réduire ces contenus sur Facebook.
Mike Schroepfer, directeur technique de Facebook, célèbre ces avancées dans un billet dédié. Malgré les progrès, il vise une IA capable de contextualiser les contenus dans toutes les langues, cultures et régions.
Facebook s'appuie davantage sur son IA depuis la pandémie de COVID-19. Rosen note que l'équipe reste impactée jusqu'à une disponibilité massive des vaccins.
Même avec le retour des modérateurs, l'IA reste essentielle. Facebook continue d'améliorer son intelligence et son efficacité sans relâche.
[]