Facebook améliore son efficacité dans la reconnaissance et la suppression des contenus haineux. Le rapport sur l'application des normes communautaires de la plateforme montre une réduction significative de la prévalence des discours de haine au cours du dernier trimestre 2020.
Dans le rapport sur l'application des normes communautaires de Facebook d'octobre à décembre 2020, la plateforme a révélé des améliorations majeures dans la manière dont Facebook gère les discours de haine. Guy Rosen, vice-président de l'intégrité de Facebook, a publié un article sur le blog À propos de Facebook pour souligner son succès.
Pour 10 000 vues de contenu de Facebook, seulement sept à huit étaient des vues de contenu haineux. Facebook a également pris des mesures contre 6,3 millions de messages d'intimidation et de harcèlement, contre 2,5 millions de messages au troisième trimestre.
La plate-forme a également pu capturer 6,4 millions de contenus haineux organisés, ce qui représente une amélioration considérable par rapport aux quatre millions de contenus supprimés par Facebook au cours du trimestre précédent.
Le rapport sur l'application des normes communautaires a montré des améliorations similaires sur Instagram. Cinq millions de messages relatifs au harcèlement et à l'intimidation ont été supprimés sur Instagram, ainsi que 6,6 millions de contenus contenant des discours de haine et 308 000 contenus haineux organisés. Tous ces chiffres dépassent les statistiques enregistrées au troisième trimestre.
Le taux proactif de Facebook, autrement connu comme la quantité de contenu que Facebook supprime avant qu'un utilisateur ne le signale, s'est également amélioré. Pour l'intimidation et le harcèlement, le taux proactif de la plate-forme est passé de 26 % à 49 % sur Facebook et de 55 % à 80 % sur Instagram.
L'IA de détection de la haine de Facebook a joué un rôle majeur dans l'amélioration de sa réponse au discours de haine. Rosen note que la plate-forme a apporté des améliorations à son IA "où la nuance et le contexte sont essentiels, comme le discours de haine ou l'intimidation et le harcèlement", ce qui a finalement contribué à réduire la quantité de contenu haineux sur Facebook.
Mike Schroepfer, directeur de la technologie de Facebook, a publié un article séparé sur le blog À propos de Facebook pour célébrer les réalisations de l'IA en constante amélioration de Facebook. Malgré ses récentes réalisations, Schroepfer espère que l'IA de Facebook pourra s'améliorer "pour afficher le contenu en contexte dans toutes les langues, cultures et zones géographiques".
Facebook a commencé à s'appuyer davantage sur son système d'IA pour aider à évaluer les contenus haineux en raison de la pandémie de COVID-19 en cours. Rosen a noté que l'équipe Facebook sera probablement encore affectée par la pandémie "jusqu'à ce qu'un vaccin soit largement disponible".
Même si les modérateurs de Facebook retourneront un jour au travail normalement, il ne semble pas que l'IA de la plate-forme aille nulle part. Facebook n'a fait que rendre son IA plus intelligente et plus efficace, et il ne semble pas que Facebook envisage d'arrêter de progresser de si tôt.
