La technologie sophistiquée d'intelligence artificielle (IA) de Facebook a permis à la plate-forme de supprimer plus de discours de haine que jamais. Son IA de détection de haine a réussi à détecter 95 % des contenus haineux au troisième trimestre 2020.
Le dernier rapport sur l'application des normes communautaires de Facebook a révélé le rôle majeur joué par l'IA dans la lutte contre les discours de haine sur la plate-forme.
Au cours du troisième trimestre 2020, Facebook a réussi à "détecter de manière proactive" environ 95 % des discours de haine. Au total, Facebook a supprimé 22,1 millions de contenus haineux sur Facebook et 6,5 millions sur Instagram.
Il s'agit d'une augmentation importante par rapport au dernier trimestre de 2017, une période où Facebook n'a détecté de manière proactive que 24 % des discours de haine sur Facebook et Instagram.
Bien que la plate-forme utilise "une combinaison de rapports d'utilisateurs et de technologie" pour supprimer le contenu haineux, l'énorme saut a été largement attribué à l'IA avancée de Facebook.
Non seulement son IA aide à détecter et à agir sur les contenus haineux avant même qu'ils ne soient signalés, mais Facebook l'utilise également pour trier les contenus plus compliqués qui doivent être examinés. Facebook a expliqué plus en détail le rôle de l'IA, en déclarant :
Que le contenu soit détecté de manière proactive ou signalé par les utilisateurs, nous utilisons souvent l'IA pour agir sur les cas simples et donner la priorité aux cas les plus nuancés, où le contexte doit être pris en compte, pour nos examinateurs.
De plus, Facebook a également remarqué une augmentation de la prévalence des discours de haine au cours du troisième trimestre. Selon Facebook, il détermine "la prévalence du discours de haine en sélectionnant un échantillon de contenu vu sur Facebook, puis en indiquant dans quelle mesure celui-ci enfreint nos politiques en matière de discours de haine".
Le rapport a montré que sur 10 000 vues de contenu de la plate-forme, 10 à 11 vues contenaient un discours de haine.
Si vous vous demandez comment Facebook détermine exactement ce qui est et n'est pas un discours de haine, la plate-forme ajuste continuellement sa définition. En août 2020, Facebook a mis à jour ses politiques sur les discours de haine pour inclure les théories du complot antisémite et le blackface. Facebook note que "le discours continuant d'évoluer au fil du temps, nous continuons à réviser nos politiques pour refléter l'évolution des tendances sociales".
À l'heure actuelle, Facebook définit le discours de haine comme "tout ce qui attaque directement des personnes en fonction de caractéristiques protégées, y compris la race, l'origine ethnique, l'origine nationale, l'appartenance religieuse, l'orientation sexuelle, le sexe, le genre, l'identité de genre ou un handicap ou une maladie grave".
Tout au long de 2020, Facebook a été confronté à un certain nombre de défis en ce qui concerne le contenu controversé.
En début d'année, la plateforme a dû lutter contre la désinformation sur la pandémie de COVID-19. Plus tard, il a également dû faire face à des informations trompeuses entourant l'élection présidentielle américaine. Cela a conduit la plate-forme à coller des étiquettes sur certains messages ou à les supprimer complètement.
Alors que l'IA de Facebook continue d'évoluer, nous ne pouvons que nous attendre à davantage de retraits à l'avenir.
