Twitter tente de déterminer pourquoi sa fonction de prévisualisation des photos montre des signes de préjugés raciaux. Plusieurs utilisateurs ont constaté que les visages noirs étaient plus susceptibles d'être rognés dans les aperçus de photos que les visages blancs.
Lorsque vous voyez une image sur Twitter, il ne s'agit que d'un aperçu :vous devez cliquer dessus pour voir l'intégralité de l'image. Twitter utilise un algorithme pour recadrer les photos, dictant ce que vous verrez dans les aperçus d'image.
En 2018, Twitter a annoncé sa fonction intelligente de recadrage automatique dans un article sur le blog Twitter. Cette fonctionnalité utilise la "pertinence" pour affiner les parties les plus importantes des photos, puis recadre les aperçus des photos en conséquence.
Les utilisateurs de Twitter ont découvert que le réseau neuronal de la plateforme pouvait avoir un préjugé racial. Un utilisateur a posté une photo du sénateur américain Mitch McConnell aux côtés de l'ancien président Barack Obama.
L'aperçu de l'image recadre de manière flagrante le visage d'Obama, même lorsque son visage est placé en haut de la photo. Lorsque le même utilisateur a essayé d'inverser les couleurs de l'image, le visage d'Obama est finalement apparu dans l'aperçu de l'image.
D'autres utilisateurs ont commencé à mener leurs propres expériences. Maintes et maintes fois, les utilisateurs ont constaté que l'algorithme semblait systématiquement préférer les visages blancs aux visages noirs.
Liz Kelley, membre de l'équipe de communication de Twitter, a envoyé un Tweet en réponse aux conclusions des utilisateurs de Twitter. Elle a noté que bien que l'équipe Twitter ait déjà testé l'algorithme pour les biais, elle devrait enquêter plus avant.
Toutes ces découvertes proviennent du Tweet d'un utilisateur concernant un problème d'appel Zoom. Zoom n'a toujours pas réussi à détecter le visage de son ami noir lorsqu'il a essayé d'utiliser un arrière-plan virtuel. Lorsque l'utilisateur s'est tourné vers Twitter pour publier des captures d'écran du problème, Twitter a recadré son ami noir de l'aperçu de l'image.
Bien que toutes ces expérimentations soient informelles, elles semblent mettre en lumière un véritable enjeu. Twitter devra certainement examiner de plus près sa fonction de recadrage automatique et voir s'il a un préjugé racial enraciné.
Cela dit, l'algorithme de recadrage automatique de Twitter n'est pas la seule fonctionnalité de Twitter qui a été critiquée. Après tout, de nombreux utilisateurs ne sont pas non plus fans de l'algorithme de la plate-forme qui organise automatiquement votre flux.
