Étant donné que les deepfakes sont à la fois potentiellement dévastateurs pour la réputation de quelqu'un et très difficiles à repérer lorsqu'ils sont bien faits, ils constituent un problème de sécurité majeur. Maintenant, Microsoft vise à aider à arrêter les deepfakes en publiant un outil capable de les détecter.
La menace posée par les deepfakes est si importante qu'elle a poussé Facebook à interdire tout contenu deepfake. Cependant, le plus grand obstacle est la façon dont les deepfakes sont conçus pour être convaincants ; en tant que tel, localiser et confirmer un deepfake est très difficile.
Comme indiqué sur Microsoft On the Issues, la société veut changer cela avec son nouvel outil. Il s'appelle Microsoft Video Authenticator et analyse les vidéos pour rechercher les "coutures" laissées par la création de deepfake. Ces coutures sont invisibles à l'œil nu, mais un ordinateur peut les repérer grâce à une analyse image par image.
Pour empêcher les agents malveillants de rétro-concevoir la technologie, Microsoft Video Authenticator ne sera pas une version publique. Au lieu de cela, Microsoft distribue son système aux médias et aux organisations politiques. De cette façon, ces organisations peuvent utiliser l'outil pour séparer le vrai du faux.
Cependant, Microsoft a annoncé une deuxième technologie pour identifier les deepfakes. La société propose un système dans lequel un créateur de contenu peut marquer ses vidéos avec une "signature" unique. Si la vidéo est éditée, elle générera une signature différente de l'originale, identifiant ainsi un deepfake.
L'auteur de Deep Fakes and the Infocalypse, Nina Schick, a déclaré ce qui suit :
La seule utilisation vraiment répandue que nous ayons vue jusqu'à présent concerne la pornographie non consensuelle contre les femmes. Mais les médias synthétiques devraient devenir omniprésents dans environ trois à cinq ans, nous devons donc développer ces outils à l'avenir. Cependant, comme les capacités de détection s'améliorera, tout comme la capacité de génération - il ne sera jamais possible que Microsoft puisse publier un seul outil capable de détecter toutes sortes de manipulations vidéo.
Les deepfakes sont un problème important pour la crédibilité des médias, et les entreprises ont besoin d'un moyen de distinguer ce qui est réel de ce qui est fictif. Microsoft a publié un outil pour aider à repérer les vidéos éditées. Cependant, il reste à voir si l'outil sera suffisant ou non pour suivre les développeurs deepfake.
Si vous n'êtes pas sûr de ce que sont les deepfakes et pourquoi ils sont importants, cela vaut vraiment la peine de prendre un peu de temps pour en savoir plus à leur sujet. Les deepfakes sont sur le point de devenir l'équivalent de cette décennie des images "Photoshopping" et peuvent causer de graves dommages s'ils sont utilisés à des fins malveillantes.
