Facebook s’engage à détecter et à supprimer les Deepfakes

Le géant américain Facebook a annoncé vouloir bannir les vidéos deepfakes.

Dans un communiqué, Monika Bickert, la vice-présidente de la gestion de politique globale de la compagnie Facebook, a admis que même si ces vidéos sont encore rare sur Internet, elles présentent un challenge important pour les industries et la société car leur utilisation augmente de plus en plus.

Bickert a déclaré que ce genre de médias trompeurs sera supprimé si un contenu édité d’une manière non-détectable par l’utilisateur moyen distribue un message que le sujet de la vidéo n’a jamais distribué. Les vidéos seront aussi supprimé si elles ont été créé avec de l’intelligence artificiel ou du machine learning qui fusionne, remplace ou superpose du contenu sur une vidéo.

“Cette politique ne s’applique pas au contenu parodique ou satirique, ou aux vidéos qui ont été modifiées pour omettre ou changer l’ordre des mots,” a dit Bickert. “Cette approche est essentielle à notre stratégie et nous l’avons entendu spécifiquement lors de nos conversations avec des experts”

“Si nous nous contentions de supprimer toutes les fausses vidéos modifiées qui nous sont signalées, les vidéos seraient encore disponibles autre part sur internet ou dans d’autres écosystèmes de réseaux sociaux. En les laissant en ligne et en leur collant une étiquette ‘fausse’, nous informons les gens.”

Jake Moore, spécialiste en sécurité informatique chez ESET, a expliqué qu’il est de plus en plus difficile à détecter les deepfakes et que l’utilisation de l’intelligence artificielle est nécessaire. “Les fausses vidéos de célébrités ou de gens puissants peuvent être très manipulatrices et causer des incidents dans certains cas. C’est une déclaration audacieuse de la part de Facebook car les logiciels utilisés pour reconnaître ces fausses vidéos ne sont pas encore totalement prêts et nécessitent plus de recherches pour être vraiment efficaces.

“La plupart des vidéos sont modifiés d’une certaine façon avant d’atterrir sur les réseaux sociaux, on se retrouve donc face à un problème de faux positifs ou de deepfakes qui arriveront à se faufiler sur le net. Nous avons besoin de meilleurs logiciels pour reconnaître ces vidéos de manipulation mais il faut aussi faire comprendre aux gens qu’ils ne devraient pas croire tout ce qu’ils voient.”

L’artiste de deepfake, Hao Li, a prévenu qu’en 2020 les vidéos deepfake seront indétectables.

Facebook très impliqué dans la détection de deepfake

L’année dernière Facebook, Microsoft et un nombre important d’autres universités ont lancé le Deep Fake Detection Challenge, une compétition faisant la promotion des recherches et développements pour combattre les deepfakes.

Google et d’autres compagnies de technologies ont partagé une base de données contenant des milliers de vidéos deepfakes pour aider les chercheurs à améliorer leurs techniques de détection.

Reddit et Twitter ont aussi leurs propres politiques concernant les deepfakes.

Twitter a déclaré que sa politique se tourne vers “l’intégrité des élections gouvernementales, les tentatives ciblées d’harcèlement ou d’abus, ou n’importe quel autre règle de Twitter.

Du côté de Reddit, “la politique de Reddit interdit tout contenu se faisant passer pour quelqu’un à des fins trompeuses, à l’exception de la satire ou de la parodie de personnages publiques”.

Facebook a aussi déclaré s’être associé à Reuters pour créer une formation en ligne dans le but d’aider les salles de rédaction à identifier les deepfakes et les médias manipulés.

Si cet article vous a plu, jetez un œil à notre article précédent.

Poster un Commentaire

avatar
  S’abonner  
Notifier de