Microsoft vient de proposer de nouveaux outils pour détecter mais aussi pour empêcher de créer des « deepfakes », ces montages vidéos ou photos qui manipulent la vérité et inquiètent particulièrement à l’approche de la présidentielle américaine.
Ces montages consistent par exemple à « coller » la tête d’une personne sur le corps d’une autre dans une vidéo ou à lui faire tenir des propos qu’elle n’a jamais prononcés. Ils peuvent transformer le sens d’un événement ou en inventer de toutes pièces, pour répandre de fausses informations ou nuire à la réputation de personnalités publiques.
Le géant de l’informatique a annoncé lundi avoir conçu un « Video Authenticator », qui analyse des photos et vidéos pour déterminer si elles ont été manipulées avec des technologies d’intelligence artificielle (IA).
Cet outil attribue un « score de confiance » au contenu examiné. « Dans le cas d’une vidéo il peut fournir un pourcentage (indiquant la probabilité d’une manipulation), en temps réel pendant la lecture, image par image », explique le communiqué.
Il détecte les mauvais traitements infligés aux contenus en repérant des frontières mal brouillées, des flous incohérents ou des couleurs invisibles à l’oeil nu.
Les géants de la tech, réseaux sociaux et spécialistes de l’IA, redoublent d’efforts à deux mois et quelques de la présidentielle américaine pour contrer les campagnes d’influence menées depuis l’étranger mais aussi à l’intérieur du pays, pour semer la division et manipuler les électeurs.
En 2016 le scrutin présidentiel américain et le référendum sur le Brexit au Royaume-Uni ont été marqués par de vastes et puissantes opérations de ce genre, orchestrées depuis la Russie.
Selon une étude menée à l’université Princeton et financée par Microsoft, sur une centaine de campagnes étrangères ayant ciblé une trentaine de pays entre 2013 et 2019, 93% comportaient la création de contenus créés de toutes pièces et 74% déformaient des faits vérifiables.
« Les méthodes de production de médias artificiels vont devenir de plus en plus sophistiquées », rappelle la société de Redmond (à côté de Seattle, Ouest), qui est sur les rangs pour racheter l’application de partage de vidéos légères TikTok.
Elle a aussi mis un point un outil intégré à sa plateforme de cloud Azure (informatique à distance) qui ajoute des métadonnées pour certifier un contenu et un lecteur qui pourra être ajouté sur un navigateur et confirme l’authenticité du contenu à partir de ces métadonnées.