En résumé:
- PCWorld démontre que les outils de détection des deepfakes ne parviennent souvent pas à identifier le contenu généré par l’IA, certains classant à tort un deepfake évident de TikTok comme réel.
- L’observation manuelle et le scepticisme s’avèrent plus fiables que les services de détection automatisés pour repérer les deepfakes et éviter les escroqueries associées.
- La pensée critique humaine reste la défense la plus efficace contre la tromperie audio et vidéo de plus en plus sophistiquée générée par l’IA.
Vous savez désormais ce qu’est un deepfake. Ces clips audio et vidéo générés par l’IA continuent de se propager, provoquant des avertissements de plus en plus forts chaque semaine.
Il est facile de confondre ces imitations de personnes avec la réalité. (Bon sang, j’ai récemment écrit une confession sur l’échec d’un quiz vidéo sur les deepfakes.) Des outils de sécurité sont apparus pour aider, des éditeurs de logiciels établis et des entreprises plus récentes mettant à disposition des détecteurs de deepfakes. Mais la triste nouvelle est… qu’ils ne sont pas aussi fiables qu’on pourrait l’espérer.
Regardez cette capture d’écran d’une vidéo TikTok, mise en évidence par l’utilisateur d’Instagram natalyamakes :
Comme le souligne Natalyamakes, la vidéo semble innocente au début… jusqu’à ce que la personne se coince les doigts dans le nez. (Vous savez, comme tout humain normal qui pleure et qui lève la main pour s’essuyer le nez et traverse le cartilage séparant ses narines.)
C’est une vidéo incroyable. Mais cela passera les détecteurs d’arnaques.
J’en ai essayé plusieurs accessibles au public, les plus populaires dans la recherche Google. Des liens que les gens essaieraient probablement lorsqu’ils s’efforceraient de déterminer si ce qu’ils voient est réel. Et, après plusieurs passages, certains scanners ne parvenaient pas à me donner des estimations cohérentes… ni très précises.
Par exemple, deepfakedetector.ai a déclaré que la probabilité que la vidéo soit un deepfake était comprise entre cinq et 24 %. Le raisonnement ? La vidéo présentait des détails et des expressions faciales claires, des mouvements oculaires et une fréquence de clignement convaincants, un éclairage cohérent, une interaction naturelle avec les objets, des détails et une profondeur de mise au point réalistes, ainsi qu’un flou de mouvement subtil.
(Encore une fois, le sujet de la vidéo passer ses doigts dans le cartilage de son nez.)
Cela ne veut pas dire que tous ces outils ne sont pas fiables : la démo de détection de Hive Moderation a, par exemple, identifié ce clip comme étant généré par l’IA.
Mais savez-vous ce qui fonctionne aussi ? Une paire d’yeux et une attention aux détails.
Comme toujours, un sain sentiment de scepticisme aide à survivre sur Internet. Ce stratagème particulier perpétue la fraude, mais il existe une version plus bénigne : comme le note natalyamakes, le créateur du compte est probablement un dropshipper qui tente de présenter les produits produits en série comme étant faits à la main, méritant un prix plus élevé.
Vous pouvez étouffer cela dans l’œuf et éviter de payer trop cher pour des marchandises ou de vous faire escroquer pour des produits faux ou inexistants en prenant une capture d’écran, puis en effectuant une recherche rapide d’image inversée sur Google. Vous pouvez également rechercher des mots-clés ou des expressions décrivant l’article. Non seulement vous détecterez les faux produits faits à la main, mais vous pourrez également économiser de l’argent en faisant des achats réguliers grâce à cette astuce.
