En résumé:
- PCWorld souligne à quel point les photos générées par l’IA deviennent de plus en plus sophistiquées, ce qui les rend plus difficiles à détecter et crée de nouveaux risques de sécurité en matière d’escroqueries et de fraudes financières.
- L’article couvre les vulnérabilités critiques de l’application de bureau de Zoom, les failles de sécurité des aspirateurs robots Shark exposant des flux vidéo en direct et la fonction de blocage des scarewares intégrée de Microsoft Edge.
- Même avec une formation, la détection des deepfakes reste un défi car les outils de détection actuels s’avèrent peu fiables, soulignant la nécessité d’une vigilance continue contre l’évolution des menaces d’IA.
J’ai un défi pour toi. Pouvez-vous repérer le contenu généré par l’IA ? Et plus important encore…. Pouvez-vous identifier ces photos et vidéos tout de suite?
Voici le problème : l’IA générative ne cesse de s’améliorer, de sorte que les indices qui vous permettent de savoir que ce n’est pas réel changent également continuellement. En décembre, j’ai répondu à un quiz NPR qui testait ma capacité à identifier les vidéos slop de l’IA (et j’ai échoué). J’ai utilisé ce que j’y ai appris pour faire défiler mon flux Instagram avec plus de soin (et j’ai en fait mieux réussi à reconnaître les faux contenus).
Mais la semaine dernière, la BBC a publié un quiz permettant de distinguer les visages générés par l’IA des visages réels sur des photographies. (Ou sans doute, des « photographies ».) Et tout à coup, je me suis retrouvé une fois de plus trébuché, malgré la lecture récente de nouveaux conseils sur la façon de repérer le contenu de l’IA.
Bienvenue en mode sans échec, votre rapport hebdomadaire pour les actualités urgentes en matière de sécurité et de confidentialité et les étapes à suivre. Vous souhaitez que cette newsletter arrive directement dans votre boîte de réception ? Inscrivez-vous sur notre site!
S’il ne s’agissait que de vidéos d’animaux fausses mais réconfortantes, ce ne serait pas si grave. Malheureusement, les escrocs utilisent les deepfakes pour s’emparer de l’argent des gens ordinaires. Apprendre à faire la différence entre les images réelles et fausses peut garder votre solde bancaire intact. (Et vous épargnera un stress intense si vous êtes victime d’une arnaque d’urgence.)
Vous ne pouvez pas non plus compter sur les outils de détection des deepfakes. Ils ne sont pas assez fiables pour leur faire pleinement confiance. Au mieux, en utiliser un revient à demander son avis à un ami peu informé. Vous devez encore décider par vous-même.
Alors, quel est le dernier conseil ? Le quiz de la BBC partage les conseils d’experts sur ce qu’il faut rechercher, comme la symétrie et l’expressivité du visage. Ce qui est encourageant, c’est qu’un peu d’étude peut aller très loin : les chercheurs ont découvert que la précision de détection augmentait de 40 à 80 % parmi les participants à l’étude, même avec seulement une heure d’exposition à des images réelles et fausses, ainsi que des conseils sur ce qu’il fallait rechercher.
(Je ne peux pas prétendre à une telle amélioration, mais même entre le premier et le deuxième quiz de l’article, j’ai fait beaucoup mieux lors de la deuxième tentative.)
Bien sûr, ces nouveaux conseils ne seront pas utiles indéfiniment : il n’y a pas si longtemps, nous recherchions tous des mains à six doigts. Le développement de l’IA générative continue d’avancer rapidement. Pourtant, la prise de conscience est une petite victoire dans cette guerre en cours entre les faits et la fiction. Savoir que quelque chose pourrait être faux réduit déjà mon acceptation automatique de la vidéo et de la photo comme étant la vérité.
Dans l’actualité
Vous connaissez le dicton selon lequel un déjeuner gratuit n’existe pas ? Les grandes technologies proposent des comptes « gratuits » afin de pouvoir nous utiliser pour l’exploration de données, mais heureusement, elles ne détiennent pas toutes les cartes. Si les gens protestent assez fort, ils peuvent faire annuler des décisions douteuses. Tout comme ils l’ont fait en réponse à l’approche de Meta visant à déployer plus largement son outil de génération d’images IA.
Le bon
- Meta a retiré son projet d’imposer Muse, son outil de génération d’images IA, aux utilisateurs d’Instagram. Il s’avère que quand on dit aux gens que leur image est un jeu équitable pour tout autre utilisateur d’Instagram, ils n’aiment pas ça. Mon conseil : continuez à protester chaque fois que les entreprises introduisent des « fonctionnalités » qui leur permettent de s’entraîner à partir de nos données d’image et de vidéo.
Le mauvais
- Zoom affirme que des vulnérabilités critiques dans son application de bureau pourraient permettre à un pirate informatique de s’emparer d’un compte. Heureusement, la solution est simple : il suffit d’appliquer les dernières mises à jour.
- Un chercheur en sécurité a découvert qu’une faille de sécurité dans son aspirateur robot Shark lui permet d’espionner les autres propriétaires de robot aspirateur Shark dans sa région géographique. Les données auxquelles il pouvait accéder comprenaient des flux vidéo en direct, des informations d’identification Wi-Fi et des cartes de l’aménagement des maisons. (C’est pourquoi je recommande toujours de mettre les appareils intelligents sur un réseau invité !)
L’ennuyeux
- Si les fuites de données ne suffisaient pas, les données courtiers existent aussi. Et comme l’explique mon collègue Sam Singleton, ils collectent des informations sur vous à partir de toutes sortes de sources (pour la plupart légitimes), puis permettent à n’importe qui sur le Web d’acheter l’accès à votre profil. Vous pouvez vous désinscrire, mais cela demande un certain effort.
Conseil de la semaine
Les scarewares sont une tactique par laquelle des acteurs malveillants utilisent des applications ou des sites Web pour afficher de faux avertissements concernant votre PC, afin que vous payiez pour des services inutiles. Certains logiciels antivirus le bloquent automatiquement, mais saviez-vous que le navigateur Edge de Microsoft dispose également d’une protection intégrée gratuite contre les sites Web effrayants ?
Sur certains PC, cette fonctionnalité est activée par défaut. Sur d’autres (souvent plus anciens), vous devrez l’activer manuellement. Pour vérifier, rendez-vous sur Paramètres > Confidentialité, recherche et services > Sécurité. Faites défiler vers le bas et trouvez Bloqueur de scarewares. La bascule sera verte lorsqu’elle est activée. Sinon, cliquez simplement dessus pour l’activer.
