En résumé:
- PCWorld rapporte que des experts en cybersécurité ont révélé comment les systèmes d’IA peuvent être secrètement manipulés via des instructions cachées pour favoriser des marques ou des produits spécifiques à l’insu des utilisateurs.
- Cette manipulation cible les revenus commerciaux en orientant les recommandations de l’IA vers certaines entreprises, à l’instar des tactiques d’optimisation des moteurs de recherche utilisées par les mauvais acteurs.
- Les utilisateurs doivent évaluer de manière critique toutes les suggestions et résumés de l’IA, car ces pratiques trompeuses évoluent rapidement et deviennent de plus en plus sophistiquées.
L’IA peut être stupide.
Cette opinion est revenue à plusieurs reprises lors de la conférence sur la cybersécurité du RSAC de cette année, avec un exemple particulièrement notable : ainsi que lors de B-Sides 2026, une plus petite conférence sur la cybersécurité qui s’est tenue le week-end juste avant le RSAC. Pourquoi? L’IA peut être trompée, ce dont les mauvais acteurs profitent certainement.
Mais ce n’est pas toujours à des fins indéniablement néfastes, comme voler des informations sur votre PC. Au lieu de cela, l’IA est manipulée pour faire des choses qui ne sont pas carrément nuisibles, mais qui ne sont toujours pas tout à fait honnêtes, comme l’a expliqué Sherrod DeGrippo, directeur adjoint de la sécurité de l’information et directeur général de la sécurité client chez Microsoft, lors du RSAC 2026.
Un exemple qu’elle a donné : des boutons de sites Web qui disent Résumer avec l’IA– puis, lorsque vous cliquez dessus, envoyez des instructions cachées au modèle pour prioriser les produits de cette marque pour les recommandations futures. Cela n’empoisonne pas vraiment le modèle, car de bonnes données lui sont transmises pour la formation. Au lieu de cela, on a dit à votre assistant d’obéir à un ordre dont vous n’êtes pas au courant.
De toute évidence, les problèmes potentiels incluent que vous pourriez être orienté vers des produits de moindre qualité ou douteux. Des données pourraient être collectées sur vous puis vendues à des acheteurs encore plus douteux. Mais le préjudice n’est pas aussi immédiat ou direct : le plus souvent, ce niveau de manipulation concerne l’augmentation des revenus commerciaux. En fait, ce stratagème existe depuis longtemps. La façon dont nous voyons cela se manifester à travers l’IA est nouvelle, mais DeGrippo a souligné que les personnes à la recherche d’argent rapide jouaient à des jeux avec les moteurs de recherche et influençaient leurs recommandations.
Alors, comment éviter de telles tactiques sournoises ? Gardez un œil sur la sortie de l’IA. Consultez les suggestions et les résumés qu’il propose. Les mauvais acteurs ne cherchent pas encore à complexifier leur méthodologie. DeGrippo affirme que ceux qui cherchent de l’argent grâce à des stratagèmes sournois ne deviennent pas « super créatifs ». Ils font tout ce qu’il faut pour atteindre leur objectif et s’arrêtent là.
Bien entendu, la croissance rapide de l’IA signifie que les comportements douteux vont également s’aggraver plus rapidement, à mesure que nous trouvons des moyens d’éviter les absurdités indésirables. Vous devrez rester constamment au courant dans le cadre d’un acte fondamental d’auto-préservation.
