En résumé:
- PCWorld rapporte qu’OpenAI a lancé le mode de verrouillage pour ChatGPT afin de lutter contre les attaques par injection rapide qui peuvent détourner les systèmes d’IA et voler des informations personnelles.
- Ces attaques ont déjà compromis les navigateurs IA comme Perplexity et contrôlé les appareils domestiques intelligents via Google Gemini en trompant les systèmes avec des instructions malveillantes.
- Le mode de verrouillage restreint les fonctionnalités telles que la navigation Web en direct et la recherche approfondie sur tous les forfaits ChatGPT, bien qu’OpenAI reconnaisse que les risques liés aux fichiers téléchargés demeurent.
OpenAI a lancé une nouvelle fonctionnalité de sécurité dans ChatGPT appelée Lockdown Mode, conçue pour fournir une protection supplémentaire contre ce que l’on appelle les « attaques par injection rapide ».
Une attaque par injection d’invite se produit lorsqu’une personne crée une invite trompeuse dans le but d’inciter le LLM à suivre des instructions malveillantes et/ou à révéler des informations sensibles.
Ces invites trompeuses sont souvent cachées dans les pages Web et autres sources de données, qui sont facilement ignorées par les humains mais qui sont néanmoins lues et traitées par les LLM. Les attaques par injection rapide ont été utilisées pour faire toutes sortes de choses, comme détourner le navigateur AI de Perplexity, contrôler les appareils domestiques intelligents via Google Gemini et voler des informations personnelles via des images compressées et Google Calendar.
Annoncé pour la première fois en février, le mode verrouillage restreindra et/ou désactivera désormais plusieurs fonctionnalités de ChatGPT lorsqu’il est activé, notamment la navigation Web en direct (en faveur du contenu mis en cache), la récupération et l’affichage d’images Web, la recherche approfondie et le mode agent.
OpenAI souligne que cette fonctionnalité ne peut pas éliminer complètement le risque d’attaques par injection rapide, car des instructions malveillantes peuvent toujours être présentes dans les fichiers téléchargés ou dans le contenu mis en cache.
Au moment d’écrire ces lignes, le mode verrouillage est déployé sur tous les types de comptes ChatGPT, y compris les forfaits Free, Go, Plus et Pro. Si vous ne voyez pas le mode de verrouillage dans vos paramètres, il n’est peut-être pas encore disponible et vous devrez attendre un peu plus longtemps.
