En résumé:
- PCWorld rapporte qu’une fuite de Claude Code a révélé que l’IA d’Anthropic analyse activement les messages des utilisateurs à la recherche de gros mots et d’indicateurs de frustration à l’aide de la détection d’expressions régulières.
- Le fichier « userPromptKeywords.ts » divulgué montre que Claude Code surveille les phrases négatives, bien que le but de cette collecte de données reste flou.
- Cette découverte soulève des préoccupations plus larges en matière de confidentialité concernant d’éventuelles pratiques de surveillance similaires sur d’autres plateformes d’IA comme ChatGPT et Gemini.
« WTF? » « Merde! » « Maintenant, je suis vraiment agacé. » Maudire un assistant IA agité est quelque chose que nous avons tous fait, mais il s’avère que l’un des outils Claude les plus populaires vérifie activement nos messages à la recherche de signes spécifiques de frustration, y compris des gros mots.
Cette révélation est l’un des nombreux détails surprenants découlant d’une fuite massive de Claude Code qui a mis à nu de nombreux plans d’Anthropic pour ses prochains outils et modèles. Les plus de 500 000 lignes de code, qu’Anthropic a accidentellement publiées mardi dans un registre public de logiciels, incluent toutes sortes de détails juteux, y compris les spécifications des nouveaux modèles Claude, un « mode secret » pour Claude qui lui permet d’apporter des contributions « furtives » aux bases de code publiques, un agent « toujours actif » pour Claude Code, et même un « Buddy » de style Tamagotchi pour Claude.
Mais l’un des éléments les plus étranges découverts dans la fuite est que Claude Code surveille activement nos messages de discussion à la recherche de mots et d’expressions – y compris des bombes f et autres malédictions – qui servent de signes de frustration des utilisateurs.
Plus précisément, Claude Code comprend un fichier appelé « userPromptKeywords.ts » avec un simple outil de correspondance de modèles appelé regex, qui balaie chaque message soumis à Claude pour certaines correspondances de texte. Dans ce cas particulier, le modèle regex surveille « wtf », « wth », « omfg », « stupide », « horrible », « horrible », « morceau de —- » (insérez votre mot de quatre lettres préféré pour celui-là), « f-you », « merde », « ça craint » et plusieurs autres métaphores colorées.
Pour être clair, cette fonction de recherche de « gros mots » a été repérée spécifiquement dans Claude Code via la fuite Anthropic. Le code des applications de bureau et Web de Claude n’était pas inclus dans la fuite, nous ne savons donc pas ce qui se passe sous le capot de ces interfaces Claude.
Il convient également de noter que la fonction regex utilisée ici n’a rien d’extraordinaire. En effet, l’expression régulière est prise en charge par une grande variété de langages de programmation (de Java à Python) et est utilisée depuis des décennies, et sa fonctionnalité n’est pas très éloignée d’un simple Ctrl-F.
Bien que la fuite de Claude Code ait révélé l’existence de l’expression régulière « mots de frustration », elle ne donne aucune indication sur la raison pour laquelle Claude Code parcourt les messages à la recherche de ces mots ou sur ce qu’il en fait.
J’ai contacté Anthropic pour obtenir des commentaires.
Bien sûr, nous pouvons le deviner. Une raison plausible est qu’Anthropic collecte des données télémétriques pour l’aider à déterminer les performances des modèles et outils Claude spécifiques. Une augmentation des mots de « frustration » détectés serait un moyen facile de détecter si une nouvelle fonctionnalité de Claude ne fonctionne pas bien.
Une autre possibilité est qu’un pic des signaux de frustration détectés pourrait déclencher des changements de comportement chez Claude lui-même, le rendant peut-être plus empathique ou plus désolé. Bien sûr, injurier Claude ou toute autre IA orientera généralement le chat dans une direction différente (comme cela a été le cas pour les résultats de recherche Google), mais une vérification d’expression régulière spécifique comme celle de Claude Code pourrait aider à rendre un pivot comportemental plus fiable.
Bien que l’expression régulière des « mots de frustration » n’ait été confirmée que pour Claude Code, on se demande si elle existe dans les applications de bureau et Web de Claude, ou si ChatGPT, Gemini et d’autres grands acteurs de l’IA hébergent des fonctions similaires dans leurs bases de code.
