En résumé:
- Ram Shankar Siva Kumar de Microsoft soutient que les utilisateurs devraient se concentrer sur la confiance des développeurs d’IA plutôt que sur les modèles d’IA eux-mêmes lors de l’évaluation de la fiabilité des chatbots.
- PCWorld rapporte que l’IA agentique, qui fonctionne comme des assistants numériques, gagne en popularité mais manque peut-être des garanties nécessaires à un déploiement à grande échelle.
- La principale préoccupation concerne l’accès illimité de l’IA à la vie numérique des utilisateurs, ce qui pourrait causer des dommages importants sans mesures de sécurité appropriées de la part de développeurs dignes de confiance.
Je demande tout le temps à mes amis s’ils font confiance à ChatGPT ou à Gemini, surtout lorsqu’ils me disent qu’ils nourrissent ces chatbots IA des résultats de tests médicaux, des pensées profondément personnelles et même des problèmes de travail sensibles. Mais après avoir discuté avec Microsoft lors de la conférence sur la cybersécurité 2026 du RSAC, j’ai réalisé que j’avais mal abordé cette question. Vous l’avez probablement fait aussi.
Ram Shankar Siva Kumar, Data Cowboy et AI Red Team Lead chez Microsoft, affirme que la plupart des gens se posent la question de savoir comment faire confiance à une IA. Autrement dit, se demander comment en apprendre suffisamment sur lui et son fonctionnement interne pour pouvoir se prononcer sur sa fiabilité. Ils se concentrent sur le modèle et son code.
Au lieu de cela, Kumar suggère que nous devrions nous demander : « Est-ce que je fais confiance au développeur ?
Cette nouvelle approche de la confiance est issue d’une rapide conversation autour de l’IA agentique, qui séduira la plupart des consommateurs. Comme le dit Kumar, ce type d’IA aide « à faire face aux corvées de la vie ». Il n’est pas difficile de voir l’attrait d’avoir un agent IA comme assistant numérique, capable de gérer des tâches en plusieurs étapes avec peu de contribution. Mais Kumar s’est également dit préoccupé par le fait que la plupart des consommateurs ne savent pas que certains projets d’IA ne sont tout simplement pas encore prêts à être diffusés aux heures de grande écoute.
Par exemple, si un agent IA a un accès illimité à l’ensemble de votre vie numérique, vous ne réalisez peut-être pas que les protections ne sont pas correctement mises en place pour éviter de grosses erreurs et d’éventuels dommages irréparables. (Kumar et moi avons fini par appeler cela un « modèle YOLO » pour l’IA.) Il y a des preuves de cela dans la nature : nous avons déjà vu des histoires répétées d’agents d’IA supprimant des fichiers qui ne leur étaient pas demandés, avec un exemple récent marquant étant celui d’un cadre Meta perdant 200 e-mails au profit d’OpenClaw.
Bien sûr, vous pouvez aborder l’utilisation de l’IA agentique avec plus de prudence, comme l’explique mon collègue Ben Patterson. Mais ses suggestions nécessitent de vivre et de respirer l’IA bien plus que la plupart des gens : mes amis, ma famille et mes connaissances déposent simplement leurs questions dans un chatbot ou utilisent les boutons de résumé de l’IA sans avoir au préalable établi un plan de match.
Ce qui est plus simple, c’est simplement de vous demander si vous pensez que le développeur du modèle d’IA sera à la hauteur du marketing du produit. De nombreuses équipes de développement d’IA peuvent affirmer en toute honnêteté qu’une nouvelle version est leur modèle le plus avancé à ce jour. Mais d’un point de vue objectif, est-il vraiment avancé en termes de fonctionnalités et de protection contre les exploits ?
La réponse à cette question ne consiste pas nécessairement à vous priver de nouveaux outils intéressants. Exercez plutôt un jugement précis sur ce en quoi vous faites confiance et à qui vous faites confiance, et dans quelle mesure.
