En résumé:
- PCWorld rapporte que Ram Shankar Siva Kumar, responsable de l’équipe rouge de Microsoft AI, avertit les utilisateurs de traiter les modèles d’IA indépendants comme le « Far West » des risques de sécurité.
- L’expert compare le paysage actuel de l’IA aux premiers téléchargements sur Internet, où les acteurs malveillants et les développeurs non sécurisés constituent des menaces importantes pour les données et les appareils des utilisateurs.
- Microsoft recommande une extrême prudence aux petits développeurs d’IA inconnus qui peuvent gérer les autorisations de manière non sécurisée ou héberger des intentions malveillantes.
Au début du Web, le téléchargement de fichiers était nouveau et amusant. Vous pourriez trouver toutes sortes de choses étranges et intéressantes, comme des versions MIDI de vos chansons préférées. Mais aussi amusant que soit l’accès illimité à Internet, le danger se cachait dans certains de ces téléchargements, surtout s’il s’agissait de versions « gratuites » de logiciels payants populaires.
Microsoft affirme que la même chose s’applique à l’IA.
Lors de la conférence RSAC sur la cybersécurité de cette année, j’ai discuté avec Ram Shankar Siva Kumar, Data Cowboy de Microsoft et responsable de l’équipe rouge de l’IA, qui a dévoilé une tonne de faits sur le travail en coulisses de sécurisation de l’IA et un conseil important pour rester en sécurité tout en explorant ce domaine technologique en croissance rapide. Ce qu’il a conseillé : Méfiez-vous des modèles d’IA indépendants.
Vous pourriez être tenté de voir cette suggestion comme une tentative de la part des Big Tech d’étouffer la petite concurrence parvenue (ce qui n’est pas une pensée injuste, compte tenu du fastidieux blitz Copilot de Microsoft l’année dernière). Mais l’avertissement a été formulé de la même manière que les conseils que les experts et les journalistes ont commencé à donner à la fin des années 90 et au début des années 2000 : faites simplement attention à qui vous téléchargez des modèles d’IA et à ce que vous téléchargez, si le développeur est plus petit et moins connu.
Parce que pour chaque personne souhaitant simplement partager ses efforts, il pourrait y avoir une personne dangereuse avec qui partager des informations ou donner accès à votre PC. Bien sûr, ils pourraient être de mauvais acteurs. Il peut également s’agir de personnes qui ne sont pas encore capables de gérer une telle autorisation en toute sécurité.
Les logiciels traditionnels ont connu un parcours similaire. À ce jour, les habitudes intelligentes incluent la prudence quant à l’endroit à partir duquel vous téléchargez des fichiers, même avec la montée ultérieure des vitrines qui recherchent des applications malveillantes. Nous devons désormais étendre cette approche à l’IA également. C’est le Far West là-bas. Traitez-le comme tel, même s’il est soigneusement emballé.
