Faire confiance à l’IA est dangereux. Il est temps pour un renouveau de l’open source

J’ai toujours respecté les idéaux du logiciel open source. La communauté engagée dans ces services et programmes fait preuve d’un dévouement incroyable et noble au suivi des tenants et aboutissants du code. Mais jusqu’à récemment, je considérais généralement une philosophie open source comme un bonus, agréable à voir mais peu influent pour décider quoi utiliser.

Mais l’IA a bouleversé une grande partie de mon point de vue, y compris la mesure dans laquelle il faut faire confiance au code source fermé. Avant, je faisais mes choix en fonction des fonctionnalités et des interfaces. Maintenant, je suis beaucoup plus conscient du fait que si vous ne savez pas ce qu’il y a dans le code, vous ne savez pas ce qui se passe réellement.

Le temps que je consacre à la cybersécurité ne cesse de faire ressortir ce point. Vous êtes probablement au courant d’attaques telles que des extensions de navigateur malveillantes qui remplissent leur fonction annoncée, mais modifient également les URL ou espionnent votre navigation en arrière-plan. À moins que vous n’utilisiez du code ou que vous travailliez dans la cybersécurité, vous n’en saurez rien jusqu’à ce que quelqu’un d’autre découvre la duplicité. L’IA peut vous piéger dans une situation similaire, mais avec un plus large éventail de problèmes potentiels et des dégâts potentiels bien plus importants.

Les modèles d’IA peuvent être manipulés et trompés, ou même entraînés pour être carrément « méchants ». Alors que j’assistais aux conférences sur la cybersécurité RSAC 2026 et B-Sides de cette année, j’ai découvert comment une IA peut finir par payer des entreprises, effectuer des achats non autorisés et même céder le contrôle d’un compte Google à un attaquant. Et lorsque j’ai demandé à l’un des présentateurs comment les consommateurs pouvaient détecter et empêcher ces choses de se produire, il m’a répondu que nous ne pouvions pas le faire. Non, sauf si vous êtes un chercheur en sécurité (ou une personne suffisamment compétente qui fouille dans le code comme tel), comme avec ces extensions de navigateur malveillantes.

Bien entendu, l’open source ne peut pas résoudre directement tous ces problèmes. Mais ce problème avec l’IA est nul, et si je dois faire des recommandations aux autres sur les services à utiliser (si j’ai moi-même besoin d’être sûr que les données que je partage ou télécharge seront traitées correctement), je préfère m’appuyer sur des options où le code peut être vu et vérifié publiquement.

Je sais que je ne suis pas seul dans cette pensée ; la communauté open source existe pour une raison. Mais ce qui est nouveau, c’est le paysage technologique actuel. Cela a fait que le code open source semble important pour des gens comme moi qui n’y prêtaient pas beaucoup d’attention auparavant… et aussi une priorité pour les gens qui se trouvent dans des endroits inattendus. Lors d’un entretien avec Microsoft au RSAC 2026, le responsable du pentesting (l’art d’attaquer les systèmes informatiques pour voir quelles vulnérabilités existent) a également souligné l’importance du code open source, qu’il est fondamental à ce stade de l’histoire.

L’IA est un outil, bien sûr. Mais cela accentue et accélère à la fois le changement dans la façon dont nous interagissons avec la technologie. Nous, les utilisateurs, avons de moins en moins de contrôle sur les applications et les services dans nos vies. L’ère de l’achat unique et de l’attente fiable du logiciel est pratiquement révolue. Vous pouvez désormais vous endormir une nuit et vous réveiller la nuit suivante avec un logiciel compromis, et vous ne le saurez probablement pas tant que quelqu’un d’autre ne vous le dira pas. Et oui, cet expert en sécurité de Microsoft, optimiste quant à l’open source, est la même personne qui conseille d’évaluer l’IA non pas sur ce qu’elle est, mais sur la question de savoir qui l’a construite. C’est un bon conseil, mais soyons réalistes : la confiance ne va pas plus loin. Les gens font des erreurs tout le temps.

Alors maintenant, je commence à penser aux logiciels et aux services de la même manière que ceux qui achètent des produits biologiques et scrutent les listes d’ingrédients. Je ne considère pas seulement les origines d’une application ou d’un service, mais aussi ce qui pourrait y être dangereux. Et je ne peux pas le savoir si cela n’est pas disponible pour l’examiner – ce qui est le point que la communauté open source défend depuis des décennies. Et à juste titre, semble-t-il.

Dans cet épisode de The Full Nerd

Dans cet épisode de The Full Nerd, Adam Patrick Murray, Alaina Yee et Will Smith discutent de la révélation par AMD du Ryzen 9 9950X3D2 et de l’expérience d’Adam en testant le DLSS 4.5 de Nvidia. Tout en discutant de la nouvelle puce phare de Team Red, je fais un point sur son public cible qui est rapidement cité dans les commentaires de la vidéo. Avec une large licence artistique. Très large.

Mais aussi surprenant que soit une double puce 3D V-Cache, surtout après la réticence initiale d’AMD à l’égard d’une telle puce, notre équipe a également lancé un lancement bonus cette semaine. Vous devriez consulter l’un de nos flux audio pour l’émission, c’est tout ce que je dis.

Vous avez manqué notre live ? Abonnez-vous maintenant à la chaîne YouTube The Full Nerd Network et activez les notifications. Nous répondons également aux questions des téléspectateurs en temps réel !

Ne manquez pas non plus nos autres émissions : vous pouvez regarder des épisodes de Dual Boot Diaries, The Full Nerd : Extra Edition et Expedition : Handheld via notre chaîne !

Et si vous avez besoin de plus de discussions sur le matériel pendant le reste de la semaine, rejoignez notre communauté Discord : elle regorge de nerds sympas et décontractés.

Les nouvelles plus légères des nerds de cette semaine

Après une semaine passée à apprendre à quel point la technologie est vulnérable à toutes sortes d’attaques malveillantes, j’avais besoin d’une pause dans la morosité et le malheur. Et tu sais quoi ? Le cycle de nouvelles a été livré, à ma grande surprise. Il y a une récompense potentielle pour la violation de données vraiment désastreuse de LastPas en 2022, quelqu’un a remis en marche un 5090 gravement endommagé (pour la plupart), et la part de marché de Linux a doublé.

En outre, les pirates de logiciels ont montré qu’ils avaient eux aussi des normes en matière de sécurité, ce qui était rafraîchissant.

• Même les pirates ont peut-être dit non : une nouvelle solution pour les jeux avec le DRM anti-piratage Denuvo est si risquée que même ceux qui dirigent les navires en haute mer ont mis en garde contre les dangers.

• Non merci : Perplexity est accusé de partager des informations de chat lors de sessions incognito avec Meta et Google. Je ne dis pas que je crois aux affirmations dans leur ensemble, mais étant donné tout ce qui concerne l’IA et la sécurité à l’heure actuelle, l’idée d’un tel partage met les intégrations de l’IA avec les navigateurs sous un jour différent pour moi.

• Cela fonctionne réellement : Claude surveille apparemment les déclarations des utilisateurs. Mais au lieu d’être effrayé par cela, je ne peux m’empêcher de penser à ce que j’ai entendu un jour d’un membre de l’équipe de Google Assistant. Ils ont laissé entendre qu’ils avaient entendu beaucoup de jurons dans les enregistrements vocaux. Beaucoup. Tout cela fait partie du processus d’amélioration, je suppose.

• Je n’y avais jamais pensé : Ars Technica cette semaine m’a fait réfléchir non seulement aux énormes libellules, mais aussi à la possibilité de faire face à des insectes de la taille d’un pigeon. (Non.)

• Aïe : Le Raspberry Pi, autrefois ultra-abordable, a connu des hausses de prix spectaculaires depuis le début de l’année : le Raspberry Pi 500+ coûte désormais 150 $ de plus.

• Merci, je déteste ça : apparemment, la demande de serveurs de l’industrie de l’IA a encore empiété sur les jeux : un titre, Porte tempêteva arrêter le mode multijoueur pour son jeu (du moins pour le moment), car son fournisseur de serveur a été vendu à une société d’IA.

• Nous sommes des dizaines : je sais que nous sommes des millions. Et j’aurais probablement dû dire « vous » puisque je n’ai pas encore officiellement rejoint le train Linux. Mais ce mème semble précis dans son ambiance, même avec cette nouvelle du doublement de sa part de marché. (Je dis cela avec amour, je le promets.)

• Quelle sauvegarde : ce 5090 n’est peut-être pas aussi en parfait état que lorsqu’il a été expédié de l’usine, mais des moddeurs intelligents l’ont sauvé de la poubelle avec des câbles de démarrage et un BIOS personnalisé. (Cette histoire est également un bon rappel que parfois, un support peu coûteux peut vous éviter bien des chagrins.)

• Fini xxKillerxx : vous pouvez enfin modifier votre adresse Gmail. Célébrez, pour l’instant, nous, les personnes âgées, n’avons plus à abandonner les comptes créés à l’adolescence et à la vingtaine.

• Le règlement pour violation de LastPass est réel : les termes sont étonnamment complexes quant à savoir qui peut déposer une réclamation et pour quels types de réclamations, mais j’ai rédigé un aperçu des détails. Jusqu’à un tiers des près de 25 millions de dollars seront consacrés aux frais juridiques et autres, alors ne vous attendez pas à grand-chose si un tribunal approuve ces conditions en juillet.

• Cela me semble logique : le retour de la Suède aux manuels analogiques peut être controversé pour certains, mais je trouve que l’évolution des données sur la façon dont les humains apprennent le mieux est un point particulièrement pertinent dans le monde d’aujourd’hui, axé sur le numérique.

Vous tous, c’est Pâques ce week-end. Vous savez ce que cela signifie : ventes de bonbons. Et oui, je suis prêt à défendre mon penchant inexplicable pour les Peeps. Venez me voir sur le serveur Discord à propos de guimauves colorées en forme de lapins. Cela ne changera pas que j’ai acheté un pack. Ou trois.

Rendez-vous la semaine prochaine !

Alaina