«L’IA» générative n’est pas seulement utile pour voler des artistes et des écrivains – cela donne également un coup de malveillance dans sa capacité à itérer et à se propager. Selon des pirates lors de la prochaine conférence Black Hat de cette année, certaines des dernières choses peuvent vaincre Microsoft Defender (la suite de sécurité par défaut pour un milliard ou deux machines Windows) jusqu’à 8% du temps.
Dark Reading (via Tom’s Hardware) rapporte qu’un chercheur en sécurité présentera le système à la conférence Black Hat Security à Las Vegas le mois prochain. (Black Hat Briefings est ostensiblement légitime, pas réellement criminel, bien que Wikipedia rapporte que la présence de pirates authentiques a abouti à des «bouffonneries».) Kyle Avery de Overflank présenterait un modèle de langage léger conçu spécifiquement pour échapper à Microsoft Defender, la sécurité intégrée gratuite pour Windows 10 et Windows 11.
Huit pour cent peuvent ne pas sembler alarmants, et ce n’est pas comme si ce serait la première fois que le défenseur était vaincu. Mais ce serait un énorme bond en avant dans la capacité de base des logiciels malveillants alimentés par l’IA, un ordre de grandeur de manière plus fiable que les logiciels malveillants que vous pouvez «vibrer le code» avec les modèles actuels. Mais élargissez cela à 1,4 milliard de machines Windows actives dans le monde et alimentez-la par l’échelle que le logiciel d’automatisation alimenté par AI pourrait permettre, et cela devient soudainement beaucoup plus sérieux. Disons que ce système encore à déterminer a été déployé à une échelle suffisamment grande pour accéder un sur 10 de ces machines. C’est un public de 140 millions, ce qui a entraîné plus de 11 millions de PC compromis.
Le système est construit sur un modèle de langue open source et formé sur des données pour 1 500 $ sur trois mois, selon son concepteur. Si c’est vrai, c’est un temps et de l’argent trivialement faibles pour le résultat. Un kit «Build Your Own Black Hat AI Hacker» pourrait être distribué facilement, de la même manière que les logiciels malveillants en fiche actuels sont passés.
Le fait qu’Avery présentera ses conclusions lors d’une conférence de sécurité signifie que Microsoft devrait avoir un peu de temps pour y contourner, pour identifier et atténuer ses composants les plus menaçants. J’espère que Redmond a assez de gens après ses récents licenciements massifs pour faire attention à Las Vegas.
