Le codage des ambiances fait fureur parmi les amateurs qui utilisent des modèles de grande langue (ou «IA») pour remplacer le développement de logiciels conventionnels, il n’est donc pas choquant que le codage d’ambiance ait également été utilisé pour alimenter les ransomwares. Selon une firme de recherche sur la sécurité, ils ont repéré le premier exemple de ransomware alimenté et activé par un LLM, en particulier, un LLM de Chatgpt Maker Openai.
Selon un article de blog du chercheur ESET Research, Anton Cherepanov, ils ont détecté une partie de logiciels malveillants «créé par le modèle Openai GPT-ASS: 20B». Promptlock, un package de ransomwares assez standard, comprend des invites intégrées envoyées au LLM stocké localement. En raison de la nature des sorties LLM (qui créent des résultats uniques et non répétés à chaque invite), il peut échapper à la détection à partir de configurations antivirus standardisées, qui sont conçues pour rechercher des drapeaux spécifiques.
ESET élabore dans un poteau de mastodon, repéré par le matériel de Tom. Promptlock utilise les scripts LUA pour inspecter des fichiers sur un système local, les crypter et envoyer des données sensibles à un ordinateur distant. Il semble rechercher des informations Bitcoin spécifiquement, et grâce à la nature large ouverte du modèle OpenAI et de l’API Olllama, il peut fonctionner sur Windows, Mac et Linux. Parce que GPT-ASS: 20B est un modèle d’IA open-source léger qui peut fonctionner sur le matériel PC local, il n’a pas besoin de rappeler des systèmes plus élaborés comme Chatgpt – et en conséquence, il ne peut pas être carrément bloqué par Openai lui-même.
Il est écrit à Golang en utilisant des scripts LUA, des outils qui seraient familiers à tous ceux qui font des jeux, disons, Roblox. Le point étant qu’il est possible que Promptlock ait été créé par une personne ayant peu ou pas d’expérience dans la programmation conventionnelle. Bien que la sortie soit variable, les invites elles-mêmes sont statiques, donc Cherepanov dit que «l’implémentation actuelle ne constitue pas une menace sérieuse» malgré sa nouveauté.
« Les enfants de script sont désormais des enfants rapides », a déclaré un utilisateur de Mastodon en réponse.
