On parle souvent d’intelligence artificielle comme d’un accélérateur dans la cybercriminalité. Pourtant, selon une analyse menée par l’équipe Unit 42 de Palo Alto Networks, l’IA accélère le malware surtout sur un point : la vitesse de production et de variation. Dans la pratique, ces mêmes échantillons finissent dans leur immense majorité par échouer avant d’atteindre des cibles réelles.
Pour arriver à ce constat, les chercheurs ont travaillé sur un corpus précis : 405 échantillons de malwares ayant un lien explicite, direct ou indirect, avec l’IA. Certains étaient associés à des codes “assistés” par des modèles de langage, d’autres n’exploitaient l’image de l’IA que comme habillage. L’objectif de l’étude était de mesurer ce qui se passe réellement lorsqu’un code suspect tente de sortir du laboratoire.
405 échantillons liés à l’IA : où s’arrêtent-ils ?
Le cœur de l’étude repose sur un constat marquant : environ 97 % des échantillons n’ont jamais quitté un environnement contrôlé. Ils sont restés dans un bac à sable, dans un dépôt de recherche ou au stade de tests internes.
Unit 42 a croisé plusieurs sources pour confirmer le trajet des fichiers. Les chercheurs ont notamment mis en relation les empreintes (hashes) des 405 échantillons avec : la télémétrie d’endpoint, les sessions réseau acheminées pour une analyse en sandbox et les alertes internes générées lorsqu’un échantillon s’exécutait réellement.
Au final, seulement 12 hashes apparaissent sur des systèmes “vivants” (endpoints protégés). Une seconde catégorie, plus large, est observée dans le trafic lié à des sandbox réseau : entre 15 et 20 empreintes ressortent à ce stade. Autrement dit, même si certains échantillons passent le “premier contact” des environnements d’analyse, la capacité à atteindre la production et à déclencher une exécution réelle demeure limitée.
Enfin, détail important pour la défense : chacun des 12 échantillons détectés sur des endpoints protégés a déclenché une alerte de sécurité. Cela suggère que, lorsque les échantillons s’exécutent, les mécanismes de détection existants peuvent souvent les repérer.
Trois profils d’échantillons qui échouent avant la vraie cible
Les échantillons qui n’atteignent pas la production se répartissent en trois grands groupes. Cette segmentation aide à comprendre le rôle réel de l’IA dans la chaîne d’attaque.
1) Des preuves de concept destinées à démontrer une technique
Le groupe le plus important correspond à du code de démonstration (proof-of-concept). Les éléments observés étaient conçus pour ne viser que des réseaux locaux ou privés. En plus, ils contenaient des traces de développement typiques : sortie de débogage et comportements peu “propres” du point de vue d’un attaquant cherchant une exploitation discrète.
Plusieurs de ces échantillons auraient été déposés une seule fois par un laboratoire ou une université, ce qui renforce l’idée d’un travail de validation plutôt que d’une campagne opérationnelle.
2) Des tests défensifs contre des menaces déjà connues
Un deuxième ensemble provient d’organisations qui testent leurs propres mécanismes de protection contre des malwares documentés. Les chercheurs repèrent un comportement caractéristique : des téléchargements répétés du même fichier depuis une source identique sur une courte fenêtre temporelle.
Dans ce cas, l’“étiquette” IA ne correspond pas nécessairement à une capacité offensive nouvelle, mais à un contexte d’analyse et d’évaluation des défenses.
3) Un branding IA utilisé comme appât
Le troisième profil exploite l’image de produits liés à l’IA. Les fichiers se présentent comme des installateurs pour des applications connues de l’écosystème IA, mais sans véritable fonction IA derrière. En d’autres termes, l’IA sert d’argument marketing pour attirer des victimes vers un payload ordinaire.
Cette stratégie n’a rien de nouveau dans le principe : des campagnes malveillantes utilisent depuis longtemps des noms et des thèmes familiers. La différence ici tient au choix du “récit” : l’IA comme décor pour masquer une charge utile standard.
Les rares échantillons qui atteignent des endpoints
Par contraste, les 12 échantillons qui parviennent à s’exécuter sur des endpoints protégés couvrent cinq familles de malwares. Ils proviennent également de trois pays, sans concentration sur un secteur précis ni sur une zone géographique dominante.
Autrement dit, la capacité à “passer” jusqu’aux systèmes réels ne semble pas dépendre d’un public particulier. C’est plutôt un mélange de disponibilité des charges, de conditions d’exécution et de réussite dans la chaîne de livraison.
Focus : FunkSec, un ransomware associé à l’assistance par IA
La famille la plus fréquente dans l’échantillon “en production” est FunkSec, un ransomware. Plusieurs chercheurs l’ont déjà relié à une possible assistance par des modèles de langage.
Un élément notable ressort des noms de fichiers de projet inclus dans les échantillons analysés : on observe un cycle rapide de dénominations pour un même ransomware. Unit 42 interprète ce rythme comme plus compatible avec une génération inspirée par des instructions (prompt-driven) qu’avec un cycle de développement traditionnel, généralement plus long.
Ce point illustre précisément l’idée centrale de l’étude : l’IA peut accélérer la production et la variation de composants malveillants, même si cela ne garantit pas une réussite systématique en environnement réel.
Recipe Lister : l’app “de recettes” qui installe un accès dérobé
Le cas le plus rencontré est un installateur se faisant passer pour une application de type “trouver des recettes”, baptisée Recipe Lister. L’échantillon porte une signature numérique et, une fois installé, déclenche discrètement un backdoor.
Selon les données rapportées, le fichier a circulé auprès de plus de 50 organisations. Il a généré environ 6 500 enregistrements sur endpoints et environ 9 600 alertes.
La signature semblait d’abord échapper à la suspicion. Cependant, une combinaison d’indices a finalement conduit à la détection : un signataire “inhabituel” et un contenu de fichier fortement packé (chargé dans un format compressé ou chiffré).
Oyster : un installateur qui imite Dropbox
Une autre famille observée est un backdoor baptisé Oyster. Dans ce scénario, l’outil se présente comme un installateur “Dropbox”. La signature numérique mentionne Dropbox comme éditeur.
Unit 42 souligne que les attaquants semblent de plus en plus recourir à des outils basés sur l’IA pour produire rapidement du code de livraison. L’enjeu serait de réduire coûts et délais pour établir un premier point d’entrée.
Sur le plan défensif, ce mécanisme met en avant un levier classique : la confiance dans la signature n’est pas suffisante si le contenu, la structure et le comportement de l’exécutable sont anormaux.
Autres cas : Rhadamanthys et la technique COM hijacking
Un exécutable Windows délivre aussi Rhadamanthys, un voleur d’informations avec communication active “command-and-control”. Cette séquence avait été associée, dans un reporting antérieur, à une chaîne d’infection facilitée par l’IA.
Enfin, un cinquième échantillon imite un composant du produit chinois 360 Total Security. Il recourt à une technique de persistance connue : COM hijacking (détournement de COM). Unit 42 l’a inclus dans l’analyse car il circulait dans des campagnes fournies avec des “leurres” portant un branding lié à l’IA, même si, dans ce cas, le comportement du fichier ne dépendait pas d’une fonctionnalité IA en tant que telle.
Des méthodes de défense déjà efficaces
Un message important de l’étude concerne l’arsenal de détection. Unit 42 indique que les défenses existantes ont intercepté tous les échantillons utilisant les mêmes méthodes que celles qui repèrent habituellement des malwares plus classiques.
Parmi les approches citées : la détonation en sandbox, la détection basée sur le comportement, l’observation d’anomalies dans les signatures numériques et le suivi de l’intensité du packing ou du chiffrement des fichiers.
Le point le plus rassurant est le suivant : aucun échantillon “lié à l’IA” n’a nécessité une nouvelle méthode dédiée pour être identifié et bloqué. Autrement dit, l’IA ne semble pas (encore) imposer à elle seule des contre-mesures entièrement nouvelles. Elle change davantage la vitesse de production et la forme des livrables que le socle de ce que les défenses doivent surveiller.
Ce que l’étude apprend sur le rôle actuel de l’IA dans les attaques
Au-delà des cas particuliers, l’étude suggère une conclusion claire : aujourd’hui, l’IA accélère le malware dans la manière dont les acteurs peuvent construire, modifier et distribuer des outils plus vite. Toutefois, cela ne signifie pas que les malwares deviennent automatiquement plus difficiles à détecter.
La majorité des échantillons reste bloquée avant d’atteindre la production. Les rares cas qui s’exécutent réellement déclenchent des alertes et sont repérés par des mécanismes déjà en place. Pour les équipes sécurité, la priorité reste donc de maintenir une hygiène de détection solide : sandboxing, contrôle comportemental, analyse de signatures et inspection des artefacts packés ou chiffrés.
En pratique, l’enseignement le plus utile est peut-être de ne pas “surinterpréter” la mention IA. Le branding ou l’assistance potentielle par des modèles de langage peut accélérer la création et la variété, mais les signaux de risque observables—exécution, anomalies et persistance—demeurent des piliers de la défense.
Conclusion
L’analyse de Unit 42 apporte un éclairage nuancé : l’IA accélère le malware, surtout en amont, en rendant la production et la variation plus rapides. Mais dans l’environnement réel, la plupart des échantillons n’atteignent jamais une cible. Et lorsqu’ils y parviennent, les défenses existantes détectent et bloquent—sans exiger de méthodes entièrement nouvelles.
Pour avancer, les organisations gagnent donc à continuer d’investir dans les contrôles de base, tout en surveillant l’évolution des leurres et des techniques de livraison. C’est souvent là que l’IA change le plus concrètement la donne.
Source: https://www.securityweek.com/ai-speeds-up-malware-development-not-its-success-rate-analysis/
