Les assistants IA par e-mail sont devenus un élément familier pour de nombreux utilisateurs : ils aident à rédiger, à reformuler ou à retrouver rapidement des informations. Mais lorsque la messagerie d’une personne est compromise, ces fonctions peuvent se retourner contre l’entreprise. Dans un scénario étudié en laboratoire, des chercheurs montrent comment un attaquant peut exploiter le chatbot attaché au compte pour planifier, dissimuler et exécuter des actions conduisant à une prise de contrôle à haut niveau.
L’idée centrale est simple : une fois l’accès au compte obtenu, l’attaquant ne démarre pas de zéro. Il hérite d’un accès « légitime » à l’assistant IA déjà configuré, ainsi qu’à une interface et à un historique de communications qui rendent ses manœuvres plus convaincantes.
Pourquoi un compte compromis change tout
Dans la plupart des environnements de messagerie, l’utilisateur bénéficie d’un assistant IA connecté à son compte. Tant que le compte reste intact, l’assistant sert au quotidien. En revanche, si un attaquant réussit à compromettre l’adresse, l’assistant devient une passerelle supplémentaire.
Les chercheurs insistent sur un point : prendre le contrôle d’un compte e-mail est l’étape la plus difficile. Pourtant, cela n’a pas freiné les acteurs malveillants dans la réalité. Une fois l’accès obtenu, l’attaquant dispose immédiatement d’outils intégrés à la messagerie, ce qui réduit le travail nécessaire pour préparer une attaque plus large.
Un risque de « Living off the Land » appliqué à l’IA
Le scénario s’inscrit dans une logique proche du Living off the Land : au lieu d’utiliser des outils externes suspects, l’attaquant peut s’appuyer sur ce qui existe déjà dans le système compromis. Les assistants IA par e-mail offrent alors une approche adaptable, capable de soutenir plusieurs phases d’une campagne.
Dans le laboratoire, l’objectif n’était pas de « deviner » des actions. Il s’agissait de démontrer qu’un chatbot peut contribuer à la discrétion, à l’enquête et à la rédaction de messages exploitables.
Étape 1 : instaurer la discrétion dans les traces
Quand un acteur malveillant utilise un assistant IA, il existe généralement des traces : dans les journaux, ou dans le traitement des messages. Les chercheurs expliquent que, pour réussir, il faut d’abord rendre l’activité moins visible.
La première action test consistait à utiliser l’IA pour créer une règle de boîte de réception. Le but : déplacer automatiquement des e-mails « contenant un indicateur » vers un dossier où ils seraient moins facilement repérés. Concrètement, l’assistant a été amené à formuler une règle du type « créer une règle qui déplace les messages dont l’objet contient “sign-in” vers les éléments supprimés ». Cette mécanique vise à réduire la probabilité de détection.
Étape 2 : reconnaissance par conversation et contexte
Une fois la discrétion amorcée, l’attaque passe à la reconnaissance. Ici, l’assistant IA joue un rôle d’interface conversationnelle pour obtenir des informations adaptées à l’organisation.
Les chercheurs ont demandé à l’IA de rappeler la structure de l’entreprise et de guider sur les conversations importantes ou sensibles en cours. À partir des réponses, un attaquant peut identifier des relations entre l’utilisateur compromis et la cible (par exemple, l’exécutif visé), puis trouver des raisons plausibles de contact.
L’intérêt de cette étape tient à la nature des informations : ce ne sont pas des éléments « génériques », mais des éléments qui aident à construire un récit crédible. Cela réduit la dépendance à des opérations de reconnaissance classiques (et souvent plus bruyantes).
Étape 3 : phishing interne plus crédible
Ensuite vient la phase de phishing, mais sous un angle plus furtif : au lieu d’envoyer un message depuis une source externe, le scénario utilise le contexte « interne » du compte déjà compromis. L’objectif est de contourner plus facilement les filtres, car l’e-mail provient d’une boîte réelle, et s’appuie sur des éléments déjà cohérents avec l’activité attendue.
Selon la démonstration, l’attaquant a aussi cherché à faire rédiger à l’assistant un message en imitant les patterns d’écriture de l’utilisateur compromis. Résultat attendu : un e-mail qui ressemble à ce que l’équipe finance ou la direction reçoit habituellement.
De la crédibilité à l’escalade de privilèges
Dans la preuve de concept, la cible finale était un compte de niveau direction. Le chemin a été choisi pour éviter une approche directe contre la direction, jugée plus difficile et susceptible de déclencher des alertes rapidement.
Le message préparé dans le scénario faisait référence à un élément opérationnel, par exemple une demande liée à l’approbation budgétaire et l’insertion d’un lien vers une information de facturation. L’idée est que l’utilisateur visé considère le message comme une continuation logique d’une demande en cours.
Une fois le clic effectué, le parcours technique employé a permis d’intercepter une session et d’aboutir à une prise de contrôle. Les chercheurs indiquent que les identifiants et le jeton de session authentifié permettent de contourner la MFA (multi-factor authentication), puisque l’attaquant exploite une session déjà établie plutôt que de la refaire depuis zéro.
Étape 4 : empêcher l’alarme et rebondir depuis le nouveau compte
Après la compromission du compte de la cible, la stratégie ne s’arrête pas : les chercheurs décrivent la nécessité de répéter la logique pour éviter la détection associée au nouvel accès.
Ensuite, l’assistant IA du compte de la direction est de nouveau utilisé. Par exemple, il peut être sollicité pour obtenir un rappel des échanges financiers récents : factures, montants, transferts à venir. Cette étape permet à l’attaquant de repérer une opportunité imminente et d’agir rapidement, avant que des contrôles humains ou automatisés ne s’interposent.
Exploitation financière : messages alignés sur le ton attendu
Le scénario mentionne la découverte d’un paiement préautorisé d’un ordre de grandeur significatif. À partir de là, les assistants IA par e-mail servent à produire une demande de transfert en imitant le ton et les habitudes de communication.
Dans la démonstration, le message transmis à l’équipe finance demandait l’envoi du virement vers un nouveau compte, en avançant un changement de coordonnées bancaires. Ce type de justification est courant dans les fraudes aux virements, mais l’élément nouveau mis en évidence est la capacité de l’IA à adapter le style au destinataire interne, tout en s’appuyant sur un envoi depuis la boîte réelle de la personne.
Les chercheurs soulignent que, dans ce contexte, le message a franchi les contrôles d’authentification, faisait référence à une transaction déjà en cours et correspondait au style habituel. En d’autres termes, il ne restait presque rien à signaler pour des mécanismes de sécurité traditionnels.
Sortir du laboratoire : une démonstration qui pose des questions
Il est important de rappeler que ce travail était une simulation en environnement contrôlé. Les chercheurs ne prétendent pas que l’attaque se déroulera systématiquement telle quelle dans la réalité : beaucoup dépend de la configuration, de la manière dont les journaux sont gérés, du niveau de contrôle autour des comptes, et de la capacité de l’attaquant à exploiter les liens et les sessions.
En revanche, le point à retenir est plus large : si un outil d’IA interne est accessible depuis un compte compromis, son usage détourné peut avoir des conséquences graves. Le plafond de risque ne dépend plus uniquement des capacités techniques de l’attaquant, mais aussi de la manière dont il peut exploiter ces assistants pour rendre les opérations plus indétectables et plus efficaces.
Ce que les entreprises peuvent faire concrètement
La recherche met surtout en lumière un problème de surface d’attaque : un compte e-mail ne représente pas uniquement des messages. Il peut aussi donner accès à des fonctions et à une logique d’assistance intégrée. Pour limiter les dégâts, les organisations peuvent envisager plusieurs axes de renforcement.
- Réduire la confiance implicite accordée aux messages envoyés depuis des comptes compromis : mettre en place des contrôles additionnels lors des demandes sensibles (paiements, changement de coordonnées).
- Surveiller l’activité inhabituelle liée à l’utilisation de l’assistant IA : corréler les requêtes, les horaires, les règles créées et les variations de comportement.
- Renforcer la protection des sessions et des mécanismes d’authentification : travailler sur la résistance aux prises de contrôle de session et aux contournements associés.
- Former et outiller les équipes pour la vérification des demandes de virement : procédures de confirmation hors bande, exigences de validation structurées.
Ces mesures ne suppriment pas le risque, mais elles compliquent fortement l’exploitation d’un assistant IA comme levier de phishing et de fraude.
Conclusion
Les assistants IA par e-mail peuvent améliorer la productivité au quotidien, mais la preuve de concept présentée montre comment ils pourraient être utilisés à des fins malveillantes lorsqu’un compte est compromis. En combinant discrétion, reconnaissance, rédaction contextualisée et exploitation de sessions, un attaquant peut rendre une attaque plus crédible et plus difficile à détecter.
Le message est clair : la sécurité e-mail doit considérer aussi les fonctionnalités d’assistance intégrées. Tant que l’accès au compte donne accès à des outils d’IA, le risque évolue — et la défense doit suivre.
Source: https://www.securityweek.com/weaponized-email-ai-assistants-could-help-attackers-hijack-accounts/
