Risque ransomware amplifié par l'IA en entreprise : comment le maîtriser

Selon une étude récente, Microsoft analyse environ 38 millions de détections de risques liés aux identités chaque jour, soulignant l’ampleur des attaques ciblant les identités numériques. L’intelligence artificielle générative (IA générative) s’intègre rapidement dans les opérations quotidiennes des entreprises, promettant des gains de productivité significatifs. Cependant, cette adoption expose également à un risque ransomware amplifié par l’IA, car les assistants et agents IA héritent des permissions et identités compromises. Cet article explore comment l’IA peut accélérer les attaques par ransomware et propose des mesures concrètes pour sécuriser son déploiement.

Comment l’IA générative amplifie le risque de ransomware en entreprise

L’IA générative ne crée pas une menace de ransomware entièrement nouvelle. Elle amplifie plutôt les techniques que les attaquants utilisent déjà, notamment lors de la reconnaissance, de l’abus d’identités et du vol de données. Comprendre où l’IA modifie la surface d’attaque devient un élément essentiel de la cyber-résilience d’entreprise.

Deux modèles de menace à connaître

Les discussions sur l’IA et les ransomwares combinent souvent deux modèles de menace distincts :

1. Les attaquants utilisant l’IA pour améliorer leurs opérations : Les groupes criminels s’appuient de plus en plus sur l’IA pour générer des e-mails de phishing, écrire du code malveillant, automatiser la reconnaissance, analyser les informations volées et rationaliser l’extorsion. L’IA permet aux attaquants de travailler plus rapidement et à plus grande échelle, sans modifier fondamentalement le déroulement des campagnes de ransomware.

2. Les organisations déployant l’IA en entreprise : Les assistants et agents IA sont de plus en plus connectés à des référentiels de documents, des plateformes de collaboration, des applications SaaS et des bases de connaissances internes. Si les attaquants compromettent les identités ou les permissions associées à ces systèmes, l’IA peut accélérer leur capacité à localiser des informations sensibles, naviguer dans les systèmes connectés et abuser des accès légitimes.

Ces deux tendances se produisent simultanément. Alors que les attaquants deviennent plus efficaces grâce à l’IA, les organisations doivent s’assurer que leurs propres déploiements d’IA n’étendent pas involontairement la surface d’attaque.

Où l’IA en entreprise crée de nouvelles expositions

Toutes les applications d’IA ne présentent pas le même niveau de risque. Les assistants IA récupèrent principalement des informations ou génèrent du contenu en réponse à des invites. Les agents IA vont plus loin en interagissant avec les applications métier, en invoquant des API et en effectuant des actions au nom de l’utilisateur.

Plus une application a d’autonomie et de permissions, plus l’impact potentiel est important si son identité associée est compromise.

Le véritable problème est l’autorité déléguée. Les campagnes de ransomware modernes commencent généralement par l’exploitation de vulnérabilités, la compromission d’identifiants ou l’abus d’accès tiers de confiance. Les attaquants effectuent ensuite la découverte, escaladent les privilèges, identifient les données de valeur et exfiltrent les informations avant de décider s’ils doivent chiffrer les systèmes, extorquer les victimes, ou les deux.

Comment la compromission d’identité transforme l’IA en accélérateur d’attaque

Les assistants et agents IA héritent des identités et des permissions déléguées sous lesquelles ils opèrent. Lorsque les attaquants compromettent ces identités, ils peuvent également obtenir l’accès aux services IA, aux données d’entreprise et aux applications connectées disponibles via les mêmes permissions.

Un assistant IA connecté à la connaissance d’entreprise peut réduire considérablement l’effort nécessaire pour localiser des informations sensibles. Plutôt que de chercher manuellement dans des centaines de dossiers, un attaquant disposant d’identifiants légitimes pourrait demander à un assistant IA d’identifier la documentation de sauvegarde, les procédures administratives, les informations clients ou les dossiers financiers.

De même, si un agent IA a la permission d’envoyer des e-mails, d’exporter des fichiers ou d’invoquer des outils métier connectés, les attaquants qui compromettent son identité pourraient potentiellement abuser de ces capacités pour accélérer le vol de données ou des actions non autorisées. Le risque sous-jacent est l’accès excessif, plutôt que l’IA elle-même.

L’injection de prompts : une vulnérabilité spécifique

L’injection de prompts est une vulnérabilité spécifique à la couche application de l’IA, mais elle ne constitue qu’une partie du risque plus large créé par des permissions excessives, des intégrations non sécurisées et une supervision insuffisante. Des instructions malveillantes intégrées dans des documents, des e-mails ou du contenu web peuvent influencer le comportement de l’IA lorsqu’elles sont récupérées par des applications d’entreprise.

L’impact dépend en grande partie des permissions accordées au système d’IA, c’est pourquoi les recommandations de sécurité d’organisations comme l’OWASP mettent l’accent sur des contrôles en couches, le moindre privilège et l’approbation humaine pour les actions à haut risque, plutôt que de se fier uniquement au filtrage des prompts.

L’IA rend déjà la cybercriminalité plus efficace

Les preuves montrent que l’IA rend la cybercriminalité existante plus rapide, sans changer fondamentalement le fonctionnement des attaques. Le rapport Acronis Cyberthreats H2 2025 documente plusieurs exemples d’IA soutenant différentes étapes des opérations cyber :

• Le groupe de menace GTG-2002 a utilisé l’IA pour générer et déboguer des scripts, aider à la récolte d’identifiants, analyser les informations volées et personnaliser les communications d’extorsion, permettant à des équipes d’attaque relativement petites de passer à l’échelle.
• L’opération de ransomware GLOBAL GROUP a introduit un chatbot IA pour automatiser les négociations de rançon après la compromission. Bien que le chatbot n’ait pas modifié la chaîne d’infection du ransomware, il a permis aux opérateurs de gérer plus de victimes simultanément tout en réservant les négociateurs humains pour les cas complexes.
• Des chercheurs d’Anthropic ont documenté un groupe parrainé par l’État chinois utilisant l’IA agentique pour exécuter une grande partie d’une campagne de cyberespionnage, y compris la reconnaissance, la recherche de vulnérabilités, la récolte d’identifiants et la collecte de données.

Parallèlement, les opérateurs de ransomware-as-a-service font de plus en plus la publicité de l’automatisation assistée par l’IA pour le contournement de la défense et l’efficacité opérationnelle. Ces publicités indiquent comment les opérateurs de ransomware positionnent l’IA et où ils s’attendent à ce qu’elle apporte des gains d’efficacité, bien que les affirmations de capacités individuelles puissent ne pas être vérifiées de manière indépendante.

L’IA fonctionne principalement comme un multiplicateur de force opérationnelle, plutôt que de créer des techniques d’attaque entièrement nouvelles.

Six contrôles pour réduire l’exposition au ransomware amplifié par l’IA

Les organisations n’ont pas besoin de remplacer leur stratégie de sécurité existante pour l’IA en entreprise. Cependant, elles doivent l’étendre avec une gouvernance, des contrôles d’accès et une surveillance spécifiques à l’IA. Voici six mesures recommandées par les experts en sécurité :

1. Maintenir un inventaire des applications IA

Établir un inventaire complet des applications, modèles et intégrations IA approuvés et non autorisés. Chaque workflow IA doit avoir un propriétaire défini, un objectif métier et une classification de risque appropriée. Cela permet de détecter l’utilisation d’IA fantôme (shadow AI) et de réduire les risques liés aux outils non approuvés.

2. Appliquer le principe du moindre privilège

Accorder un accès minimal aux utilisateurs, applications IA, comptes de service et API. Cela implique de :

• Réviser régulièrement les permissions déléguées
• Révoquer les identifiants inutilisés
• Limiter l’accès de l’IA aux seuls systèmes et informations nécessaires à chaque tâche
• Utiliser des contrôles d’accès basés sur les rôles (RBAC) pour les agents IA

3. Contrôler le trafic et les mouvements de données liés à l’IA

Utiliser des passerelles web sécurisées, des CASB (Cloud Access Security Broker) et des capacités de DLP (Data Loss Prevention) pour :

• Découvrir les services IA utilisés
• Restreindre l’accès aux outils non autorisés
• Empêcher le téléchargement ou le transfert d’informations sensibles
• Surveiller les interactions entre les applications IA et les données d’entreprise

4. Surveiller et auditer l’activité IA

Corréler l’utilisation des applications IA, les événements d’identité, les accès aux données, les exportations et les actions des agents avec la télémétrie des endpoints, SaaS et cloud dans les systèmes SIEM ou XDR. Maintenir des pistes d’audit montrant quel utilisateur ou compte de service a initié une action, quelles ressources ont été consultées et si une approbation était requise.

5. Se préparer au confinement et à la récupération

Les équipes de sécurité doivent être en mesure de :

• Révoquer les jetons compromis
• Désactiver les intégrations affectées
• Suspendre les workflows IA en cas de détection d’activité malveillante
• Maintenir des sauvegardes immuables et des procédures de récupération testées

Les sauvegardes immuables et les procédures de récupération testées restent essentielles pour restaurer les opérations après des attaques destructrices, bien qu’elles ne puissent pas inverser le vol de données ou éliminer le risque d’extorsion.

6. Mettre en œuvre une autorisation humaine pour les actions à haut risque

Exiger une approbation humaine ou basée sur des politiques pour les actions à haut risque, telles que :

• Exportations en masse de données
• Modifications administratives
• Communications externes
• Exécution de code

L’OWASP recommande explicitement le moindre privilège et l’approbation humaine pour les opérations privilégiées.

Tableau comparatif : Risques et contrôles pour l’IA en entreprise

Mise en œuvre : Étapes actionnables pour sécuriser l’IA en entreprise

1. Évaluer les risques existants : Réaliser un audit des applications IA déployées, de leurs permissions et de leurs intégrations avec les systèmes d’entreprise.

2. Mettre en place une gouvernance IA : Définir des politiques claires pour l’utilisation de l’IA, incluant la classification des données, les contrôles d’accès et les procédures d’approbation.

3. Former les équipes : Sensibiliser les utilisateurs aux risques liés à l’IA, notamment l’injection de prompts et les fuites de données involontaires.

4. Déployer des outils de surveillance : Utiliser des solutions de sécurité capables de détecter les anomalies dans les interactions IA, les accès non autorisés et les mouvements de données suspects.

5. Tester les procédures de réponse : Simuler des scénarios d’attaque impliquant l’IA pour valider les capacités de détection, de confinement et de récupération.

6. Réviser et améliorer continuellement : Mettre à jour régulièrement les politiques et les contrôles en fonction de l’évolution des menaces et des déploiements d’IA.

Conclusion : Intégrer l’IA dans la stratégie de cyber-résilience

L’IA en entreprise continuera de se développer car les avantages métier sont clairs. Le défi est de garantir que les gains de productivité ne se fassent pas au détriment de la sécurité. L’approche la plus efficace consiste à intégrer l’IA dans les stratégies existantes de gestion des identités, de protection des données et de réponse aux incidents, plutôt que de la traiter comme un domaine de sécurité distinct.

En adoptant une gouvernance solide, des contrôles d’accès stricts et une surveillance continue, les organisations peuvent réduire le risque de ransomware amplifié par l’IA tout en bénéficiant des avantages de productivité de l’IA. La clé est de ne pas laisser l’IA devenir un accélérateur d’attaque, mais de la maîtriser comme un outil sécurisé au service de l’entreprise.