La montée de la fraude agentique: Comment les agents IA transforment la sécurité

Vos utilisateurs ne visitent plus toujours votre site web eux-mêmes. De plus en plus, ils envoient maintenant des agents IA pour agir en leur nom. ChatGPT, Claude et d’autres systèmes agentiques peuvent désormais enregistrer des comptes, se connecter, effectuer des achats, gérer des profils et exécuter des transactions sans supervision humaine directe. 

Mais avec ce changement vient une nouvelle menace, et pas des moindres : la fraude agentique.

Selon Forrester, le trafic agentique est devenu une catégorie distincte qui nécessite des contrôles spécialisés, les incitant à renommer la gestion des bots en gestion de la confiance des bots et des agents. Selon les recherches de McKinsey, d’ici 2030, le commerce agentique pourrait générer jusqu’à 1 000 milliards de dollars de revenus de détail B2C aux États-Unis, et 3 à 5 000 milliards de dollars à l’échelle mondiale.

Le défi pour les équipes de sécurité est de plus en plus complexe : comment distinguer le trafic légitime et utile des agents IA de la fraude agentique malveillante ? 

L’élargissement de la surface d’attaque de la fraude par agent

La fraude agentique désigne les comportements frauduleux ou abusifs rendus possibles, amplifiés ou mis en œuvre par des systèmes d’IA à l’échelle de la machine.

Bien que certains des schémas d’attaque sous-jacents — abus d’identifiants, détournement de session, account takeovers — ne soient pas nouveaux, l’IA agentique accélère ces menaces familières de manière spectaculaire, compressant ce qui prenait autrefois des heures d’effort humain en secondes d’exécution automatisée. 

Contrairement aux bots conventionnels qui reposent sur des stratégies prédéfinies, les agents IA exploitent l’adaptabilité et les capacités de raisonnement des grands modèles de langage (LLM) pour exécuter des attaques sophistiquées qui imitent de près le comportement des utilisateurs légitimes.

6 nouvelles surfaces d’attaque liées aux agents

Les agents IA ont créé des schémas de fraude entièrement nouveaux que la sécurité traditionnelle ne peut pas détecter. Voici les vecteurs d’attaque spécifiques que les équipes de sécurité rencontrent et pour lesquels elles doivent se préparer : 

1. Connexion par IA déléguée

Un utilisateur autorise un assistant IA à gérer ses abonnements et à se connecter en utilisant des identifiants approuvés. Mais les attaquants peuvent imiter ce schéma exact grâce à une IA agentique qui prétend être une automatisation approuvée par l’utilisateur.

Le risque : une mauvaise utilisation des identifiants déguisée en activité légitime d’agent. La détection traditionnelle ne peut pas distinguer l’accès autorisé de l’accès non autorisé des agents sans analyse d’intention en temps réel.

2. Manipulation de session assistée par IA

Une fois authentifié, un agent IA peut commencer à opérer au sein d’une session utilisateur, en mettant à jour les préférences, en modifiant les paramètres ou en naviguant dans l’application. Cela crée un angle mort où le détournement de session en cours devient presque impossible à détecter.

Le risque : la ligne entre l’activité légitime de l’agent et la prise de contrôle de session s’estompe dangereusement. Une session ChatGPT ou Gemini vérifiée et contrôlée par un fraudeur passe les contrôles d’authentification tout en exécutant des transactions malveillantes.

3. Gestion autonome des comptes

Les agents IA peuvent mettre à jour les méthodes de paiement, modifier les données de profil ou changer les paramètres de sécurité de manière autonome. Ces comportements peuvent sembler légitimes d’un point de vue technique, mais pourraient représenter une manipulation de compte non autorisée ou une exfiltration de données.

Le risque : l’agent dispose des identifiants et de l’autorisation appropriés, mais l’objectif sous-jacent est frauduleux.

4. Abus de logique métier 

Le scraping de catalogues et la surveillance des prix existaient avant les agents IA. Ce qui change, c’est l’efficacité : les agents peuvent rassembler l’ensemble de votre catalogue de produits, votre stratégie de tarification et vos niveaux de stock en quelques minutes. Au-delà de la collecte de données, les agents peuvent sonder systématiquement les faiblesses des politiques — pensez à l’énumération massive de codes de réduction, à l’exploitation des points de fidélité ou à la fraude de retour automatisée à grande échelle.

Le risque: tester des codes promo et identifier les failles des politiques de retour n’est pas nouveau, mais les agents sondent plus systématiquement et exécutent l’exploitation plus rapidement que les fraudeurs humains ne pourraient jamais le faire.

5. Empoisonnement des identifiants d’agent

Les attaquants ne se contentent pas de détourner des comptes utilisateurs, ils compromettent la relation de confiance entre les utilisateurs et leurs agents IA. En volant des jetons OAuth, des clés API ou des identifiants de session qui connectent les utilisateurs à leurs agents, les acteurs malveillants peuvent contrôler des agents légitimes sans toucher aux identifiants principaux de l’utilisateur.

Le risque : l’agent lui-même reste vérifié et passe tous les contrôles d’authentification. Mais lorsque la connexion est compromise, l’agent exécute les commandes de l’attaquant tout en semblant agir au nom de l’utilisateur. La détection basée sur l’identité seule ne peut pas détecter cela car les identifiants de l’agent restent valides ; seule l’analyse comportementale et l’analyse d’intention peuvent identifier la compromission.

6. Pivotement d’agent multi-plateforme

Les agents IA nécessitent souvent l’accès à plusieurs plateformes et services pour accomplir des tâches. Un agent réservant un voyage pourrait avoir besoin d’accéder à des e-mails, des calendriers, des systèmes de paiement et des comptes de fidélité. Si une connexion est compromise, les attaquants peuvent pivoter à travers l’accès autorisé de l’agent pour compromettre des comptes et services supplémentaires.

Le risque : une seule connexion d’agent compromise devient un vecteur de mouvement latéral à travers l’ensemble de votre écosystème numérique. 

L’impact commercial de la fraude agentique

Risques liés à la fraude et aux revenus

Une application insuffisante des mesures de sécurité ouvre la voie à l’usurpation d’identifiants, au détournement de session et à la fraude à la transaction à une échelle sans précédent. Les campagnes de fraude par agent peuvent fonctionner 24 heures sur 24, 7 jours sur 7, avec une sophistication digne de l’esprit humain et une rapidité digne d’une machine.

Risques de conformité et de responsabilité

Sans classification claire des agents et cadres politiques, les organisations font face à une incertitude croissante autour de la responsabilité. Si un agent IA effectue de manière autonome un achat que l’utilisateur final conteste, qui est financièrement responsable ? La plateforme marchande qui l’a traité ? L’entreprise qui a construit l’agent ? Ou l’utilisateur qui l’a déployé ? 

Alors que des réglementations comme le règlement européen sur l’IA établissent des exigences pour les systèmes IA autonomes, la capacité de vérifier, d’auditer et d’attribuer les actions agentiques passe d’une bonne pratique de sécurité à une obligation de conformité.

Risques pour l’expérience utilisateur

Un blocage trop agressif frustre les utilisateurs légitimes qui comptent sur les agents IA pour la commodité, la productivité et l’accessibilité. Une mauvaise classification et confiance des agents nuit à votre marque et crée des frictions. 

Désavantages concurrentiels

70% des consommateurs ont utilisé l’IA pour faire des achats au cours des 12 derniers mois. Alors que le commerce agentique — les activités commerciales exécutées ou assistées par des agents IA — devient courant, les organisations qui ne peuvent pas faciliter en toute sécurité les interactions légitimes des agents perdront des affaires au profit de celles qui le peuvent.

Défendre contre la fraude agentique : Le cadre de confiance des agents

La confiance des agents est un processus et un outil émergents pour évaluer et assurer la fiabilité des agents IA en mettant en œuvre plusieurs couches de protection : 

1. Identité : s’agit-il d’un agent reconnaissable avec des identifiants établis ?
2. Intention : quel est le but sous-jacent de cette action ?
3. Comportement : les actions observables s’alignent-elles avec les schémas attendus ?
4. Autorisation : cet agent est-il autorisé à effectuer cette action spécifique ?
5. Surveillance continue de la session : pouvons-nous valider la légitimité des actions de cet agent tout au long du parcours utilisateur ? 

Exemple réel : un agent ChatGPT vérifié se connecte à 47 comptes de détail différents en 90 secondes, mettant à jour les méthodes de paiement et initiant des achats à chaque fois. La sécurité traditionnelle voit des identifiants valides et un agent reconnu. La détection basée sur l’intention voit des schémas de comportement humain impossibles exécutés via une connexion d’agent compromise et prend la décision de le bloquer en temps réel.

Du blocage binaire à la confiance contextuelle

Ce cadre déplace la sécurité des comptes des décisions binaires autoriser/bloquer vers des évaluations de confiance contextuelles. Il permet aux organisations de :

• classer le trafic agentique séparément du trafic humain et des bots traditionnels ;
• analyser l’intention comportementale à travers le contexte tel que la fréquence de connexion, la cohérence des appareils, les schémas de session et les séquences d’actions ;
• appliquer des résultats basés sur des politiques en fonction de la logique métier plutôt que des règles universelles.

Se préparer pour l’avenir agentique

L’IA agentique n’est pas une possibilité lointaine ; elle s’accélère rapidement, et le volume de trafic agentique ne fera qu’augmenter. Les organisations qui s’adaptent tôt gagneront un avantage concurrentiel à l’ère du commerce agentique. Mais cela nécessite une visibilité en temps réel sur le comportement des agents, une analyse d’intention qui va au-delà des identifiants, et une protection qui n’ajoute pas de friction. 

DataDome fournit visibilité et contrôle de tout le trafic agentique, distinguant entre les agents agissant au nom de vos utilisateurs et de votre entreprise, et ceux exécutant des fraudes agentiques. DataDome détecte et bloque les agents malveillants en temps réel, sans perturber les utilisateurs légitimes ou ralentir les transactions légitimes.

Réservez une démo pour découvrir comment la solution de gestion de la confiance des agents de DataDome protège votre entreprise contre la fraude agentique.