Pourquoi la détection basée sur l’intention est essentielle à l’ère des agents d’IA

L’IA agentique ouvre une nouvelle ère de possibilités, qui redéfinit notre façon d’interagir en ligne et soulève d’importantes questions en matière de sécurité. Operator d’OpenAI a récemment fait la une avec sa capacité à exécuter des tâches autonomes comme la livraison de repas, la réservation de voyages ou le développement logiciel, tandis que la dernière version de Claude d’Anthropic intègre une fonctionnalité qui permet à l’IA d’utiliser un ordinateur comme le ferait un humain : naviguer sur le web, déplacer un curseur, cliquer sur des boutons et taper du texte. Gartner a identifié l’IA agentique comme la principale tendance technologique de 2025, tandis que McKinsey la considère comme « la prochaine frontière ».

En effet, l’IA agentique a le potentiel de transformer en profondeur notre interaction avec l’intelligence artificielle, en dépassant l’automatisation prédéfinie pour créer des systèmes capables de prendre des décisions sans supervision, d’agir de manière autonome et de s’adapter dynamiquement aux nouvelles informations. Mais quel sera l’impact de ce changement sur les entreprises en ligne, les applications et les services que ces agents d’IA utilisent pour exécuter ces tâches à notre place ?

Qu’est-ce que l’IA agentique ?

L’IA agentique est un ensemble avancé de technologies d’intelligence artificielle qui collaborent pour créer une équipe d’« agents » numériques hautement performants, capables de gérer des tâches complexes. Ces agents peuvent raisonner, prendre des décisions, apprendre de leurs expériences et coopérer pour résoudre des problèmes.

Bien que l’IA agentique et l’IA générative reposent toutes deux sur des grands modèles de langage (LLM), leurs applications diffèrent. L’IA générative fournit des réponses de manière passive en fonction des requêtes, tandis que l’IA agentique utilise les LLM pour analyser le contexte, prendre des décisions stratégiques et exécuter des actions significatives dans des scénarios réels.

L’IA agentique a le potentiel de transformer des industries entières en automatisant des processus complexes. Dans le service client, les agents d’IA peuvent gérer les demandes, détecter la fraude et assister les achats. En logistique, ils peuvent améliorer la gestion des stocks et optimiser les itinéraires de livraison en temps réel. L’industrie manufacturière bénéficiera de la maintenance prédictive pilotée par l’IA et de la gestion intelligente des usines. Dans le secteur des transports, l’IA agentique permettra le développement de véhicules autonomes et de robots de livraison, en ajustant dynamiquement leurs itinéraires en fonction du trafic et des conditions environnementales.

Implications des agents d’IA pour les entreprises en ligne

Le trafic des agents d’IA en est encore à ses débuts, mais il devrait croître rapidement en raison de son potentiel en matière d’expérience client et de génération de revenus. Cependant, à mesure que cette technologie se développe, les entreprises doivent relever un nouveau défi : décrypter l’intention. Le modèle traditionnel de distinction entre le trafic automatisé et humain ne suffit plus.

Les agents d’IA brouillent la frontière : l’intention, qu’elle soit bonne ou mauvaise, peut aussi bien provenir d’agents automatisés que d’utilisateurs humains. Ce changement oblige les entreprises à repenser leur approche, en allant au-delà de la simple détection des bots pour comprendre l’objectif derrière chaque requête. La nouvelle règle ne se limite plus à une opposition entre automatisation et interaction humaine, il s’agit d’identifier si l’intention du trafic est bénéfique ou malveillante.

Cela nécessite des défenses basées sur l’IA pour lutter contre les menaces pilotées par l’IA. Tout comme l’IA agentique introduit une automatisation plus sophistiquée, les entreprises doivent s’appuyer sur une IA avancée capable de détecter, analyser et répondre aux menaces en temps réel. La détection basée sur l’intention – grâce à l’apprentissage automatique et à l’analyse comportementale – permet aux entreprises de faire la distinction entre les agents d’IA effectuant des tâches légitimes, comme la comparaison de prix ou l’assistance aux transactions, et ceux impliqués dans des activités malveillantes, comme le scraping, la fraude ou le credential stuffing.

Cette transition des chatbots vers l’IA agentique rappelle le passage du trafic web basé sur les navigateurs aux applications mobiles il y a quelques années. De la même manière que les entreprises ont dû repenser leur sécurité web lorsque les applications mobiles ont transformé les interactions avec leurs services, elles doivent maintenant s’adapter aux agents d’IA.

Pourquoi les agents d’IA représentent-ils un risque pour la sécurité ?

Pour les entreprises en ligne, l’IA agentique est une arme à double tranchant. D’un côté, permettre aux agents d’IA d’interagir avec vos applications peut être bénéfique (une compagnie aérienne, par exemple, tirera parti d’agents d’IA capables de récupérer facilement les horaires de vol et les tarifs). D’un autre côté, ces agents introduisent également des risques de sécurité majeurs.

Le scraping web peut sembler anodin, mais les plateformes d’IA générative comme ChatGPT posent déjà des problèmes à de nombreux sites en automatisant l’extraction de contenu sans renvoyer de lien ni offrir de bénéfice à la source originale. L’IA agentique pourrait amplifier ce problème en augmentant la demande et la facilité d’exécution du scraping, tout en réduisant le contrôle direct des entreprises sur l’expérience client. Avec l’IA agentique, n’importe qui, peu importe son niveau technique, peut déployer des solutions de scraping capables d’ajuster dynamiquement leur comportement pour contourner les défenses traditionnelles.

Les cybercriminels pourraient également exploiter les outils d’IA agentique pour orchestrer des attaques sophistiquées à grande échelle, des campagnes de désinformation et d’autres activités illicites. Les mêmes agents d’IA conçus pour simplifier et optimiser les processus commerciaux peuvent être détournés pour exécuter des cyberattaques et des fraudes à grande échelle.

Par exemple, le credential stuffing est déjà une menace majeure pour les entreprises en ligne. Les agents d’IA, grâce à leur capacité à exécuter des tâches web comme un humain, pourront tester de manière autonome des millions d’identifiants sur plusieurs sites sans supervision humaine, s’adapter et élaborer des stratégies pour contourner les solutions de sécurité, exploiter les violations de données en temps réel et prioriser leurs cibles. Mais le risque ne s’arrête pas aux account takeovers. De la même manière que les attaquants peuvent détourner des comptes utilisateurs, ils peuvent désormais compromettre des agents d’IA dotés d’une autorité déléguée pour effectuer des achats, gérer des données sensibles ou exécuter des transactions. Cela élargit considérablement le champ d’impact d’une attaque, transformant les agents compromis en outils puissants pour la fraude à grande échelle et les attaques automatisées.

De plus, l’automatisation malveillante pourrait permettre aux attaquants de détourner des agents d’IA pour lancer des campagnes de phishing ou injecter des scripts malveillants dans des sites web. Comme les agents d’IA interagissent avec plusieurs systèmes et plateformes, ils créent une surface d’attaque plus large que les cybercriminels peuvent exploiter.

Bonnes pratiques pour gérer le trafic des agents d’IA

Les mesures de sécurité traditionnelles, comme les CAPTCHA, deviennent de plus en plus inefficaces. Selon une étude de l’ETH Zurich, l’IA est désormais capable de réussir 100 % des CAPTCHA basés sur des images, y compris le très répandu Google reCAPTCHAv2. Cela signifie que les CAPTCHA ne seront pas un obstacle pour des agents d’IA sophistiqués.

Pour trouver un équilibre entre l’accessibilité des agents d’IA bénéfiques et la nécessité de limiter les risques de sécurité, les bonnes pratiques sont les suivantes :

• renforcer l’authentification et la sécurité des comptes : protéger les comptes utilisateurs contre les accès non autorisés est essentiel, en particulier lorsque les agents d’IA interagissent avec des données personnelles ou sensibles. L’application de l’authentification multifacteur (MFA) réduit considérablement le risque d’account takeover ;

• utiliser l’accès API pour les agents d’IA : une API bien documentée peut être le meilleur moyen de permettre aux agents d’IA d’interagir avec votre site de manière structurée et contrôlée. Les API définissent précisément quelles données et quels services sont accessibles, tout en maintenant la sécurité grâce à des mécanismes d’authentification comme les clés API, OAuth ou les tokens JWT ;

• définir une politique claire pour l’IA et les bots : une politique bien définie sur l’IA et les bots permet d’établir des attentes claires quant à la manière dont les agents d’IA peuvent interagir avec vos services. Indiquez explicitement vos règles liées aux bots dans le fichier robots.txt, en précisant quelles zones les agents d’IA peuvent accéder. De plus, vos conditions d’utilisation devraient inclure des clauses régissant les interactions pilotées par l’IA, en spécifiant les cas d’utilisation autorisés et les restrictions ;

• déployer une solution de gestion des bots : les agents d’IA malveillants ne respecteront pas vos politiques et consignes, et tenteront de se faire passer pour des humains. Pour distinguer les bots IA des utilisateurs humains, et les agents légitimes des agents malveillants, vous avez besoin d’une solution de protection contre les bots dotée de capacités avancées de détection comportementale ;

• effectuer des audits de sécurité réguliers : maintenir un site sécurisé et adapté aux interactions avec l’IA nécessite une évaluation continue et des améliorations constantes. La réalisation d’audits de sécurité réguliers, y compris des tests de pénétration des API et des mécanismes d’authentification, permet d’identifier les vulnérabilités avant qu’elles ne soient exploitées.

La nécessité de gérer le trafic des agents IA

À mesure que les agents d’IA deviennent plus répandus, des méthodes standardisées pour gérer leurs interactions avec les plateformes en ligne deviendront indispensables. Actuellement, des outils comme robots.txt offrent un cadre volontaire pour gérer les crawlers web traditionnels, mais les agents d’IA nécessiteront des contrôles plus sophistiqués. Sans règles claires, les entreprises risquent une incertitude croissante quant à la manière dont leurs actifs numériques sont accessibles, utilisés et potentiellement exploités par des systèmes autonomes.

Une solution possible serait la création d’un nouveau standard industriel, similaire à robots.txt, mais spécifiquement conçu pour les agents d’IA. Cela pourrait inclure des mécanismes obligeant les agents d’IA à s’auto-identifier, à déclarer leur objectif et à respecter des politiques d’accès strictes.

Créer un écosystème IA plus responsable et plus facile à gérer nécessitera une collaboration étroite entre les développeurs d’IA, les régulateurs, les entreprises en ligne et les fournisseurs de cybersécurité. Nous encourageons les entreprises développant des agents d’IA à travailler avec nous et d’autres acteurs de la sécurité afin de garantir que leur trafic puisse être identifié et évalué de manière appropriée.

Comment DataDome peut vous aider

La plateforme de protection contre la cyberfraude de DataDome offre une protection complète contre toutes les formes d’automatisation et de requêtes indésirables, y compris les agents d’IA et les navigateurs contrôlés par des bots. Notre solution est spécialement conçue pour détecter et contrer l’utilisation malveillante des agents d’IA, ce qui garantit que les activités légitimes – comme la réservation d’un vol – restent fluides et sécurisées, tandis que les activités frauduleuses sont immédiatement bloquées.

À mesure que les écosystèmes numériques intègrent des agents d’IA comme Operator, la distinction entre les activités légitimes et malveillantes devient de plus en plus complexe. DataDome relève ce défi en s’appuyant sur une IA multi-couche, l’analyse comportementale, l’apprentissage automatique en temps réel et des boucles de rétroaction dynamiques, ce qui permet d’équilibrer une détection précise et une expérience utilisateur fluide. Cela assure aux entreprises une protection efficace de leurs plateformes tout en permettant aux agents d’IA légitimes d’améliorer la croissance et l’expérience utilisateur.

De plus, le tableau de bord DataDome fournit des analyses approfondies du trafic permettant aux utilisateurs de surveiller l’ensemble des connexions entrantes, y compris l’activité des LLM. Ainsi, les clients peuvent prendre des décisions basées sur les données quant à la manière dont leurs applications interagissent avec le trafic automatisé, ce qui assure des performances et une sécurité optimales. Demandez une démo de DataDome dès aujourd’hui.