Passer au contenu principal
BilgeQor

Intégration de l'IA

Sécurité des agents IA : injection de prompt et abus d'outils

4 min de lecture

Les agents AI passent de la réponse aux questions à l’exécution d’actions : lire des messages dans les messageries, interroger des bases de données, mettre à jour des tickets, envoyer des messages et appeler des API. Cette évolution modifie les enjeux de sécurité. Un modèle qui ne produit que du texte peut induire en erreur ; un agent doté d’outils peut agir à partir de ce texte. L’injection de prompt, où des instructions dissimulées dans le contenu orientent le modèle, est le risque le plus souvent évoqué, mais il en existe d’autres. Ce guide vous présente les principaux risques en termes clairs ainsi que les contrôles qui les réduisent.

Définition

Les grands modèles de langage ne distinguent pas de manière fiable les instructions de leur opérateur de celles intégrées aux données traitées. Une injection directe survient lorsqu’un utilisateur saisit des instructions destinées à contourner les règles du système. Une injection indirecte survient lorsque le modèle lit une page web, un courriel, un document ou un ticket contenant des instructions cachées, par exemple pour révéler des données ou appeler un outil. D’autres risques s’y ajoutent. Des informations sensibles peuvent fuir lorsque le modèle accède à des données qu’un utilisateur ne devrait pas voir. Une autonomie excessive apparaît lorsqu’un agent dispose de larges permissions, comme l’envoi de courriels ou la suppression d’enregistrements, sans confirmation. Une gestion inappropriée survient lorsque la sortie du modèle passe directement dans du code, des demandes ou des pages web sans validation. Les risques de chaîne d’approvisionnement proviennent de modèles, modules et connecteurs tiers. Le Top 10 de l’OWASP pour les applications à grands modèles de langage (édition 2025) recense ces catégories et d’autres, comme la fuite des instructions système et la consommation non bornée ; le projet de sécurité générative de l’OWASP publie aussi des recommandations pour les applications agentiques. Aucune technique actuelle ne bloque totalement l’injection : la conception doit donc supposer que certaines instructions réussiront et limiter leurs effets.

Public concerné

Ce guide concerne :

  • Les équipes qui développent des agents utilisant des outils, des API ou des données d'entreprise
  • Les entreprises qui déploient des assistants IA auprès de clients ou de collaborateurs
  • Les responsables sécurité et risques sollicités pour approuver une fonctionnalité d'IA
  • Les responsables produit qui intègrent des plateformes ou connecteurs d'IA tiers

Ce qu'il aide à clarifier

Examiner ces risques aide à clarifier :

  • Quelles données l'agent peut lire et si chaque utilisateur y a droit
  • Quelles actions l'agent peut effectuer et lesquelles exigent une confirmation humaine
  • Comment un contenu non fiable parvient au modèle et ce qu'il pourrait influencer
  • Où va ensuite la sortie du modèle et si elle est validée

Ce qui est inclus

  • Inventoriez chaque outil, connecteur et source de données auxquels l'agent peut accéder
  • Appliquez le principe du moindre privilège : donnez à chaque outil la permission la plus restreinte et limitez-la à l'utilisateur courant
  • Exigez une confirmation humaine pour les actions qui envoient, suppriment, paient, publient ou modifient des permissions
  • Traitez les contenus récupérés, e-mails, fichiers et pages web comme des entrées non fiables
  • Séparez les instructions système des contenus utilisateurs et récupérés aussi clairement que la plateforme le permet
  • Valider et encoder la sortie du modèle avant son insertion dans du code, des demandes ou des pages web
  • Appliquez le contrôle d'accès dans la couche de données, pas dans le prompt
  • Fixez des limites de débit, de coût et de nombre d'actions par session
  • Journalisez les prompts, les appels d'outils et leurs résultats avec des mesures de protection de la vie privée appropriées, et examinez-les
  • Testez avec des entrées malveillantes, y compris l'injection indirecte via des documents et des liens
  • Prévoyez un moyen de désactiver rapidement un outil ou l'agent si un usage abusif est détecté

Ce qui n'est pas inclus

  • L'affirmation que l'injection de prompt peut être totalement empêchée
  • La certification ou l'approbation réglementaire d'un système d'IA
  • Un conseil juridique sur la réglementation de l'IA
  • La surveillance continue des agents en production, sauf accord distinct

Quand le choisir

Traitez ces risques avant de connecter un agent à des outils ou données réels, puis de nouveau chaque fois que de nouveaux outils, sources de données ou groupes d'utilisateurs sont ajoutés. Un agent sûr en tant que prototype interne en lecture seule peut ne plus l'être dès qu'il peut envoyer des e-mails à des clients. Si un éditeur fournit la plateforme de l'agent, demandez-lui comment elle gère les permissions des outils, les étapes de confirmation, la journalisation et l'isolation des données.

Notre approche

Concevez le confinement plutôt que de viser une prévention parfaite. Demandez-vous quel serait le pire résultat réaliste si une instruction injectée aboutissait, puis réduisez les permissions et ajoutez des étapes de confirmation jusqu’à rendre ce résultat acceptable. Gardez les décisions d’autorisation dans un code déterministe, hors du modèle. Notre examen de la sécurité des LLM et des agents AI évalue les systèmes AI convenus sous l’angle de l’injection de prompts, de l’exposition des données, des sorties dangereuses, des risques liés à la récupération, des permissions des outils et des limites du relais humain, puis fournit des constats écrits et des recommandations hiérarchisées. Si vous concevez encore l’agent, l’intégration sécurisée d’agents AI peut le construire avec des données approuvées, des outils délimités et des points de contrôle dès le départ ; la gouvernance de l’AI, les politiques et la sécurité des données peuvent en définir les règles d’utilisation. Reprenez l’examen lorsque les modèles, les outils ou les sources de données changent, car le comportement peut évoluer à chaque changement.

examen de la sécurité des LLM et des agents AI

Examen de la sécurité des LLM et des agents AI

Voir la page du service d’examen de la sécurité des LLM et des agents AI

Voir la page du service Examen de la sécurité des LLM et des agents AI

Foire aux questions

Articles connexes

8 min de lecture
8 min de lecture
4 min de lecture

Démarrer

Vous connectez un agent IA à des outils ou données réels ?

Décrivez l'agent, ses outils, ses sources de données et ses utilisateurs. Nous vous proposerons une revue de sécurité délimitée.

Demander un périmètre écrit