Publié le 6 mai 2026 · L'équipe Byss Group
Donner des outils à un modèle de langage, c'est donner des mains à un système qui lit tout ce qu'on lui met sous les yeux. Le risque central en découle : l'injection de prompt, des instructions malveillantes cachées dans un contenu que l'agent traite, un email, une page web, un document, et qui tentent de détourner son comportement.
Pourquoi c'est le risque numéro un
Contrairement à une faille logicielle classique, l'injection exploite la nature même du modèle : il ne distingue pas structurellement les instructions légitimes des instructions lues dans les données. Aucun filtre ne l'élimine à 100 %. La réponse n'est donc pas un patch, c'est une architecture qui borne ce qu'une injection réussie peut obtenir.
Le triptyque défensif
Un : permissions minimales, chaque outil est scopé (lecture seule par défaut, écriture sur liste blanche, jamais de suppression directe), et l'agent n'accède qu'aux données du dossier en cours. Deux : actions irréversibles sous validation, paiement, envoi externe, suppression passent par un dry-run puis une confirmation humaine ou un quota strict. Trois : traçabilité totale, chaque étape, prompt, appel d'outil et résultat est journalisé, horodaté, rejouable pour l'audit.
Les garde-fous en couches
Avant le modèle : validation des entrées, masquage des données personnelles, détection de contenus suspects. Après le modèle : vérification des sorties contre les règles métier, filtres de sécurité, contrôle de format. Autour : evals de sécurité rejouées à chaque changement, kill switch qui coupe l'agent en cas de dérive détectée, et revue périodique des traces.
La sécurité comme argument commercial
Ce dispositif n'est pas un frein, c'est ce qui permet de dire oui. Une direction qui voit des permissions documentées, des journaux d'audit et une reprise humaine sur les cas sensibles autorise des périmètres qu'elle refuserait à une boîte noire. La confiance se construit dans l'architecture, pas dans les promesses.
Aucun système n'est invulnérable. Mais un agent bien architecturé transforme un risque diffus en risque borné, mesuré et auditable, exactement ce que demandent vos clients, vos assureurs et le régulateur.
