Orchestration d'agents IA sous contrôle humain
Les agents analysent.L'humain décide.
Xorgate construit des plateformes, développe les agents et affine les modèles pour des environnements critiques. En production, les agents agissent sur décision d'un opérateur, jamais de leur propre initiative.
Le problème
Un agent autonome en production est un risque majeur
Un agent en production a des droits réels sur l'environnement de production. Il peut relancer un service et impacter ses dépendances, modifier une règle réseau et ouvrir une surface d'attaque, ou altérer des données en base et rendre incohérents les services qui les consomment.
Sans autorisation explicite, chaque action devient un risque. Si elle est erronée, vous ne savez plus ce que l'agent a touché, dans quel ordre, ni sur quel périmètre.
La confiance ne suffit pas. En production, chaque action d'un agent doit pouvoir être expliquée : ce qui a été fait, pourquoi, par qui, et dans quel contexte.
Le cadre
L'agent analyse. L'humain décide.
Le risque ne vient pas de l'analyse. Corréler des logs, identifier une anomalie ou cartographier une surface d'attaque ne modifie pas l'environnement de production.
Le risque commence au moment de l'action. Toute exécution doit venir d'une décision humaine identifiée : un opérateur habilité, un périmètre clair, une trace horodatée.
C'est cette séparation entre analyse et exécution qui permet de déployer des agents en production sans en perdre la maîtrise, avec une traçabilité compatible avec les exigences d'audit et de conformité : NIS2, DORA, ISO 27001, SOC 2.
Le gate
Le point de contrôle entre analyse et exécution
Un agent analyse, corrèle, recommande. Il ne passe jamais seul à l'exécution.
Le gate contrôle le passage entre ce qu'un agent propose et ce qui touche l'environnement de production. Chaque action nécessite un déclenchement explicite par un opérateur identifié.
Chaque action est encadrée par deux limites : le périmètre accordé à l'agent, et l'autorité de l'opérateur qui la déclenche.
Après chaque action, la décision reste vérifiable : qui a agi, sur quel périmètre, dans quel contexte, et avec quel impact.
Les garanties
Les garanties nécessaires en production
- Contrôle. Aucun agent n'agit sans opérateur habilité.
- Traçabilité. Chaque action est horodatée et attribuée.
- Isolation. Le périmètre de l'agent est borné avant exécution.
- Validation. L'opérateur voit ce qui sera exécuté.
- Confidentialité. Les secrets restent limités au run.
- Gouvernance. Les droits d'action sont hiérarchisés.
- Moindre privilège. Aucun accès superflu n'est accordé.
- Conformité. NIS2, DORA, ISO 27001, SOC 2.
Cas d'usage
La conduite des incidents
Xorgate a d'abord été appliqué à la conduite des incidents chez un opérateur ferroviaire. Dans ce contexte, il faut décider vite, conserver les preuves, et pouvoir expliquer chaque action lors des revues d'incident.
Cas d'usageLa boucle
Une boucle d'incident sous contrôle humain
- L'incident ouvre un espace de travail partagé.
- Les agents analysent les signaux disponibles et proposent des pistes.
- L'opérateur décide. Toute action nécessite son déclenchement explicite.
- Chaque résultat et chaque décision restent horodatés, attribués et réutilisables pour l'analyse post-incident et l'amélioration des agents.
Avant chaque exécution, l'opérateur choisit le modèle, l'environnement cible et le harness qui encadre les droits de l'agent.
L'historique des runs reste visible avant déclenchement : l'action part dans un contexte connu, avec un périmètre explicite.
Contact
Parlons de votre exploitation
Vous déployez des agents IA dans un environnement critique. Échangeons sur le cadre nécessaire avant le passage en production.
Rentrer en contactOu écrivez-nous directement à contact@xorgate.fr.