Applications métier · Agents IA quand ils sont utilesMAX / 01.B

Un logiciel qui fait avancer le travail. Les agents IA restent un moyen, pas le produit vendu.

MAX part d'une décision qui ralentit, d'une tâche coûteuse ou d'un risque à encadrer. Puis l'équipe construit l'application adaptée et, si utile, y intègre un agent contrôlé.

Voir MAX Agents Lire les 7 contrôles

Identité · permissions · évaluations · validation · observabilité · arrêt

01Périmètres de cadrage

Trois périmètres avant de parler d’autonomie

Ces exemples décrivent des limites à vérifier, pas des dispositifs déjà en place. Hermes désigne ici un runtime configurable : il ne peut utiliser que les outils et connecteurs explicitement autorisés pour un périmètre défini.

Préparer une demande de devis sans l’envoyer

Situation: Des demandes hétérogènes arrivent avec des informations manquantes et doivent être relues avant tout chiffrage.
Ce que l’agent peut préparer ou faire: Lire les sources autorisées, relever les éléments utiles, signaler les manques et préparer une fiche de qualification avec un brouillon de réponse.
Interdit: Ne pas calculer un prix, envoyer un devis, confirmer un délai ou prendre un rendez-vous.
Validation humaine: Une personne identifiée valide la qualification, le texte sortant, le prix et tout créneau proposé.
Mesure possible: Délai jusqu’à la fiche prête à relire, part des fiches corrigées et part des demandes incomplètes.

Instruire les demandes récurrentes avec une réponse sourcée

Situation: Les mêmes questions reviennent alors que les réponses sont dispersées dans des documents et procédures internes.
Ce que l’agent peut préparer ou faire: Chercher dans une base documentaire approuvée, citer les passages utilisés, préparer une réponse et escalader si la source manque.
Interdit: Ne pas rendre d’avis médical, juridique, financier ou RH, modifier un dossier, décider d’une éligibilité ou inventer une règle absente.
Validation humaine: Chaque réponse est relue au démarrage ; les demandes sensibles, contestées ou insuffisamment sourcées restent attribuées à une personne.
Mesure possible: Part des propositions avec une source valide, taux de correction, motifs d’escalade et âge des documents utilisés.

Préparer un suivi d’action après une opération interne

Situation: Une étape récurrente oblige à vérifier plusieurs outils, repérer un manque puis préparer une relance ou une tâche.
Ce que l’agent peut préparer ou faire: Vérifier les préconditions dans les sources autorisées, rassembler les éléments manquants, préparer une relance et signaler une exception connue.
Interdit: Ne pas clôturer ou supprimer un dossier, modifier un engagement, réaliser un paiement ou choisir seul une exception métier.
Validation humaine: Le responsable valide toute action externe et toute écriture durable ; une nouvelle exception remet le flux sous revue humaine.
Mesure possible: Nombre d’exceptions détectées, relances validées ou modifiées, délai de détection et taux de reprise manuelle.

02Contrôles

L’autonomie n’est pas un bouton. C’est un niveau de risque.

Ces contrôles ne rendent pas un système infaillible. Ils rendent ses capacités, ses erreurs et sa reprise en main observables.

Une identité propre

Qui agit ?

L'agent n'emprunte pas silencieusement les droits d'un utilisateur ou d'un compte administrateur.

Le minimum de permissions

Sur quoi ?

Chaque outil, donnée et action est autorisé explicitement. Les écritures sensibles sont séparées des lectures.

Des évaluations métier

Avec quel résultat ?

Les tests vérifient les règles, les refus, les appels d'outils et les escalades sur des cas normaux, limites et hostiles.

Une validation humaine placée au bon endroit

Qui approuve ?

Le contrôle intervient avant l'effet difficile à annuler, pas après l'envoi, la suppression ou la dépense.

Des journaux exploitables

Que s'est-il passé ?

Version, décision, outil, coût et erreur peuvent être reliés sans exposer de secrets ni de données personnelles inutiles.

Un arrêt et un retour arrière

Comment reprendre la main ?

Seuils, désactivation et version précédente sont prévus avant d'augmenter le niveau d'autonomie.

03Cycle d'exploitation

Un incident utile devient un test rejouable.

Changer de modèle à chaque erreur masque souvent le vrai problème : une règle, une permission, une donnée, un outil ou une attente métier mal définie.

Choisir une décision utile

01 · Cadrer

Partir d'un processus qui bloque une équipe, pas d'un agent généraliste à la recherche d'un problème.

Borner l'environnement

02 · Contrôler

Définir données, outils, permissions, validations, budget de calcul et conditions d'arrêt.

Comparer sur les vrais cas

03 · Évaluer

Mesurer réponse, action, refus, coût et latence avant de modifier l'autonomie ou le modèle.

Exploiter la boucle

04 · Améliorer

Transformer un écart observé en test rejouable, puis approuver chaque évolution avec un retour arrière.

Lire la boucle de contrôle

04Références de travail

Des sources pour cadrer. Pas pour déléguer la décision.

Ces publications encadrent la méthode. Elles ne remplacent ni l'analyse du système, ni les contraintes du secteur, ni la responsabilité de l'entreprise.

NIST

AI Agent Standards Initiative

Travaux sur l'identité, l'authentification, l'autorisation et l'évaluation de sécurité des agents.

OWASP

Agentic Security Initiative

Ressources sur les agents autonomes, les workflows multi-étapes et les connexions à des outils.

ANSSI

Développer la confiance dans l'IA par une approche par les risques cyber

Cadre d'analyse des risques cyber pour les systèmes intégrant des composants d'intelligence artificielle.

Sources revues le 20 juillet 2026

Premier périmètre

Choisissez une décision. Puis définissons ce que l’agent n’a pas le droit de faire.

Décrivez le processus, les outils, l'effet attendu et l'action qui doit impérativement rester sous validation humaine.

Voir MAX Agents Faire le diagnostic