Études & Réflexions › Agents IA en entreprise : usages, autonomie et gouvernance

Un agent IA peut enchaîner plusieurs actions à partir d'un objectif et interagir avec des outils ou des données. Cette autonomie supplémentaire oblige à préciser ce que le système peut faire, avec quelles données et sous quel contrôle.

Définir ce que l'on appelle un agent IA

La CNIL décrit l'IA agentique comme des systèmes reposant sur des agents capables d'agir sur un environnement défini et d'en modifier l'état (lecture, modification, suppression de données, exécution d'actions), avec des niveaux variables d'autonomie. Dans une entreprise, la différence utile avec un assistant conversationnel tient donc moins au vocabulaire qu'aux actions autorisées : lire une base, produire une synthèse et proposer une action ne présentent pas le même niveau d'engagement que modifier une donnée, envoyer un message ou déclencher un processus.

Décrire ces droits d'action donne un cadre plus concret que le terme « agent », utilisé aujourd'hui pour des systèmes très différents.

Choisir un cas d'usage borné

Un premier cas d'usage doit avoir une entrée identifiable, une sortie vérifiable et un responsable métier. L'analyse d'un ensemble de documents, la préparation d'une synthèse ou la détection de dossiers nécessitant une revue constituent des périmètres plus simples à contrôler qu'un processus qui agit directement dans le système d'information.

La valeur attendue doit être formulée avant le choix de l'outil : délai réduit, contrôle supplémentaire, meilleure disponibilité d'une information ou suppression d'une tâche répétitive. Sans cette référence, le projet mesure surtout la capacité technique à faire fonctionner un agent. En contrôle de gestion, copilote IA et contrôle de gestion : ce qu'il apporte détaille un exemple de périmètre borné de ce type. La priorisation entre plusieurs cas d'usage possibles relève elle-même d'une méthode à part, développée dans la feuille de route IA pour une PME.

Définir les données et les outils accessibles

Un agent n'a pas besoin d'accéder à tout le système d'information. Les sources nécessaires au cas d'usage peuvent être listées, ainsi que les actions autorisées sur chacune. Les données personnelles, confidentielles ou sensibles demandent une attention particulière.

Cette limitation facilite aussi le diagnostic en cas d'erreur : plus le périmètre technique est large, plus il devient difficile de comprendre pourquoi une action a été produite. La fiabilité d'un agent dépend d'abord de celle des données auxquelles il accède, ce que développe data et IA : les fondations comptent plus que les modèles.

Définir le niveau d'autonomie et les validations

Un agent peut simplement préparer une proposition, appeler un outil après validation, ou exécuter plusieurs actions dans une chaîne. Ces niveaux ne présentent pas le même risque. Décrire, pour chaque cas d'usage, les données accessibles, les outils appelables, les actions irréversibles, les seuils de validation et la possibilité d'arrêter l'exécution permet de vérifier que l'autonomie accordée est proportionnée aux conséquences d'une erreur : une action de classement documentaire n'appelle pas les mêmes contrôles qu'une modification de données, un envoi externe ou une décision ayant un effet sur une personne.

Le niveau de contrôle dépend de l'effet d'une erreur. Une synthèse relue avant diffusion n'appelle pas le même dispositif qu'une action exécutée automatiquement : il faut décider ce qui est validé avant exécution, ce qui est contrôlé après, et dans quels cas l'agent doit s'arrêter. Les journaux d'exécution doivent permettre de retrouver les données utilisées, les outils appelés et les principales étapes ; cette traçabilité sert autant au pilotage du système qu'à la gestion des incidents.

Intégrer la gouvernance IA

Le règlement européen sur l'IA (AI Act) est applicable pour l'essentiel depuis le 2 août 2026, avec des exceptions antérieures et postérieures : les pratiques interdites et l'obligation de littératie IA sont entrées en application dès le 2 février 2025 ; les règles visant les systèmes à haut risque de l'annexe III s'appliquent à partir du 2 décembre 2027, celles visant les systèmes à haut risque intégrés à des produits réglementés (comme les ascenseurs ou les jouets) à partir du 2 août 2028. Le régime doit donc être vérifié selon le système concerné. Le règlement omnibus (UE) 2026/1744, entré en vigueur le 27 juillet 2026, a simplifié l'exigence de littératie IA : la Commission et les États membres y jouent désormais un rôle renforcé de promotion, aux côtés des entreprises.

Le cadre du NIST propose quatre fonctions utiles pour structurer cette réflexion : gouverner, cartographier, mesurer et gérer. Il ne s'agit pas de transformer chaque expérimentation en programme de conformité lourd, mais de rendre explicites les décisions qui entourent le système.

Tester les échecs, puis fixer les critères de passage

Un pilote d'agent ne doit pas seulement mesurer le nombre de tâches réussies. Constituer un ensemble de cas représentatifs, avec des situations simples et plusieurs cas limites, permet de comparer les exécutions à un résultat attendu défini avec précision ; les erreurs observées deviennent ensuite une matière de travail : consigne ambiguë, donnée absente, droit excessif ou contrôle manquant. Il faut aussi provoquer des cas incomplets, ambigus ou contradictoires et observer la réaction : l'agent demande-t-il une information, s'arrête-t-il, produit-il une trace exploitable, ou poursuit-il avec une hypothèse implicite ? Un agent qui fonctionne sur une démonstration ne prouve pas encore qu'il tient dans un processus réel.

Un pilote concluant ne suffit pas à décider d'un déploiement. Les critères de passage à l'échelle, qualité minimale, taux d'escalade acceptable, nature des erreurs résiduelles, coût d'exécution, capacité de supervision, stabilité des données utilisées, se fixent avant le test, pas après coup : certains résultats peuvent être satisfaisants en moyenne tout en restant incompatibles avec un processus sensible, d'où l'intérêt de regarder les cas d'échec autant que la performance globale. Le passage à l'échelle doit aussi préciser qui reprend la main lorsque l'agent s'arrête, qui peut modifier ses instructions ou ses droits, et comment une nouvelle version est testée.

Questions fréquentes

Quelle différence entre un agent IA et un assistant conversationnel ?

La différence utile tient aux actions autorisées, pas au vocabulaire : un assistant qui répond à une question n'a pas le même engagement qu'un système qui modifie une donnée, envoie un message ou déclenche un processus.

Faut-il un agent capable d'agir sur plusieurs systèmes dès le premier projet ?

Non. Un premier cas d'usage aux données et outils accessibles limités permet de comprendre le comportement du système avant d'élargir le périmètre technique.

Qui valide les actions d'un agent IA ?

Cela dépend du niveau d'autonomie accordé et de l'effet d'une erreur possible : une synthèse relue avant diffusion n'appelle pas la même validation qu'une action exécutée automatiquement.

Comment tester un agent avant de l'élargir ?

En construisant des cas limites, incomplets ou ambigus, pas seulement des cas simples, et en observant si l'agent s'arrête, demande une information ou poursuit avec une hypothèse implicite.

L'AI Act s'applique-t-il aux agents IA utilisés en interne ?

Oui : les obligations dépendent du niveau de risque du système et de ses actions, pas du fait que son usage reste interne ou soit tourné vers l'extérieur.

Brice Béchet

Consultant en pilotage des organisations

Contrôleur de gestion sénior, data scientist et créateur d'effectivo.fr, application de prévision stratégique des effectifs (Anticipez. Simulez. Décidez), j'accompagne les organisations à structurer leurs données et optimiser leur pilotage.

En savoir plus LinkedIn