Vous avez déployé un assistant IA pour traiter les demandes clients. Il répond, il suit les procédures, il tient le rythme. Mais si demain il se met à envoyer des devis aberrants, qui s'en rendrait compte ? Le problème, c'est que la plupart des entreprises n'ont pas prévu cette question.

Ce n'est pas un scénario théorique. Les données publiées cette semaine par VentureBeat Pulse Research montrent que 79 % des entreprises ont déjà subi des pertes financières ou opérationnelles à cause d'agents autonomes non supervisés. Et seulement une sur dix a mis en place une surveillance automatisée qui permettrait de détecter une dérive avant qu'elle ne coûte de l'argent.

Un vide de pilotage, pas un vide technologique

Le cabinet VentureBeat a interrogé 145 responsables d'entreprises de plus de 100 salariés en juin 2026. La conclusion s'appelle le « control gap » : l'écart entre la vitesse à laquelle les entreprises déploient l'IA et leur capacité à la superviser.

Le chiffre le plus frappant ? 85 % des entreprises utilisent au moins deux plateformes différentes qui se présentent chacune comme leur « couche IA principale ». Résultat : personne ne sait vraiment qui est responsable de quoi. Un tiers des répondants (32 %) citent l'absence d'un responsable unique comme le principal frein à une gouvernance efficace. Et 17 % disent qu'aucun poste, dans leur organisation, n'a formellement la charge de superviser l'IA.

Les trois défaillances que personne ne voit

Les dégâts prennent plusieurs formes. La plus fréquente, c'est le « shadow AI » : des collaborateurs qui lancent leurs propres agents IA sur leur carte bleue professionnelle, sans que personne ne le sache. Près de la moitié des entreprises (49 %) identifient ce phénomène comme leur échec de contrôle le plus grave. Concrètement, un commercial abonné à un outil d'IA générative peut créer ses propres automatisations sans que la direction n'en ait aucune idée. Jusqu'au jour où une facture tombe, ou pire, où un message inapproprié part à un client.

Viennent ensuite les boucles infinies de facturation. Un agent censé traiter des commandes qui tourne en boucle, qui appelle une API payante à chaque itération. Vingt-cinq pour cent des entreprises interrogées ont déjà subi une facturation incontrôlée de ce type. Le scénario est simple : un webhook mal configuré, et l'agent traite le même fichier cinquante fois dans la nuit. Personne ne regarde avant le relevé de compte.

Enfin, la dérive silencieuse : le modèle qui fonctionnait bien au début mais dont la qualité se dégrade progressivement, sans que personne ne regarde les indicateurs. Un assistant qui répondait parfaitement aux questions en janvier donne des réponses à côté en juin. Pas de crash, pas d'alerte. Juste une lente érosion de la qualité.

Pourquoi c'est dur dans une PME

Dans une grande entreprise, on peut nommer un chief AI officer, monter un comité de gouvernance, dédier une équipe à la supervision. Dans une PME, c'est différent. Il n'y a pas de « responsable IA ». C'est souvent le dirigeant, le chef des opérations ou le responsable marketing qui expérimente avec des outils, sans avoir le temps ni les moyens de mettre en place une surveillance structurée.

Mais le risque est le même. Un agent de relance personnalisée qui envoie les mauvais montants, un outil de qualification de leads qui classe mal les prospects, un assistant support qui donne des informations erronées. La différence, c'est que dans une PME, une seule erreur peut représenter une part significative du chiffre d'affaires.

Chez Seekwel, on voit ces situations régulièrement. Pas parce que les outils sont mal conçus, mais parce que personne n'a défini qui regarde les tableaux de bord. Le problème est rarement technique : c'est un problème d'organisation.

Votre grille de contrôle minimal pour les agents IA

Avant de lancer un agent IA dans votre entreprise, posez-vous ces cinq questions. Pas besoin d'un audit complexe : une feuille de route, un rendez-vous par mois, et vous avez déjà fait 80 % du chemin.

1. Qui est responsable de cet agent ?

Un nom, une personne. Pas « l'équipe » ou « le prestataire ». La personne qui répond quand ça dysfonctionne.

2. Qu'est-il censé faire exactement ?

Un périmètre clair, écrit en une phrase. « Cet agent relance les devis envoyés depuis plus de 7 jours » plutôt que « cet agent aide à la relance client ».

3. Comment saurez-vous qu'il se trompe ?

Un indicateur simple, un seuil. Si le taux d'erreur dépasse 5 %, si le temps de réponse double, si le nombre d'appels API explose. Quelque chose de chiffré, pas une impression.

4. Qui regarde les indicateurs ?

Un créneau dans l'agenda, une fois par semaine ou par mois. Pas « on vérifiera de temps en temps ».

5. Que faites-vous si ça dérape ?

Un plan d'arrêt. Couper l'accès à l'API, repasser en manuel le temps de corriger, prévenir les clients concernés.

La checklist qu'on utilise avec nos clients

Agent IA : ____________________
Responsable : ________________
Périmètre : __________________
Indicateur clé : _____________
Seuil d'alerte : _____________
Fréquence de vérification : ___
Procédure d'arrêt : __________

Imprimez-la, collez-la au mur. Chaque nouvel agent IA que vous déployez mérite sa ligne.

Commencer petit, mais commencer maintenant

La bonne nouvelle, c'est que la solution n'est pas un projet coûteux. Vous n'avez pas besoin d'une plateforme de gouvernance enterprise. Vous avez besoin d'un réflexe : avant chaque nouvel agent, la checklist. Après le déploiement, un point mensuel de cinq minutes.

L'alternative, c'est de découvrir le problème quand le client appelle pour signaler une erreur ou quand la facture de l'API atteint un montant qui fait tousser. Dans 79 % des cas, c'est déjà arrivé. Vous pouvez faire partie des 21 % qui ont pris une longueur d'avance.

Sources :

• VentureBeat, "The Control Gap: Enterprise AI organizations have an ownership problem, not a technology problem, and most are governing it by hand", juillet 2026. https://venturebeat.com/resources/the-control-gap-enterprise-ai-organizations-have-an-ownership-problem-not-a-technology-problem-and-most-are-governing-it-by-hand, consulté le 6 juillet 2026.
• VentureBeat, "Enterprises lost Claude Fable 5 for a few weeks. New data shows two-thirds had already built their hedge", juillet 2026. https://venturebeat.com/orchestration/enterprises-lost-claude-fable-5-for-a-few-weeks-new-data-shows-two-thirds-had-already-built-their-hedge, consulté le 6 juillet 2026.