Selon un rapport Google Cloud fondé sur une enquête auprès de plus de 1 400 responsables IT, 83% des organisations estiment devoir moderniser leur infrastructure pour tirer pleinement parti de l’IA agentique en production. L’étude met aussi en avant des coûts inattendus, comme une taxe d’inférence citée par 62% des répondants et une complexité opérationnelle évoquée par 82%.
La promesse d’agents capables d’exécuter des tâches de bout en bout se heurte à une réalité plus terre à terre: datacenters, réseaux, stockage et outils de pilotage n’ont pas été conçus pour ce nouveau type de charge.
Google Cloud mesure un décalage entre ambitions et infrastructure
Le constat central du rapport est chiffré: 83% des organisations interrogées déclarent que des mises à niveau d’infrastructure sont nécessaires pour exploiter les bénéfices d’une IA agentique production-grade. Derrière cette formule, l’enjeu est la capacité à faire fonctionner des agents de façon fiable, à l’échelle, avec des exigences de disponibilité, de traçabilité et de contrôle qui dépassent le simple prototypage.
Les responsables IT décrivent un écart entre les cas d’usage envisagés et les contraintes techniques. L’IA agentique s’appuie sur des appels répétés à des modèles, des accès fréquents à des sources de données, et des chaînes d’actions qui peuvent s’étendre à plusieurs applications. Dans un environnement hérité, ces flux se traduisent par davantage de latence, des coûts réseau plus élevés, et des goulots d’étranglement sur le stockage et le calcul, surtout lorsque les agents manipulent des contextes volumineux.
Le rapport insiste sur le fait que l’infrastructure classique des entreprises a été dimensionnée pour des applications transactionnelles, des workloads analytiques planifiés, et des cycles de développement plus prévisibles. L’IA agentique, elle, introduit une demande plus variable: les agents peuvent multiplier les requêtes, déclencher des opérations en cascade, et solliciter des ressources spécialisées sur des pics difficiles à anticiper. Cette variabilité explique pourquoi la question de l’allocation dynamique du calcul et du pilotage fin des usages devient centrale.
Autre point mis en avant: les entreprises ne sont pas toutes au même niveau de maturité, mais la proportion qui juge nécessaire une refonte est très majoritaire. Pour les directions informatiques, le sujet n’est plus seulement de tester des agents, mais de définir des architectures capables d’encaisser une montée en charge sans dégrader les autres applications, ni créer une facture imprévisible.
Dans cette photographie, Google Cloud se positionne comme observateur, mais aussi comme prescripteur, en décrivant des axes techniques censés réduire les frictions. Le rapport sert donc à la fois de baromètre, et de cadre de recommandations pour orienter les chantiers de modernisation.
Coûts cachés: 62% citent la taxe d’inférence, 82% la complexité
Au-delà du besoin de modernisation, l’enquête met l’accent sur la surprise budgétaire. 62% des répondants disent avoir constaté une taxe d’inférence significative, alimentée par des postes concrets: frais d’egress lorsque des données sortent d’un environnement, gonflement du stockage lié aux duplications, et matériel spécialisé sous-utilisé, donc payé mais inactif. L’addition peut grimper rapidement quand l’agent exécute des cycles itératifs, appelle plusieurs outils, et conserve des historiques ou des index.
À cette dimension financière s’ajoute la mécanique opérationnelle. 82% des responsables IT déclarent que le passage à l’échelle introduit des coûts cachés de complexité: supervision, gestion des versions de modèles, intégration aux systèmes existants, et traitement des incidents. L’IA agentique ne se limite pas à faire tourner un modèle; elle implique des orchestrations, des permissions, des logs, des garde-fous, et des procédures de retour arrière en cas de comportement inattendu.
Le rapport met aussi en avant les freins liés au contrôle. 79% citent la sécurité, la gouvernance et le MLOps comme obstacles majeurs au déploiement à grande échelle. Cette triade renvoie à des questions très concrètes: qui autorise l’agent à accéder à quelles données, comment auditer ses actions, comment prouver qu’un résultat est conforme, comment éviter l’exposition d’informations sensibles, et comment industrialiser des mises à jour sans interrompre les services.
Un point revient régulièrement dans les retours terrain: la difficulté à relier coûts et usages. Quand plusieurs équipes déploient des agents, la lecture de la facture devient plus complexe, car elle agrège calcul, stockage, réseau, outils d’observabilité, et parfois licences. Sans métriques fines par agent, par application et par workflow, la gouvernance financière se dégrade, ce qui peut ralentir les projets ou conduire à des restrictions brutales.
Cette accumulation de postes de dépense explique pourquoi la modernisation est présentée comme un moyen de reprendre le contrôle. L’objectif n’est pas seulement d’augmenter la puissance, mais de réduire les gaspillages, d’augmenter la visibilité, et de rendre le coût marginal d’un nouvel agent plus prévisible.
Fluid compute: adapter le bon silicium à la bonne tâche
Parmi les recommandations, Google met en avant le concept de fluid compute, présenté comme la capacité à associer dynamiquement le bon silicium à la bonne tâche tout en réduisant les surcoûts d’exploitation. L’idée est de limiter les environnements figés, où des ressources spécialisées restent réservées même quand la charge baisse, et d’éviter que l’exécution d’agents ne cannibalise les workloads généraux.
Dans la pratique, l’IA agentique mélange souvent plusieurs profils de charge: appels de modèles, recherche dans des bases, extraction de documents, transformations de données, puis exécution d’actions dans des applications. Un environnement trop rigide pousse à surprovisionner, par prudence, de la mémoire ou des accélérateurs, surtout lorsque les agents utilisent de grandes fenêtres de contexte. Google suggère qu’une allocation plus flexible permet de lisser ces besoins et de réduire les périodes d’inactivité de matériel spécialisé.
Le rapport insiste aussi sur la réduction des overheads opérationnels. Plus la plateforme est hétérogène, plus la gestion devient lourde: planification de capacité, files d’attente, arbitrage entre équipes, et traitement des incidents. Une approche plus dynamique vise à diminuer le nombre d’exceptions et de configurations uniques, qui finissent par coûter du temps humain, donc de l’argent.
Cette logique rejoint un enjeu de performance: si l’agent attend des ressources, il ralentit les workflows métier. Dans des cas d’usage comme l’assistance aux équipes support, l’automatisation de contrôles, ou la génération de rapports, la latence perçue devient un critère d’adoption. La promesse d’un agent autonome se dégrade si l’infrastructure impose des temps d’attente ou des limitations de débit.
Le rapport ne fournit pas de modèle universel de dimensionnement, mais il dessine une direction: mesurer finement les charges d’inférence, segmenter les besoins par type de tâche, puis bâtir une architecture qui évite de payer en permanence le maximum. Pour les entreprises, cela se traduit souvent par des choix d’orchestration, de planification, et de gouvernance des ressources, au même titre que le choix des modèles.
Agent sprawl: gouvernance et visibilité via des passerelles d’entreprise
Google décrit un risque de prolifération d’agents, parfois qualifié d’ agent sprawl, quand de nouveaux workflows apparaissent dans plusieurs équipes, outils et plateformes. Chaque agent peut appeler des services différents, accéder à des données sensibles, et déclencher des actions dans des systèmes critiques. Sans cadre commun, la multiplication devient difficile à auditer, et augmente la surface de risque.
Pour contenir ce phénomène, le rapport recommande de s’appuyer sur des outils de gouvernance enterprise-grade, souvent proposés par les partenaires cloud déjà en place dans l’entreprise. Google cite son propre exemple, Agent Gateway, présenté comme une passerelle donnant de la visibilité sur la façon dont les agents communiquent, les données consultées, et la nature des workloads exécutés. L’objectif est d’outiller le contrôle, pas seulement de publier des règles.
Dans une approche de gouvernance, plusieurs mécanismes reviennent: inventaire centralisé des agents, politiques d’accès basées sur les rôles, journalisation des actions, quotas, et mécanismes d’approbation pour les capacités les plus sensibles, comme l’envoi d’e-mails, la modification de données, ou l’accès à des référentiels internes. La gouvernance sert aussi à standardiser les bonnes pratiques, par exemple imposer des tests, des garde-fous contre les hallucinations, ou des règles de conservation des logs.
Le sujet touche aussi à la conformité. Dans des secteurs réglementés, il faut démontrer qui a fait quoi, quand, et sur quelle base. Un agent qui agrège des données clients ou produit des recommandations doit laisser des traces exploitables. Sans observabilité, la réponse aux incidents devient plus lente, et l’analyse post-mortem plus fragile.
Cette gouvernance répond enfin à un enjeu organisationnel: répartir clairement les responsabilités entre équipes data, sécurité, infrastructure et métiers. Quand un agent échoue ou génère une action incorrecte, l’entreprise doit pouvoir identifier si la cause vient d’une donnée, d’une permission, d’un modèle, d’un outil externe ou d’un paramétrage. Le rapport suggère que la visibilité outillée est la condition pour passer du pilote à l’industrialisation.
| Indicateur (enquête Google) | Résultat | Ce que cela implique |
|---|---|---|
| Besoin de modernisation d’infrastructure | 83% | Refonte ou upgrade pour une IA agentique en production |
| Taxe d’inférence (egress, stockage, matériel inactif) | 62% | Coûts additionnels au-delà du calcul des modèles |
| Complexité opérationnelle cachée au passage à l’échelle | 82% | Supervision, incidents, intégration, exploitation plus coûteuses |
| Sécurité, gouvernance, MLOps cités comme barrière | 79% | Besoin de contrôle, traçabilité, industrialisation |
| Déploiement edge envisagé dans les initiatives IA | 90% | Recherche de latence plus faible et de contraintes réseau réduites |
Données unifiées et edge: 90% envisagent des agents au plus près
Le rapport relie une partie des surcoûts aux difficultés d’accès à la donnée. Lorsque les informations sont siloées, un agent peut multiplier les requêtes lourdes pour retrouver ce dont il a besoin, ce qui consomme du calcul et du temps. Google recommande de travailler vers une couche de données unifiée, capable d’annoter automatiquement des données non structurées, pour aider les agents à localiser les contenus sans naviguer dans des pipelines complexes.
Cette approche vise aussi à limiter les duplications. Quand plusieurs équipes créent leurs propres copies de datasets, index, embeddings ou caches pour alimenter des agents, la facture de stockage augmente et l’administration se complique. Le rapport mentionne explicitement le storage bloat comme un moteur de la taxe d’inférence. Une couche unifiée est présentée comme un moyen de mutualiser, d’éviter les copies inutiles, et de garder une cohérence des référentiels.
Autre recommandation: rapprocher l’IA du terrain, via le edge. Google indique que 90% des organisations interrogées considèrent cette option dans leurs initiatives. Le principe est de déployer des agents directement sur le site où ils sont le plus utilisés, par exemple dans des environnements industriels, pour réduire la latence et limiter les transferts de données. Dans certains cas, cela peut aussi réduire les frais réseau et améliorer la résilience si la connectivité est instable.
Le edge n’efface pas les contraintes, car il impose de gérer des flottes d’équipements, des mises à jour et une sécurité distribuée. Mais l’intérêt est clair pour des usages où la réactivité compte, comme l’assistance aux opérateurs, la maintenance prédictive, ou l’analyse de signaux locaux. Le rapport laisse entendre que l’arbitrage se fait entre centralisation, plus simple à administrer, et proximité, plus efficace pour certaines tâches.
Au fil des recommandations, un fil conducteur se dégage: l’IA agentique n’est pas seulement un sujet de modèles, c’est un sujet de systèmes. Les entreprises qui veulent industrialiser devront arbitrer entre modernisation du calcul, rationalisation des données, et gouvernance des agents, avec une attention particulière portée à la facture complète, du réseau jusqu’aux équipes d’exploitation.
Crédit image : Wikimedia Commons / Wikimedia Commons (Public domain)