Comment faire passer votre IA agentique à l’échelle ?

Revoir les fondations techniques, anticiper les dimensions de cybersécurité et de gouvernance, adopter une approche progressive, impliquer et accompagner l’humain et contrecarrer l’aversion au changement sont les principaux défis à relever pour passer vos agents d’IA à grande échelle. Bonne nouvelle, chacun de ces défis a sa solution.

Vous avez établi la bonne stratégie pour votre IA agentique ? Vous avez ensuite sélectionné les processus à fort impact adaptés à l’automatisation avec cette technologie ? Parfait. Il ne reste « plus qu’à » passer à l’échelle.

La tâche n’est pas simple, mais elle n’est pas insurmontable. À condition de bien anticiper les défis de l’industrialisation d’une IA agentique.

Posez des fondations solides

Passer un projet d’IA agentique en production implique de relier les agents à de multiples applications (CRM, SIRH, ITSM, espace de stockage comme Sharepoint, etc.) – dont certaines ne sont pas forcément facilement connectables. Les agents devront également être connectés à des sources de données diverses – dont certaines, souvent les plus anciennes, n’ont pas été conçues pour être requêtées par des IA.

Pour la data, la solution passe par un travail en profondeur sur vos sources et vos bases : vérification et amélioration de la qualité des données et migration vers des plateformes plus modernes (cloud, datalake, etc.). En phase de transition avant d’atteindre cette cible idéale, l’adoption de solutions techniques – middleware, ETL, etc. – permet d’extraire et d’intégrer vos données dans des environnements compatibles avec l’IA agentique.

Les éditeurs sortent de plus en plus d’agents intégrés. Cette évolution pourra faciliter les intégrations inter-applicatives. Encore faut-il que ces agents puissent dialoguer pour automatiser des processus transverses. Ce n’est pas encore le cas.

Heureusement, le marché commence à produire des standards et des protocoles pour que ces agents, de chaque éditeur (Salesforce et Workday, par exemple), puissent se trouver et échanger dans une « lingua franca » (protocole A2A lancé par Google, serveurs MCP par Anthropic). Ce qui facilitera à terme la mise en place à l’échelle de systèmes multi-agents.

En attendant, un travail sur les fondations de l’IA agentique est indispensable, et dans tous les cas, bénéfique. Il prend du temps, certes. Mais, ce temps est loin d’être perdu. Il vous permettra au contraire de concrétiser une part significative du potentiel de transformation d’un projet d’IA agentique en remettant à plat les rigidités et les inefficacités d’un SI accumulées au fil du temps.

Troisième fondation à consolider : les agents eux-mêmes. Cela peut paraître évident, mais la valeur de l’IA agentique réside dans l’orchestration de composants. Passer à l’échelle exige donc une séquence claire : d’abord construire les composants et, dans un second temps, les orchestrer.

Par exemple, si vous souhaitez faire une IA agentique pour la prévision de la demande pour optimiser vos ventes, développez l’algorithme de prévision de la demande (y compris avec du Machine Learning, du MLOps, des boucles de contrôle, etc.). Ensuite, élaborez l’algorithme de commande/vente. Une fois ces deux conditions préalables réunies, alors, et seulement alors, un agent IA orchestrateur pourra être formé pour orchestrer les deux « sous-agents » efficacement.

Autrement dit, anticipez les agents à orchestrer plutôt que d’en rajouter a posteriori lors de l’élargissement du périmètre de votre projet. Intégrez par ailleurs, et le plus tôt possible, une logique LLMOps pour tous les agents (bonnes pratiques pour prompter, versioning du modèle, suivi des performances, traitement des erreurs, etc.)

Cybersécurité et gouvernance, deux impératifs

Des agents IA qui agissent à grande échelle – à la croisée des systèmes et des données – sont par essence des cibles très tentantes pour les pirates. Un agent « corrompu » – et non contrôlé – peut provoquer une fuite massive de données, avec des conséquences catastrophiques pour une marque.

Des agents IA mal encadrés ou mal conçus d’un point de vue de la gouvernance peuvent, de leur côté, faire un usage non conforme des données (en violation du RGPD ou du CCPA par exemple), et provoquer des poursuites et des sanctions. Avec des conséquences tout aussi néfastes pour une organisation.

Scaler des agents IA impose donc d’anticiper ces dimensions de sécurité, de confidentialité, et de légalité. La solution consiste, pour chaque agent IA, à passer en revue vos outils et vos stratégies cyber d’une part, et vos permissions d’accès d’autre part.

La problématique cyber passe par une sécurisation « multicouche », robuste, avec, par exemple (liste non exhaustive), un chiffrement de bout en bout des données, la mise en place d’un monitoring en temps réel pour détecter les « comportements » suspects ou déviants des agents, ou encore des tests de pénétration réguliers.

Une remise à plat des permissions et des droits d’accès – qui sont souvent l’héritage d’années de politiques différentes et d’ajout de technologies – est également indispensable pour que les agents IA n’utilisent pas de données qu’ils ne sont pas censés lire ou modifier. Il convient ici d’introduire – s’ils n’existent pas – des mécanismes adaptés aux agents IA comme le contrôle des accès basés sur les rôles (RBAC), le contrôle des accès basés sur les tâches, ou des accès temporaires.

Attention ! Ces chantiers ne sont jamais achevés. Pour assurer la sécurité et la gouvernance d’un projet agentique à l’échelle, des audits réguliers devront être réalisés, et des outils automatisés de traçabilité, d’observabilité et de contrôle de la conformité devront être déployés.

Ce point est d’autant plus sensible qu’il n’existe pas encore de réglementation claire sur l’IA agentique. Les entreprises naviguent dans un contexte d’incertitude. Monitorer, sécuriser, encadrer et auditer sont autant d’actions qui réduiront, dans tous les cas, cette incertitude en attendant une clarification des législateurs.

Passez à l’échelle progressivement

Scaler une IA agentique ne veut pas dire se précipiter. Une démarche ciblée et par paliers est à préconiser. Pour différentes raisons.

Comme nous venons de l’évoquer, déployer des agents IA dans des domaines moins réglementés pour créer un « momentum » en interne, en attendant que le régulateur précise les règles, est une bonne idée. Commencez par des projets dans des domaines non (ou moins) critiques afin d’en démontrer la valeur, d’instaurer la confiance et de créer des « champions » internes qui vous aideront pour les paliers suivants du passage à l’échelle.

Cela ne signifie pas que les secteurs très réglementés – comme la santé, les services financiers ou la défense – ne peuvent pas déployer d’agents IA. Mais dans tous les cas, commencez sur un périmètre raisonnable, et scalez étape par étape, en vérifiant à chaque palier ce qui fonctionne et ce qui ne fonctionne pas.

Adoptez également une approche progressive sur l’autonomie des agents. L’autonomie est un des atouts majeurs de l’IA agentique. Mais c’est aussi un des points qui suscite le plus de crainte chez les professionnels. Commencez donc par donner aux agents IA les moyens de gérer des tâches routinières, à faible risque (mais à valeur ajoutée). Et conserver la supervision humaine pour les décisions complexes (ou à fort enjeu).

Au fur et à mesure que la confiance dans la fiabilité de l’agent IA à prendre des décisions et à « réfléchir » s’accroît, élargissez cette autonomie dans le cadre strict de gouvernance établi par votre organisation… ce qui suppose que vous avez déterminé également en amont, à la sortie du PoC, quand et dans quelle mesure une IA agentique peut déléguer quelles responsabilités aux agents d’IA.

Enfin, mettez en place une boucle de feed-back sur ces premiers succès pour affiner les approches de déploiement avant de les étendre, dans un second temps, à vos processus critiques.

Cette approche par palier permet aux agents de décoller en évitant bien des turbulences.

Dernier point extrêmement important : n’oubliez pas la dimension financière du passage à l’échelle. Mettez en place un suivi de type FinOps. Les coûts dans un projet agentique peuvent rapidement exploser – ou déraper, si certaines choses ne se passent comme prévues - si vous ne les monitorez pas.

Ne négligez pas l’humain

Une fois déployée à l’échelle, votre IA agentique n’aura de réelle efficacité que si elle est utilisée correctement, et qu’elle ne crée pas de défiance.

La dimension humaine et psychologique est trop souvent négligée par les décideurs. Trois chiffres doivent faire réfléchir les responsables. En France, en 2024, à peine un salarié sur dix pense qu’il maîtrise « la conversation avec les machines » et à peine plus de 15 % estiment disposer d’un soutien réel en interne pour développer leurs compétences dans ce domaine1. Troisième indicateur, plusieurs études s’accordent sur le fait que deux tiers des salariés dans le monde n’auraient pas reçu de formation à l’IA – ils sont 32 % seulement en France à avoir eu cette chance2.

Or l’acceptation et l’usage des agents – qui se fait via une interface de type conversationnelle et des prompts – sont proportionnels à l’investissement en temps affectés à cet accompagnement.

Pour scaler efficacement, il vous faudra donc accompagner vos équipes métiers, idéalement avec un engagement marqué du top management pour soutenir encore plus ces initiatives.

Vos opérationnels et vos métiers peuvent se méfier des agents IA, soit parce qu’ils ne leur font pas confiance (peur de modèles qui hallucineraient par exemple) soit, au contraire, parce qu’ils les trouvent trop efficaces et qu’ils craignent d’être remplacés par eux. Vous n’expliquerez jamais trop qu’un bon projet d’IA agentique vise à augmenter vos collaborateurs, et pas à les remplacer, et qu’il a pour objectif de transformer les processus avec eux, grâce à eux, et pour eux.

Montrez-leur concrètement comment les agents IA en production les aideront dans leur travail. Lors de la transition et du déploiement progressif à l’échelle, communiquez clairement et souvent, organisez des ateliers et désignez des « ambassadeurs ». Ces ateliers vous permettront par ailleurs de valider qu’il y a bien un potentiel transformationnel à automatiser le ou les processus que vous avez sélectionnés.

Une fois les agents opérationnels, n’arrêtez pas ce support humain. La gestion du changement est un voyage au long cours. Désignez des coachs permanents – des référents – vers lesquels vos collaborateurs pourront se tourner en cas de questions. Mettez en place des retours d’informations pour ajuster les processus en fonction de ce qui fonctionne (ou pas). En incorporant régulièrement ces retours, vous répondrez mieux aux préoccupations de vos collaborateurs, vous optimiserez les workflows au fil du temps, et vous monterez plus rapidement en maturité pour vos prochains projets d’IA agentiques appliquées à vos processus « cœur ».

En résumé : investissez massivement dans la formation pour démystifier l’IA auprès de vos employés. Cet investissement favorisera l’acceptation, l’adhésion et la promotion interne de vos agents IA. Il permettra de mieux scaler votre IA agentique – qui n’est pas qu’un projet technique, mais aussi, voire surtout, un projet humain de transformation. Votre ROI n’en sera que plus grand.

Pensez holistique

Enfin, pensez vos systèmes d’IA agentique – comme tout projet d’IA – de manière « holistique ». Concrètement, cela signifie que vos capacités agentiques doivent être conçues comme un système résilient, capable d’absorber de futures innovations.

Votre IA agentique sera donc en évolution continue pour tirer parti des améliorations des modèles de fondation. Ne pas le faire expose votre organisation aux périls du « shadow IT » avec, en interne, des agents moins performants que les produits du marché.

Cette approche holistique permettra à l’inverse de créer des capacités à long terme, et de faire émerger des avantages concurrentiels durables – et non pas des avantages éphémères liés à la technologie ou au modèle « à la mode », à l’instant T.

De cette manière, les prochaines vagues d’innovation ne remplaceront pas vos capacités existantes, mais elles les nourriront et elles les amélioreront au fil du temps.