L’IA change d'échelle: comment gouverner pour accélérer l’usage de l’IA

le 20/06/2025 par Stéphanie RAMIREZ, Romain Chartier, Audrey Boisselet

Tags: Data & AI, Bonne Pratique, Stratégie, Transformation, Intelligence Artificielle

L’IA change d'échelle : comment gouverner pour accélérer l’usage de l’IA ?

Introduction

L’intelligence artificielle est présente en entreprise depuis des années, de façon visible ou non, à travers des modèles supervisés, des algorithmes statistiques ou du NLP sur des tâches ciblées. Elle était jusqu’à récemment portée par des experts data, dans une logique de résolution de problèmes précis, à partir de données structurées et gouvernées.

Depuis deux ans, l’intelligence artificielle connaît une accélération sans précédent. L’essor des modèles génératifs comme ChatGPT, Gemini ou Claude a marqué un tournant : pour la première fois, des systèmes capables de dialoguer, résumer, créer du code ou du contenu sont devenus accessibles à tous. Cette vague a profondément transformé notre rapport à l’IA, la rendant à la fois plus intuitive et largement répandue : Gartner prédit d’ailleurs qu'en 2026, l'IA générative sera intégrée dans 90 % des solutions d'IA conversationnelle, contre 50 % en 2024. - Source : Emerging Tech Horizon for Generative AI (Gartner)

Et une nouvelle vague se profile déjà : contrairement aux IA génératives, les IA agentiques ne se contentent plus de générer ou répondre : elles agissent, parfois sans intervention humaine directe. Capables de prendre des décisions, de déclencher des actions, voire d’orchestrer des chaînes de processus, elles deviennent de véritables agents autonomes dans nos systèmes.

En résumé :

IA Classique : règles, arbres de décision, modèles supervisés. Elle exécute des tâches ciblées, dans des environnements stables.
IA Générative : elle produit, imite la créativité humaine. Elle comprend le contexte, mais reste réactive.
IA à l’ère des agents : elle observe, décide et agit seule. Elle devient proactive et autonome, dans des environnements complexes.

OK, l’IA évolue, et donc ?

Donc, trois constats clés émergent :

L’usage devient imprévisible : un même modèle peut servir à des usages très variés, souvent non anticipés, sans supervision claire.
La donnée reste le seul vrai différenciant : alors que les modèles sont mutualisés, ce sont les données propres à chaque organisation qui font la valeur.
L’illusion de contrôle s'accroît : plus les IA gagnent en autonomie, plus il devient complexe de retracer leurs décisions, d’en comprendre les logiques et d’en évaluer les performances.

Ces évolutions marquent une rupture : on ne peut plus anticiper ni encadrer chaque décision comme dans un système déterministe. L’IA générative ou agentique introduit des formes de raisonnement, d’interaction et d’initiative qui complexifient la traçabilité, diluent la responsabilité et fragilisent les repères classiques de contrôle.

La gouvernance ne peut donc plus être statique. Elle doit évoluer vers des approches dynamiques, adaptatives, centrées sur les usages réels, les modèles effectivement déployés, et leurs impacts concrets.

2. L’importance de poser un cadre de gouvernance solide

OCTO propose un cadre de gouvernance unifié, articulé autour de six piliers clés à adresser pour toute forme d’IA — à adapter selon votre niveau de maturité, qu’il s’agisse d’IA traditionnelle, générative ou agentique.

Les 6 piliers de la gouvernance AI - Framework OCTO

Chacun de ces piliers mérite d’être précisé pour en comprendre le rôle, les enjeux spécifiques et les leviers d'action à mobiliser.

1. Stratégie & Pilotage IA : unifiez une stratégie d’entreprise IA pour briser les silos

Selon l'enquête Gartner 2025 auprès des DSI et des dirigeants technologiques, 84 % des répondants ont indiqué que leur entreprise prévoyait d'augmenter le financement de l'IA en 2025, contre 73 % l’année précédente.

Une fois admise l’idée que l’IA va impacter très fortement nos Métiers (ce qui au passage est encore très largement sous-estimé), chez OCTO il nous paraît indispensable et urgent d’intégrer l’IA dans la stratégie d’entreprise et de fait d’établir une stratégie IA dont l’objectif est d’aligner les initiatives IA sur une vision commune claire, et partagée vers des objectifs déclinables en priorités à la fois métiers et technologiques.
En fait, jusque-là cela ressemble beaucoup à ce qui est fait pour la stratégie Data : chez OCTO nous pensons qu’il est indispensable d’unifier stratégie IA & Data, pour se servir de ce qui est déjà en place sur la Data et l’étendre vers l’IA (par exemple lors de la collecte des cas d’usage Data ou IA), pour lancer des campagnes d’acculturation Data & IA) et pour mutualiser les ressources technologique et humains. Et puis parce que la Data doit aussi être repensée de manière stratégique en entreprise en étendant le périmètre de ce qu’est la data pour permettre l’usage de l’IA via une intégration des images, des vidéos, des documents, des données externes, ce de manière sécurisée.

Il s’agit aussi d'intégrer les composantes éthiques, sociétales et environnementales au cœur de la stratégie, dans la charte IA. Par exemple, en définissant une charte IA alignée avec la stratégie RSE, en priorisant des initiatives comme l’optimisation énergétique d’un modèle : c’est un volet essentiel qui doit être inclus dans la gestion des risques.

L’anticipation des dérives et d’encadrement des risques sont des enjeux tellement critiques (avec l’évolution exponentielle de l’IA) et touchant toutes les composantes (données, modèles, utilisateurs …) qu’il devient stratégique de les piloter de manière globale.
On pourra par exemple évaluer les biais potentiels dans un algorithme de recrutement, ou mettre en place une revue humaine obligatoire pour valider les refus de prêt générés par l’IA, ou encore rendre critiques et confidentielles les données générées par un LLM interne.

2. Gouvernance des usages IA et de la valeur : investissez à la hauteur de l’impact métier

Il s’agit de cadrer les cas d’usage IA pour en garantir la valeur, le bon niveau de contrôle et la responsabilité associée. Il convient de définir le cadre d’usage de l’IA adapté en fonction de la maturité des utilisateurs sur la pratique de l’IA et aussi sur la Data : plus la maturité IA & Data est faible, plus l’usage de l’IA doit être encadré pour le sécuriser et apporter de la valeur sans risque. La définition d’une charte des usages Data &IA permet de le partager auprès des utilisateurs. On pourra par exemple valider un assistant RH pour répondre aux questions internes, tout en bloquant l’automatisation de décisions disciplinaires sensibles. Ce partage est d’ailleurs l’occasion de créer une communauté de pratiques IA, qui peut être le relai de la culture IA & Data.

Il s’agit aussi de prioriser les décisions par la valeur métier : ce que l’on appelle la gouvernance par la valeur, qui accompagne le cycle de vie des cas d’usage IA & Data depuis leur émergence jusqu’à leur mise à disposition effective aux utilisateurs. Cette approche consiste à évaluer, cadrer et sélectionner les initiatives IA ou data en fonction de leur impact business concret — en alignant les ressources, les arbitrages technologiques et les efforts de déploiement sur les objectifs stratégiques de l’organisation. Cela permet ainsi d’éviter la dérive technologique ou les projets “vitrine”, en assurant qu’un maximum de réalisation génèrent du retour sur investissement mesurable avec une adoption réelle par les équipes métier car chez OCTO nous avons la conviction que l’adoption des utilisateurs fait partie des métriques de valeur.

3. Gouvernance de l’innovation IA : c’est là que tout commence, prévoyez une gouvernance à part pour favoriser l’émulation

Chez OCTO, nous faisons de l’innovation IA un axe de gouvernance dédié majeur car :

L’évolution permanente des technologies de l'IA nécessite une organisation adaptée, composée d’experts IA dédiés aux outils et à l’architecture IA, capable d’intégrer les modèles, les frameworks et les capacités de calcul mais aussi capable d’adapter leurs évolutions rapides (par exemple, les performances de traitement peuvent différer d’une version de modèle à l’autre, nécessitant l’intervention d’un profil algorithmicien ou data scientist).
Le processus d’innovation est inhérent à l' IA, puisque l’IA ne suit pas des cycles projet statiques avec un début et une fin. L’IA se caractérise par une dynamique importante du fait de la variabilité des paramètres qui la composent. Si bien que la phase d’exploration est un continuum d’expérimentations et d’apprentissages d’où jaillissent les cas d’usage IA, et où on les replonge en cas de déviation pour les reparamétrer et les réentraîner. Cela impose une gouvernance agile, capable de soutenir l’exploration en lien avec l’alignement stratégique, et les exigences de robustesse en vue du passage à l'échelle.
Dès lors la nécessité de piloter l’incertitude, la valeur des cas d’usage IA en structurant une démarche de validation continue avec des cadres clairs : gestion du portefeuille de cas d’usage, critères de passage entre phases (exploration, preuve de valeur, mise en production), évaluation continue et prise en compte des contraintes éthiques et réglementaires (AI Act, RGPD, etc..).
Innover dans l’IA sans gouvernance, c’est prendre le risque de créer des dettes technologiques, des biais algorithmiques ou des effets inattendus difficiles à corriger en aval.

Intégrer l’innovation IA comme axe structurant de la gouvernance IA, c’est se donner les moyens de s’adapter aux évolutions technologiques et réglementaires permanentes, d’anticiper l’industrialisation, et de développer de nouveaux usages IA tout en garantissant cohérence, maîtrise et alignement avec les responsabilités sociétales et économiques.

4. Gouvernance du delivery IA : un cadre cyclique pour guider les décisions produit à partir d’indicateurs de valeur, de delivery et de tech

Dans un contexte où les cas d’usage d’IA se multiplient, la question n’est plus seulement d’innover, mais de livrer à l’échelle, de manière fiable et responsable. Le delivery IA est différent du delivery logiciel classique car contrairement aux applications traditionnelles, le delivery IA :

Est non-déterministe : le comportement d’un modèle peut changer selon les données, les entraînements, ou les mises à jour de l’environnement.
Repose sur la donnée vivante : la performance du modèle dépend du flux de données en entrée, qui peut varier dans le temps (data drift).
Nécessite une boucle d’apprentissage automatisée : les retours utilisateurs, la dérive des données, ou l’évolution des usages imposent des réajustements fréquents.
Peut intégrer des modèles tiers (API externes, LLMs, etc.) : impliquant une dépendance à des systèmes que l’on ne maîtrise pas intégralement.

Dès lors, livrer de l’IA nécessite une gouvernance de bout en bout, qui prenne en compte la donnée, le modèle, l’infrastructure, les risques, l’adhésion des utilisateurs et les métriques métier. Cette gouvernance doit être capable de structurer le cycle de vie d’un cas d’usage, de l’idéation jusqu’à la mise en production et au run, en intégrant les étapes de validation technique, de conformité réglementaire et d’acceptabilité métier. Elle implique une approche produit, une stratégie de gestion des dépendances (données, modèles, API, infrastructure), ainsi qu’une formalisation claire des jalons de delivery.

Mettre en production un modèle d’IA ne suffit pas à en faire un service fiable et pérenne. Sans un cadre structurant aligné sur les principes du MLOps et du LLMOps, les promesses de l’IA s’épuisent vite. L’IA ne peut rester une expérimentation isolée : elle doit devenir un produit industriel, maîtrisé et gouverné comme tel. C’est la qualité du delivery qui fait la différence entre une preuve de concept brillante et une solution réellement utile.

Chez OCTO, nous faisons le lien entre cette exigence et les fondations de la gouvernance IT, en y intégrant les spécificités propres à l’IA : une dynamique d’apprentissage continue, une éthique embarquée et une capacité de disruption qui impose des garde-fous.

Industrialiser l’IA ne repose pas uniquement sur la qualité des modèles ou la pertinence des cas d’usage. Cela implique aussi de prendre des décisions technologiques et opérationnelles structurantes, dès la phase de design. Les environnements d’exécution, les outils de versioning pour les modèles, les données et le code, les mécanismes de fallback en cas d’erreur IA ou encore les modalités de supervision humaine doivent être cadrés dès l’amont.

Ce cadre décisionnel ne doit pas enfermer les équipes, mais au contraire leur offrir les fondations nécessaires à la scalabilité, à la résilience et à la sécurité des systèmes. L’innovation IA ne peut se déployer durablement sans un socle d’ingénierie robuste, documenté, partagé et capable d’évoluer avec les usages et les technologies.

Dans ce contexte, la gouvernance du delivery IA doit aussi adresser les enjeux classiques — mais critiques — de la production : assurer la continuité d’accès, sécuriser les modèles (y compris via les API tierces), maîtriser la montée de version, et piloter les performances dans la durée. C’est ici que la gouvernance IT traditionnelle rencontre ses limites et doit s’adapter à la spécificité de l’IA : un composant vivant, apprenant, potentiellement opaque, et porteur d’impacts majeurs.

Chez OCTO, nous considérons que la gouvernance du delivery est l’un des trois piliers structurants d’une gouvernance IA complète, aux côtés de la gouvernance de l’innovation et de la gouvernance des modèles. Elle permet de passer de l’expérimentation à l’impact réel, en fiabilisant les déploiements, et en sécurisant les usages IA.

5. Gouvernance des modèles : versionner, déployer, héberger et monitorer tous types de modèles dans une solution centralisée

Les modèles évoluent vite, se dégradent, deviennent obsolètes. Les données changent, les cas d’usage s’étendent. Pour suivre le rythme, il faut une organisation outillée, capable d’assurer la traçabilité, la montée de version, la supervision de la performance et la sécurité des modèles, nécessaire à la continuité de service.

La gouvernance des modèles est le pilier qui garantit la continuité de service, la sécurité et la performance des cas d’usage IA: continuité d’accès, montée de version, sécurité des modèles (exposition API, etc ), et pilotage de la performance dans le temps.

Ce pilier encadre la gestion des modèles IA utilisés, qu’ils soient développés en interne ou intégrés via API. Il couvre la traçabilité, l’observabilité, l’explicabilité et la gestion fine des métadonnées du modèle, comme lorsqu’on déploie un modèle de scoring de crédit ou qu’on supervise une API GPT intégrée dans un copilote juridique.

La traçabilité impose de conserver un historique clair de toutes les versions de modèles via un Model Registry, permettant d’identifier à tout moment quel modèle a été utilisé, avec quelles données, et dans quel contexte de décision. L’observabilité, quant à elle, repose sur la surveillance continue des données d’entrée et de sortie, des performances techniques et des métriques métiers, à travers des outils de ML Monitoring dédiés.

Dans un contexte où l’IA peut produire des résultats non déterministes ou difficilement interprétables, l’audibilité des décisions devient critique. Cela suppose une capacité à documenter, expliquer et contextualiser chaque décision, même lorsqu’elle émane d’un modèle complexe ou d’une API tierce. Cette explicabilité est d’autant plus cruciale lorsqu’on touche à des domaines sensibles comme le crédit, la santé ou le droit.

Ainsi, la gouvernance des modèles ne se limite pas à des choix techniques. Elle structure la confiance, la conformité et la responsabilité autour des systèmes IA en production — et en cela, elle est un fondement indispensable de toute IA maîtrisée.

Chez OCTO nous pensons que “La Model Platform va être une solution aux problèmes liés à l'explosion du nombre et la variété des modèles.”

La Model Platform est une solution centralisée pour versionner, déployer, héberger et monitorer tous types de modèles. Assurant scalabilité, gouvernance et conformité, elle simplifie leur intégration et leur gestion dans le temps (de la phase d’apprentissage à la phase d’archivage).

Jette un œil au CR du Talk OCTO à “La Grosse Conf 2025 - Model Platform : Industrialiser et gouverner vos modèles à grande échelle” qui explique pourquoi cette solution et les apports de valeur dans la gouvernance de l’IA en entreprise.

Le Model platform selon OCTO

6. Gouvernance des données : “la Data comme fondation”

"70 % des entreprises que nous avons interrogées ont reconnu la nécessité d'une base de données solide pour réussir à développer l'IA." (source Accenture 2025)

https://www.accenture.com/content/dam/accenture/final/accenture-com/document-3/Accenture-Front-Runners-Guide-Scaling-AI-2025-POV.pdf#zoom=40

Chez OCTO aussi nous pensons qu’une gouvernance IA efficace s’adosse à la gouvernance Data : d’une part pour bénéficier des moyens déjà mis en place pour gouverner la donnée : les structures de gouvernance (par exemple pilotage, data office, etc..), les outils (par exemple les catalogues de données) et les processus de mise en qualité , et puis d’autre part afin de garantir que les données utilisées sont fiables, licites et traçables, ce qui est clé, notamment pour parvenir à entraîner les modèles et tout au long de leur cycle de vie.
Par exemple, s’assurer que les données d’entraînement d’un modèle d’analyse d’images médicales sont fiables, anonymisées et conformes RGPD, ou vérifier les droits d’usage de contenus intégrés dans une IA.

3. Comment y aller : adaptez votre Gouvernance à votre maturité !

Toutes les organisations ne sont pas égales face à l’IA — et elles ne doivent pas l’être en matière de gouvernance non plus. Gouverner de façon rigide, c’est étouffer l’innovation. Gouverner trop tard, c’est courir à la dérive.

Le schéma ci-dessous pose de manière simplifiée les objectifs recherchés des entreprises en fonction de leur maturité sur l’IA. En moyenne, toutes technologies d’IA confondues, la plupart des entreprises ont mis en production les premiers cas d’usage, et se posent la question de poser des fondations technologiques et organisationnelles solides pour “scaler” l’IA.

Evolution des enjeux en fonction de la maturité sur l’IA

(phases Exploration, Accélération, Stabilisation)

En effet, une entreprise qui débute dans l’IA ne se pose pas les mêmes questions qu’une organisation qui industrialise ses modèles à grande échelle.

En phase d’exploration, on cherche surtout à savoir ce qu’on a le droit de tester, avec quelles données, et jusqu’où on peut aller sans risque.
En phase d’accélération, les enjeux basculent : comment généraliser les cas d’usage utiles ? Comment éviter la duplication ou la dérive ?
Et à l’étape de stabilisation, les exigences deviennent systémiques : gouverner la performance des modèles, garantir la conformité à grande échelle, industrialiser le cycle de vie.

Fort de notre expérience et en tenant compte de l’avancement de nos clients dans leur parcours, nous avons observé des tendances spécifiques en matière de projets, notamment en ce qui concerne la concentration des efforts. Ces tendances reflètent des priorités stratégiques et opérationnelles qui varient selon les étapes de maturité et les objectifs de transformation de chaque organisation. En analysant ces dynamiques, nous sommes en mesure d’identifier des leviers clés pour maximiser l’impact et l’efficacité des initiatives entreprises.

Les Piliers Clés de la Réussite à Chaque Phase

En phase d’Exploration

L’innovation est au coeur, avec également les prédominances d’une part de la stratégie AI traduisant les efforts à porter pour aligner Métier, IT, et stratégie d’entreprise, et d’autre part sur la gouvernance des données à adapter à la problématique IA afin de servir l’expérimentation avec des données de qualité.

En phase d’Accélération

L’accent est porté sur l’usage de l’IA et le Delivery IA via l’industrialisation des cas d’usage IA priorisé par l’apport de la valeur pour favoriser l’adoption, essentielle pour ancrer durablement la nouvelle culture de l’IA. A noter que l’effort porté sur l’Innovation et la Data reste important avec une progression sur l’axe Modèles IA.

En phase de Stabilisation

La gestion des modèles devient clé pour optimiser les cas d’usage IA en continue, c’est là où réside désormais la part innovante. Le delivery doit aussi s’adapter à la gestion du run et la mobilisation sur la qualité de données reste intacte (l’IA peut aussi aider à améliorer le data management à cette phase).

La bonne approche consiste donc à activer les capacités de gouvernance au bon moment, en fonction de son niveau de maturité sur l’IA. Chaque étape appelle des exigences adaptées, pour sécuriser les usages tout en favorisant l'apprentissage et la création de valeur.

Conclusion – Bien gouverner l’IA… c’est aller plus loin

L’IA ne ralentira pas pour vous. Ni les modèles, ni les usages, ni les attentes de vos métiers. Mais vous pouvez choisir d’encadrer intelligemment cette course, plutôt que de la subir. Que vous soyez en train de lancer un premier chatbot, de déployer des copilotes génératifs, ou d’expérimenter des agents autonomes, une chose reste vraie : il n’existe pas de maturité Data & IA sans maturité de gouvernance.

Et comme chaque organisation a ses enjeux, ses risques, ses contraintes propres…
→ Contactez-nous pour évaluer la maturité de votre gouvernance IA :

En fonction de:

vos ambitions, vos cas d’usage (classique, génératif, agentique),
de votre stack technologique, et de votre modèle opérationnel
de vos objectifs métiers, et des exigences réglementaires et à venir.

Parce que non, vous ne serez peut-être jamais "prêts".
Mais avec une gouvernance adaptée, vous serez capables.

Liens Utiles pour continuer votre lecture :