De la démonstration au service en exploitation, le modèle de contrôle AgentOps

Une démonstration répond à la question : est-ce que ça peut fonctionner ? Un service en exploitation répond à celle-ci : qui est responsable quand ça ne fonctionne pas, et comment le saurons-nous ?

Six éléments deviennent obligatoires, qui étaient facultatifs la veille.

Un responsable nommé, avec un délégué. Le Secrétariat du Conseil du Trésor du Canada a publié un Guide sur l’utilisation de l’intelligence artificielle agentive, modifié le 22 mai 2026. Le guide est précis. Il exige qu’un rôle défini soit attribué à la personne responsable des résultats et de la surveillance de l’agent d’IA. Il exige aussi une procédure de renvoi aux niveaux supérieurs documentée et un remplaçant désigné en cas d’absence ou de mutation. La responsabilité incombe toujours à la personne responsable désignée, même lorsque l’agent fonctionne de manière autonome dans le cadre des autorisations approuvées. Un service dont le responsable est en congé et n’a pas de délégué est sans responsable, ce qui n’est pas la même chose que légèrement supervisé.

Une autonomie bornée, consignée par écrit. Le guide l’énonce comme une exigence de conception. Des paramètres stricts et explicites régissent le fonctionnement des agents d’IA. Ils limitent l’accès aux données et aux outils, les autorisations et le champ d’action, sans pouvoirs étendus et illimités. Chaque agent a un niveau d’autorisation défini, par exemple « ébauche seulement » ou « lecture seulement ». Une liste concise, rédigée en langage clair, dit ce qu’il peut et ne peut pas faire, et on l’affiche. Une démonstration fonctionne avec les authentifiants qui étaient commodes. Un service fonctionne à un niveau que quelqu’un a approuvé.

La récupérabilité comme propriété de conception. Le guide veut des agents qu’on peut guider facilement, suspendre ou désactiver au besoin, puis remettre rapidement à un état sûr et stable. S’y ajoute un mécanisme de mise en pause et de désactivation « indépendant de l’agent d’IA ou du système d’IA agentive ». Il est assorti d’un plan de reprise pour les actions non voulues. Externe, parce qu’une commande d’arrêt située à l’intérieur de ce que l’on veut arrêter n’est qu’une demande.

Une journalisation suffisante pour reconstituer. Le guide dit : « Conservez les journaux des outils utilisés, des opérations exécutées, des autorisations accordées et des données d’entrée et de sortie clé ». Pour les demandes d’outils, il demande de consigner « le nom de l’outil, l’heure, le résultat et le type de paramètres transmis ». Chaque champ coûte peu au moment de la construction et devient impossible à obtenir après coup.

Une comparaison permanente avec le rendement humain. Le guide est direct : « Demandez occasionnellement à des spécialistes d’effectuer manuellement les tâches de l’IA agentive afin de comparer leur rendement à celui de l’agent ». Il y voit aussi un moyen « de déterminer s’il est nécessaire de former à nouveau le personnel ou l’agent IA, en fonction des résultats ». Il y ajoute des « vérifications et des évaluations régulières » et des « vérifications ponctuelles » pour « déceler rapidement tout écart ». Ce contrôle est facile à omettre, et c’est le seul qui détecte la dégradation silencieuse.

Un point de contrôle sur les actions qui modifient l’état. Voici la phrase opérante du guide. Lorsque l’action d’un agent « modifie l’état d’un système (envoi, publication, autorisation, dépense, mise à jour de dossiers) », le guide dit : « intégrez un processus de vérification/confirmation à la conception ». L’exception tient en une condition : « sauf si les effets attendus sont manifestement minimes et que l’opération est facilement réversible ». Notez que le déclencheur est le type d’action, et que l’exemption exige à la fois une faible incidence et une réversibilité triviale. La réversibilité seule ne suffit pas.

Une institution financière n’a pas à attendre des règles propres à l’intelligence artificielle. Elles sont déjà visées, et deux fois plutôt qu’une.

Le Bureau du surintendant des institutions financières (BSIF) a diffusé la version révisée définitive de sa ligne directrice sur la gestion du risque de modélisation le 11 septembre 2025. Elle entre en vigueur pour toutes les institutions financières fédérales le 1er mai 2027. Elle définit un modèle comme l’application de techniques statistiques ou d’hypothèses théoriques, empiriques ou fondées sur un jugement. Cette application traite des données en entrée pour générer des résultats, et la définition inclut les méthodes d’IA et d’AA. Elle anticipe aussi la prévalence croissante de modèles caractérisés par l’auto-apprentissage dynamique et la prise de décision autonome. La portée a été élargie par rapport à la version antérieure visant les institutions de dépôt, pour couvrir tous les modèles de toutes les institutions financières fédérales.

La ligne directrice sur la gestion du risque lié aux tiers est en vigueur depuis le 1er mai 2024. Les ententes avec des tiers conclues à compter de cette date doivent s’y conformer.

Lues ensemble : un agent est un modèle, et le fournisseur de cet agent est un tiers. Les deux cycles de vie ont déjà, au sein des institutions financières canadiennes, des responsables, des inventaires, des attentes de validation et des fréquences d’examen. Le travail ne consiste pas à inventer une fonction AgentOps. Il consiste à acheminer les agents vers les mécanismes qui existent, avant que quelqu’un en construise un parallèle.

Le même raisonnement se généralise. Prenez une organisation canadienne réglementée qui exerce déjà la gouvernance des modèles, la gestion du risque lié aux tiers, la gestion du changement et l’intervention en cas d’incident. Un agent qui échappe aux quatre n’est pas non encadré par accident. Il est non encadré parce que personne n’a demandé auquel des quatre il appartient.

Le cadre de gestion des risques liés à l’intelligence artificielle du National Institute of Standards and Technology, version 1.0, janvier 2023, organise le travail autour de quatre fonctions. Gouverner « cultive et met en œuvre une culture de gestion des risques ». Cartographier « établit le contexte permettant de cadrer les risques liés à un système d’IA ». Mesurer emploie des techniques quantitatives et qualitatives, ou mixtes, « pour analyser, évaluer, étalonner et surveiller le risque lié à l’IA ». Gérer « consiste à affecter régulièrement des ressources de gestion du risque aux risques cartographiés et mesurés ». Son profil pour l’intelligence artificielle générative a suivi en juillet 2024, à titre de complément intersectoriel.

Le cadre est utile comme forme pour le modèle d’exploitation. Ce n’est pas une liste de contrôles, et le traiter comme telle produit un tableur que personne ne lit.

La norme ISO/IEC 42001:2023 est une norme certifiable de système de management de l’intelligence artificielle. L’Organisation internationale de normalisation (ISO) et la Commission électrotechnique internationale (CEI) l’ont publiée en décembre 2023. C’est le bon instrument si l’organisation veut un système de management vérifiable. Elle est payante. Quiconque vous cite le texte d’un article précis sans détenir de licence cite autre chose.

Les obligations de supervision humaine de l’article 14 de l’Union européenne, dans le règlement (UE) 2024/1689, visent les personnes chargées de la supervision. Elles prévoient que ces personnes soient en mesure, « dans la mesure où cela est approprié et proportionné », d’« ignorer, remplacer ou inverser la sortie ». Ces personnes doivent aussi être en mesure d’« interrompre le système au moyen d’un bouton d’arrêt ou d’une procédure similaire permettant au système de s’arrêter de manière sécurisée ». Bonne conception, quel que soit le ressort dans lequel vous exercez.

Les dates d’application ont changé. Le règlement (UE) 2026/1744, publié au Journal officiel le 24 juillet 2026, a fixé de nouvelles dates d’application pour les obligations du chapitre III, sections 1, 2 et 3. Pour les systèmes classés à haut risque au titre de l’annexe III, la date est le 2 décembre 2027. Pour ceux relevant de l’annexe I, c’est le 2 août 2028. Les dates initiales étaient respectivement le 2 août 2026 et le 2 août 2027. L’article 14 se trouve au chapitre III, section 2 ; il a donc été reporté avec elles.

Le guide canadien est une orientation, non une directive : il renvoie le lecteur à la Directive sur la prise de décisions automatisée pour les obligations contraignantes. Le traiter comme obligatoire à l’interne est un choix défendable. Le présenter comme obligatoire à un comité de direction ne l’est pas.

Pour chaque agent en service : le responsable nommé et son délégué. Le niveau de permission, par écrit. La liste des actions qui modifient l’état et le point de contrôle qui s’applique à chacune. Les champs de journalisation, vérifiés en reconstituant une semaine d’activité à partir d’eux. La fréquence de comparaison humaine et la personne qui l’exécute. La commande d’arrêt externe et la date de son dernier essai.

Six lignes par agent. Une organisation incapable de remplir six lignes pour un agent en production n’a pas un service en exploitation. Elle a une démonstration que personne n’a éteinte.

Précédemment : l’évaluation bilingue des flux de travaux d’IA de l’administration publique canadienne. Prochain article de la série : comment rédiger un énoncé des travaux de projet pilote d’IA prêt pour l’approvisionnement.