Quand un assistant d’IA déclenche-t-il une évaluation de l’incidence algorithmique ?

Par Sherif AbdElGawad, dirigeant principal de l’intelligence artificielle · Publié le 15 août 2026

La Directive sur la prise de décisions automatisée du Conseil du Trésor s’applique aux systèmes en production qui prennent ou appuient des décisions administratives concernant des clients. Il en va de même des évaluations connexes. Elle exclut les systèmes d’essai et de recherche. Un assistant d’IA déclenche donc une évaluation de l’incidence algorithmique (EIA) quand deux conditions se rencontrent. Il est passé en production, et son résultat sert à une décision ou à une évaluation administrative visant une personne ou une entité que l’institution sert. Un assistant de recherche documentaire qui renvoie des passages à un analyste qui raisonne ensuite de façon indépendante peut échapper à cette portée. L’institution doit poser ce jugement et le consigner.

Le détail suit : où se situe la frontière et ce que l’évaluation examine. Puis comment le niveau d’incidence qui en découle commande l’examen par les pairs, et une liste de présélection que vous pouvez appliquer à votre propre flux de travaux cette semaine.

Un système appuie une décision lorsque son résultat constitue, pour le décideur, un intrant sur lequel il s’appuie comme tel. Cela comprend un score, un classement, une recommandation ou un signal d’admissibilité. Cela comprend aussi un indicateur de risque, une ébauche de décision, ou un résumé qui devient en pratique le fondement de la décision. Le système n’a pas à être automatique, et il n’a pas à avoir raison. Ce qui compte, c’est le rôle que joue son résultat dans le processus administratif.

Un système récupère de l’information lorsqu’il repère et présente des documents sources à partir desquels une personne raisonne ensuite de façon indépendante. Le fonctionnaire lit les passages cités, exerce son propre jugement et sa propre autorité législative, et pourrait arriver à la même conclusion sans l’outil, plus lentement. L’outil est un index plus rapide, non un participant au raisonnement.

La position honnête, c’est que cette frontière relève d’un jugement que votre institution pose, en contexte, pour un système donné. L’EIA est l’instrument qui sert à poser et à documenter ce jugement. C’est pourquoi nous conseillons de remplir l’évaluation quand la réponse est incertaine. Ne débattez pas de son applicabilité en réunion. Le questionnaire est la façon structurée d’en avoir le cœur net, et une évaluation remplie qui révèle un faible niveau d’incidence est un résultat documenté qu’un vérificateur peut examiner.

Le questionnaire comporte deux parties. Les questions sur les risques décrivent le système, le processus opérationnel, les données et les personnes touchées ; elles produisent un score d’incidence brut. Les questions sur les mesures d’atténuation décrivent les contrôles en place (consultation, gouvernance des données, essais, explicabilité, supervision humaine, surveillance). Elles produisent un score d’atténuation qui peut réduire le résultat brut. La combinaison des deux donne un niveau d’incidence de I à IV, et ce niveau détermine les exigences qui s’attachent au système.

Lisez les domaines que l’évaluation sonde avant de construire, car ils touchent des décisions d’architecture autant que des formalités :

Pouvoir à l’origine du projet

Le pouvoir légal et le pouvoir du programme qui fondent l’activité, et la question de savoir si la composante automatisée s’y inscrit.

Capacité du système

Ce que le système fait, ce qu’il produit, son degré d’autonomie, et l’endroit où une personne intervient dans le processus.

Explicabilité algorithmique

La question de savoir si le raisonnement peut être expliqué à une personne touchée dans des termes qui lui permettent d’agir, et non si un ingénieur peut décrire le modèle.

Qualité et provenance des données

L’origine des données, leur adéquation à la fin visée, la façon dont on les tient à jour, et ce qui se passe quand elles sont erronées.

Caractéristiques protégées et variables de substitution

La question de savoir si le système emploie des caractéristiques protégées par la législation sur les droits de la personne, ou des variables qui en tiennent lieu. Et celle de savoir si cela pourrait aggraver les obstacles existants pour les groupes vulnérables.

Le dernier domaine mérite une attention particulière dans les systèmes de recherche documentaire. Le biais s’y cache dans le corpus et dans le classement plutôt que dans une variable explicite. Un système qui fait remonter certains précédents plus facilement que d’autres pose un choix de fond, même si aucune caractéristique protégée n’apparaît nulle part dans sa configuration.

Les niveaux d’incidence II à IV exigent un examen par les pairs. Les examinateurs qualifiés peuvent provenir de la fonction publique, du milieu universitaire ou de la société civile. Il peut aussi s’agir d’un spécialiste sous contrat ou d’un comité désigné par le Secrétariat du Conseil du Trésor. L’idée répandue selon laquelle un ministère doit retenir les services d’une firme externe est inexacte. Un examinateur qualifié au sein de la fonction publique ou d’un établissement universitaire peut satisfaire à l’exigence, et c’est souvent la voie la plus rapide et la moins coûteuse.

Les examinateurs vérifient si l’évaluation décrit fidèlement le système, et si les données sont de qualité suffisante et de provenance appropriée. Ils vérifient aussi l’équité procédurale du processus pour les personnes touchées et le caractère significatif de l’explication offerte. Ils vérifient enfin que l’institution a dûment pris en compte les obligations en matière de protection des renseignements personnels. Donnez-leur ce dont ils ont besoin pour faire ce travail. Cela signifie l’évaluation remplie, la description des données, la méthode et les résultats d’évaluation, la conception de la supervision humaine, et une liste honnête des limites connues.

1. Le système s’en va-t-il en production, ou s’agit-il de recherche ou d’essai ? Les systèmes d’essai et de recherche sont exclus de la Directive. Consignez la date du début de la production, car ce changement de statut est facile à manquer.
2. Qui est touché par le résultat ? Un client de l’institution (une personne ou une entité qui reçoit un service, une prestation, une décision ou une mesure d’exécution) ? Ou seulement du personnel interne qui produit du travail interne ?
3. Le résultat sert-il à une décision administrative ou à une évaluation connexe ? Suivez le résultat jusqu’à sa destination. S’il aboutit à un dossier de décision, à un dossier de cas ou à une recommandation, dites-le.
4. Le système produit-il un score, un classement, une recommandation, un signal d’admissibilité ou une ébauche de décision ? N’importe lequel de ces éléments oriente vers l’appui à une décision plutôt que vers la récupération d’information.
5. Un examinateur adopterait-il en pratique le résultat sans raisonnement indépendant ? Posez la question aux personnes qui s’en serviront, pas à celles qui en assureront la gouvernance.
6. Le système emploie-t-il des caractéristiques protégées ou des variables qui en tiennent lieu de façon plausible ? Le code postal, la forme du nom, la langue de correspondance et l’historique auprès de l’institution sont tous, dans le bon contexte, des variables de substitution.
7. Le résultat pourrait-il toucher des droits, des prestations, la santé, la sécurité, des intérêts économiques ou l’accès à un service ? Si oui, considérez que la présélection oriente vers l’évaluation, peu importe la façon dont l’outil est décrit.
8. Que se passe-t-il quand il se trompe ? Qui s’en aperçoit, en combien de temps, quel est le recours pour la personne touchée, et l’effet est-il réversible ?

Si les questions 3, 4, 5 ou 7 reçoivent un oui, remplissez l’EIA. Si elles reçoivent toutes un non sans équivoque, consignez la présélection, la date, le raisonnement et la personne qui en répond. Puis inscrivez la reprise au contrôle des changements. Un assistant à faible incidence peut acquérir discrètement une fonction de recommandation à la quatrième version et franchir la frontière sans nouvelle présélection. Nous aidons votre institution à mener cette présélection dans le cadre du Sprint de cadrage et de gouvernance. Nous intégrons ensuite la frontière qui en résulte à la conception du projet pilote de six semaines.

Le Registre de l’IA du gouvernement du Canada est une carte utile de ce que les institutions fédérales font avec l’IA. Ce n’est pas une liste des systèmes qui exigent une EIA, et il ne devrait pas être cité comme telle. Le registre couvre des systèmes allant de l’exploration initiale jusqu’au déploiement, et le fait d’y figurer ne dit rien en soi sur l’application de la Directive à une entrée donnée.

C’est aussi, explicitement, un produit minimum viable aux champs incomplets. Il comptait 412 entrées provenant de 43 institutions au moment de notre consultation, le 5 septembre 2026, pour un fichier mis à jour la dernière fois le 28 avril 2026. Ce décompte ne devrait pas être cité comme le nombre de systèmes fédéraux assujettis à la Directive. Le registre ne comporte aucun champ de niveau d’incidence, de sorte qu’il ne peut pas non plus répondre à cette question dans un sens ou dans l’autre. Voyez-y un répertoire pour trouver des travaux comparables et les personnes qui les mènent, ce qui a une réelle valeur, et non un dénominateur de conformité. Nous avons lu le fichier au complet dans ce que le registre fédéral de l’IA montre.