Les firmes de gestion de patrimoine utilisent de plus en plus l'IA pour faire le gros du travail de connaissance du produit : lire les documents d'offre, extraire les frais et les modalités, détecter les changements dans les dépôts réglementaires, noter les produits et rédiger des résumés. Chacun de ces outils produit des résultats sur lesquels la firme s'appuie ensuite. Si un résultat est erroné et que personne ne s'en aperçoit, la compréhension qu'a la firme d'un produit est erronée elle aussi.
C'est le risque de modèle, et les banques le gèrent depuis des années. Ce qui est nouveau, c'est que les outils ont changé plus vite que les lignes directrices. Le régulateur bancaire canadien a inscrit l'IA dans sa ligne directrice sur le risque de modèle. Les régulateurs bancaires américains ont réécrit la leur en avril 2026 et ont laissé l'IA générative et agentique hors de son champ d'application. Les régulateurs des valeurs mobilières des deux pays s'attendent à ce que les outils d'IA soient adaptés à leur usage, testés et supervisés, sans prescrire comment.
Cet article présente un cadre pratique de gestion du risque de modèle pour les outils d'IA utilisés dans la diligence raisonnable et la surveillance des produits. Il couvre ce que disent les normes, pourquoi l'IA exige un traitement différent, comment inventorier et coter les outils d'IA, comment les valider et les surveiller, ce qu'il faut exiger des fournisseurs, ainsi que les responsabilités et un exemple de processus écrit.
Il reflète les publications disponibles à la date indiquée ci-dessus.
Le risque de modèle est la possibilité qu'une firme prenne une mauvaise décision parce que le résultat d'un modèle était erroné, ou a été utilisé pour une fin à laquelle il n'était pas destiné.
| Source | S'applique à | Position sur l'IA |
|---|---|---|
| Ligne directrice E-23 du BSIF, en vigueur le 1er mai 2027[1] | Institutions financières fédérales au Canada, y compris les banques et les assureurs qui détiennent des courtiers et des conseillers | IA incluse. La définition de modèle englobe les « méthodes d'IA et d'apprentissage automatique » ; les normes de surveillance devraient couvrir « la dérive du modèle, la prise de décision autonome, le reparamétrage autonome ». |
| Lignes directrices interagences révisées sur la gestion du risque de modèle, 17 avril 2026[2][3] | Organisations bancaires américaines, surtout celles de plus de 30 milliards $ d'actifs ; remplace SR 11-7 | IA générative et agentique exclues : elles « sont nouvelles et évoluent rapidement. À ce titre, elles ne relèvent pas du champ d'application de ces lignes directrices ».[3] |
| Avis 11-348 du personnel des ACVM, décembre 2024[4] | Personnes inscrites canadiennes, y compris les courtiers et les conseillers | Les firmes devraient être « convaincues que le système d'IA est adapté à son usage et qu'il a fait l'objet de tests rigoureux avant son déploiement », et devraient le tester « avant et après son adoption ». |
| Rapport annuel de surveillance réglementaire 2026 de la FINRA[5] | Courtiers américains | Décrit des firmes qui établissent « un cadre de supervision, de gouvernance ou de gestion du risque de modèle » pour l'IA générative, avec des tests rigoureux et une surveillance continue des résultats. |
La lacune. Pour une firme américaine, les lignes directrices des agences bancaires ne couvrent plus du tout l'IA générative, et elles précisent que la non-conformité « n'entraînera pas de critique de la part des autorités de surveillance ».[3] Les régulateurs des valeurs mobilières s'attendent toujours à de la gouvernance et à des tests. Il en résulte que les firmes doivent bâtir leur propre cadre pour les outils d'IA plutôt que d'en attendre un. Le AI Risk Management Framework du NIST, une norme américaine volontaire organisée autour de quatre fonctions (gouverner, cartographier, mesurer et gérer), est un point de départ courant.[6]
Le Canada est plus précis. Pour les firmes qui font partie d'un groupe bancaire ou d'assurance, la définition du risque de modèle du BSIF est large : « risque d'incidence financière défavorable découlant de la conception, du développement, du déploiement ou de l'utilisation d'un modèle ».[1] Un outil d'IA qui filtre ou surveille des produits fera vraisemblablement partie de l'inventaire des modèles du groupe à compter de mai 2027.
| Caractéristique | Modèle traditionnel | Outil d'IA | Ce que cela implique pour les contrôles |
|---|---|---|---|
| Constance | Même entrée, même résultat | La même question peut produire des réponses différentes | Tester sur des exécutions répétées, pas sur des exemples uniques |
| Mode de défaillance | Les erreurs sont généralement visibles (un chiffre erroné, une panne) | Les erreurs peuvent être fluides et assurées, y compris des faits inventés | Exiger des sources pour chaque résultat afin de pouvoir repérer les erreurs |
| Transparence | La logique peut être inspectée | Le raisonnement est difficile à inspecter directement | Expliquer les résultats par leurs sources plutôt que par les rouages internes du modèle |
| Changement | Change quand la firme le change | Un fournisseur peut mettre à jour le modèle sous-jacent sans que la firme ne fasse quoi que ce soit | Avis de changement contractuel ; revalider à chaque changement de version |
| Portée | Exécute une tâche définie | Tentera des tâches pour lesquelles il n'a pas été conçu | Définir les usages approuvés ; bloquer ou signaler les autres |
| Entrées | Données structurées | Documents, requêtes et instructions, dont chacun peut changer les résultats | Traiter les requêtes et les instructions comme faisant partie du modèle, sous contrôle des changements |
Les définitions varient d'une norme à l'autre, alors le test pratique est plus simple : la firme s'appuie-t-elle sur le résultat de l'outil dans son évaluation d'un produit ? Si oui, l'outil a sa place dans l'inventaire et sous le cadre, quel que soit le nom qu'on lui donne.
| Outil | Dans le champ ? | Pourquoi |
|---|---|---|
| Extraction par IA des frais, des modalités et des facteurs de risque à partir des documents d'offre | Oui | Les résultats alimentent le dossier du produit |
| Détection par IA des changements dans les dépôts réglementaires et les données | Oui | Décide de ce dont la firme est alertée, et de ce dont elle ne l'est pas |
| Modèle de notation ou de filtrage des produits | Oui | Influence quels produits sont approuvés ou revus |
| Rédaction par IA de résumés de produit pour les conseillers | Oui | Façonne la compréhension que les conseillers ont du produit |
| Assistant de recherche IA qui répond à des questions sur les produits | Oui, à risque moindre si les résultats ne sont traités que comme des intrants | Peut introduire des erreurs dans l'analyse |
| Règle fixe qui compare un champ à un seuil | Généralement non | Logique déterministe ; couverte par les tests de système ordinaires |
| Outils de productivité généraux (rédaction de courriels, notes de réunion) | Non, sauf s'ils servent à l'analyse de produits | Pas utilisés pour l'évaluation des produits |
Un cadre de gestion du risque de modèle pour les outils d'IA n'a pas besoin d'être imposant. Il lui faut un inventaire, une façon de coter le risque, un cycle de vie avec revue indépendante, et une surveillance qui détecte les problèmes tôt.
L'inventaire consigne, pour chaque outil d'IA : sa finalité et ses usages approuvés, son propriétaire, son développeur ou fournisseur, le modèle sous-jacent et sa version, les entrées, les résultats, l'endroit où les résultats sont utilisés, le niveau de risque, la date et le statut de validation, et la date de la prochaine revue. Le BSIF s'attend à ce que l'inventaire soit exhaustif pour les modèles à risque non négligeable et tenu à jour comme système de référence.[1]
La cote de risque détermine le degré de contrôle appliqué à chaque outil. Le BSIF énumère des facteurs comme l'usage d'affaires, « la complexité ou l'autonomie du modèle, la fiabilité des données, les incidences sur la clientèle ou le risque réglementaire ».[1] Pour les outils KYP, une approche indicative à trois niveaux :
| Niveau | Quand | Exemples | Contrôles |
|---|---|---|---|
| Élevé | Les résultats alimentent des approbations ou des changements de statut avec une revue humaine limitée, ou l'outil agit de façon autonome | Notation de produits utilisée pour l'approbation ; agents qui mettent à jour des dossiers | Validation indépendante complète avant utilisation ; revue trimestrielle de la performance ; revalidation annuelle |
| Moyen | Les résultats alimentent les dossiers de produit ou parviennent aux conseillers après revue humaine | Extraction de documents ; détection des changements ; rédaction de résumés | Validation indépendante avant utilisation ; tests mensuels par échantillonnage ; revalidation en cas de changement important |
| Faible | Les résultats sont des intrants à l'analyse d'une personne, entièrement revus | Assistant de recherche avec réponses sourcées | Tests avant utilisation ; vérifications ponctuelles périodiques ; règles d'utilisation |
L'autonomie est le facteur qui fait monter un outil le plus vite. Le même outil d'extraction est à risque moyen quand une personne revoit son résultat, et à risque élevé quand son résultat alimente directement le registre des produits.
L'indépendance compte. Le BSIF s'attend à ce que le processus de revue soit « indépendant du développement du modèle » et valide que les modèles sont « correctement spécifiés, fonctionnent comme prévu et sont adaptés à leur usage ».[1] Pour une firme sans équipe de risque de modèle, l'indépendance peut vouloir dire que les personnes qui testent l'outil ne sont pas celles qui l'ont bâti ou acheté.
Les requêtes font partie du modèle. Pour les outils d'IA, les instructions données au modèle peuvent changer son comportement autant qu'une modification du code. Les changements de requêtes et de configuration devraient passer par le même contrôle des changements qu'une nouvelle version du modèle.
Le cœur de la validation d'un outil d'IA utilisé en connaissance du produit est un jeu de test : une collection de documents réels dont les bonnes réponses sont déjà connues et ont été vérifiées par des personnes. L'outil est exécuté sur le jeu de test et ses résultats comparés champ par champ. Le jeu de test devrait inclure les cas difficiles, comme les documents numérisés, les structures inhabituelles et les documents modifiés, pas seulement des exemples propres.
| Mesure | Ce qu'elle teste |
|---|---|
| Exactitude des champs | Part des valeurs extraites qui correspondent à la réponse connue |
| Exactitude des champs critiques | Exactitude sur les champs qui comptent le plus, comme les frais, les barrières, les modalités de rachat et les limites de levier |
| Taux d'omission | Part des valeurs présentes dans le document que l'outil a manquées |
| Taux de résultats non étayés | Part des résultats qui n'apparaissent nulle part dans la source |
| Exactitude des sources | Part des résultats dont la source citée les étaye réellement |
| Constance | Si des exécutions répétées sur le même document donnent la même réponse |
| Taux de détection des changements | Pour les outils de surveillance, part des changements connus du jeu de test que l'outil a signalés |
Un dossier de validation indicatif pour un outil hypothétique :
Le constat est la partie la plus utile. Une exactitude moyenne de 98 % cachait un point faible dans précisément le type de produit où les erreurs comptent le plus. La validation devrait toujours ventiler les résultats par type de document.
Un outil qui a réussi la validation peut quand même se dégrader : un fournisseur met à jour son modèle, les formats de documents changent, ou de nouveaux types de produits apparaissent. La surveillance devrait suivre quelques mesures en continu :
| Mesure | Comment | Déclencheur indicatif |
|---|---|---|
| Exactitude de l'échantillon | Des personnes vérifient chaque mois un échantillon aléatoire de résultats contre les sources | Plus d'un point sous le niveau validé |
| Taux de correction par les réviseurs | Part des résultats que les réviseurs corrigent | En hausse deux mois de suite |
| Taux de non-traitement | Part des documents que l'outil n'a pas pu traiter | Au-dessus de 2 %, ou toute défaillance silencieuse |
| Taux de détection des changements connus | Changements découverts par d'autres moyens que l'outil aurait dû signaler | Tout changement critique manqué |
| Changements de version | Avis du fournisseur et journal des changements de la firme | Tout changement de version du modèle, de requêtes ou de paramètres |
Les corrections des réviseurs sont les données de surveillance les plus précieuses dont dispose la firme. Si les analystes corrigent les résultats de l'outil, ces corrections devraient être saisies et comptées, pas seulement faites.
La plupart des firmes achèteront leurs outils d'IA plutôt que de les bâtir. L'achat transfère le travail de développement au fournisseur, mais pas le risque de modèle.
Le cadre du BSIF couvre « les modèles ou les données provenant de sources externes comme des bureaux à l'étranger ou des fournisseurs tiers ».[1] La FINRA a indiqué que ses règles s'appliquent lorsque les firmes utilisent la technologie d'IA d'un tiers, « y compris par des fonctions intégrées dans des produits tiers existants ».[7] En pratique, la firme a besoin d'assez d'éléments du fournisseur pour valider et surveiller l'outil elle-même :
| Exigence | Pourquoi |
|---|---|
| Documentation de ce que fait l'outil, de son modèle sous-jacent et de ses limites connues | La firme ne peut pas coter ni décrire un outil qu'elle ne comprend pas |
| Des sources pour chaque résultat | Rend les résultats vérifiables par les réviseurs, les validateurs et les inspecteurs |
| Préavis des changements de modèle, de requêtes ou de données | Déclenche la revalidation avant que le changement n'atteigne la production |
| Verrouillage de version ou période de test pour les changements | Permet à la firme de tester une nouvelle version avant de l'utiliser |
| Les résultats des tests du fournisseur, ventilés par type de document ou de produit | Appuie la validation de la firme, sans la remplacer |
| Signalement des erreurs et des défaillances | Les défaillances silencieuses sont les plus difficiles à détecter |
| Accès permettant à la firme d'exécuter ses propres jeux de test | Une validation indépendante exige des tests indépendants |
| Modalités de traitement des données, y compris si les données de la firme servent à entraîner les modèles du fournisseur | Confidentialité et fiabilité des données |
| Soutien à l'audit et à la conservation des dossiers | La firme doit pouvoir montrer ce que l'outil a produit, et quand |
L'IA intégrée compte. De nombreuses plateformes existantes comprennent maintenant des fonctions d'IA activées par défaut. L'inventaire devrait les recenser, et pas seulement les outils achetés comme produits d'IA.
Le risque de modèle relève surtout de la firme, mais les conseillers sont souvent les premiers à voir un résultat d'IA erroné.