Le point sur les menaces et opportunités liées a l’intelligence économique
Pr Jean-Paul Louisot

« La gestion des risques liés à l’IA est le processus consistant à identifier, atténuer et traiter systématiquement les risques potentiels associés aux technologies de l’IA. Elle implique une combinaison d’outils, de pratiques et de principes, avec un accent particulier sur le déploiement de cadres formels de gestion des risques liés à l’IA »
La gestion des risques devient de plus en plus importante en période d’incertitude économique croissante. Une gestion efficace des risques financiers peut être décisive pour identifier les risques financiers à un stade précoce, prendre des contre-mesures et ainsi assurer la pérennité d’une entreprise.

Dans notre monde globalisé et avec un entrelacement diversifié d’effets et de contre-effets, les risques opérationnels deviennent de plus en plus importants. Ils ont un impact direct sur la gestion des risques financiers, en particulier sur le risque de marché, le risque de crédit et le risque de liquidité. Un exemple de ceci est la catastrophe « Ever Given », qui a bloqué le canal de Suez et impacté l’économie mondiale.

L’utilisation des technologies modernes, en particulier de l’intelligence artificielle (IA), ouvre de nouvelles possibilités pour identifier et gérer les risques plus rapidement. Les technologies de l’IA transforment la trésorerie et la gestion des risques et offrent aux entreprises la possibilité d’optimiser leurs processus et de les rendre pérennes. De nombreuses entreprises en sont déjà conscientes. Notre étude « AI in Finance » montre que près de 50 % des entreprises interrogées utilisent l’IA pour identifier les risques plus rapidement.

Lorsque l’on évoque la gestion des risques et l’Intelligence artificielle (IA) les professionnels pourraient ne penser qu’à la définition donnée ci-dessus alors que le sujet est beaucoup plus vaste. En effet, il convient de prendre en compte non seulement les apports de l’IA pour l’amélioration de la gestion des risques globale te intégrée (ERM), en particulier au niveau de l’établissement de prévisions et/ou scénarios, mais encore la façon dont l’IA modifie les risques traditionnels et plus spécifiquement la cyber-sécurité.

Bien que l’intelligence artificielle (IA) offre d’énormes opportunités, elle présente également des menaces et des défis importants qui restent non résolus. Un cadre complet de gestion des risques liés à l’IA est la seule façon d’instaurer une véritable confiance dans l’IA. Cette approche devra prendre en compte de manière proactive la conformité avec des améliorations allant au-delà des nécessités réglementaires.

En réponse à ce besoin, il faut définir présente une méthodologie holistique pour évaluer de manière impartiale les systèmes d’IA au-delà de la simple conformité. Il aborde les aspects critiques de la technologie de l’IA, y compris la confidentialité des données, la sécurité et la confiance. Ces considérations d’audit s’appliquent à un large éventail de secteurs et s’appuient sur les meilleures pratiques d’audit existantes en matière d’IA. Cette approche innovante couvre l’ensemble du cycle de vie de l’IA, du développement au déclassement.

Le suivi de l’IA est désormais un sujet qui relève du conseil d’administration
« L’IA est mesurée par des indicateurs doux, pas par le résultat net. Si chaque développeur de logiciels a 30 minutes gratuites supplémentaires dans sa journée et qu’il va promener son chien, eh bien, peut-être que les chiens sont plus heureux, mais cela n’a pas rapporté d’argent au résultat net. » (Rich Isenberg Deneen, Partenaire de McKinsey)

Les conseils d’administration subissent une pression croissante pour superviser l’IA, et beaucoup travaillent activement à identifier les bons outils, indicateurs et expertises pour le faire efficacement. Bien que l’IA offre des opportunités transformatrices pour la croissance et la productivité, elle introduit également de nouveaux risques qui évoluent rapidement, allant de la sécurité et du biais à l’exposition opérationnelle et à la réputation.

Lors d’une récente table ronde, McKinsey et la National Association of Corporate Directors (NACD) ont réuni les principaux responsables de la sécurité des systèmes d’information (DSI) et les administrateurs du conseil d’administration, en soulignant quatre priorités pour un contrôle efficace : renforcer la gouvernance et la responsabilité, équilibrer l’innovation avec le risque, développer des capacités de gestion des risques en temps réel et améliorer la maîtrise de l’IA dans les salles de conférence. Ensemble, ces changements indiquent que l’IA n’est plus seulement un sujet technologique ; elle constitue désormais un risque d’entreprise majeur et un différenciateur stratégique (voir l’encadré « Dans la rue : vues et sons de la plus grande conférence sur la cyber-sécurité »).

Animé par Rich Isenberg, partenaire chez McKinsey, le panel comprenait Deneen DeFiore, vice-présidente senior et RSSI chez United Airlines, membre du conseil d’administration et présidente du comité des risques chez Blackbaud ; Guy Gecht, président du conseil d’administration de Logitech et directeur et président du comité des technologies chez SolarEdge Technologies ; et Manjula Talreja, administratrice indépendante siégeant aux conseils d’administration de Verint, Imprivata, Ping Identity et Proofpoint

L’interrogation fondamentale est de savoir pourquoi la gouvernance de l’IA commence-t-elle par la connaissance des systèmes existants, de qui en est propriétaire et comment ils sont contrôlés.

-Qu’est-ce qu’un inventaire IA dans la gouvernance de l’IA ?
Un inventaire IA est l’enregistrement contrôlé des systèmes d’IA et des capacités activées par l’IA utilisés dans l’ensemble de l’organisation — enregistrant ce que chaque système fait, à qui il appartient, quelles données il touche, quels contrôles s’appliquent et s’il est régi. Sans cela, la classification des risques, la conception des contrôles, l’enregistrement réglementaire et les rapports du conseil d’administration reposent tous sur une base faible.

Un inventaire IA est l’enregistrement contrôlé des systèmes d’IA et des capacités activées par l’IA utilisés dans toute l’organisation. Il enregistre ce que chaque système fait, où il est utilisé, quelles données il touche, à qui il appartient, dans quelle mesure il est risqué, quels contrôles s’appliquent et s’il est approuvé, en cours d’examen, en phase pilote, de rémédiation ou retiré.

L’inventaire ne se limite pas aux modèles construits en interne. Il devrait inclure l’IA des fournisseurs, les fonctionnalités SaaS intégrées, les copilotes, les agents, les expériences et l’utilisation de l’IA fantôme que les équipes de gouvernance découvrent après que l’adoption a déjà commencé.

La question pratique du conseil d’administration est simple : la direction peut-elle montrer où l’IA fonctionne et si chaque utilisation matérielle est régie ? Sans inventaire, la classification des risques, la …

Cliquez ici pour lire la suite de l’étude de Pr Louisot dans le numéro 891 du magazine RiskAssur-hebdo