Pourquoi documenter une IA ne suffit pas à connaître son risque réel
L’entrée en application progressive de l’AI Act conduit les entreprises à mieux identifier et documenter leurs usages de l’intelligence artificielle. Pour Bernard Montel, Field CTO EMEA de Tenable, cette conformité doit rester confrontée aux conditions réelles d’utilisation des modèles et des agents.
La généralisation de l’intelligence artificielle oblige les organisations à formaliser davantage leurs pratiques. L’AI Act fournit un cadre pour identifier les systèmes concernés, évaluer les risques et organiser leur gouvernance. Cette démarche réglementaire ne suffit cependant pas à déterminer le niveau d’exposition réel d’une entreprise. « Le risque, avec toute nouvelle réglementation, est de répondre aux exigences de conformité sans les confronter à la réalité du terrain », déclare Bernard Montel. Un outil peut être référencé et autorisé tout en étant utilisé avec des informations qui n’avaient pas été prévues lors de son déploiement.
« Une organisation peut avoir parfaitement documenté un outil sans savoir que des collaborateurs lui transmettent des contrats, du code ou des données clients », poursuit-il. La conformité du système ne renseigne alors qu’imparfaitement sur le risque associé à son utilisation.
Un même modèle pour des usages très différents
Tous les usages de l’intelligence artificielle ne doivent pas être placés au même niveau. Un assistant chargé de reformuler un contenu public ne présente pas la même exposition lorsqu’il traite des données confidentielles. La différence devient encore plus nette avec les agents capables de se connecter aux applications métier et d’y exécuter directement des actions. « L’enjeu n’est donc plus seulement de sécuriser le fonctionnement de l’IA, mais aussi sa capacité d’action », souligne Bernard Montel. L’évaluation du risque doit intégrer les données accessibles, les permissions accordées et les capacités opérationnelles du système, plutôt que de s’arrêter à son inscription dans un registre de conformité.
Faire converger conformité et sécurité
La multiplication des systèmes d’IA, des contrôles et des alertes peut produire un volume important d’informations pour les équipes chargées de leur gouvernance. Toutes ne correspondent pas au même niveau d’exposition. Une IA limitée à des données publiques n’appelle pas le même traitement qu’un agent connecté à plusieurs applications et capable de manipuler des informations sensibles. « C’est là que conformité et sécurité doivent converger. La multiplication de ces risques impose de distinguer ce qui relève de la conformité de ce qui expose réellement l’entreprise, afin de faire émerger les risques critiques du bruit de fond et de pouvoir les traiter en priorité », conclut Bernard Montel.
L’AI Act structure la gouvernance de l’IA, mais connaître un modèle ne suffit plus. Les entreprises doivent également comprendre quelles données il consulte, de quelles permissions il dispose et ce qu’il est capable de faire.