Les frameworks de sécurité IA en un coup d'œil

Le catalogue de l'OWASP GenAI Security Project nomme les classes de vulnérabilités les plus critiques des applications LLM — de la Prompt Injection (LLM01:2025) à Excessive Agency (LLM06), en passant par Sensitive Information Disclosure (LLM02) et Supply Chain (LLM03). Six des dix risques concernent directement la sécurité des données. Les équipes de développement et d'AppSec utilisent cette liste comme perspective d'exigences et de vérification lors de la construction et du test de systèmes LLM.

MITRE ATLAS catalogue des tactiques et techniques d'attaque réelles contre les systèmes d'IA — à l'image de la matrice ATT&CK, avec des tactiques allant de Reconnaissance à Exfiltration en passant par Resource Development, et des identifiants de techniques comme AML.T0051. Le framework adopte systématiquement la perspective de l'attaquant et constitue ainsi la base du Red Teaming et du Purple Teaming contre les systèmes d'IA.

Le NIST AI Risk Management Framework structure la gestion des risques sur l'ensemble du cycle de vie de l'IA autour des quatre fonctions clés GOVERN, MAP, MEASURE et MANAGE. Il traite la fiabilité (Trustworthiness) et la gouvernance et s'adresse aux CISO et au Risk Management — comme cadre dans lequel les constats techniques sont traduits en politiques, processus et responsabilités.

Les trois frameworks ne sont pas concurrents, ils se complètent : l'OWASP soutient le développement sécurisé (développeurs, DevSecOps), MITRE ATLAS la validation adversariale (Red/Purple Teams), le NIST AI RMF l'ancrage de la gouvernance et du risque (CISO, Risk Management). Des mesures concrètes peuvent être rattachées aux trois — Input Validation et Prompt Filtering, par exemple, à LLM01, à AML.T0051 et aux fonctions MAP/MANAGE.

La séquence Assess, Test, Govern, Protect a fait ses preuves : d'abord l'inventaire de tous les déploiements LLM et de l'état de sécurité actuel, puis des tests adversariaux contre le Top 10 OWASP et les tactiques MITRE ATLAS, ensuite la mise en place d'une gouvernance de l'IA selon le NIST AI RMF. La dernière étape consiste en la mise en œuvre continue de mesures de sécurité multicouches en exploitation courante.

Pour le choix des outils, l'OWASP GenAI Security Project maintient une Solutions Landscape neutre vis-à-vis des fournisseurs, actualisée chaque trimestre : les solutions open source et commerciales y sont classées selon les phases du cycle de vie LLMSecOps — de Scope & Plan à Govern en passant par Test & Evaluate — et mises en correspondance avec les risques du Top 10. Pour les architectures agentiques, une Landscape dédiée existe depuis le T3 2025 ; les risques associés sont décrits dans l'OWASP Top 10 for Agentic Applications 2026.