Frameworks de seguridad de IA de un vistazo

El catálogo del OWASP GenAI Security Project identifica las clases de vulnerabilidades más críticas en las aplicaciones LLM — desde Prompt Injection (LLM01:2025), pasando por Sensitive Information Disclosure (LLM02) y Supply Chain (LLM03), hasta Excessive Agency (LLM06). Seis de los diez riesgos afectan directamente a la seguridad de los datos. Los equipos de desarrollo y de AppSec utilizan la lista como perspectiva de verificación y de requisitos al construir y probar sistemas LLM.

MITRE ATLAS cataloga tácticas y técnicas de ataque reales contra sistemas de IA — de forma análoga a la matriz ATT&CK, con tácticas que van de Reconnaissance a Resource Development y Exfiltration, e identificadores de técnicas como AML.T0051. El framework adopta de forma consecuente la perspectiva del atacante y constituye así la base para el Red y Purple Teaming contra sistemas de IA.

El NIST AI Risk Management Framework estructura la gestión de riesgos a lo largo de todo el ciclo de vida de la IA según las cuatro funciones centrales GOVERN, MAP, MEASURE y MANAGE. Aborda la fiabilidad y la gobernanza y se dirige a los CISO y a la gestión de riesgos — como marco en el que los hallazgos técnicos se traducen en políticas, procesos y responsabilidades.

Los tres frameworks no compiten entre sí, se complementan: OWASP apoya el desarrollo seguro (desarrolladores, DevSecOps), MITRE ATLAS la validación adversarial (equipos Red/Purple) y el NIST AI RMF el anclaje de la gobernanza y del riesgo (CISO, gestión de riesgos). Las medidas concretas pueden asignarse a los tres — la validación de entradas y el filtrado de prompts, por ejemplo, a LLM01, AML.T0051 y las funciones MAP/MANAGE.

Ha demostrado su eficacia la secuencia Assess, Test, Govern, Protect: primero, el inventario de todos los despliegues de LLM y del estado de seguridad actual; después, las pruebas adversariales frente al OWASP Top 10 y las tácticas de MITRE ATLAS; a continuación, la creación de una gobernanza de IA conforme al NIST AI RMF. El cierre lo constituye la implementación continua de medidas de seguridad de múltiples capas en la operación diaria.

Para la selección de herramientas, el OWASP GenAI Security Project mantiene una Solutions Landscape neutral respecto a los fabricantes y actualizada trimestralmente: las soluciones de código abierto y comerciales se clasifican a lo largo de las fases del ciclo de vida LLMSecOps — de Scope & Plan a Test & Evaluate y Govern — y se mapean a los diez riesgos principales. Para las arquitecturas agénticas existe desde el tercer trimestre de 2025 una Landscape propia; los riesgos correspondientes se describen en el OWASP Top 10 for Agentic Applications 2026.