2024
JFrog × Hugging Face
≈ 100 modelos maliciosos detectados — reverse shells que ejecutan código al cargar.
✦SBOM · PARA · IA→
¿Qué hay realmente dentro de tu IA?
SBOM para IA — el nuevo estándar del G7. La cuenta atrás del EU AI Act ya ha comenzado.
Desde el 2 de agosto de 2026, el EU AI Act se aplica en gran parte; las obligaciones de alto riesgo llegan a partir de diciembre de 2027. En marzo de 2026, el G7 Cybersecurity Working Group publicó la primera guía conjunta para AI-SBOM: 50 elementos mínimos en 7 clusters. Sin un inventario estructurado de su cadena de suministro de IA, el cumplimiento se convierte en un juego de azar — y el riesgo, en una caja negra.
2 DICIEMBRE 2027 · 00:00 CET
Hasta las obligaciones de alto riesgo del EU AI Act2 DICIEMBRE 2027 · 00:00 CET
0
Días
00
Horas
00
Minutos
00
Segundos
50
elementos mínimos
7
clusters
9
consenso G7
35 M €
multa máx. AI Act
✦ 01 · LA CATÁSTROFE SILENCIOSA
Un modelo. Una base envenenada. Ninguna alerta.
Un escenario como el que sugieren los hallazgos de los últimos años: un banco implanta un modelo de detección de fraude de un proveedor reputado que convence en las pruebas. En producción contiene una base open source envenenada de Hugging Face — las transacciones preparadas pasan sin alertas.
1 modelo
basta como puerta de entrada
Escenario ilustrativo. Hallazgos reales confirman el patrón, como los cerca de 100 modelos maliciosos que JFrog descubrió en Hugging Face en 2024.
✦ 02 · LA VERDAD INCÓMODA
Nadie comería yogur sin lista de ingredientes. Pero casi todas las organizaciones despliegan IA sin saber qué contiene.
VISIBLE
Lo que ves
El modelo terminado
- Nombre & versión del modelo
- Endpoint API
- Promesas de marketing
- Algunos benchmarks
INVISIBLE
Lo que hay realmente
La cadena invisible
- Modelo base + ancestros de destilación
- Datos de entrenamiento · procedencia poco clara
- Adaptadores LoRA & fases de fine-tuning
- Archivos pickle · riesgo de ejecución de código
- APIs de terceros & herramientas MCP
✦ 03 · INCIDENTES REALES · 2024 – 2026
La cadena de suministro de IA ya no es un problema teórico.
El patrón: la confianza se desplaza aguas arriba — y nadie la controla.
03/2026
LiteLLM secuestrado en PyPI
≈ 500.000 credenciales potencialmente exfiltradas — incluidas API keys de Meta, OpenAI, Anthropic.
04/2026
Bitwarden CLI & PyTorch Lightning
Comprometidos 90 / 42 minutos. Carga útil dirigida a Claude Code, Cursor, Codex CLI («Mini Shai-Hulud»).
✦ 04 · LA RESPUESTA DEL G7
¿Qué es un SBOM para IA?
Una lista de ingredientes legible por máquina para sistemas de IA — prueba estructurada de cada componente, dependencia y relación de cadena de suministro que entra en un sistema de IA.
Transparencia
¿Qué modelos, datasets, frameworks, GPUs y APIs de terceros componen el sistema? Inventario, no suposición.
Cumplimiento
Evidencia para EU AI Act, NIS2, CRA, BSI TR-03183 — procesable por máquina, firmable, audit-ready.
Capacidad de respuesta
Ante un 0-day, saber en horas y no en semanas: ¿estamos afectados? ¿Qué modelos? ¿Qué endpoints?
✦ 05 · EL MARCO G7 · MARZO 2026
Siete clusters. Cincuenta elementos mínimos. Una baseline compartida.
BSI · ACN · ANSSI · CSE · CISA · NCSC · NCO · Comisión Europea publicaron en marzo de 2026 el primer conjunto de elementos mínimos. Siete clusters cubren todo el ciclo de vida de la IA — de la procedencia al rendimiento.
10
Metadata
el SBOM en sí
9
System Level Properties
el sistema completo
13
Models
el cerebro IA
10
Datasets
el combustible IA
2
Infrastructure
el sustrato IA
4
Security Properties
las defensas
2
Key Performance Indicators
la medición
Foco CISO: Models + Datasets + Security Properties — aquí diverge del SBOM clásico.
✦ 06 · CLUSTER · DEEP-DIVE
Tres clusters donde se decide el riesgo.
MODELS · 13 ELEMENTOS
¿Quién construyó el cerebro?
Identidad, lineage, pesos, hash, método de entrenamiento, licencia y referencias externas para cada modelo del sistema.
- Nombre, identificador, versión, timestamp del modelo
- Productor — pre-entrenado / fine-tuned / destilado
- Hash + algoritmo (verificación de integridad)
- Arquitectura, parámetros, hiperparámetros
- Propiedades de entrenamiento: RLHF · DPO · PPO · GRPO
- Licencia: open weight / architecture / data
- Lineage: modelos padre & derivados
- Refs externas: Model Card · paper · esquema JSON
¿Por qué tan detallado? Para que tras un 0-day en el modelo base veas en minutos qué variantes fine-tuned están afectadas.
DATASETS · 10 ELEMENTOS
¿De qué aprendió?
Procedencia, contenido, propiedades estadísticas, sensibilidad y licencia de cada dataset del ciclo IA.
- Nombre & descripción · pre-train / fine-tune / eval
- Contenido & formato · finanzas · médico · JSON · imagen · audio
- Identificador & hash · URL + huella criptográfica
- Procedencia · crawling · compra · pasos de labeling
- Propiedades estadísticas · métricas relevantes para sesgos
- Sensibilidad · PII · derechos de autor · médico · seguridad nacional
- Relaciones de dependencia · qué herramientas la formaron
- Licencia · enlace al documento de licencia
Aquí se decide a menudo su exposición RGPD, derechos de autor y AI Act — mucho antes de que el modelo se despliegue.
SECURITY · INFRASTRUCTURE · KPI · 8 ELEMENTOS
Sustrato, defensas & medición
¿Qué corre el sistema? ¿Cómo se defiende? ¿Cómo medimos la robustez y el rendimiento?
Security Properties
Cifrado · RBAC · filtros I/O · robustez adversarial · defensa prompt-injection · ISO/IEC 27001 · 42001 · SOC 2 · enlace security.txt
Infrastructure
Frameworks (PyTorch · TF · vLLM · Ollama · Triton) · gestores de paquetes · libs de terceros · runtimes · enlace HBOM para silicio IA
Key Performance Indicators
Robustez adversarial · resiliencia a manipulación · uptime · latencia · throughput · load balancing · MTTR incidente
✦ 07 · LA CUENTA ATRÁS
2 de diciembre de 2027 — el EU AI Act exige pruebas de alto riesgo.
Art. 50 obligaciones de transparencia desde el 2 de agosto de 2026. Sistemas high-risk del Anexo III a partir del 2 de diciembre de 2027 – aplazados por el Digital Omnibus. Documentación técnica, gestión de riesgos, gobernanza de datos, ciberseguridad — pruebas, automatizables.
35 M €
7 % facturación grupo
por prácticas prohibidas
15 M €
3 % facturación grupo
transparencia & high-risk (incl. contenido SBOM faltante)
Anexo III
HIGH-RISK
RR.HH. · crédito · educación · IC · justicia · biometría
✦ 08 · LA BRECHA DE PREPARACIÓN
Mientras el reloj corre, la mayoría no está lista.
26,2 %
ha iniciado actividades concretas de cumplimiento AI Act
19,4 %
se autoclasifica como «mal preparada»
> 50 %
ni siquiera tiene un inventario completo de sistemas IA
Deloitte AI-Act Survey 2026 · TrueScreen Compliance Tracker 2026
✦ 09 · LO QUE LOS CISO HACEN AHORA
Cinco pasos hacia la SBOM-para-IA readiness.
01
Inventariar
Lista completa de modelos, agentes y APIs IA en uso — incluida shadow AI en unidades de negocio.
02
Clasificar
Determinar el tier de riesgo según EU AI Act. Priorizar sistemas high-risk del Anexo III.
03
Elegir herramientas
CycloneDX 1.7 / SPDX, generadores AIBOM (Cybeats, Manifest, OWASP CycloneDX AI WG).
04
Automatizar
Enganchar la generación SBOM en CI/CD, el registry de modelos y la pipeline MLOps. Imponer firmas.
05
Integrar
Conectar al vuln scanning, VEX y registro de riesgos ISMS. Adaptar contratos de compras.
✦ 10 · VAMISEC · DE LA OBLIGACIÓN A LA ARQUITECTURA
Cómo VamiSec le hace SBOM-para-IA-ready.
Inventario de sistemas IA
Captura de todos los sistemas IA en producción, modelos, agentes y herramientas MCP — incluida shadow AI.
Implementación AIBOM
Del piloto al full rollout: CycloneDX 1.7, integración pipeline, firma de modelos.
Análisis de brecha EU AI Act
Mapeo de sus sistemas a Art. 50, Anexo III y obligaciones de documentación técnica.
AI security & governance
Pruebas de robustez adversarial, defensa prompt-injection, registro de riesgos IA.
vCISO / AI Officer
Servicio gestionado para gobernanza IA, ISMS y cumplimiento — bajo demanda.
Continuous monitoring
SBOM-diff watching, workflow VEX, pipeline de vulnerabilidades IA.
✦ ACTUAR AHORA
Hablemos — antes de que llegue el 2 de agosto.
30 minutos de conversación estratégica gratuita sobre su roadmap SBOM-para-IA y EU AI Act. Alineamos la baseline G7, BSI TR-03183 y su pipeline ML concreta.
Reservar demo Teams de 30 minSlot directo · 30 minutos · Microsoft Teams · sin compromiso