2024
JFrog × Hugging Face
≈ 100 modèles malveillants détectés — reverse shells exécutant du code au chargement.
✦SBOM · POUR · IA→
Qu'y a-t-il vraiment dans votre IA ?
SBOM pour IA — le nouveau référentiel G7. Le compte à rebours de l'EU AI Act a commencé.
Depuis le 2 août 2026, l'EU AI Act s'applique largement, les obligations haut risque suivent à partir de décembre 2027. En mars 2026, le G7 Cybersecurity Working Group a publié la première directive commune pour AI-SBOM : 50 éléments minimum répartis en 7 clusters. Sans inventaire structuré de votre chaîne d'approvisionnement IA, la conformité devient un pari — et le risque, une boîte noire.
2 DÉCEMBRE 2027 · 00:00 CET
Jusqu'aux obligations haut risque de l'EU AI Act2 DÉCEMBRE 2027 · 00:00 CET
0
Jours
00
Heures
00
Minutes
00
Secondes
50
éléments minimum
7
clusters
9
consensus G7
35 M €
amende max. AI Act
✦ 01 · LA CATASTROPHE SILENCIEUSE
Un modèle. Une base empoisonnée. Aucune alerte.
Un scénario tel que le suggèrent les découvertes de ces dernières années : une banque déploie un modèle de détection de fraude d'un fournisseur réputé, convaincant en test. En production, il contient une base open source empoisonnée venant de Hugging Face — les transactions piégées passent.
1 modèle
suffit comme point d'entrée
Scénario illustratif. Des découvertes réelles confirment le schéma, comme la centaine de modèles malveillants détectés par JFrog sur Hugging Face en 2024.
✦ 02 · LA VÉRITÉ INCONFORTABLE
Personne ne mangerait un yaourt sans liste d'ingrédients. Pourtant presque chaque organisation déploie de l'IA sans savoir ce qu'il y a dedans.
VISIBLE
Ce que vous voyez
Le modèle fini
- Nom & version du modèle
- Endpoint API
- Promesses marketing
- Quelques benchmarks
INVISIBLE
Ce qu'il y a vraiment
La chaîne invisible
- Modèle de base + ancêtres de distillation
- Données d'entraînement · provenance floue
- Adaptateurs LoRA & étapes de fine-tuning
- Fichiers pickle · risque d'exécution de code
- APIs tierces & outils MCP
✦ 03 · INCIDENTS RÉELS · 2024 – 2026
La chaîne d'approvisionnement IA n'est plus un problème théorique.
Le motif : la confiance est déplacée vers l'amont — et personne ne la contrôle.
03/2026
LiteLLM piraté sur PyPI
≈ 500 000 identifiants potentiellement exfiltrés — y compris clés API Meta, OpenAI, Anthropic.
04/2026
Bitwarden CLI & PyTorch Lightning
90 / 42 minutes compromis. Charge utile ciblant Claude Code, Cursor, Codex CLI (« Mini Shai-Hulud »).
✦ 04 · LA RÉPONSE DU G7
Qu'est-ce qu'un SBOM pour l'IA ?
Une liste d'ingrédients lisible par machine pour les systèmes d'IA — preuve structurée de chaque composant, dépendance et relation de supply chain qui entre dans un système d'IA.
Transparence
Quels modèles, jeux de données, frameworks, GPUs, APIs tierces composent le système ? Un inventaire, pas une hypothèse.
Conformité
Preuve pour EU AI Act, NIS2, CRA, BSI TR-03183 — traitable automatiquement, signable, prêt pour l'audit.
Réactivité
Lors d'un 0-day, savoir en heures et non en semaines : sommes-nous touchés ? Quels modèles ? Quels endpoints ?
✦ 05 · LE CADRE G7 · MARS 2026
Sept clusters. Cinquante éléments minimums. Une baseline partagée.
BSI · ACN · ANSSI · CSE · CISA · NCSC · NCO · Commission européenne ont publié en mars 2026 le premier ensemble d'éléments minimums. Sept clusters couvrent tout le cycle de vie de l'IA — de la provenance à la performance.
10
Metadata
le SBOM lui-même
9
System Level Properties
le système dans son ensemble
13
Models
le cerveau IA
10
Datasets
le carburant IA
2
Infrastructure
le substrat IA
4
Security Properties
les défenses
2
Key Performance Indicators
la mesure
Focus CISO : Models + Datasets + Security Properties — c'est ici que ça diverge du SBOM classique.
✦ 06 · CLUSTERS · DEEP-DIVE
Trois clusters où se décide le risque.
MODELS · 13 ÉLÉMENTS
Qui a construit le cerveau ?
Identité, lineage, poids, hash, méthode d'entraînement, licence et références externes pour chaque modèle du système.
- Nom, identifiant, version, timestamp du modèle
- Producteur — pré-entraîné / fine-tuné / distillé
- Hash + algorithme (contrôle d'intégrité)
- Architecture, paramètres, hyperparamètres
- Propriétés d'entraînement : RLHF · DPO · PPO · GRPO
- Licence : open weight / architecture / data
- Lineage : modèles parents & dérivés
- Réfs externes : Model Card · paper · schéma JSON
Pourquoi ce niveau de détail ? Pour qu'après un 0-day sur le modèle de base vous voyiez en minutes quelles variantes fine-tunées sont affectées.
DATASETS · 10 ÉLÉMENTS
Avec quoi a-t-il appris ?
Provenance, contenu, propriétés statistiques, sensibilité et licence de chaque jeu de données du cycle IA.
- Nom & description · pré-train / fine-tune / eval
- Contenu & format · finance · médical · JSON · image · audio
- Identifiant & hash · URL + empreinte cryptographique
- Provenance · crawling · achat · étapes de labeling
- Propriétés statistiques · indicateurs de biais
- Sensibilité · PII · droits d'auteur · médical · sécurité nationale
- Relations de dépendance · quels outils l'ont façonné
- Licence · lien vers le document de licence
C'est souvent ici que se décide votre exposition RGPD, droits d'auteur et AI Act — bien avant que le modèle ne soit déployé.
SECURITY · INFRASTRUCTURE · KPI · 8 ÉLÉMENTS
Substrat, défenses & mesure
Qu'est-ce qui fait tourner le système ? Comment est-il défendu ? Comment mesure-t-on robustesse et performance ?
Security Properties
Chiffrement · RBAC · filtres E/S · robustesse adversariale · défense prompt-injection · ISO/IEC 27001 · 42001 · SOC 2 · lien security.txt
Infrastructure
Frameworks (PyTorch · TF · vLLM · Ollama · Triton) · gestionnaires de paquets · libs tierces · runtimes · lien HBOM pour silicium IA
Key Performance Indicators
Robustesse adversariale · résilience à la manipulation · uptime · latence · throughput · load balancing · MTTR incident
✦ 07 · LE COMPTE À REBOURS
2 décembre 2027 — l'EU AI Act exige des preuves haut risque.
Art. 50 obligations de transparence depuis le 2 août 2026. Systèmes high-risk Annexe III à partir du 2 décembre 2027 – reportés par le Digital Omnibus. Documentation technique, gestion des risques, gouvernance des données, cybersécurité — preuves à fournir, automatisables.
35 M €
7 % CA groupe
pour pratiques interdites
15 M €
3 % CA groupe
transparence & high-risk (y compris contenu SBOM manquant)
Annexe III
HIGH-RISK
RH · crédit · éducation · IC · justice · biométrie
✦ 08 · L'ÉCART DE PRÉPARATION
Pendant que l'horloge tourne, la plupart ne sont pas prêts.
26,2 %
ont entamé des activités de conformité AI Act concrètes
19,4 %
se classent eux-mêmes comme « mal préparés »
> 50 %
n'ont même pas d'inventaire complet des systèmes IA
Deloitte AI-Act Survey 2026 · TrueScreen Compliance Tracker 2026
✦ 09 · CE QUE LES CISO FONT MAINTENANT
Cinq étapes vers la SBOM-pour-IA readiness.
01
Inventorier
Liste complète des modèles, agents et APIs IA en usage — y compris l'IA fantôme métier.
02
Classifier
Déterminer le tier de risque selon EU AI Act. Prioriser les systèmes high-risk Annexe III.
03
Choisir l'outillage
CycloneDX 1.7 / SPDX, générateurs AIBOM (Cybeats, Manifest, OWASP CycloneDX AI WG).
04
Automatiser
Brancher la génération SBOM sur CI/CD, le registry de modèles et la pipeline MLOps. Forcer les signatures.
05
Intégrer
Connecter au vuln scanning, VEX et registre de risques ISMS. Adapter les contrats achats.
✦ 10 · VAMISEC · DE L'OBLIGATION À L'ARCHITECTURE
Comment VamiSec vous rend SBOM-pour-IA-ready.
Inventaire système IA
Capture de tous les systèmes IA en production, modèles, agents et outils MCP — y compris shadow AI.
Implémentation AIBOM
Du pilote au full rollout : CycloneDX 1.7, intégration pipeline, signature de modèles.
Analyse d'écart EU AI Act
Mapping de vos systèmes sur Art. 50, Annexe III et obligations de doc technique.
AI security & governance
Tests de robustesse adversariale, défense prompt-injection, registre de risques IA.
vCISO / AI Officer
Service managé pour la gouvernance IA, l'ISMS et la conformité — à la demande.
Continuous monitoring
SBOM-diff watching, workflow VEX, pipeline de vulnérabilités IA.
✦ AGIR MAINTENANT
Parlons-nous — avant le 2 août.
30 minutes d'entretien stratégique gratuit sur votre feuille de route SBOM-pour-IA et EU AI Act. Nous alignons la baseline G7, BSI TR-03183 et votre pipeline ML concrète.
Réserver une démo Teams de 30 minCréneau direct · 30 minutes · Microsoft Teams · sans engagement