Sicherheit für KI-Agenten & LLM-Systeme
KI-Agenten handeln zunehmend autonom — mit Werkzeugzugriff, Speicher und Anbindung an Ihre Systeme über Protokolle wie MCP. Damit entstehen Angriffsflächen, die klassische Security-Tests nicht abdecken. VamiSec prüft, härtet und governt Ihre KI-Systeme über den gesamten Lebenszyklus.
Von der offensiven Prüfung agentischer Systeme über MCP-Sicherheit und Threat Modeling bis zur Transparenz der KI-Lieferkette: Unsere Leistungen im Bereich Agentic AI Security greifen ineinander und orientieren sich an anerkannten Frameworks wie den OWASP-Projekten für GenAI und agentische Anwendungen, MITRE ATLAS und dem NIST AI Risk Management Framework.
Wo agentische Systeme verwundbar sind
Vom Prompt bis zum Zielsystem: Jede Station eines KI-Agenten hat eigene Bedrohungen. Wählen Sie eine Station — wir zeigen typische Risiken und die Leistungen, die sie adressieren.
Typische Bedrohungen
- Direkte und indirekte Prompt Injection über Nutzereingaben, Dokumente und Webinhalte
- Jailbreaks und Zielmanipulation, die Guardrails aushebeln
- Vergiftete Kontexte aus RAG-Quellen und Retrieval-Pipelines
Passende Leistungen
Bedrohungsauswahl auf Basis von OWASP Top 10 für Agentic Applications (ASI01–ASI10), OWASP MCP Top 10 und CSA MAESTRO.
Drei Felder, acht Leistungen
Unser Portfolio spiegelt die Navigation: Beratung & Plattform-Sicherheit, offensives Testing mit Detection & Response sowie Threat Modeling & Lieferketten-Transparenz — jede Leistung führt zur vertiefenden Seite.
Testing & Absicherung
Agentic AI Pentesting
Offensive Sicherheitsprüfung autonomer KI-Agenten: Wir testen Tool-Zugriffe, Speicher, Orchestrierung und Guardrails gegen reale Angriffsszenarien — entlang der OWASP-Systematik für agentische Anwendungen.
- Prompt-Injection-, Jailbreak- und Tool-Missbrauchs-Szenarien
- Speicher- und Kontextmanipulation im Live-System
- Nachvollziehbare Befunde mit Exploit-Pfad und Fix-Empfehlung
KI-Produkte Pentesting
Pentest und Red Teaming für Produkte mit eingebetteter KI – Roboter, AIoT-Geräte, KI-Kameras und Sprachassistenten: von Hardware und Firmware bis zu Modell, LLM und physischer Wirkung.
- Threat Modeling nach STRIDE × MAESTRO inkl. physischer Schicht
- Tests entlang OWASP LLM Top 10, AISVS, ISTG und IoT Top 10
- Nachweise für CRA, EN 18031, AI Act und Maschinenverordnung
Agent Skills Security
Prüfung und Härtung von Agent Skills und Progressive-Disclosure-Mechanismen — gegen kompromittierte Fähigkeiten, Tool-Missbrauch und die OWASP Agentic Skills Top 10.
- Analyse von Skill-Definitionen und Progressive Disclosure
- Erkennung eingebetteter Instruktionen und Rug-Pull-Risiken
- Freigabe- und Update-Prozesse für Skill-Kataloge
ADR — Detection & Response
Erkennung und Reaktion für KI-Agenten im Betrieb: Telemetrie über Prompts, Tool-Aufrufe und Agenten-Identitäten, Detection-Use-Cases gegen Goal Hijacking & Co. und eingeübte Response-Playbooks — integriert in Ihr SOC.
- Telemetrie über Prompts, Tool-Calls und Identitäten
- Erkennungsregeln für agentisches Fehlverhalten
- Reaktionspfade und Playbooks für den Ernstfall
Threat Modeling & Transparenz
AI Threat Modeling (MAESTRO)
Systematische Bedrohungsmodellierung für KI- und Agentensysteme nach MAESTRO — Angriffspfade erkennen, bevor sie in Produktion gehen.
- MAESTRO über 7 Architektur-Ebenen angewendet
- Kombination mit STRIDE und OWASP-Katalogen
- Priorisierte Risiken mit Maßnahmen-Roadmap
MCP Threat Modeling
Bedrohungsmodellierung speziell für MCP-Landschaften: STRIDE, MAESTRO und die OWASP MCP Top 10 zu einer belastbaren Bedrohungskarte kombiniert.
- Modellierung von MCP-Servern, Clients und Tool-Ketten
- STRIDE × MAESTRO × OWASP MCP Top 10
- Vertrauensgrenzen und Autorisierungs-Architektur
Automated Threat Modeling
Diagram-as-Code und automatisierte Analyse verankern Threat Modeling direkt in Ihren Entwicklungsprozess — reproduzierbar und skalierbar.
- Diagram-as-Code aus Architektur-Artefakten
- Threat Modeling im CI/CD verankert
- Kontinuierlich aktuelle Modelle statt Einmal-Workshops
SBOM for AI
Transparenz über die KI-Lieferkette: Modelle, Datensätze, Bibliotheken und Abhängigkeiten als AI-Bill-of-Materials erfassen — die Grundlage für Governance und Nachweispflichten.
- Inventar über Modelle, Datensätze und Bibliotheken
- AI-BOM-Formate und Tooling-Integration
- Nachweise für EU AI Act, NIS2 und Kundenaudits
Vom Threat Model in den sicheren Betrieb
Vier Phasen, ein roter Faden: Jede Phase baut auf den Ergebnissen der vorherigen auf — und jede lässt sich auch einzeln beauftragen.
Bedrohungen systematisch erfassen
Wir modellieren Ihr Agentensystem nach MAESTRO über 7 Architektur-Ebenen, kombinieren STRIDE mit den OWASP-Katalogen und priorisieren Risiken entlang Ihrer realen Architektur — als Basis für Tests, Härtung und Betrieb.
Verankert in anerkannten Standards
Unsere Leistungen folgen den maßgeblichen Katalogen und Regulierungen für KI- und Agentensicherheit — von OWASP bis zum EU AI Act.
Wissen vertiefen
Im Wissensbereich finden Sie fundierte Deep Dives zu MCP Security, den OWASP-Standards, Zero Trust für KI-Agenten und AI-Security-Frameworks — mit verifizierten Quellen.
Häufige Fragen
Kurz beantwortet — Details klären wir im Erstgespräch.
Was unterscheidet Agentic AI Security von klassischer LLM-Sicherheit?
Agenten planen, nutzen Tools, halten Gedächtnis und handeln autonom in echten Systemen. Damit entstehen Risiken, die über Prompt-Filter weit hinausgehen: Tool Poisoning, Memory Poisoning, fehlgeleitete Autonomie und nicht zurechenbare agentische Identitäten. Unsere Leistungen adressieren genau diese Ebenen — von der Modellierung bis zum Betrieb.
Wir setzen MCP ein — wo fangen wir an?
Mit einem MCP-Security-Assessment: Wir prüfen Server, Autorisierung (OAuth 2.1), Tool-Definitionen und Vertrauensgrenzen und priorisieren die Befunde. Darauf bauen MCP Threat Modeling und gezielte Pentests auf.
Brauchen wir erst ein Threat Model oder erst einen Pentest?
Idealerweise beides in dieser Reihenfolge: Das Threat Model macht Architektur und Risiken sichtbar und fokussiert den Pentest auf die kritischen Pfade. Bei laufenden Systemen lässt sich auch direkt mit einem Pentest starten — die Ergebnisse fließen dann ins Modell zurück.
Deckt das auch Compliance-Anforderungen wie den EU AI Act ab?
Ja — Threat Models, Testberichte und SBOMs für KI sind belastbare Nachweise für EU AI Act, ISO/IEC 42001 und NIS2. Für die Governance-Seite arbeiten wir nahtlos mit unserem GRC-Team zusammen — bis hin zum zertifizierbaren KI-Managementsystem.
Wie schnell liefert ein Engagement erste Ergebnisse?
Assessments und Threat-Modeling-Workshops liefern in wenigen Tagen priorisierte Ergebnisse; Pentests folgen dem vereinbarten Scope. Detection & Response bauen wir iterativ auf — beginnend mit den Signalen, die Ihr größtes Risiko abdecken.
Setzen Sie KI-Agenten ein? Dann sichern Sie sie ab.
In einem unverbindlichen Erstgespräch ordnen wir Ihre KI-Landschaft ein und zeigen, welche Prüf- und Härtungsbausteine bei Ihnen den größten Hebel haben.
Erstgespräch vereinbaren