KI-Compliance & AI Governance

Ausgangspunkt jedes Governance-Programms ist ein vollständiges Inventar: Welche KI-Systeme und -Funktionen sind im Einsatz – als Eigenentwicklung, als eingekaufter Dienst oder als Funktion in Standardsoftware – und welche Fachbereiche nutzen sie wofür? Jeder Use Case wird anschließend entlang der Risikoklassen der KI-Verordnung eingeordnet: verbotene Praktiken (Art. 5, anwendbar seit 02.02.2025), Hochrisiko-Systeme (Art. 6 i. V. m. Anhang III), Systeme mit Transparenzpflichten (Art. 50) und Systeme mit minimalem Risiko. Für die Planung relevant: Die Verordnung (EU) 2026/1744 („Digital Omnibus“, in Kraft seit 27.07.2026) hat die Anwendung der Hochrisiko-Pflichten auf den 02.12.2027 (Anhang III) bzw. den 02.08.2028 (in Produkte eingebettete Systeme nach Anhang I) verschoben. Die Klassifizierung entscheidet über Kontrolltiefe, Dokumentationsumfang und Freigabewege – und muss bei wesentlichen Änderungen eines Use Case wiederholt werden.

Seit dem 02.02.2025 verlangt Art. 4 von Anbietern und Betreibern von KI-Systemen Maßnahmen zur KI-Kompetenz ihres Personals und beauftragter Dritter – abgestimmt auf Rolle, Vorkenntnisse und Einsatzkontext. Ein bestimmtes Schulungsformat, eine Zertifizierung oder ein formell benannter KI-Beauftragter sind nicht vorgeschrieben; entscheidend ist die nachvollziehbare Dokumentation der Maßnahmen. Mit der Verordnung (EU) 2026/1744 wurde Art. 4 zu einer Förderpflicht abgeschwächt und klargestellt, dass kein bestimmter Wissensstand einzelner Personen garantiert werden muss – risikobasierte Schulungsansätze bleiben damit zulässig. In der Praxis bewährt haben sich Basisschulungen für alle Beschäftigten plus vertiefende, rollenspezifische Module für Entwicklung, Einkauf, Fachbereiche mit riskanteren Use Cases und Management.

Die KI-Verordnung knüpft Pflichten an Rollen – vor allem Anbieter und Betreiber –, wobei dieselbe Organisation je Use Case unterschiedliche Rollen einnehmen kann; wer ein fremdes System wesentlich verändert oder unter eigenem Namen bereitstellt, kann in die Anbieterrolle wechseln. Intern braucht ein Governance-Programm klare Zuständigkeiten: ein Gremium oder eine Funktion, die Use Cases freigibt und das Inventar verantwortet, benannte Owner je KI-System sowie die Einbindung von CISO, Datenschutzbeauftragtem, Rechtsabteilung und Fachbereichen. ISO/IEC 42001 verankert diese Struktur im Managementsystem: Verpflichtung der obersten Leitung, eine dokumentierte KI-Politik und definierte Rollen mit Befugnissen. Einen gesetzlich vorgeschriebenen „KI-Beauftragten“ gibt es nicht – die Verantwortung muss dennoch eindeutig zugewiesen und gelebt werden.

Kontrollen wirken nur, wenn sie den gesamten Lebenszyklus abdecken: Impact- und Risikobewertung vor Entwicklung oder Beschaffung, Datenqualitäts- und Bias-Prüfungen, Tests und Validierung vor dem Go-live, menschliche Aufsicht und Protokollierung im Betrieb, Monitoring auf Drift und Fehlverhalten sowie geregelte Änderungs- und Abschaltprozesse. Das NIST AI RMF strukturiert diese Aufgaben über die vier Funktionen Govern, Map, Measure und Manage; ISO/IEC 42005:2025 liefert ergänzend eine Anleitung für KI-Impact-Assessments als Baustein des Managementsystems. Für eingekaufte KI-Cloud-Dienste definiert der BSI-Kriterienkatalog AIC4 prüfbare Kriterien über den Lebenszyklus – von Sicherheit und Robustheit über Performance, Zuverlässigkeit, Datenqualität und Datenmanagement bis zu Erklärbarkeit und Bias. Wesentliche Modell- oder Zweckänderungen sollten automatisch eine Neubewertung der Risikoklasse auslösen.

Die Bausteine ergänzen sich, statt zu konkurrieren. Die KI-Verordnung setzt als Gesetz den verbindlichen Rahmen; ISO/IEC 42001:2023 beschreibt als erste zertifizierbare Norm für KI-Managementsysteme (AIMS) die organisatorische Umsetzung – nach derselben Managementsystem-Logik wie ISO/IEC 27001; das NIST AI RMF (AI RMF 1.0, 2023) ist ein freiwilliges Rahmenwerk für das Risikomanagement einzelner KI-Systeme, ergänzt um das Generative-AI-Profil NIST AI 600-1 (2024); der BSI AIC4 (2021) adressiert als Erweiterung des C5-Katalogs die Prüfbarkeit von KI-Cloud-Diensten. Ein Governance-Programm kombiniert typischerweise alle Ebenen: das Gesetz als Pflicht, ISO/IEC 42001 als Managementsystem, NIST als Methodik, AIC4 als Assurance-Instrument für Zulieferer. Vertiefungen bieten die Deep-Dives „ISO 42001 in der Praxis“, „AI-Act-Transparenzpflichten“ und „NIST-AI-Frameworks“ in dieser Wissensdatenbank.

Verarbeitet ein KI-System personenbezogene Daten, gilt die DSGVO uneingeschränkt neben der KI-Verordnung; für viele KI-Use-Cases ist eine Datenschutz-Folgenabschätzung nach Art. 35 DSGVO erforderlich. Bestimmte Betreiber von Hochrisiko-Systemen – insbesondere öffentliche Stellen und private Erbringer öffentlicher Dienste – müssen zusätzlich eine Grundrechte-Folgenabschätzung nach Art. 27 AI Act durchführen; nach Art. 27 Abs. 4 ergänzt diese eine bereits durchgeführte DSFA, statt sie zu ersetzen. Praktische Orientierung geben die Papiere der Datenschutzkonferenz: die Orientierungshilfe „Künstliche Intelligenz und Datenschutz“ (Version 1.0, Mai 2024) zu Rechtsgrundlagen, Zweckbindung und Betroffenenrechten sowie die Orientierungshilfe zu technischen und organisatorischen Maßnahmen bei Entwicklung und Betrieb von KI-Systemen (Juni 2025). Organisatorisch sinnvoll ist ein gemeinsamer Intake-Prozess, in dem KI-Klassifizierung und Datenschutzprüfung denselben Use Case einmal statt zweimal bewerten.