EU AI Act: Europas Regelwerk für Künstliche Intelligenz

Die Verordnung reguliert KI-Systeme nach ihrem Risiko. Praktiken mit unannehmbarem Risiko sind nach Art. 5 verboten – darunter Social Scoring, gezielt manipulative Techniken, Emotionserkennung am Arbeitsplatz und bestimmte biometrische Echtzeit-Fernidentifizierung zu Strafverfolgungszwecken. Hochrisiko-Systeme (Art. 6 i. V. m. Anhang I und III) – etwa in kritischer Infrastruktur, Bildung, Beschäftigung oder Strafverfolgung – unterliegen umfassenden Anforderungen an Risikomanagement, Datenqualität, technische Dokumentation, menschliche Aufsicht und Konformitätsbewertung. Für bestimmte Systeme wie Chatbots und generative KI gelten Transparenzpflichten nach Art. 50, die wir in einer eigenen Wissensseite im Detail behandeln. Der Großteil der eingesetzten KI-Systeme fällt in die Kategorie mit minimalem Risiko und bleibt ohne spezifische Pflichten.

Seit dem 2. Februar 2025 gelten die Verbote des Art. 5 und die Pflicht zur KI-Kompetenz (Art. 4), seit dem 2. August 2025 die Regeln für Modelle mit allgemeinem Verwendungszweck (GPAI) sowie die Governance- und Sanktionsvorschriften. Ab dem 2. August 2026 ist die Verordnung im Übrigen anwendbar, einschließlich der Transparenzpflichten nach Art. 50. Die Pflichten für Hochrisiko-Systeme wurden durch den Digital Omnibus verschoben: Eigenständige Systeme nach Anhang III müssen erst ab dem 2. Dezember 2027, in regulierte Produkte eingebettete Systeme nach Anhang I erst ab dem 2. August 2028 die Anforderungen erfüllen (ursprünglich 2. August 2026 bzw. 2027). GPAI-Modelle, die vor dem 2. August 2025 in Verkehr gebracht wurden, haben nach Art. 111 Abs. 3 bis zum 2. August 2027 Zeit.

Die Ende 2025 von der Kommission vorgeschlagenen Änderungen sind inzwischen geltendes Recht: Die Änderungsverordnung (EU) 2026/1744 („Digital Omnibus on AI“) wurde am 16. Juni 2026 vom Parlament und am 29. Juni 2026 vom Rat angenommen, am 24. Juli 2026 im Amtsblatt veröffentlicht und ist am 27. Juli 2026 in Kraft getreten. Sie verschiebt die Hochrisiko-Fristen auf feste Daten – der ursprünglich diskutierte Mechanismus, die Geltung an die Verfügbarkeit harmonisierter Normen zu knüpfen, wurde verworfen. Generative Systeme, die vor dem 2. August 2026 in Verkehr gebracht wurden, erhalten für die maschinenlesbare Kennzeichnung nach Art. 50 Abs. 2 eine Übergangsfrist bis zum 2. Dezember 2026. Neu in Art. 5 aufgenommen wurde ein ab dem 2. Dezember 2026 anwendbares Verbot von KI-Systemen, die nicht einvernehmliche intime Darstellungen oder Kindesmissbrauchsmaterial erzeugen; die Frist für nationale KI-Reallabore wurde auf den 2. August 2027 verschoben, und für KMU und Start-ups gelten Erleichterungen etwa bei Dokumentation und Qualitätsmanagement.

Die Verordnung unterscheidet insbesondere Anbieter (Provider), die ein KI-System entwickeln oder unter eigenem Namen in Verkehr bringen, und Betreiber (Deployer), die ein System in eigener Verantwortung beruflich einsetzen. Anbieter von Hochrisiko-Systemen tragen die Hauptlast (Art. 16 ff.): Risikomanagement, technische Dokumentation, Qualitätsmanagementsystem, Konformitätsbewertung und CE-Kennzeichnung. Betreiber müssen nach Art. 26 unter anderem die Systeme bestimmungsgemäß verwenden, kompetente menschliche Aufsicht sicherstellen, den Betrieb überwachen und Vorfälle melden; wer ein Hochrisiko-System wesentlich verändert oder unter eigenem Namen anbietet, kann selbst in die Anbieterrolle wechseln. Der Anwendungsbereich ist zudem extraterritorial (Art. 2): Erfasst sind auch Anbieter aus Drittstaaten, wenn der Output ihrer Systeme in der EU verwendet wird.

Art. 99 sieht drei Bußgeldstufen vor. Verstöße gegen die Verbote des Art. 5 können mit bis zu 35 Mio. Euro oder 7 % des weltweiten Jahresumsatzes geahndet werden – je nachdem, welcher Betrag höher ist. Verstöße gegen die meisten übrigen Pflichten, darunter die Anbieter-, Betreiber- und Transparenzpflichten aus Art. 16, 26 und 50, kosten bis zu 15 Mio. Euro oder 3 %; falsche oder irreführende Auskünfte gegenüber Behörden bis zu 7,5 Mio. Euro oder 1 %. Für KMU und Start-ups gilt jeweils der niedrigere der beiden Beträge. Die Durchsetzung liegt bei den nationalen Marktüberwachungsbehörden; für GPAI-Modelle ist das AI Office der Kommission zuständig, dessen Durchsetzungsbefugnisse ab dem 2. August 2026 vollständig greifen.

ISO/IEC 42001:2023 definiert ein zertifizierbares Managementsystem für KI (AIMS) und ist ein geeigneter Rahmen, um KI-Governance strukturell zu verankern – insbesondere in Kombination mit einem bestehenden ISMS nach ISO/IEC 27001. Eine Konformitätsvermutung nach Art. 40 AI Act begründet eine ISO-42001-Zertifizierung jedoch nicht: Diese entsteht nur durch harmonisierte europäische Normen, deren Fundstellen im Amtsblatt der EU veröffentlicht sind. Diese Normen entwickelt CEN/CENELEC JTC 21 derzeit noch; für das Qualitätsmanagement nach Art. 17 entsteht mit EN 18286 eine eigene europäische Norm statt einer direkten Übernahme der ISO 42001 – sie befindet sich in der Schlussabstimmung, weitere Dokumente liegen erst als prEN-Entwürfe vor. Stand Juli 2026 ist noch keine harmonisierte Norm zum AI Act im Amtsblatt zitiert; in der Praxis bewährt sich daher ein kombinierter Ansatz aus ISO/IEC 42001 für die Organisation und den entstehenden Normen für das einzelne Hochrisiko-System.