AI-Act-Transparenzpflichten nach Art. 50 — die EC-Guidelines in der Praxis

Art. 50 adressiert vier Fallgruppen mit unterschiedlichen Verantwortlichen: Anbieter müssen bei interaktiven KI-Systemen informieren (Art. 50(1)) und Ausgaben generativer Systeme markieren (Art. 50(2)); Betreiber müssen über Emotionserkennung und biometrische Kategorisierung informieren (Art. 50(3)) sowie Deepfakes und KI-Texte zu Themen von öffentlichem Interesse offenlegen (Art. 50(4)). Die Pflichten können kumulativ auf ein System zutreffen, und ein Unternehmen kann Anbieter und Betreiber zugleich sein. Auch Akteure außerhalb der EU sind erfasst, wenn der Output ihres Systems in der Union verwendet wird.

Anbieter müssen KI-Systeme, die für die direkte Interaktion mit natürlichen Personen bestimmt sind, so konzipieren, dass die Betroffenen erkennen, dass sie mit einer KI interagieren — nach Art. 50(5) klar, unterscheidbar und spätestens bei der ersten Interaktion. Ein Hinweis, der nur in einem Handbuch steht oder in Menüebenen versteckt ist, genügt nach dem Guidelines-Entwurf ausdrücklich nicht. Betroffen sind etwa Chatbots, Voice-Assistenten und KI-Agenten im Kundenkontakt.

Anbieter generativer KI-Systeme müssen Audio-, Bild-, Video- und Textausgaben maschinenlesbar markieren und als künstlich erzeugt oder manipuliert erkennbar machen — beide Elemente, Marking und Detection, müssen erfüllt sein. Die technischen Lösungen müssen wirksam, interoperabel, belastbar und zuverlässig sein; Erwägungsgrund 133 nennt als Techniken u. a. Wasserzeichen, Metadaten-Identifikationen, kryptografische Herkunftsnachweise, Logging-Methoden und Fingerprints. Erfasst sind auch multimodale Inhalte, Virtual/Augmented Reality und Ausgaben agentischer KI-Systeme, sofern sie von Menschen wahrnehmbar sind.

Betreiber müssen offenlegen, wenn Bild-, Audio- oder Videoinhalte einen Deepfake darstellen — nach Art. 3(60) AI Act also existierende Personen, Objekte, Orte, Einrichtungen oder Ereignisse nachbilden und fälschlich echt oder wahrhaftig erscheinen würden. Gleiches gilt für KI-generierte oder -manipulierte Texte, die die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse informieren. Die Offenlegung muss für Menschen wahrnehmbar sein und ergänzt die maschinenlesbare Markierung durch den Anbieter.

Der Entwurf bestätigt nur wenige Ausnahmen: offensichtliche KI-Interaktion (Art. 50(1)), unterstützende Standardbearbeitung ohne wesentliche Veränderung von Eingabedaten oder deren Semantik (Art. 50(2)), gesetzlich zugelassene Strafverfolgungszwecke sowie KI-Texte, die menschlicher Überprüfung oder redaktioneller Kontrolle unterliegen und für die eine redaktionelle Verantwortung besteht (Art. 50(4)). Für erkennbar künstlerische, kreative, satirische oder fiktionale Deepfake-Werke gilt ein abgeschwächtes Regime: Die Offenlegung darf die Darstellung und den Genuss des Werks nicht beeinträchtigen. Rein persönliche, nicht-berufliche Nutzung durch natürliche Personen ist nach Art. 2(10) AI Act von den Betreiberpflichten ausgenommen.

Nach Art. 113 AI Act gilt Art. 50 ab dem 2. August 2026 — auch für Systeme, die vorher in Verkehr gebracht wurden; vor dem Stichtag erzeugte Inhalte müssen nicht rückwirkend markiert werden, und der AI-Omnibus-Vorschlag sieht eine gezielte Übergangsregel nur für die Markierungspflicht nach Art. 50(2) bei Bestandssystemen vor. Für die Umsetzung bewähren sich ein vollständiges KI-Inventar, ein Rollen-Mapping (Anbieter/Betreiber) und eine Gap-Analyse gegen Art. 50(1)–(4). Der Beitritt zu einem vom AI Office als angemessen bewerteten Code of Practice ist laut Entwurf ein unkomplizierter Weg, die Einhaltung der Pflichten aus Art. 50(2) und (4) nachzuweisen.