01Wen Art. 50 trifft: Anbieter und Betreiber
Art. 50 adressiert vier Fallgruppen mit unterschiedlichen Verantwortlichen: Anbieter müssen bei interaktiven KI-Systemen informieren (Art. 50(1)) und Ausgaben generativer Systeme markieren (Art. 50(2)); Betreiber müssen über Emotionserkennung und biometrische Kategorisierung informieren (Art. 50(3)) sowie Deepfakes und KI-Texte zu Themen von öffentlichem Interesse offenlegen (Art. 50(4)). Die Pflichten können kumulativ auf ein System zutreffen, und ein Unternehmen kann Anbieter und Betreiber zugleich sein. Auch Akteure außerhalb der EU sind erfasst, wenn der Output ihres Systems in der Union verwendet wird.
02Kennzeichnung von KI-Interaktion (Art. 50(1))
Anbieter müssen KI-Systeme, die für die direkte Interaktion mit natürlichen Personen bestimmt sind, so konzipieren, dass die Betroffenen erkennen, dass sie mit einer KI interagieren — nach Art. 50(5) klar, unterscheidbar und spätestens bei der ersten Interaktion. Ein Hinweis, der nur in einem Handbuch steht oder in Menüebenen versteckt ist, genügt nach dem Guidelines-Entwurf ausdrücklich nicht. Betroffen sind etwa Chatbots, Voice-Assistenten und KI-Agenten im Kundenkontakt.
03Synthetische Inhalte maschinenlesbar markieren (Art. 50(2))
Anbieter generativer KI-Systeme müssen Audio-, Bild-, Video- und Textausgaben maschinenlesbar markieren und als künstlich erzeugt oder manipuliert erkennbar machen — beide Elemente, Marking und Detection, müssen erfüllt sein. Die technischen Lösungen müssen wirksam, interoperabel, belastbar und zuverlässig sein; Erwägungsgrund 133 nennt als Techniken u. a. Wasserzeichen, Metadaten-Identifikationen, kryptografische Herkunftsnachweise, Logging-Methoden und Fingerprints. Erfasst sind auch multimodale Inhalte, Virtual/Augmented Reality und Ausgaben agentischer KI-Systeme, sofern sie von Menschen wahrnehmbar sind.
04Deepfakes und KI-Texte offenlegen (Art. 50(4))
Betreiber müssen offenlegen, wenn Bild-, Audio- oder Videoinhalte einen Deepfake darstellen — nach Art. 3(60) AI Act also existierende Personen, Objekte, Orte, Einrichtungen oder Ereignisse nachbilden und fälschlich echt oder wahrhaftig erscheinen würden. Gleiches gilt für KI-generierte oder -manipulierte Texte, die die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse informieren. Die Offenlegung muss für Menschen wahrnehmbar sein und ergänzt die maschinenlesbare Markierung durch den Anbieter.
05Ausnahmen: enger als oft angenommen
Der Entwurf bestätigt nur wenige Ausnahmen: offensichtliche KI-Interaktion (Art. 50(1)), unterstützende Standardbearbeitung ohne wesentliche Veränderung von Eingabedaten oder deren Semantik (Art. 50(2)), gesetzlich zugelassene Strafverfolgungszwecke sowie KI-Texte, die menschlicher Überprüfung oder redaktioneller Kontrolle unterliegen und für die eine redaktionelle Verantwortung besteht (Art. 50(4)). Für erkennbar künstlerische, kreative, satirische oder fiktionale Deepfake-Werke gilt ein abgeschwächtes Regime: Die Offenlegung darf die Darstellung und den Genuss des Werks nicht beeinträchtigen. Rein persönliche, nicht-berufliche Nutzung durch natürliche Personen ist nach Art. 2(10) AI Act von den Betreiberpflichten ausgenommen.
06Geltungsbeginn und Umsetzung in der Praxis
Nach Art. 113 AI Act gilt Art. 50 ab dem 2. August 2026 — auch für Systeme, die vorher in Verkehr gebracht wurden; vor dem Stichtag erzeugte Inhalte müssen nicht rückwirkend markiert werden, und der AI-Omnibus-Vorschlag sieht eine gezielte Übergangsregel nur für die Markierungspflicht nach Art. 50(2) bei Bestandssystemen vor. Für die Umsetzung bewähren sich ein vollständiges KI-Inventar, ein Rollen-Mapping (Anbieter/Betreiber) und eine Gap-Analyse gegen Art. 50(1)–(4). Der Beitritt zu einem vom AI Office als angemessen bewerteten Code of Practice ist laut Entwurf ein unkomplizierter Weg, die Einhaltung der Pflichten aus Art. 50(2) und (4) nachzuweisen.
