Fachbeitrag in mt|medizintechnik 2.2026: Wie Kliniken den Einsatz von KI-Systemen mit Risikomanagement absichern
19. Oktober 2026
Erschienen in mt|medizintechnik, Ausgabe 2.2026
Erschienen in mt|medizintechnik, Ausgabe 2.2026
Wie Kliniken den Einsatz von KI-Systemen mit Risikomanagement absichern, beschreibt Valeri Milke in Ausgabe 2.2026 der Fachzeitschrift mt|medizintechnik. Der Beitrag „Risikomanagement für KI-Systeme im Medizinbetrieb“ mit der Dachzeile „Therapieentscheidungen durch Algorithmen“ steht auf den Seiten 8 bis 12 des Hefts, das im April 2026 mit dem Schwerpunkt „Personalisierte Medizin“ erschienen ist, und enthält drei Abbildungen sowie eine Tabelle. Die Zeitschrift erscheint bei der TÜV Media GmbH in Köln. Autor: Valeri Milke, CEO der VamiSec GmbH, Lead Auditor für ISO/IEC 27001 und ISO/IEC 42001. Der Beitrag verbindet die Vorgaben aus Medizinprodukteverordnung (MDR), KI-Verordnung (AI Act) und Cyber Resilience Act (CRA) mit einem praktischen Vorgehen für den Klinikalltag – vom Bedrohungsmodell über die Bewertung möglicher Folgen bis zu Maßnahmen und Nachweisen. Diese Meldung gibt die Kernaussagen in eigenen Worten wieder und ordnet sie in den Rechtsstand vom Oktober 2026 ein.
Die Kernthese: Wer KI einsetzt, trägt Mitverantwortung
KI-Anwendungen sind in vielen Kliniken angekommen: Sie markieren Auffälligkeiten in Röntgen- und CT-Aufnahmen, schlagen Behandlungsoptionen vor oder unterstützen die Planung von Terminen, Betten und Medikation. Je stärker solche Systeme in Entscheidungen eingreifen, desto mehr hängt die Versorgung davon ab, dass ihre Ergebnisse belastbar sind. Ein mit unausgewogenen Daten trainiertes Modell, eine unbemerkt eingespielte neue Modellversion oder eine schleichende Verschlechterung im Betrieb kann Patientinnen und Patienten unmittelbar gefährden – und zugleich das Vertrauen in KI-gestützte Medizin beschädigen. Der Beitrag rückt deshalb eine Perspektive in den Mittelpunkt, die in der Debatte oft zu kurz kommt: die der Betreiber. Nicht nur Hersteller, auch Krankenhäuser, Labore und Praxen müssen KI-Risiken aktiv steuern – als Daueraufgabe über den gesamten Lebenszyklus, bei der Technik, Organisation und Ethik zusammengedacht werden.
Wann medizinische KI als Hochrisiko-System gilt
Medizinische KI wird in aller Regel über das Medizinprodukterecht zum Hochrisiko-System: Ist das KI-System selbst Medizinprodukt oder Sicherheitsbauteil eines solchen und muss eine Benannte Stelle seine Konformität bewerten, gilt es auch nach dem AI Act als hochriskant. Software, die Informationen für Diagnose- oder Therapieentscheidungen liefert, ist nach der MDR in der Regel mindestens der Klasse IIa zugeordnet und braucht damit eine Benannte Stelle – das betrifft die meisten klinischen KI-Anwendungen. Die Anforderungen des AI Act prüft die Benannte Stelle im bestehenden MDR-Verfahren mit; eine zweite Zertifizierung entsteht nicht. Daneben stuft der AI Act einzelne Einsatzzwecke im Gesundheitswesen unmittelbar als hochriskant ein, etwa Systeme zur Patiententriage in der Notaufnahme. Die Leitlinie MDCG 2025-6 vom Juni 2025 erläutert dieses Zusammenspiel in 36 Fragen; den dort genannten Stichtag 2027 hat der Gesetzgeber inzwischen auf 2028 verschoben.
Geteilte Verantwortung: Was Anbieter und Betreiber jeweils leisten
Rechtlich sind die Rollen getrennt, praktisch hängen sie voneinander ab. Der Anbieter betreibt ein Risikomanagementsystem, sorgt für eine belastbare Daten-Governance und weist die Konformität nach. Der Betreiber – im Krankenhaus die Einrichtung, nicht die einzelne Ärztin – nutzt das System gemäß Gebrauchsanweisung, überträgt die menschliche Aufsicht nur geschulten und befugten Personen, achtet bei selbst gelieferten Eingabedaten auf Eignung und Repräsentativität, überwacht den Betrieb und meldet Auffälligkeiten an den Anbieter. Automatisch erzeugte Protokolle unter seiner Kontrolle bewahrt er in der Regel mindestens sechs Monate auf. Ein formales Risikomanagementsystem verlangt der AI Act von Betreibern nicht; ein eigenes Betreiber-Risikomanagement, etwa nach IEC 80001-1, ist aber die praktische Grundlage dieser Pflichten. Wichtig: Wer ein System unter eigenem Namen anbietet, es wesentlich verändert oder für einen hochriskanten Zweck umwidmet, übernimmt selbst die Pflichten eines Anbieters.
Bedrohungen erkennen: STRIDE, OWASP und Modelldrift
Zur Risikoidentifikation empfiehlt der Beitrag eine Bedrohungsmodellierung (Threat Modeling) entlang von Datenflüssen und Schnittstellen. Das bei Microsoft entstandene STRIDE-Schema ordnet Bedrohungen sechs Kategorien zu: vorgetäuschte Identität (Spoofing), Manipulation (Tampering), Abstreitbarkeit (Repudiation), Preisgabe von Informationen (Information Disclosure), Nichtverfügbarkeit (Denial of Service) und Rechteausweitung (Elevation of Privilege). Klinische Beispiele: Ein vorgetäuschtes Bildgebungsgerät speist fremde Aufnahmen ein, eine veränderte Modelldatei verschiebt Befundschwellen, ein überprivilegiertes Integrationskonto öffnet den Zugang zur Konfiguration. Für Anwendungen mit Sprachmodellen nennen die OWASP Top 10 for LLM Applications 2026 weitere Angriffe, etwa eingeschleuste Anweisungen (Prompt Injection) oder vergiftete Daten und Modelle (Data and Model Poisoning). Hinzu kommt Modelldrift: ein schleichender Leistungsverlust, weil sich Patientengruppen, Geräte oder klinische Praxis gegenüber der Validierung verändern.
Folgen bewerten, Maßnahmen umsetzen, Nachweise führen
Auf die Identifikation folgt die Bewertung: Was bedeutet ein Fehlverhalten für Patientinnen und Patienten, für Personal und Versorgung? Der Beitrag stellt dafür Eintrittswahrscheinlichkeit und Schwere in einer Matrix gegenüber; die Schwere erfasst medizinische, Datenschutz- und gesellschaftliche Folgen. Die Maßnahmen gliedert er in vier Handlungsfelder: vorbeugen, erkennen, korrigieren und dokumentieren – etwa repräsentative Testdaten, Überwachung mit Alarmen, menschliche Kontrolle an kritischen Punkten und Rückfall auf die Vorversion. Als Bezugsrahmen eignen sich ISO 14971 für das Produktrisiko, ISO/IEC 23894 als KI-spezifischer Leitfaden und ISO/IEC 42001 als freiwilliges Managementsystem, das gesetzliche Pflichten ordnet, aber nicht ersetzt. Eine Grundrechte-Folgenabschätzung verlangt der AI Act nur für bestimmte Einsatzzwecke wie die Notaufnahme-Triage und nur von öffentlichen Stellen oder Erbringern öffentlicher Dienste; bei KI-Medizinprodukten tragen Datenschutz-Folgenabschätzung und klinisches Risikomanagement die Bewertung.
Warum das Thema jetzt drängt – und was Sie tun können
Der AI Act ist seit dem 1. August 2024 in Kraft; Verbote und die Pflicht, KI-Kompetenz zu fördern, gelten seit dem 2. Februar 2025, die Transparenzpflichten seit dem 2. August 2026. Der seit dem 27. Juli 2026 geltende Digital Omnibus on AI legt die Hochrisiko-Stichtage fest: 2. Dezember 2027 für direkt gelistete Einsatzzwecke, 2. August 2028 für KI-Medizinprodukte – für Anbieter wie Betreiber. Bereits zuvor in Verkehr gebrachte oder in Betrieb genommene Systeme erfasst das nur bei wesentlichen Änderungen am Design. Der Cyber Resilience Act nimmt Medizinprodukte aus, gilt aber für nicht-medizinische IT-Produkte, die Kliniken beschaffen: Deren Hersteller melden seit dem 11. September 2026 aktiv ausgenutzte Schwachstellen, die übrigen Pflichten greifen ab dem 11. Dezember 2027. Fünf Schritte bieten sich an: ein Verzeichnis aller KI-Anwendungen mit Rolle und Einstufung anlegen; Aufsicht und Schulung klar zuweisen; Überwachung, Protokolle und Meldewege mit den Anbietern vertraglich regeln; für jedes kritische System ein Bedrohungsmodell erstellen; beim Einkauf Updatezusagen und eine Software-Stückliste (Software Bill of Materials, SBOM) einfordern.
Neu auf vamisec.com: die Wissensseite zum Thema
Neu auf vamisec.com: die Wissensseite „KI-Risikomanagement im Medizinbetrieb“. Sie greift die Thesen des Heftbeitrags auf, aktualisiert sie auf den Stand vom Oktober 2026 und vertieft sie aus Sicht der Betreiber – mit der Einstufung medizinischer KI, der Aufteilung der Pflichten zwischen Anbieter und Klinik, einem Bedrohungsmodell mit KI-spezifischen Angriffen, der Risikobewertung, konkreten Maßnahmen und den nötigen Nachweisen, ergänzt um häufige Fragen und geprüfte Quellen. Sie finden die Seite unter https://vamisec.com/de/wissen/secure-software-development/ki-risikomanagement-medizin. Wie AI Act und MDR aus Sicht der Hersteller zusammenwirken, zeigt https://vamisec.com/de/ki-vo-medizinprodukte – Informationen zur MDR-Beratung finden Sie unter https://vamisec.com/de/mdr.
Alle Links
Ausgabe 2.2026 bei mt|medizintechnik: https://mt-medizintechnik.de/fokus-auf-personalisierte-medizin/ · Wissensseite KI-Risikomanagement im Medizinbetrieb: https://vamisec.com/de/wissen/secure-software-development/ki-risikomanagement-medizin · Kategorie Secure Software & Product Development, Bereich Medizinprodukte: https://vamisec.com/de/wissen/secure-software-development#medizinprodukte · KI-Verordnung und Medizinprodukte: https://vamisec.com/de/ki-vo-medizinprodukte · EU AI Act im Überblick: https://vamisec.com/de/wissen/grc/eu-ai-act · MDR-Cybersecurity im Überblick: https://vamisec.com/de/wissen/grc/mdr-cybersecurity · Threat Modeling: https://vamisec.com/de/wissen/secure-software-development/threat-modeling · MDR-Beratung: https://vamisec.com/de/mdr
Haben Sie Fragen zur IT-Sicherheit Ihres Unternehmens?
Kostenlose Erstberatung →