TU München warnt vor Datenschutzlücke in medizinischen KI-Modellen

Forscher der Technischen Universität München beschreiben ein Datenschutzrisiko in medizinischen KI-Modellen. In bestimmten Datensätzen lassen sich einzelne Patienten den Modellen mit sehr hoher Sicherheit zuordnen, obwohl frühere Prüfungen gängige Systeme im Durchschnitt als weitgehend sicher einstuften.

t3n berichtete am 26. August 2026 über die Untersuchung von Moritz Knolle von der Technischen Universität München. Beteiligt waren auch Teams des Imperial College London und des Potsdamer Hasso-Plattner-Instituts. Laut dem Bericht zeigte die Studie, dass in bestimmten Datensätzen bestimmte Patienten mit nahezu hundertprozentiger Wahrscheinlichkeit den Modellen zugeordnet werden können. Untersucht wurde das Risiko bei sogenannten Membership Inference Attacks, kurz MIAs.

Individuelles Risiko statt Durchschnitt

Knolle erklärte laut MIT Technology Review im t3n-Beitrag, dass bisherige Tests nur ein durchschnittliches Risiko für alle Patienten ermittelt hätten. Die neue Untersuchung habe erstmals das Risiko für individuelle Patienten betrachtet. Dadurch ergebe sich ein anderes Bild als in früheren Arbeiten, in denen gängige Medizin-KI-Modelle weitgehend als sicher gegen solche Angriffe galten.

Der Anlass der Untersuchung war laut dem Bericht die Frage, wie groß das Missbrauchsrisiko ist, wenn Gesundheitsdaten einem KI-Modell anvertraut werden. Knolle forscht im Rahmen seiner Doktorarbeit zur Sicherheit von Gesundheitsdaten und stieß dabei auf eine Lücke, die Angreifer mit einfachen Mitteln nutzen könnten.

Sicherheitsmaßnahmen für Spezialfälle

Der Bericht beschreibt den Angriff als einfache Methode und verweist zugleich auf einen eingeschränkten Geltungsbereich. Sicherheitsmaßnahmen fordern die beteiligten Forscher demnach für spezielle Fälle. Veröffentlicht wurde der Bericht am 26. August 2026 um 06:00 Uhr, Autorin ist Andrea Hoferichter für MIT Technology Review.