MIT-Studie: Medizinische KI hilft je nach Erfahrung sehr unterschiedlich

Eine von MIT News vorgestellte Studie zeigt, dass medizinische KI-Unterstützung nicht für alle Nutzer gleich wirkt: Nicht-Experten folgten LLM-basierten Diagnosen oft auch dann, wenn diese falsch waren, während Kliniker fehlerhafte KI-Hinweise häufiger erkannten und teils ohne zusätzliche Erklärung besser abschnitten.

Die am 4. August 2026 bei MIT News veröffentlichte Studie untersuchte Diagnosen von Hauterkrankungen mit und ohne erklärbare KI-Systeme. Verglichen wurden Nicht-Experten und Primary Care Providers. Laut MIT verbesserte KI-Unterstützung die Diagnoseleistung beider Gruppen grundsätzlich, doch der Nutzen der Erklärungen hing stark vom Vorwissen der Nutzer ab.

Nicht-Experten vertrauten Erklärungen auch bei Fehlern

Besonders deutlich fiel der Unterschied bei LLM-basierten Erklärungen aus. Nicht-Experten vertrauten ihnen laut MIT News „whether they were right or wrong“. Ihre bessere Genauigkeit entstand demnach „largely due to deference to the AI system“. Auffällig war außerdem, dass gerade vage oder allgemeine Erklärungen auf diese Gruppe überzeugend wirkten. Das deutet darauf hin, dass nicht nur die Qualität eines Modells wichtig ist, sondern auch die Art, wie seine Empfehlung präsentiert wird.

Kliniker profitierten anders von KI-Hilfe

Bei Klinikern zeigte sich ein anderes Muster. Sie ließen sich von fehlerhafter KI-Unterstützung seltener in die Irre führen und erzielten laut MIT News ihre besten Ergebnisse, wenn sie lediglich die Vorhersage des Modells sahen, ohne zusätzliche Erklärung. Laut der MIT-Darstellung können gute KI-Systeme die Leistung in bestimmten medizinischen Kontexten verbessern, zugleich müsse ihr Einsatz aber sorgfältig austariert werden, weil übermäßige Nachgiebigkeit gegenüber algorithmischen Empfehlungen zusätzliche Fehler verursachen kann.

Kein einheitliches Design für medizinische KI

Die Ergebnisse sprechen gegen einen Einheitsansatz bei medizinischen Assistenzsystemen. Während ausführliche Erklärungen bei weniger erfahrenen Nutzern Vertrauen schaffen können, erhöhen sie nicht automatisch die Qualität der Entscheidung. Für klinische Anwendungen legt die Studie daher nahe, KI-Werkzeuge stärker an die Expertise der jeweiligen Nutzergruppe anzupassen.