Interpretierbarkeit, Vertrauen und Daten in der medizinischen KI
16. Juli 2026
In diesem Interview sprechen Dr. Johannes Winter und Yuliia Borovynska mit Prof. Dr. Kerstin Lenhof, Juniorprofessorin und Leiterin der Forschungsgruppe Integrative Bioinformatik an der Universitätsmedizin Göttingen, sowie mit Dr. Rosa Esther Martín Peña, Gruppenleiterin Ethik bei CAIMed und Postdoc am Centre for Law and Ethics of the Life Sciences der Leibniz Universität Hannover, über die Interpretierbarkeit von KI-Systemen im klinischen Alltag. Wie verständlich müssen KI-Modelle wirklich sein, damit Ärzt*innen sowie Patient*innen ihnen vertrauen können, ohne jedes Ergebnis hinterfragen zu müssen?
Warum Plausibilität in der Medizin nicht ausreicht
Ein Sprachmodell kann medizinische Begriffe korrekt verwenden und trotzdem klinisch falschliegen, betont Kerstin Lehnhof. Medizinische Sprache ist nicht neutral: Derselbe Output eines KI-Systems kann je nach Vorwissen, klinischer Erfahrung und Kontext der lesenden Person ganz unterschiedlich interpretiert werden. Interpretierbarkeit ist damit keine rein technische Eigenschaft eines Modells, sondern hängt immer auch vom Menschen ab, der mit ihm arbeitet.
Interpretierbarkeit für unterschiedliche Zielgruppen
Ein weiterer zentraler Punkt des Gesprächs: Was für KI-Entwickelnde als interpretierbar gilt, muss es für Klinikerinnen und Kliniker oder für Patientinnen und Patienten noch lange nicht sein. Die beiden Forscherinnen sind sich einig, dass KI-Systeme für alle Beteiligten transparent und nachvollziehbar gestaltet sein müssen, wobei je nach Zielgruppe unterschiedliche Mechanismen erforderlich sind.
Vertrauen ist keine Einbahnstraße
Auch wenn KI-Systeme mittlerweile in vielen Bereichen beeindruckende Ergebnisse liefern, müssen sich die Nutzer*innen mit der Technologie auseinandersetzen und die Ergebnisse der KI kritisch hinterfragen, gerade im medizinischen Kontext.
Regulierung, Daten und die Geschwindigkeit der Entwicklung
Die Forscherinnen sprechen zudem über die Herausforderung, dass die technologische Entwicklung regulatorischen und gesellschaftlichen Diskussionen oft weit voraus ist. Themen wie der rechtliche Rahmen für vertrauenswürdige KI, die Nutzung sensibler klinischer Daten aus den Medical Data Integration Centers der Universitätskliniken sowie Fragen der Datenqualität, die sich nie pauschal, sondern immer nur im jeweiligen klinischen Kontext beantworten lassen, spielen dabei eine wichtige Rolle.
Die Zukunft ist hybrid
Zum Abschluss des Gesprächs sind sich beide Forscherinnen einig: Die Zukunft der Medizin liegt in der Zusammenarbeit von Mensch und KI. Künstliche Intelligenz kann als Werkzeug enorm unterstützen, ersetzen kann sie die ärztliche Verantwortung jedoch nicht.
CAIMed setzt sich dafür ein, dass Interpretierbarkeit, Vertrauen und ethische Verantwortung von Anfang an mitgedacht werden, um KI-Lösungen zu entwickeln, die im klinischen Alltag wirklich Bestand haben.
