3 Fragen an…
Prof. Dr. rer. hum. biol. Björn-Hergen Laabs
Gruppenleiter
Prof. Dr. rer. hum. biol. Björn-Hergen Laabs ist seit Anfang Oktober Juniorprofessor für Statistik am Institut für Medizinische Statistik der Universitätsmedizin Göttingen. Zuvor hat er sich an der Universität zu Lübeck mit der Erklärbarkeit von KI-Modellen und genetischen und epigenetischen Faktoren bei Bewegungsstörungen wie zum Beispiel Dystonien und Parkinson beschäftigt. Innerhalb von CAIMed übernimmt er die Leitung der Nachwuchsgruppe zu „Statistischer Evidenz in KI-Systemen“. Dabei liegt ein wesentlicher Fokus auf der Erklärbarkeit, Unsicherheit und Kausalität von Vorhersagen. Sein Ziel ist es dabei, dass ein KI-Modell zu jeder Vorhersage den nötigen Kontext gibt, um die Qualität und Plausibilität im Klinikalltag beurteilen zu können.
1.
Welche Herausforderungen sehen Sie bei der Übertragung von statistischen und KI-Modellen aus der Forschung in den klinischen Alltag?
Ich glaube eine wesentliche Herausforderung besteht aktuell darin, dass Modelle zu häufig so trainiert werden, dass sie A) immer einen Output liefern und B) die Interpretation vollständig dem Anwendenden überlassen, ohne weiteren Kontext zu liefern. Dies kann entweder zu einem generellen Misstrauen (Stichwort: halluzinierende KI) oder einem blinden Vertrauen führen. Ich denke, dass Maße dafür, wie sicher sich die KI mit der Vorhersage ist und Erklärungen, wie eine Vorhersage zustande kam, wesentliche Aspekte sind, um KI für den klinischen Alltag nutzbar zu machen.
2.
Sie beschäftigen sich mit maschinellem Lernen und interpretierbaren Modellen. Warum ist gerade die Nachvollziehbarkeit von KI-Entscheidungen in der Medizin so entscheidend?
KI-Entscheidungen, die nicht nachvollziehbar sind, führen mittelfristig entweder zu einer generellen Ablehnung von KI-Modellen, da man nicht nachvollziehen kann, warum sich die Modelle auch mal irren, oder es führt zu einem blinden Vertrauen in die KI, was zu dramatischen Fehlentscheidungen führen kann. Daher sollten Maße für die Unsicherheit der Vorhersage und eine Erklärung, wie die Vorhersage zustande kam, ein wesentlicher Teil der Vorhersage sein, damit die anwendende Person die Qualität der Vorhersage selbst besser beurteilen kann.
3.
Wenn man über die Zukunft nachdenkt: Welche neuen Datenquellen könnten Ihre Forschung besonders bereichern?
Ich denke, dass ein wesentlicher Faktor für den Erfolg von KI im klinischen Alltag die Verfügbarkeit von den Daten sein wird, die aktuell schon in Massen in den Kliniken erhoben werden. Diese Routinedaten stehen zunehmend auch der Forschung zur Verfügung, sodass wir als Forschende uns darauf konzentrieren können, KI-Modelle zu entwickeln, die sich möglichst nahtlos in die aktuellen Prozesse in den Kliniken einbinden lassen.
