Statistische Evidenz
in KI-Systemen

Der klinische Einsatz von KI-Systemen erfordert ein plausibles, robustes und nachvollziehbares Verhalten, insbesondere in klinischen Studien. CAIMed nutzt Daten der Gruppe Kollaborative Entwicklung & Validierung von KI und KI-Systeme für integrative Multi-Omics Daten (molekulare Daten). In dieser Gruppe liegt der Fokus auf Validierung und statistischer Evidenz für entwickelte KI-Systeme basierend auf diesen Daten. Die Quantifizierung der Genauigkeit (Uncertainty) steht dabei im Zentrum, da sie ein wichtiger Indikator für die Qualität von Vorhersagen ist, besonders im medizinischen Kontext.

Um Daten-Privacy-Probleme zu minimieren, werden föderierte Lernmethoden in Zusammenarbeit mit den Gruppen #4c und #1c angewendet. Anwendungen erstrecken sich von der Kardiologie bis zur Optimierung von Behandlungsprotokollen in der Onkologie. Die Themen „Interpretable AI“ und „Erklärbarkeit“ sind relevant, da molekulare Größen komplexe Interaktionsmuster zeigen. Auf Patientenebene sind randomisierte kontrollierte klinische Studien der Goldstandard für Therapieevaluation. In ethisch nicht vertretbaren Situationen können nicht-randomisierte kontrollierte Studien die nächstbeste Evidenz bieten. Kausale Inferenzverfahren, die mit kontrafaktischen Modellen arbeiten, können hierbei helfen. Die zunehmende Verfügbarkeit von nicht-randomisierten Daten ermöglicht die Kombination verschiedener Studientypen, erfordert jedoch eine gewichtete Evidenzsynthese. Die Gruppe beschäftigt sich daher mit der Entwicklung von Evidenzsyntheseverfahren, die auf kontrafaktischen Methoden basieren, unter Anwendung von Meta-Analyse-Verfahren und künstlichen neuronalen Netzen.