Ethik
Die Entwicklung und der Einsatz neuer KI-Systeme und -Anwendungen in der Medizin versprechen Innovationen und Verbesserungen in Bezug auf Prävention, Diagnostik und Therapie. So können KI-basierte medizinische Expertensysteme ÄrztInnen bei der Entscheidungsfindung unterstützen, im Bereich der personalisierten Medizin wird durch die Verwendung daten- und wissensbasierter Prozesse eine spezifischere Ausrichtung an individuellen PatientInnen ermöglicht, und im Kontext von bildgebenden Verfahren können Geschwindigkeit und Präzision der Diagnostik signifikant erhöht werden.
Um einen angemessenen Einsatz von datengetriebenen Verfahren und KI-Technologien in der Medizin zu gewährleisten, sind nicht nur die Funktionsweise des KI-Systems und der medizinische Anwendungskontext, sondern auch hiermit in Zusammenhang stehende ethische Aspekte zu berücksichtigen. Hierzu gehören Fragen um Nutzen und Risiken des Systems, Datenschutz, Schutz der Privatsphäre, Transparenz, Nachvollziehbarkeit und Erklärbarkeit der vom KI-System getroffenen Entscheidungen, aber auch Fragen um Gerechtigkeit, Nichtdiskriminierung und Fairness, sowie nach der Autonomie, Verantwortlichkeit und Rechenschaftspflicht der beteiligten Akteure. So ermöglicht ein sehr frühes Einbeziehen ethischer Fragestellungen im Rahmen der Entwicklung eines KI-Systems und im weiteren Anwendungskontext, negative Implikationen zu antizipieren, abzumildern und ggf. zu verhindern. So unterstützt die AGE Forschungsgruppen dabei, bereits in der Entwurfsphase KI-gestützter Gesundheitsapps besondere Fragestellungen wie z.B. die informationelle Selbstbestimmung von Patientinnen und Patienten, und das veränderte Arzt/PatientInnen-Verhältnis im Designprozess zu berücksichtigen.
Schwerpunkt der Arbeit der AGE ist die Analyse der inhaltlichen Ausgestaltung, Bedeutung und Implikationen der ethischen Konzepte, Prinzipien, und Werte im Kontext der Nutzung von KI-Verfahren in der Medizin. Neben konzeptionellen Analysen kommt empirischer Forschung zur Ermittlung des jeweiligen soziotechnischen Kontextes eine wichtige Aufgabe zu.
