Wie lassen sich auf Künstlicher Intelligenz (KI) basierte Prognoseverfahren im Gesundheitswesen verantwortungsvoll, nachvollziehbar und kontrollierbar einsetzen? Mit dieser Frage hat sich Sebastian Paul, wissenschaftlicher Mitarbeiter im Projekt PRED(i)CKD an der Hochschule Harz, vom 14. bis 18. September 2026 im Rahmen der ACM Europe Seasonal School on Responsible AI an der Aston University in Birmingham beschäftigt. Bei dem internationalen Weiterbildungs- und Austauschformat arbeiteten Forschende, Studierende und Fachleute gemeinsam an aktuellen Fragestellungen zu verantwortungsvoller und vertrauenswürdiger KI. Für die geleistete Lern-, Reflexions- und Projektarbeit vor Ort wurde die Arbeitsgruppe um Sebastian Paul bei der Abschlussveranstaltung mit dem ersten Preis für die beste Präsentation gewürdigt.
„Das Besondere an der Seasonal School war, dass wissenschaftliche Impulse aus Vorträgen und Diskussionen nicht abstrakt blieben, sondern unmittelbar auf konkrete Anwendungsszenarien übertragen wurden“, sagt Sebastian Paul. Gemeinsam mit einer Informatik-Bachelorstudentin, einer Promovendin, einer wissenschaftlichen Mitarbeiterin und dem Gründer einer Public-Health-Organisation arbeite er an konkreten Ideen und deren Umsetzung. Der PRED(i)CKD-Kontext diente dabei als Anwendungsfall, um zentrale Fragen verantwortungsvoller KI praktisch zu erproben – von Datenqualität und mögliche Verzerrungen über Interpretierbarkeit bis hin zu Steuerung und menschlicher Kontrolle.
Das Projekt PRED(i)CKD, in dem Sebastian Paul unter der Leitung von Prof. Dr. Arne Johannssen und Prof. Dr. Ansgar Wübker forscht, befasst sich mit der frühzeitigen Identifikation von Patientinnen und Patienten, bei denen ein erhöhtes Risiko für eine fortschreitende chronische Nierenerkrankung besteht. Grundlage dafür sind Gesundheitsdaten, die über längere Zeiträume hinweg erhoben werden. Die Analyse dieser Daten soll mithilfe von Künstlicher Intelligenz erfolgen, was die Frage nach der Verantwortung im Umgang mit den sensiblen und personenbezogenen Informationen mit sich bringt. Ziel ist es, den Einsatz der KI nicht nur als nützlich für die Betroffenen und das medizinische Personal zu rechtfertigen, sondern diesen auch fair, nachvollziehbar und sicher zu gestalten.
Im Rahmen der Weiterbildungswoche entwickelte die interdisziplinäre Gruppe einen Dashboard-Prototyp, der die Daten sowie deren Verarbeitung übersichtlich darstellt. „Wir haben eine Version erarbeitet, die einzelne Zeitpunkte in der Krankengeschichte wie Bausteine betrachtet. Das Dashboard zeigt dann, wie diese Bausteine miteinander verbunden sind, welche zeitlichen Informationen wichtig sind und wie das KI-Modell Zusammenhänge zwischen verschiedenen Zeitpunkten erkennt“, erklärt Sebastian Paul. Ein zentraler Gedanke sei zudem die Einordnung der KI als System zur Entscheidungshilfe gewesen. „Das System soll medizinisches Fachpersonal unterstützen, jedoch keine klinischen Entscheidungen automatisiert treffen. Gerade im Gesundheitsbereich muss klar bleiben, dass ein technisches Signal keine ärztliche Entscheidung ersetzt“, betont er. Vorgesehen sei deshalb eine strukturierte menschliche Prüfung, bei der Reaktionen dokumentiert und Verantwortlichkeiten klar zugeordnet werden.
Die Erkenntnisse aus der ACM Europe Seasonal School on Responsible AI nimmt Sebastian Paul nun mit zurück nach Deutschland und möchte diese in seine weitere Forschungs- und Lehrtätigkeit an der Hochschule Harz einfließen lassen. „In unserer Arbeitsgruppe kamen unterschiedliche akademische Hintergründe, Perspektiven und Erfahrungen zusammen. Dieser interdisziplinäre Austausch war für mich einer der wertvollsten Aspekte der Woche und hat mir zusätzliche Perspektiven eröffnet – nicht nur auf die technischen Aspekte, sondern auch auf die Frage, wie verantwortungsvolle KI in der Praxis gestaltet werden kann“, sagt er.
________________________________
Das Projekt PRED(i)CKD wird von Januar 2026 bis Dezember 2028 aus Mitteln des Innovationsfonds mit insgesamt circa 1,4 Millionen Euro gefördert (Förderkennzeichen: 01VSF25039).
Text: Karoline Klimek
Foto: Sebastian Paul