(openPR) Psychische Erkrankungen gehören weltweit zu den häufigsten Ursachen für gesundheitliche Einschränkungen. Sie haben schwerwiegende Folgen für Betroffene, deren Familien sowie für Gesellschaft und Wirtschaft. Bisher sind für die Erkennung psychischer Erkrankungen aufwändige Untersuchungen durch Spezialistinnen und Spezialisten notwendig. Zudem gibt es nicht genügend ausgebildete Therapeutinnen und Therapeuten, um den Bedarf zu de-cken. In frühen Stadien einer psychischen Erkrankung, in denen Interventionen am wirksamsten sind, könnte nun Künstliche Intelligenz die Diagnose und Behandlung deutlich verbessern.
Datenschutz als entscheidende Hürde
KI-Systeme könnten Therapeutinnen und Therapeuten unterstützen, indem sie feine Signale in Sprache, Mimik und Wortwahl ihrer Patientinnen und Patienten analysieren. Das Training dieser Systeme erfordert allerdings hochsensib-le Daten aus realen Therapiesitzungen. Solche Sprach- und Videodaten könnten Rückschlüsse auf die Identität von Patientinnen und Patienten zulassen, und die mit ihnen trainierten Modelle bergen das Risiko, persönliche Informationen unbeabsichtigt zu speichern und offenzulegen.
Forschende am Ubiquitous Knowledge Processing (UKP) Lab am Fachbereich Informatik der TU Darmstadt und am IIT Delhi haben nun in „Nature Compu-tational Science“ Forschungsergebnisse veröffentlicht, die hier einen neuen Weg aufzeigen. Sie beschreiben, wie KI-Systeme im Bereich psychischer Er-krankungen so entworfen werden können, dass sie die vertraulichen Informa-tionen von Patientinnen und Patienten wahren.
Die Forschenden schlagen dafür eine Entwicklungs-Pipeline für datenschutz-bewusste KI-Systeme vor, die auf verschiedenen Lösungsansätzen basiert. Dazu gehören das Entfernen personenbezogener Informationen, die Anonymisierung von Stimmen und Gesichtern, die Erzeugung synthetischer Daten sowie ein datenschutzorientiertes Training von Modellen.
Internationale Zusammenarbeit
Der Erstautor der Studie, Aishik Mandal, ist Teil der NLPsych-Gruppe am UKP Lab, einem Zusammenschluss von Forschenden, die an der Schnittstelle zwischen natürlicher Sprachverarbeitung (NLP) und psychischer Gesundheit arbeiten, um datengestützte Lösungen im Bereich der psychischen Gesundheit sowohl für Hilfesuchende als auch für Hilfeleistende zu entwickeln. Co-Autor:innen sind Professor Tanmoy Chakraborty vom IIT Delhi, der als Gastwissenschaftler am UKP Lab tätig war und durch ein Humboldt-Forschungsstipendium für erfahrene Forschende der Alexander von Humboldt-Stiftung gefördert wurde, sowie die Leiterin des UKP Labs, Professorin Iryna Gurevych.
Die Arbeit wurde unterstützt durch das Bundesministerium für Bildung und Forschung (BMBF) und das Hessische Ministerium für Wissenschaft und Kunst (HMWK) im Rahmen des Nationalen Forschungszentrums für angewandte Cybersicherheit ATHENE, sowie durch die LOEWE-Spitzenprofessur „Ubiquitous Knowledge Processing“ und das LOEWE-Zentrum für die Erforschung psychischer Gesundheit DYNAMIC.
wissenschaftliche Ansprechpartner:
Professorin Iryna Gurevych
Telefon: +49 6151 16-5290
E-Mail: 
Originalpublikation:
Aishik Mandal, Tanmoy Chakraborty, Iryna Gurevych: „Towards privacy-aware mental health AI models“ in: Nature Computational Science
https://doi.org/10.1038/s43588-025-00875-w
