KI in Pharma: EU AI Act, GxP und Validierung richtig einordnen

(openPR) Künstliche Intelligenz hält zunehmend Einzug in pharmazeutische Prozesse – von der Dokumenten- und SOP-Erstellung über Regulatory Affairs bis zur Pharmakovigilanz. Doch im regulierten Pharmaumfeld reicht es nicht aus, dass ein KI-Tool technisch funktioniert. Unternehmen müssen prüfen, für welchen Zweck die KI eingesetzt wird, welche Risiken entstehen und welche Anforderungen sich aus EU AI Act, GxP und Validierung ergeben.

Seit dem 2. August 2026 ist der EU AI Act grundsätzlich anwendbar. Einzelne Regelungen gelten bereits länger, andere greifen zu einem späteren Zeitpunkt. Damit ist die regulatorische Auseinandersetzung mit künstlicher Intelligenz für Unternehmen keine Zukunftsfrage mehr.

Für die Pharmaindustrie kommt eine Besonderheit hinzu: KI-Anwendungen treffen auf bereits stark regulierte Prozesse. Je nach Einsatzgebiet müssen deshalb neben dem EU AI Act unter anderem GxP-Anforderungen, Vorgaben zur Datenintegrität und weitere pharmazeutische Regularien berücksichtigt werden.

KI in Pharma: Der konkrete Einsatz entscheidet

Eine der wichtigsten Fragen lautet zunächst: Wofür wird die KI eingesetzt?

Regulatorisch macht es einen erheblichen Unterschied, ob Beschäftigte ein KI-System beispielsweise für allgemeine Formulierungshilfen nutzen oder ob dessen Ergebnisse in qualitäts- oder compliancekritische Prozesse einfließen.

Mögliche Einsatzgebiete von KI in Pharma sind beispielsweise:

• Erstellung und Bearbeitung von Dokumenten
• Unterstützung bei SOPs
• Regulatory Affairs
• Qualitätsmanagement und Qualitätssicherung
• Medical Affairs
• Pharmakovigilanz
• Strukturierung und Auswertung von Informationen und Berichten

Die Europäische Arzneimittel-Agentur EMA betrachtet den Einsatz von künstlicher Intelligenz und Machine Learning über den gesamten Lebenszyklus eines Arzneimittels – von Forschung und Entwicklung über Zulassung und Herstellung bis zum Post-Authorisation-Bereich. Entscheidend ist dabei eine risikobasierte Betrachtung des jeweiligen Einsatzes.

Für Pharmaunternehmen lautet die zentrale Frage deshalb nicht nur: „Dürfen wir KI einsetzen?“

Vielmehr muss geklärt werden: „Für welchen Prozess setzen wir welche KI unter welchen Bedingungen ein?“

KI und GxP: Wann wird eine Validierung erforderlich?

Besonders anspruchsvoll wird die Bewertung beim Einsatz von KI in GxP-regulierten Prozessen.

Für computergestützte Systeme in GMP-regulierten Tätigkeiten sieht der geltende EU-GMP Annex 11 grundsätzlich vor, dass Anwendungen validiert und IT-Infrastrukturen qualifiziert werden. Umfang und Tiefe der Validierung sowie der Kontrollen zur Datenintegrität sollen auf einer begründeten und dokumentierten Risikobewertung basieren.

Bei KI-Systemen kommen zusätzliche Fragestellungen hinzu. Datengetriebene Systeme können sich hinsichtlich ihrer Funktionsweise und ihres Outputs von klassischer Software unterscheiden. Algorithmen, Modelle, Datensätze und Datenverarbeitungsprozesse müssen für ihren jeweiligen Zweck geeignet sein.

Bei der Bewertung eines KI-Tools sollten Unternehmen daher unter anderem folgende Fragen klären:

• Welchen konkreten Zweck erfüllt das KI-System?
• Ist der Einsatz GxP-relevant?
• Welche Auswirkungen könnten fehlerhafte KI-Ergebnisse haben?
• Welche Daten werden verarbeitet?
• Wie werden Datenintegrität und Datenschutz berücksichtigt?
• Wie wird die Qualität der KI-Ergebnisse kontrolliert?
• Welche menschliche Prüfung und Freigabe ist erforderlich?
• Welche Dokumentation ist notwendig?
• Welcher Umfang der Validierung ist für den konkreten Use Case angemessen?

Eine pauschale Antwort auf die Frage „Muss KI im GxP-Umfeld validiert werden?“ gibt es daher nicht. Entscheidend sind der konkrete Anwendungsfall, die Funktion des Systems innerhalb des Prozesses und das damit verbundene Risiko.

Von SOP-Erstellung bis Pharmakovigilanz: KI-Anwendungen in der Praxis

Wie unterschiedlich KI-Anwendungen in Pharma sein können, zeigt bereits ein Blick auf mögliche Praxisfälle.

KI kann beispielsweise bei der Erstellung, Bearbeitung und Verwaltung von Dokumenten und SOPs unterstützen. Auch in der Pharmakovigilanz sind Anwendungen denkbar, etwa zur Unterstützung bei der Strukturierung von Informationen, Signalauswertungen oder Berichten.

Entscheidend bleibt dabei immer:

• Welche Aufgabe übernimmt die KI?
• Wie kritisch ist diese Aufgabe für den Gesamtprozess?
• Welche Auswirkungen können fehlerhafte Ergebnisse haben?
• Wer kontrolliert und verantwortet das Ergebnis?
• Wie wird der Einsatz nachvollziehbar dokumentiert?

Gerade an diesen Punkten treffen die technischen Möglichkeiten künstlicher Intelligenz und die regulatorische Verantwortung von Pharmaunternehmen unmittelbar aufeinander.

EU AI Act: KI-Kompetenz wird zum Compliance-Thema

Neben der Bewertung einzelner KI-Systeme spielt auch die KI-Kompetenz der Beschäftigten eine wichtige Rolle.

Die Vorgaben zur AI Literacy des EU AI Act gelten bereits seit dem 2. Februar 2025. Anbieter und Betreiber von KI-Systemen müssen Maßnahmen treffen, um bei Beschäftigten und weiteren Personen, die in ihrem Auftrag mit KI-Systemen arbeiten, ein ausreichendes Maß an KI-Kompetenz sicherzustellen.

Dabei sind unter anderem Kenntnisse, Erfahrung, Ausbildung und der jeweilige Nutzungskontext zu berücksichtigen.

Für Pharmaunternehmen und andere regulierte Unternehmen bedeutet das: Verantwortungsvolle KI-Nutzung erfordert nicht nur geeignete technische Lösungen. Beschäftigte müssen auch einschätzen können,

• welche Möglichkeiten und Grenzen ein KI-System hat,
• welche regulatorischen Risiken bestehen,
• welche Daten für die Nutzung geeignet sind,
• wann KI-Ergebnisse kritisch hinterfragt werden müssen und
• wann eine fachliche Prüfung durch Menschen erforderlich ist.

KI-Kompetenz wird damit zu einem wichtigen Bestandteil eines verantwortungsvollen und compliancegerechten KI-Einsatzes.

Online-Seminar: KI in Pharma und Compliance

Wie sich künstliche Intelligenz im regulierten Pharmaumfeld sinnvoll und verantwortungsvoll einsetzen lässt, behandelt das Online-Seminar „KI in Pharma und Compliance – Regulierte Branchen: KI verstehen und verantwortungsvoll einsetzen“ der Akademie Heidelberg am 20. Oktober 2026 von 13:00 bis 17:00 Uhr.

Referent Tom Rittel ist QM-Berater, Trainer und Enabler für Qualitätsmanagement, Prozesse und KI.

Zu den Themen des Seminars gehören unter anderem:

• EU AI Act und regulatorische Anforderungen an KI
• KI im GxP-regulierten Umfeld
• Einschätzung von Validierungsanforderungen für KI-Tools
• KI-gestützte Dokumenten- und SOP-Erstellung
• Einsatzmöglichkeiten von KI in der Pharmakovigilanz
• praktische Übungen und Prompt-Rezepte
• verantwortungsvoller Umgang mit KI-Ergebnissen

Die Teilnehmenden erhalten außerdem 30 Tage Zugang zur KI-Plattform Langdock, um die praktische Anwendung weiter zu erproben.

Das Seminar richtet sich insbesondere an Mitarbeitende sowie Fach- und Führungskräfte aus Regulatory Affairs, Qualitätssicherung, Medical Affairs und Pharmakovigilanz sowie an Compliance-Beauftragte, die KI im pharmazeutischen und regulierten Umfeld einsetzen oder deren Einsatz bewerten müssen.

Weitere Informationen unter: https://www.akademie-heidelberg.de/seminar/ki-pharma-und-compliance