Human-in-the-Loop-KI: Genehmigungskontrollen für regulierte pharmazeutische Entscheidungen gestalten
HERMS / GLOBALE KI FÜR LIFE SCIENCES
Veröffentlicht am 16. November 2026 | HERMS Consultancy DMCC
Grundprinzip KI kann innerhalb eines festgelegten Rahmens Vorschläge machen oder Aufgaben ausführen; die Verantwortung muss jedoch den geeigneten Personen und Prozessen zugewiesen bleiben.
In diesem Artikel
- Was Human-in-the-Loop-KI in regulierten Life Sciences bedeutet
- Genehmigungspunkte am Entscheidungsrisiko ausrichten — nicht an jeder KI-Ausgabe
- Der Prüfkatalog für Genehmigungspunkte
- Welche pharmazeutischen Entscheidungen erfordern eine menschliche Genehmigung?
- Blaupause für einen KI-Genehmigungsworkflow
- Entscheidungsbefugnisse, RACI und Funktionstrennung
- Elektronische Aufzeichnungen, Signaturen und inspektionsfähige Nachweise
- Ausnahmen, Übersteuerungen und Meinungsverschiedenheiten zwischen Mensch und KI
- Validierung, Überwachung und Änderungskontrolle
- Regulatorisches Umfeld: FDA, EMA, EU-KI-Verordnung und GxP
- Umsetzungsfahrplan und Kennzahlen zur Aufsicht
- Wie HERMS menschliche Verantwortlichkeit unterstützt
- Häufig gestellte Fragen
Einleitung
Human-in-the-Loop-KI im Pharmabereich bedeutet, kompetente und befugte Personen an den Stellen einzubinden, an denen KI-gestützte Arbeit zu einer folgenreichen Entscheidung oder Handlung wird. KI kann innerhalb eines festgelegten Rahmens Vorschläge machen oder Aufgaben ausführen; die Verantwortung muss jedoch den geeigneten Personen und Prozessen zugewiesen bleiben. Wirksame Genehmigungskontrollen legen fest, welche Nachweise geprüft werden, welche Entscheidung genehmigt wird und welche konkrete Handlung zulässig ist — nicht lediglich, wer auf eine Schaltfläche klickt.
Geltendes Recht, GxP-Verfahren und der vorgesehene Verwendungszweck bestimmen, wo eine Genehmigung erforderlich ist; zusätzliche Genehmigungspunkte können sinnvolle organisatorische Kontrollen sein.
Referenzleitlinien: FDA — Teil 11, elektronische Aufzeichnungen und elektronische Signaturen — Geltungsbereich und Anwendung; EudraLex — Band 4 — Leitlinien zur Guten Herstellungspraxis; ICH E6 — Gute Klinische Praxis
Was Human-in-the-Loop-KI in regulierten Life Sciences bedeutet
Diese Begriffe beschreiben Betriebsmodelle, keine universellen regulatorischen Kategorien. Ein Workflow kann alle drei in unterschiedlichen Phasen nutzen. Entscheidend ist, wann eine Person das Ergebnis beeinflussen kann und ob ein Eingriff vor dem Eintritt unvertretbarer Folgen möglich ist.
| Betriebsmodell | Menschliche Beteiligung | Geeigneter Kontrollrahmen |
|---|---|---|
| Human-in-the-Loop | Prüft oder genehmigt vor der Durchführung einer bestimmten Handlung | Folgenreiche Entscheidung, die eine vorherige Überprüfung oder autorisierte Genehmigung erfordert |
| Human-on-the-Loop | Überwacht eine begrenzte Ausführung und kann eingreifen | Überwachte, angemessen reversible Handlungen, bei denen ein rechtzeitiger Eingriff möglich ist |
| Human-in-Command | Legt Richtlinien, Berechtigungen und Aussetzungsbedingungen fest | Organisatorische Befugnis über Bereitstellung, Delegation und fortgesetzte Nutzung |
Aufsicht ersetzt keine vorherige Genehmigung, wenn eine vorgeschriebene Unterschrift oder eine qualifizierte Entscheidung erforderlich ist. Ebenso bedeutet die Genehmigung eines Systems keine vorweggenommene Genehmigung aller künftigen Handlungen. Artikel 14 der EU-KI-Verordnung behandelt die wirksame Aufsicht über die erfassten Hochrisiko-KI-Systeme, einschließlich Interpretation, Bewusstsein für Automatisierungsverzerrungen, Übersteuerung und sicherer Unterbrechung; er verlangt nicht, dass eine Person jede Ausgabe jedes pharmazeutischen KI-Werkzeugs genehmigt.
Weiterführende Informationen: Artikel 14: Menschliche Aufsicht
Genehmigungspunkte am Entscheidungsrisiko ausrichten — nicht an jeder KI-Ausgabe
Klassifizieren Sie Handlungen statt Dokumente. Ein Dossier-Workflow kann eine Datei automatisch klassifizieren, die Überprüfung einer wissenschaftlichen Zusammenfassung verlangen und die endgültige Einreichungsfreigabe dem genehmigten Verfahren des Sponsors vorbehalten. Berücksichtigen Sie Folgen, Reversibilität, Auswirkungen auf Patienten oder Produkte, Aufzeichnungsintegrität, Unsicherheit und Neuartigkeit.
Eine praktikable Richtlinie kann die automatische Verarbeitung klar abgegrenzter risikoarmer Aufgaben, die Überprüfung von Empfehlungen vor ihrer Übernahme in kontrollierte Arbeitsabläufe und eine ausdrückliche Genehmigung vor folgenreichen Ausführungen erlauben. Behandeln Sie neuartige Produkte, unbekannte Rechtsräume, fehlende Quellen und widersprüchliche Nachweise als Eskalationsauslöser. Ein Konfidenzwert des Modells ist keine validierte Wahrscheinlichkeit für Richtigkeit, sofern dies nicht für die konkrete Aufgabe nachgewiesen wurde. Dies ist ein vorgeschlagenes Umsetzungsmuster und keine regulatorische Klassifikation.
Weiterführende Informationen: FDA — Überlegungen zum Einsatz künstlicher Intelligenz zur Unterstützung regulatorischer Entscheidungen zu Arzneimitteln und biologischen Produkten; NIST — Rahmenwerk für das KI-Risikomanagement
Der Prüfkatalog für Genehmigungspunkte
- Welche konkrete Entscheidung oder Handlung wird durch diese Genehmigung autorisiert?
- Wer verfügt über die erforderliche Kompetenz und die delegierte oder gesetzlich zugewiesene Befugnis?
- Kann die prüfende Person Quelle, Version, Unsicherheit und Folgen überprüfen?
- Macht jede wesentliche Änderung die Genehmigung vor der Ausführung ungültig?
- Kann der Workflow sicher stoppen und eskalieren, wenn Nachweise oder Befugnisse fehlen?
Welche pharmazeutischen Entscheidungen erfordern eine menschliche Genehmigung?
Die nachstehende Entscheidungs-Genehmigungs-Matrix ist ein beispielhafter Governance-Vorschlag. Sie verbindet empfohlene Genehmigungspunkte gegebenenfalls mit bestehenden rollenspezifischen Verantwortlichkeiten. Sie behauptet nicht, dass jeder Rechtsraum für jede aufgeführte Tätigkeit eine manuelle Genehmigung vorschreibt. Die tatsächlichen Rollen und Unterschriften richten sich nach geltendem Recht und genehmigten Verfahren.
| Workflow | Zulässige KI-Handlungen | Menschlicher Genehmigungspunkt | Gesamtverantwortliche Rolle (beispielhaft) | Erfasste Nachweise |
|---|---|---|---|---|
| Freigabe regulatorischer Einreichungen | Entwerfen, abgleichen und technisch prüfen | Das genaue endgültige Paket vor der Übermittlung autorisieren | Befugte genehmigende Person des Sponsors oder der Zulassungsabteilung | Paketversion; Ziel; Aussagen; Genehmigung |
| Bewertung von Sicherheitssignalen | Nachweise zusammenstellen und Prioritäten vorschlagen | Klinische Bedeutung validieren oder bewerten | Qualifizierte prüfende Person aus Arzneimittelsicherheit oder Medizin | Fallgrundlage; Einschränkungen; Begründung |
| Fallbearbeitung | Mögliche Feldinhalte extrahieren; Duplikate vorschlagen | Folgenreiche oder unsichere Bewertungen klären | Verantwortliche oder prüfende Person im Sicherheitsprozess | Originalmeldung; Bearbeitungen; Klassifikationen |
| Änderungen klinischer Prüfpläne | Alternativen und Auswirkungsübersicht entwerfen | Änderungen über den geltenden Sponsor-, Ethik- oder Behördenweg genehmigen | Sponsor und relevante klinische oder statistische Funktionen | Versionsvergleich; wissenschaftliche Begründung |
| Datenrückfragen | Inkonsistenzen erkennen; Rückfragen entwerfen | Folgenreiche Interpretation genehmigen; routinemäßiges Routing kann begrenzt automatisiert sein | Verantwortliche für klinische Daten oder Prüfer, soweit relevant | Quellenverknüpfung; Rückfragenhistorie |
| Medizinische Prüfung | Evidenz zusammenfassen; Probleme kennzeichnen | Medizinische Schlussfolgerungen genehmigen | Qualifizierte medizinische prüfende Person | Evidenz; Unsicherheit; Bewertung |
| Herstellungsabweichungen | Aufzeichnungen zusammenstellen; Hypothesen vorschlagen | Untersuchungsergebnisse genehmigen | Qualitäts- oder Prozessverantwortliche | Aufzeichnungsverknüpfungen; Auswirkungen; Grundlage der Ursachenanalyse |
| CAPA | Maßnahmen vorschlagen und Aufgaben verfolgen | Maßnahmen und Abschluss nach Wirksamkeitsprüfung genehmigen | Genehmigende Person aus der Qualität | Begründung; Umsetzung; Wirksamkeit |
| Entscheidung über den Chargenstatus | Freigabenachweise und Ausnahmen zusammenstellen | Erforderliche Entscheidung der befugten Qualitätsfunktion oder sachkundigen Person beibehalten | Befugte Qualitätsfunktion oder sachkundige Person (QP), soweit anwendbar | Kontrollierte Aufzeichnungen; Zertifizierung |
| Lieferantenqualifizierung | Sorgfaltsprüfungen und Risikohinweise bündeln | Qualifizierung oder Einschränkungen genehmigen | Verantwortliche für Lieferantenqualität | Quellenzuverlässigkeit; offene Feststellungen |
| Evidenzinterpretation bei Zell- und Gentherapien (CGT) | Literatur erfassen und Lücken identifizieren | Wissenschaftliche oder translationale Schlussfolgerungen genehmigen | Relevante wissenschaftliche oder klinische Fachpersonen | Herkunft; Anwendbarkeit; Einschränkungen |
| Administrative Klassifikation | Genehmigte Kennzeichnungen oder Routingregeln anwenden | Ausnahmen prüfen; nicht jede risikoarme Kennzeichnung benötigt einen Genehmigungspunkt | Prozessverantwortliche | Regel/Konfiguration; Transaktionshistorie |
Blaupause für einen KI-Genehmigungsworkflow
Verwenden Sie einen expliziten Zustandsautomaten: Eingang → Quellen-/Datenprüfung → Empfehlung → Richtlinien-/Risikoprüfung → Prüfung durch befugte Person → Ausführung → abgeglichene Historie → periodische Überprüfung. Die folgenden Kontrollen sind vorgeschlagene technische Anforderungen, die die organisatorische Richtlinie durchsetzbar machen.
- Eingang: eine eindeutige Vorgangskennung, Produkt beziehungsweise Kontext und Dringlichkeit zuweisen; die ursprüngliche Eingabe aufbewahren.
- Quellen-/Datenprüfung: Herkunft, Berechtigungen, Version und Pflichtfelder überprüfen; bei fehlenden kritischen Informationen stoppen oder eskalieren.
- Empfehlung: KI-generierte Inhalte, unterstützende Nachweise, Annahmen und ungeklärte Unsicherheiten kennzeichnen.
- Richtlinien-/Risikoprüfung: genehmigte Regeln außerhalb des Modells anwenden; Rolle, Genehmigungsumfang und zulässige Werkzeuge bestimmen.
- Prüfung: ausdrückliche Entscheidungen zum Genehmigen, Ablehnen oder Anfordern einer Klarstellung anbieten; Schweigen und Zeitablauf gelten nicht als Genehmigung.
- Ausführung: die Genehmigung an den genauen Inhalt, das Ziel, die Version und die Handlung binden; veraltete Genehmigungen zurückweisen und die Befugnis erneut prüfen.
- Historie und Abgleich: das tatsächlich ausgeführte Ergebnis und die Bestätigung dokumentieren, nicht nur die Absicht; eine Historie aufbewahren, die Manipulationen erkennbar macht.
- Periodische Überprüfung: genehmigte und abgelehnte Arbeiten stichprobenartig prüfen, Ausnahmen untersuchen und erneut bewerten, ob der Genehmigungspunkt wirksam bleibt.
Umsetzungsdetails sind entscheidend. Verwenden Sie gegen Duplikate abgesicherte Ausführungskennungen, damit Wiederholungsversuche keine zweite Einreichung oder einen zweiten Fall erzeugen. Ändert sich der Inhalt nach der Genehmigung, führen Sie ihn anhand festgelegter Wesentlichkeitsregeln einer Neubewertung zu. Ein Audit Trail kann zeigen, dass ein fehlerhafter Prozess exakt wie vorgesehen ablief; er ist ein Nachweis, kein Beweis für Compliance.
Entscheidungsbefugnisse, RACI und Funktionstrennung
Legen Sie fest, wer Vorschläge erstellt, prüft, genehmigt, administriert und auditiert. Ein Dienstkonto darf Arbeiten vorbereiten, sollte sich aber keine Genehmigungsrechte erteilen. Eine Delegation benötigt Geltungsumfang, Gültigkeitsdaten, Kompetenz und eine Stellvertretung — keine gemeinsam genutzten Zugangsdaten. Setzen Sie eine doppelte Genehmigung ein, wenn sie gerechtfertigt oder vorgeschrieben ist, nicht als allgemeines Ritual.
| Tätigkeit | Ausführungsverantwortlich (R) | Gesamtverantwortlich (A) | Konsultiert / unabhängige Prüfung |
|---|---|---|---|
| Genehmigungsrichtlinie definieren | Prozessverantwortliche | Benannte Geschäfts- oder Qualitätsverantwortliche | Zulassung; Medizin/PV; Recht; Sicherheit |
| Empfehlung vorbereiten | KI-Bediener/Systemverantwortliche | Prozessverantwortliche | Fachspezialist |
| Regulierte Schlussfolgerung genehmigen | Befugte fachliche prüfende Person | Durch geltendes Verfahren oder Gesetz zugewiesene Rolle | Relevante funktionsübergreifende Experten |
| Zugriffe administrieren | Systemadministrator | System-/Serviceverantwortliche | Sicherheit; Qualität; Zugriffsprüfer |
| Konfigurationsänderung freigeben | Technisch-/Änderungsverantwortliche | Befugte genehmigende Person für Änderungen | Qualität und betroffene Fachverantwortliche |
| Kontrollwirksamkeit auditieren | Unabhängige Assurance-Funktion | Leitung der Assurance-Funktion | Prozess- und technische Verantwortliche |
Diese RACI-Matrix ist beispielhaft. Für jede definierte Genehmigungsentscheidung sollte eine namentlich benannte Rolle die Gesamtverantwortung tragen; berufliche oder gesetzliche Verantwortlichkeiten müssen daneben gesondert erkennbar bleiben. Administratoren sollten die Genehmigungshistorie nicht unbemerkt umschreiben können. Notfallzugriffe müssen zeitlich begrenzt, begründet und unabhängig überprüft werden.
Relevante Referenzen: FDA — Leitlinie zu Teil 11; EudraLex — Band 4
Elektronische Aufzeichnungen, Signaturen und inspektionsfähige Nachweise
Eine Bestätigung im Workflow ist nicht automatisch eine rechtlich relevante elektronische Signatur. Ermitteln Sie, ob die Aufzeichnung und die Signatur unter die geltenden Anforderungen fallen. Die endgültige FDA-Leitlinie zum Geltungsbereich von Teil 11 ist unverbindlich; Teil 11 selbst bleibt, soweit anwendbar, zusammen mit den zugrunde liegenden fachrechtlichen Vorschriften in Kraft. Der begrenzte Ermessensspielraum bei der Durchsetzung ist keine pauschale Befreiung von Anforderungen an Aufzeichnungsintegrität, autorisierte Zugriffe oder Signaturkontrollen.
Anhang 11 des EU-GMP-Leitfadens behandelt computergestützte Systeme, während Anhang 16 die Zertifizierung durch die sachkundige Person und die Chargenfreigabe behandelt. Automatisierte Prüfungen können eine erforderliche Zertifizierung durch befugte Personen nicht ersetzen. Richten Sie Kontrollen an der regulierten Tätigkeit aus, statt Software ohne Bewertung des vorgesehenen Verwendungszwecks als „GxP-konform“ zu bezeichnen.
Ein Genehmigungsnachweispaket sollte die Originalquelle und ihre Version, relevante System-/Modell-/Konfigurationskennungen, wesentliche Eingaben und die Ausgabe, Richtlinienprüfungen, Identität und Rolle der prüfenden Person, einen Zeitstempel mit festgelegtem Zeitzonenbezug, Entscheidung und Begründung, den genehmigten Ausführungsinhalt, das Ausführungsergebnis und nachträgliche Korrekturen miteinander verknüpfen. Dokumentieren Sie das zur Rekonstruktion der Entscheidung Erforderliche, ohne wahllos sensible Daten aufzubewahren.
Bewahren Sie Nachweise im festgelegten führenden System auf oder verknüpfen Sie sie zuverlässig damit. Ein separates Chatprotokoll reicht nicht aus, wenn die genehmigte Ausgabe in der kontrollierten Aufzeichnung nicht identifiziert werden kann. Sichern Sie Aufbewahrung, Zugänglichkeit und Änderungshistorie; weisen Sie nach, dass exportierte Nachweise Inhalt und Bedeutung bewahren.
Ausnahmen, Übersteuerungen und Meinungsverschiedenheiten zwischen Mensch und KI
Leiten Sie fehlende Quellen, unerwartete Eingaben, widersprüchliche Nachweise und Berechtigungsfehler an eindeutig zugewiesene Ausnahme-Warteschlangen weiter. Bestimmen Sie die Dringlichkeit anhand der geschäftlichen Folgen, nicht danach, wie einfach ein Vorgang zu lösen ist. In Sicherheitsworkflows dürfen Prüfwarteschlangen die geltenden Meldefristen nicht gefährden; definieren Sie ein genehmigtes Notfallverfahren.
Verlangen Sie eine angemessene Begründung für wesentliche Übersteuerungen und bewahren Sie die ursprüngliche Empfehlung auf. Weder die automatische Annahme noch die automatische Zurückweisung abweichender Einschätzungen ist angemessen. Unterscheiden Sie zwischen einer Korrektur durch die prüfende Person und einer genehmigten Richtlinienausnahme; Letztere erfordert den vorgesehenen Eskalationsweg. Erfassen Sie Beinahefehler ebenso wie tatsächlich ausgeführte Fehler.
Hypothetisches Beispiel: Ein Agent schlägt vor, einen Lieferanten zu genehmigen, weil ein Zertifikat aktuell erscheint; die prüfende Person stellt jedoch fest, dass es einen anderen Herstellungsstandort abdeckt. Lehnen Sie die Empfehlung ab, dokumentieren Sie die Abweichung und untersuchen Sie ähnliche Ausgaben. Korrigieren Sie die Kontrolle zur Quellenzuordnung über das Änderungsmanagement, statt dem Modell zu erlauben, seine eigenen Genehmigungsregeln zu ändern.
Ein Rollback ist nur sinnvoll, wenn die Wirkung rückgängig gemacht werden kann. Eine externe Mitteilung kann eine Korrektur und eine Folgenabschätzung erfordern, nicht eine stille Löschung. Eine fehlgeschlagene Ausführung sollte bis zum Abgleich sichtbar bleiben; ein Wiederholungsversuch darf die Genehmigung nicht für wesentlich geänderte Inhalte oder ein anderes Ziel wiederverwenden.
Validierung, Überwachung und Änderungskontrolle
Definieren Sie den vorgesehenen Verwendungszweck und die Akzeptanzkriterien vor dem Testen. Validieren Sie sowohl die KI-gestützte Aufgabe als auch den Genehmigungsmechanismus: Kann eine unbefugte Rolle genehmigen, kann eine veraltete Genehmigung eine Ausführung ermöglichen, kann ein abgelehnter Vorgang fortgesetzt werden und lassen sich die Nachweise rekonstruieren? Testen Sie gezielt fehlende Quellen, widersprüchliche Versionen, Werkzeugausfälle und gleichzeitige Bearbeitungen.
Testen Sie die prüfenden Personen als Bestandteil des Workflows. Bauen Sie gezielt folgenreiche Fehler ein und bewerten Sie, ob die Nutzer diese mit den bereitgestellten Nachweisen und bei realistischer Arbeitsbelastung erkennen. Schulungen sollten Modellgrenzen, Eskalation und Automatisierungsverzerrungen behandeln — nicht nur die Bedienung der Oberfläche. Aufsicht ist unzureichend, wenn einer kompetenten Person Zeit, Nachweise oder Befugnisse fehlen.
Kontrollieren Sie Änderungen an Modellen, Prompts, Retrieval-Indizes, Berechtigungen, Routingregeln und Integrationen. Bewerten Sie die Auswirkungen und wiederholen Sie relevante Regressionstests. Überwachen Sie Leistungsdrift und Prüfbelastung und legen Sie Schwellen für eine Verringerung der Autonomie oder eine Aussetzung fest. Die periodische Überprüfung ergänzt die anlassbezogene Neubewertung bei Änderungen — sie ersetzt sie nicht.
Regulatorisches Umfeld: FDA, EMA, EU-KI-Verordnung und GxP
| Quelle | Status / Geltungsbereich | Folge für Genehmigungskontrollen |
|---|---|---|
| FDA-KI-Leitlinie für Arzneimittel und biologische Produkte | Entwurf vom Januar 2025; unverbindlich; nicht zur Umsetzung bestimmt | Glaubwürdigkeit im Verwendungskontext; keine allgemeine Erlaubnis zur autonomen Genehmigung |
| EMA-Reflexionspapier zu KI im Arzneimittellebenszyklus | Im September 2024 verabschiedet; wissenschaftliches EU-Reflexionspapier | Lebenszyklusbezogene Risikobewertung und angemessene Verantwortlichkeit |
| Artikel 14 der EU-KI-Verordnung | Verbindliche Vorschrift für erfasste Hochrisikosysteme; gestaffelte Anwendbarkeit | Wirksame risikogerechte Aufsicht, Interpretation, Übersteuerung und sicheres Stoppen |
| FDA Teil 11 / Leitlinie zum Geltungsbereich | Verordnung, soweit anwendbar; Leitlinie vom September 2003 unverbindlich | Aufzeichnungen/Signaturen, Identität, Befugnis und zugrunde liegende Vorschriften bewerten |
| EU-GMP / ICH-GCP | Tätigkeits- und rechtsraumabhängige Erwartungen | Geltende Qualitätsverantwortung sowie Sponsor-/Prüferpflichten beibehalten |
| NIST AI RMF | Freiwilliges Rahmenwerk; Überarbeitung von AI RMF 1.0 läuft | Aufsicht, Bewertung und Überwachung organisieren, ohne eine Zertifizierung zu behaupten |
Diese Quellen sind keine austauschbaren Rechtsinstrumente. Das FDA-Dokument vom Januar 2025 ist weiterhin ausdrücklich ein Entwurf, das Reflexionspapier der EMA wurde verabschiedet und das NIST-Rahmenwerk ist freiwillig. Die Grundsätze und Anhang 1 von ICH E6(R3) gelten in der EU seit dem 23. Juli 2025; Anhang 2 ab dem 15. Januar 2027. Die regionale Umsetzung unterscheidet sich.
Mit Stand vom 16. November 2026 nennt die Kommission den 2. August 2026 als Beginn der allgemeinen Anwendung der KI-Verordnung sowie überarbeitete Termine für Hochrisikosysteme: den 2. Dezember 2027 für Anhang III und den 2. August 2028 für produktbezogene Systeme nach Anhang I. Die Einstufung hängt vom tatsächlichen System, seinem Zweck und den einschlägigen Bestimmungen ab; nicht jede pharmazeutische KI ist ein Hochrisikosystem. Arzneimittelrechtliche und GxP-Pflichten gelten unabhängig davon weiter. Der hier dargestellte Zeitplan wird der Zusammenfassung der Kommission zugeschrieben und beruht nicht auf einer vollständigen rechtlichen Bewertung des konsolidierten Textes.
Weiterführende Informationen: EMA — Reflexionspapier zur Nutzung von KI im Lebenszyklus von Arzneimitteln; FDA — Überlegungen zu KI bei regulatorischen Entscheidungen; NIST — Rahmenwerk für das KI-Risikomanagement; EU-KI-Verordnung
Umsetzungsfahrplan und Kennzahlen zur Aufsicht
Tag 1–30: folgenreiche Handlungen erfassen, befugte Rollen identifizieren und bestehende Aufzeichnungen, Signaturen und Ausnahmen abbilden. Tag 31–60: Genehmigungspunkte, Nachweispakete, Berechtigungen und Ausweichverfahren konfigurieren; anhand vorab festgelegter Akzeptanzkriterien testen. Tag 61–90: die Abnahme durch die Nutzer abschließen, kritische Feststellungen beheben und einen überwachten Produktivbetrieb innerhalb genehmigter Grenzen ermöglichen. Dies sind Planungszeiträume, keine garantierten Bereitstellungsfristen.
| Kennzahl | Definition / Einschränkung |
|---|---|
| Übersteuerungsquote | Wesentliche Änderungen/Ablehnungen geteilt durch geprüfte Empfehlungen; niedrige Quoten können auf unkritische Übernahme hindeuten |
| Eskalationsquote | Eskalierte Vorgänge geteilt durch infrage kommende Vorgänge; nach Ursache und Dringlichkeit aufschlüsseln |
| Prüfdurchlaufzeit | Zeit vom Status „prüfbereit“ bis zur verantworteten Entscheidung; dringende Ausreißer untersuchen |
| Quote unzureichend belegter Empfehlungen | Stichprobenartig geprüfte Empfehlungen ohne ausreichende unterstützende Nachweise |
| Vollständigkeit des Audit Trails | Stichprobenartig geprüfte Entscheidungen mit sämtlichen erforderlichen Nachweiselementen |
| Übersehene Eskalationen (falsch negative Fälle) | Durch fachliche Beurteilung bestätigte eskalationspflichtige Vorgänge, die der Workflow nicht erkannt hat |
| Korrekturen nach Genehmigung | Genehmigte Vorgänge, die später wegen wesentlicher Fehler korrigiert wurden; Schweregrade unterscheiden |
Legen Sie Nenner, Stichprobenverfahren, Verantwortliche und Eingriffsschwellen vor dem Start fest. Verbinden Sie Geschwindigkeit mit unabhängiger Qualitätsprüfung und ausreichender Warteschlangenkapazität. Ein schnellerer Genehmigungspunkt ist nicht besser, wenn Prüfende folgenreiche Fehler übersehen oder Vorgänge außerhalb ihrer Kompetenz genehmigen.
Wie HERMS menschliche Verantwortlichkeit unterstützt
„Das Modell schlägt vor; die Regel-Engine entscheidet; der Audit Trail zeichnet auf“ ist ein vorgeschlagener Betriebsansatz von HERMS und keine Behauptung einer validierten, bereits eingesetzten Fähigkeit. Hier entscheidet die Regel-Engine über das Routing und darüber, ob die Ausführungsbedingungen erfüllt sind; sie ersetzt nicht das erforderliche fachliche oder gesetzlich zugewiesene Urteil einer Person.
Bei diesem Ansatz bleiben Empfehlungen mit überprüfbaren Nachweisen verknüpft, rollenbasierte Genehmigungspunkte steuern folgenreiche Handlungen und Unsicherheit löst eine Eskalation aus. HERMS beschreibt Lösungsbereiche für regulatorische Arbeit, Sicherheit, Herstellung und neuartige Therapien. Ihre Eignung und die tatsächlichen Genehmigungskontrollen müssen für den vorgesehenen Einsatz festgestellt werden und dürfen nicht aus Portfoliobeschreibungen abgeleitet werden.
Entdecken Sie die HERMS-Lösungen, um eine Demonstration mit Schwerpunkt auf Ihren Genehmigungsgrenzen, Nachweisanforderungen und verantwortlichen Rollen zu besprechen.
Häufig gestellte Fragen
Benötigt jede KI-Ausgabe eine menschliche Genehmigung?
Nein. Klar abgegrenzte risikoarme Verarbeitung kann innerhalb genehmigter Grenzen automatisch erfolgen. Eine vorherige Genehmigung ist dort erforderlich, wo sie gesetzlich oder verfahrensmäßig vorgeschrieben oder risikobedingt gerechtfertigt ist. Dokumentieren Sie, welche Handlungen automatisch verarbeitet, überprüft oder ausdrücklich autorisiert werden; setzen Sie einen generierten Entwurf nicht mit einer Handlungserlaubnis gleich.
Kann ein Agent seine eigene Empfehlung genehmigen?
Nicht, wenn eine unabhängige oder befugte menschliche Genehmigung erforderlich ist. Als vorgeschlagene Kontrolle sollten die Erstellung von Empfehlungen, Berechtigungsprüfungen und Genehmigungsrechte getrennt werden. Das Modell sollte sich weder selbst Befugnisse erteilen noch seinen eigenen Schwellenwert ändern oder die Zugangsdaten einer anderen Person verwenden.
Reicht ein Konfidenzschwellenwert aus?
Nein. Die Konfidenz kann schlecht kalibriert sein und belegt weder die Gültigkeit einer Quelle noch regulatorische Anwendbarkeit oder Befugnis. Kombinieren Sie bewertete Aufgabenleistung mit verbindlichen Richtlinienprüfungen, verfügbaren Nachweisen und Ausnahmekriterien. Neuartige oder folgenreiche Fälle können auch bei einem hohen Wert eine Prüfung erfordern.
Was macht eine elektronische Genehmigung belastbar?
Eine belastbare Aufzeichnung identifiziert die befugte Person, die Entscheidung, die Nachweise, die genehmigte Version und die anschließende Handlung. Formale Anforderungen an elektronische Signaturen hängen von den geltenden Vorschriften ab. Eine allgemeine Genehmigungsschaltfläche oder ein detailliertes Auditprotokoll allein belegt nicht, dass diese Anforderungen erfüllt wurden.
Wie sollten dringende Ausnahmen behandelt werden?
Nutzen Sie vordefinierte Dringlichkeitsregeln, eine benannte Stellvertretung, zeitgebundene Eskalation und ein genehmigtes Ausweichverfahren. Schweigen darf nicht zur Autorisierung werden. Dokumentieren Sie, was getan wurde und warum, und überprüfen Sie anschließend die Ausnahme. Dringlichkeit sollte eine verantwortliche Bearbeitung beschleunigen, nicht erforderliche Sicherheits- oder Qualitätskontrollen stillschweigend beseitigen.
Wie vermeiden Teams Engpässe bei der Prüfung?
Reservieren Sie Genehmigungspunkte für folgenreiche Entscheidungen, leiten Sie Vorgänge nach Kompetenz und Dringlichkeit weiter, stellen Sie prägnante Nachweispakete bereit und überwachen Sie die Warteschlangenkapazität. Testen Sie, ob Prüfende Fehler erkennen können. Verbessern Sie Quellenprüfungen und Routing, statt auf Überlastung mit der Abschwächung einer notwendigen Genehmigung zu reagieren.
Wann muss eine Genehmigung wiederholt werden?
Wiederholen Sie sie gemäß festgelegten Verfahren, wenn eine wesentliche Änderung den genehmigten Inhalt, das Ziel, die Handlung oder die zugrunde liegende Begründungsbasis betrifft. Bewerten Sie auch neu, wenn die Befugnis abläuft oder ein relevantes neues Risiko auftritt. Gestalten Sie das System so, dass es veraltete Genehmigungen zurückweist, statt zu erwarten, dass Prüfende jede nachgelagerte Änderung bemerken.
Ergänzende Perspektiven bieten die vorangegangenen Artikel zu Automatisierungsgrenzen, agentischer gegenüber generativer Architektur und unternehmensweiter KI-Governance. Dieser Artikel konzentriert sich auf die Ausführungskontrollen, die diese Richtlinien mit jeder folgenreichen Entscheidung verbinden.
Besprechen Sie über die HERMS-Lösungen eine Bewertung Ihrer Governance-Bereitschaft oder eine workflowbezogene Demonstration, bei der Genehmigungsrechte, Ausnahmebehandlung und Inspektionsnachweise ausdrückliche Bewertungskriterien sind.
Relevante HERMS-Lösungen
Entdecken Sie HERMS-Lösungen für die in diesem Artikel behandelten Workflows:
- ATTESTRA — Integrität und Daten-Governance
- VERIQIS — Nachweisintegrität und -absicherung
- AXION — Fertigungsqualität
Bewerten Sie jede Lösung anhand Ihres vorgesehenen Verwendungszwecks sowie Ihrer Nachweis- und Genehmigungsanforderungen.
Quellen und weiterführende Informationen
- FDA — Teil 11, elektronische Aufzeichnungen und elektronische Signaturen — Geltungsbereich und Anwendung
- Europäische Kommission — EudraLex Band 4: Gute Herstellungspraxis
- EMA — ICH E6: Gute Klinische Praxis
- Europäische Kommission — KI-Verordnung, Artikel 14: Menschliche Aufsicht
- FDA — Überlegungen zum Einsatz von KI zur Unterstützung regulatorischer Entscheidungen zu Arzneimitteln und biologischen Produkten
- NIST — Rahmenwerk für das KI-Risikomanagement
- EMA — Reflexionspapier zur Nutzung von KI im Lebenszyklus von Arzneimitteln
- Europäische Kommission — Rechtsrahmen für künstliche Intelligenz
Entdecken Sie die Artikelreihe zur KI im Pharmabereich
- KI-Entscheidungsbefugnisse und menschliche Aufsicht
- Agentische versus generative KI im Pharmabereich
- KI-Governance in den Life Sciences
- Real-World-Evidenz für regulatorische Zwecke und den Marktzugang
- Validierung und Änderungskontrolle von KI-Medizinprodukten
- Globaler pharmazeutischer Marktzugang, HTA und Evidenz zur Preisbildung
Entdecken Sie die HERMS-Lösungen für Life Sciences und fordern Sie eine workflowbezogene Demonstration an.
Originalartikel: https://www.hermsglobal.com/human-in-the-loop-ai-pharmaceutical-approval-controls
Deutsche Übersetzung der bearbeitbaren Word-Fassung des englischsprachigen HERMS-Onlineartikels. Inhalt und regulatorischer Status entsprechen dem am 16. November 2026 veröffentlichten Artikel.
