Human-in-the-Loop-KI: Genehmigungskontrollen für regulierte pharmazeutische Entscheidungen gestalten

HERMS / GLOBALE KI FÜR LIFE SCIENCES

Veröffentlicht am 16. November 2026 | HERMS Consultancy DMCC

Grundprinzip KI kann innerhalb eines festgelegten Rahmens Vorschläge machen oder Aufgaben ausführen; die Verantwortung muss jedoch den geeigneten Personen und Prozessen zugewiesen bleiben.

In diesem Artikel

Einleitung

Human-in-the-Loop-KI im Pharmabereich bedeutet, kompetente und befugte Personen an den Stellen einzubinden, an denen KI-gestützte Arbeit zu einer folgenreichen Entscheidung oder Handlung wird. KI kann innerhalb eines festgelegten Rahmens Vorschläge machen oder Aufgaben ausführen; die Verantwortung muss jedoch den geeigneten Personen und Prozessen zugewiesen bleiben. Wirksame Genehmigungskontrollen legen fest, welche Nachweise geprüft werden, welche Entscheidung genehmigt wird und welche konkrete Handlung zulässig ist — nicht lediglich, wer auf eine Schaltfläche klickt.

Geltendes Recht, GxP-Verfahren und der vorgesehene Verwendungszweck bestimmen, wo eine Genehmigung erforderlich ist; zusätzliche Genehmigungspunkte können sinnvolle organisatorische Kontrollen sein.

Referenzleitlinien: FDA — Teil 11, elektronische Aufzeichnungen und elektronische Signaturen — Geltungsbereich und Anwendung; EudraLex — Band 4 — Leitlinien zur Guten Herstellungspraxis; ICH E6 — Gute Klinische Praxis

Was Human-in-the-Loop-KI in regulierten Life Sciences bedeutet

Diese Begriffe beschreiben Betriebsmodelle, keine universellen regulatorischen Kategorien. Ein Workflow kann alle drei in unterschiedlichen Phasen nutzen. Entscheidend ist, wann eine Person das Ergebnis beeinflussen kann und ob ein Eingriff vor dem Eintritt unvertretbarer Folgen möglich ist.

BetriebsmodellMenschliche BeteiligungGeeigneter Kontrollrahmen
Human-in-the-LoopPrüft oder genehmigt vor der Durchführung einer bestimmten HandlungFolgenreiche Entscheidung, die eine vorherige Überprüfung oder autorisierte Genehmigung erfordert
Human-on-the-LoopÜberwacht eine begrenzte Ausführung und kann eingreifenÜberwachte, angemessen reversible Handlungen, bei denen ein rechtzeitiger Eingriff möglich ist
Human-in-CommandLegt Richtlinien, Berechtigungen und Aussetzungsbedingungen festOrganisatorische Befugnis über Bereitstellung, Delegation und fortgesetzte Nutzung

Aufsicht ersetzt keine vorherige Genehmigung, wenn eine vorgeschriebene Unterschrift oder eine qualifizierte Entscheidung erforderlich ist. Ebenso bedeutet die Genehmigung eines Systems keine vorweggenommene Genehmigung aller künftigen Handlungen. Artikel 14 der EU-KI-Verordnung behandelt die wirksame Aufsicht über die erfassten Hochrisiko-KI-Systeme, einschließlich Interpretation, Bewusstsein für Automatisierungsverzerrungen, Übersteuerung und sicherer Unterbrechung; er verlangt nicht, dass eine Person jede Ausgabe jedes pharmazeutischen KI-Werkzeugs genehmigt.

Weiterführende Informationen: Artikel 14: Menschliche Aufsicht

Genehmigungspunkte am Entscheidungsrisiko ausrichten — nicht an jeder KI-Ausgabe

Klassifizieren Sie Handlungen statt Dokumente. Ein Dossier-Workflow kann eine Datei automatisch klassifizieren, die Überprüfung einer wissenschaftlichen Zusammenfassung verlangen und die endgültige Einreichungsfreigabe dem genehmigten Verfahren des Sponsors vorbehalten. Berücksichtigen Sie Folgen, Reversibilität, Auswirkungen auf Patienten oder Produkte, Aufzeichnungsintegrität, Unsicherheit und Neuartigkeit.

Eine praktikable Richtlinie kann die automatische Verarbeitung klar abgegrenzter risikoarmer Aufgaben, die Überprüfung von Empfehlungen vor ihrer Übernahme in kontrollierte Arbeitsabläufe und eine ausdrückliche Genehmigung vor folgenreichen Ausführungen erlauben. Behandeln Sie neuartige Produkte, unbekannte Rechtsräume, fehlende Quellen und widersprüchliche Nachweise als Eskalationsauslöser. Ein Konfidenzwert des Modells ist keine validierte Wahrscheinlichkeit für Richtigkeit, sofern dies nicht für die konkrete Aufgabe nachgewiesen wurde. Dies ist ein vorgeschlagenes Umsetzungsmuster und keine regulatorische Klassifikation.

Weiterführende Informationen: FDA — Überlegungen zum Einsatz künstlicher Intelligenz zur Unterstützung regulatorischer Entscheidungen zu Arzneimitteln und biologischen Produkten; NIST — Rahmenwerk für das KI-Risikomanagement

Der Prüfkatalog für Genehmigungspunkte

Welche pharmazeutischen Entscheidungen erfordern eine menschliche Genehmigung?

Die nachstehende Entscheidungs-Genehmigungs-Matrix ist ein beispielhafter Governance-Vorschlag. Sie verbindet empfohlene Genehmigungspunkte gegebenenfalls mit bestehenden rollenspezifischen Verantwortlichkeiten. Sie behauptet nicht, dass jeder Rechtsraum für jede aufgeführte Tätigkeit eine manuelle Genehmigung vorschreibt. Die tatsächlichen Rollen und Unterschriften richten sich nach geltendem Recht und genehmigten Verfahren.

WorkflowZulässige KI-HandlungenMenschlicher GenehmigungspunktGesamtverantwortliche Rolle (beispielhaft)Erfasste Nachweise
Freigabe regulatorischer EinreichungenEntwerfen, abgleichen und technisch prüfenDas genaue endgültige Paket vor der Übermittlung autorisierenBefugte genehmigende Person des Sponsors oder der ZulassungsabteilungPaketversion; Ziel; Aussagen; Genehmigung
Bewertung von SicherheitssignalenNachweise zusammenstellen und Prioritäten vorschlagenKlinische Bedeutung validieren oder bewertenQualifizierte prüfende Person aus Arzneimittelsicherheit oder MedizinFallgrundlage; Einschränkungen; Begründung
FallbearbeitungMögliche Feldinhalte extrahieren; Duplikate vorschlagenFolgenreiche oder unsichere Bewertungen klärenVerantwortliche oder prüfende Person im SicherheitsprozessOriginalmeldung; Bearbeitungen; Klassifikationen
Änderungen klinischer PrüfpläneAlternativen und Auswirkungsübersicht entwerfenÄnderungen über den geltenden Sponsor-, Ethik- oder Behördenweg genehmigenSponsor und relevante klinische oder statistische FunktionenVersionsvergleich; wissenschaftliche Begründung
DatenrückfragenInkonsistenzen erkennen; Rückfragen entwerfenFolgenreiche Interpretation genehmigen; routinemäßiges Routing kann begrenzt automatisiert seinVerantwortliche für klinische Daten oder Prüfer, soweit relevantQuellenverknüpfung; Rückfragenhistorie
Medizinische PrüfungEvidenz zusammenfassen; Probleme kennzeichnenMedizinische Schlussfolgerungen genehmigenQualifizierte medizinische prüfende PersonEvidenz; Unsicherheit; Bewertung
HerstellungsabweichungenAufzeichnungen zusammenstellen; Hypothesen vorschlagenUntersuchungsergebnisse genehmigenQualitäts- oder ProzessverantwortlicheAufzeichnungsverknüpfungen; Auswirkungen; Grundlage der Ursachenanalyse
CAPAMaßnahmen vorschlagen und Aufgaben verfolgenMaßnahmen und Abschluss nach Wirksamkeitsprüfung genehmigenGenehmigende Person aus der QualitätBegründung; Umsetzung; Wirksamkeit
Entscheidung über den ChargenstatusFreigabenachweise und Ausnahmen zusammenstellenErforderliche Entscheidung der befugten Qualitätsfunktion oder sachkundigen Person beibehaltenBefugte Qualitätsfunktion oder sachkundige Person (QP), soweit anwendbarKontrollierte Aufzeichnungen; Zertifizierung
LieferantenqualifizierungSorgfaltsprüfungen und Risikohinweise bündelnQualifizierung oder Einschränkungen genehmigenVerantwortliche für LieferantenqualitätQuellenzuverlässigkeit; offene Feststellungen
Evidenzinterpretation bei Zell- und Gentherapien (CGT)Literatur erfassen und Lücken identifizierenWissenschaftliche oder translationale Schlussfolgerungen genehmigenRelevante wissenschaftliche oder klinische FachpersonenHerkunft; Anwendbarkeit; Einschränkungen
Administrative KlassifikationGenehmigte Kennzeichnungen oder Routingregeln anwendenAusnahmen prüfen; nicht jede risikoarme Kennzeichnung benötigt einen GenehmigungspunktProzessverantwortlicheRegel/Konfiguration; Transaktionshistorie

Blaupause für einen KI-Genehmigungsworkflow

Verwenden Sie einen expliziten Zustandsautomaten: Eingang → Quellen-/Datenprüfung → Empfehlung → Richtlinien-/Risikoprüfung → Prüfung durch befugte Person → Ausführung → abgeglichene Historie → periodische Überprüfung. Die folgenden Kontrollen sind vorgeschlagene technische Anforderungen, die die organisatorische Richtlinie durchsetzbar machen.

Umsetzungsdetails sind entscheidend. Verwenden Sie gegen Duplikate abgesicherte Ausführungskennungen, damit Wiederholungsversuche keine zweite Einreichung oder einen zweiten Fall erzeugen. Ändert sich der Inhalt nach der Genehmigung, führen Sie ihn anhand festgelegter Wesentlichkeitsregeln einer Neubewertung zu. Ein Audit Trail kann zeigen, dass ein fehlerhafter Prozess exakt wie vorgesehen ablief; er ist ein Nachweis, kein Beweis für Compliance.

Entscheidungsbefugnisse, RACI und Funktionstrennung

Legen Sie fest, wer Vorschläge erstellt, prüft, genehmigt, administriert und auditiert. Ein Dienstkonto darf Arbeiten vorbereiten, sollte sich aber keine Genehmigungsrechte erteilen. Eine Delegation benötigt Geltungsumfang, Gültigkeitsdaten, Kompetenz und eine Stellvertretung — keine gemeinsam genutzten Zugangsdaten. Setzen Sie eine doppelte Genehmigung ein, wenn sie gerechtfertigt oder vorgeschrieben ist, nicht als allgemeines Ritual.

TätigkeitAusführungsverantwortlich (R)Gesamtverantwortlich (A)Konsultiert / unabhängige Prüfung
Genehmigungsrichtlinie definierenProzessverantwortlicheBenannte Geschäfts- oder QualitätsverantwortlicheZulassung; Medizin/PV; Recht; Sicherheit
Empfehlung vorbereitenKI-Bediener/SystemverantwortlicheProzessverantwortlicheFachspezialist
Regulierte Schlussfolgerung genehmigenBefugte fachliche prüfende PersonDurch geltendes Verfahren oder Gesetz zugewiesene RolleRelevante funktionsübergreifende Experten
Zugriffe administrierenSystemadministratorSystem-/ServiceverantwortlicheSicherheit; Qualität; Zugriffsprüfer
Konfigurationsänderung freigebenTechnisch-/ÄnderungsverantwortlicheBefugte genehmigende Person für ÄnderungenQualität und betroffene Fachverantwortliche
Kontrollwirksamkeit auditierenUnabhängige Assurance-FunktionLeitung der Assurance-FunktionProzess- und technische Verantwortliche

Diese RACI-Matrix ist beispielhaft. Für jede definierte Genehmigungsentscheidung sollte eine namentlich benannte Rolle die Gesamtverantwortung tragen; berufliche oder gesetzliche Verantwortlichkeiten müssen daneben gesondert erkennbar bleiben. Administratoren sollten die Genehmigungshistorie nicht unbemerkt umschreiben können. Notfallzugriffe müssen zeitlich begrenzt, begründet und unabhängig überprüft werden.

Relevante Referenzen: FDA — Leitlinie zu Teil 11; EudraLex — Band 4

Elektronische Aufzeichnungen, Signaturen und inspektionsfähige Nachweise

Eine Bestätigung im Workflow ist nicht automatisch eine rechtlich relevante elektronische Signatur. Ermitteln Sie, ob die Aufzeichnung und die Signatur unter die geltenden Anforderungen fallen. Die endgültige FDA-Leitlinie zum Geltungsbereich von Teil 11 ist unverbindlich; Teil 11 selbst bleibt, soweit anwendbar, zusammen mit den zugrunde liegenden fachrechtlichen Vorschriften in Kraft. Der begrenzte Ermessensspielraum bei der Durchsetzung ist keine pauschale Befreiung von Anforderungen an Aufzeichnungsintegrität, autorisierte Zugriffe oder Signaturkontrollen.

Anhang 11 des EU-GMP-Leitfadens behandelt computergestützte Systeme, während Anhang 16 die Zertifizierung durch die sachkundige Person und die Chargenfreigabe behandelt. Automatisierte Prüfungen können eine erforderliche Zertifizierung durch befugte Personen nicht ersetzen. Richten Sie Kontrollen an der regulierten Tätigkeit aus, statt Software ohne Bewertung des vorgesehenen Verwendungszwecks als „GxP-konform“ zu bezeichnen.

Ein Genehmigungsnachweispaket sollte die Originalquelle und ihre Version, relevante System-/Modell-/Konfigurationskennungen, wesentliche Eingaben und die Ausgabe, Richtlinienprüfungen, Identität und Rolle der prüfenden Person, einen Zeitstempel mit festgelegtem Zeitzonenbezug, Entscheidung und Begründung, den genehmigten Ausführungsinhalt, das Ausführungsergebnis und nachträgliche Korrekturen miteinander verknüpfen. Dokumentieren Sie das zur Rekonstruktion der Entscheidung Erforderliche, ohne wahllos sensible Daten aufzubewahren.

Bewahren Sie Nachweise im festgelegten führenden System auf oder verknüpfen Sie sie zuverlässig damit. Ein separates Chatprotokoll reicht nicht aus, wenn die genehmigte Ausgabe in der kontrollierten Aufzeichnung nicht identifiziert werden kann. Sichern Sie Aufbewahrung, Zugänglichkeit und Änderungshistorie; weisen Sie nach, dass exportierte Nachweise Inhalt und Bedeutung bewahren.

Ausnahmen, Übersteuerungen und Meinungsverschiedenheiten zwischen Mensch und KI

Leiten Sie fehlende Quellen, unerwartete Eingaben, widersprüchliche Nachweise und Berechtigungsfehler an eindeutig zugewiesene Ausnahme-Warteschlangen weiter. Bestimmen Sie die Dringlichkeit anhand der geschäftlichen Folgen, nicht danach, wie einfach ein Vorgang zu lösen ist. In Sicherheitsworkflows dürfen Prüfwarteschlangen die geltenden Meldefristen nicht gefährden; definieren Sie ein genehmigtes Notfallverfahren.

Verlangen Sie eine angemessene Begründung für wesentliche Übersteuerungen und bewahren Sie die ursprüngliche Empfehlung auf. Weder die automatische Annahme noch die automatische Zurückweisung abweichender Einschätzungen ist angemessen. Unterscheiden Sie zwischen einer Korrektur durch die prüfende Person und einer genehmigten Richtlinienausnahme; Letztere erfordert den vorgesehenen Eskalationsweg. Erfassen Sie Beinahefehler ebenso wie tatsächlich ausgeführte Fehler.

Hypothetisches Beispiel: Ein Agent schlägt vor, einen Lieferanten zu genehmigen, weil ein Zertifikat aktuell erscheint; die prüfende Person stellt jedoch fest, dass es einen anderen Herstellungsstandort abdeckt. Lehnen Sie die Empfehlung ab, dokumentieren Sie die Abweichung und untersuchen Sie ähnliche Ausgaben. Korrigieren Sie die Kontrolle zur Quellenzuordnung über das Änderungsmanagement, statt dem Modell zu erlauben, seine eigenen Genehmigungsregeln zu ändern.

Ein Rollback ist nur sinnvoll, wenn die Wirkung rückgängig gemacht werden kann. Eine externe Mitteilung kann eine Korrektur und eine Folgenabschätzung erfordern, nicht eine stille Löschung. Eine fehlgeschlagene Ausführung sollte bis zum Abgleich sichtbar bleiben; ein Wiederholungsversuch darf die Genehmigung nicht für wesentlich geänderte Inhalte oder ein anderes Ziel wiederverwenden.

Validierung, Überwachung und Änderungskontrolle

Definieren Sie den vorgesehenen Verwendungszweck und die Akzeptanzkriterien vor dem Testen. Validieren Sie sowohl die KI-gestützte Aufgabe als auch den Genehmigungsmechanismus: Kann eine unbefugte Rolle genehmigen, kann eine veraltete Genehmigung eine Ausführung ermöglichen, kann ein abgelehnter Vorgang fortgesetzt werden und lassen sich die Nachweise rekonstruieren? Testen Sie gezielt fehlende Quellen, widersprüchliche Versionen, Werkzeugausfälle und gleichzeitige Bearbeitungen.

Testen Sie die prüfenden Personen als Bestandteil des Workflows. Bauen Sie gezielt folgenreiche Fehler ein und bewerten Sie, ob die Nutzer diese mit den bereitgestellten Nachweisen und bei realistischer Arbeitsbelastung erkennen. Schulungen sollten Modellgrenzen, Eskalation und Automatisierungsverzerrungen behandeln — nicht nur die Bedienung der Oberfläche. Aufsicht ist unzureichend, wenn einer kompetenten Person Zeit, Nachweise oder Befugnisse fehlen.

Kontrollieren Sie Änderungen an Modellen, Prompts, Retrieval-Indizes, Berechtigungen, Routingregeln und Integrationen. Bewerten Sie die Auswirkungen und wiederholen Sie relevante Regressionstests. Überwachen Sie Leistungsdrift und Prüfbelastung und legen Sie Schwellen für eine Verringerung der Autonomie oder eine Aussetzung fest. Die periodische Überprüfung ergänzt die anlassbezogene Neubewertung bei Änderungen — sie ersetzt sie nicht.

Regulatorisches Umfeld: FDA, EMA, EU-KI-Verordnung und GxP

QuelleStatus / GeltungsbereichFolge für Genehmigungskontrollen
FDA-KI-Leitlinie für Arzneimittel und biologische ProdukteEntwurf vom Januar 2025; unverbindlich; nicht zur Umsetzung bestimmtGlaubwürdigkeit im Verwendungskontext; keine allgemeine Erlaubnis zur autonomen Genehmigung
EMA-Reflexionspapier zu KI im ArzneimittellebenszyklusIm September 2024 verabschiedet; wissenschaftliches EU-ReflexionspapierLebenszyklusbezogene Risikobewertung und angemessene Verantwortlichkeit
Artikel 14 der EU-KI-VerordnungVerbindliche Vorschrift für erfasste Hochrisikosysteme; gestaffelte AnwendbarkeitWirksame risikogerechte Aufsicht, Interpretation, Übersteuerung und sicheres Stoppen
FDA Teil 11 / Leitlinie zum GeltungsbereichVerordnung, soweit anwendbar; Leitlinie vom September 2003 unverbindlichAufzeichnungen/Signaturen, Identität, Befugnis und zugrunde liegende Vorschriften bewerten
EU-GMP / ICH-GCPTätigkeits- und rechtsraumabhängige ErwartungenGeltende Qualitätsverantwortung sowie Sponsor-/Prüferpflichten beibehalten
NIST AI RMFFreiwilliges Rahmenwerk; Überarbeitung von AI RMF 1.0 läuftAufsicht, Bewertung und Überwachung organisieren, ohne eine Zertifizierung zu behaupten

Diese Quellen sind keine austauschbaren Rechtsinstrumente. Das FDA-Dokument vom Januar 2025 ist weiterhin ausdrücklich ein Entwurf, das Reflexionspapier der EMA wurde verabschiedet und das NIST-Rahmenwerk ist freiwillig. Die Grundsätze und Anhang 1 von ICH E6(R3) gelten in der EU seit dem 23. Juli 2025; Anhang 2 ab dem 15. Januar 2027. Die regionale Umsetzung unterscheidet sich.

Mit Stand vom 16. November 2026 nennt die Kommission den 2. August 2026 als Beginn der allgemeinen Anwendung der KI-Verordnung sowie überarbeitete Termine für Hochrisikosysteme: den 2. Dezember 2027 für Anhang III und den 2. August 2028 für produktbezogene Systeme nach Anhang I. Die Einstufung hängt vom tatsächlichen System, seinem Zweck und den einschlägigen Bestimmungen ab; nicht jede pharmazeutische KI ist ein Hochrisikosystem. Arzneimittelrechtliche und GxP-Pflichten gelten unabhängig davon weiter. Der hier dargestellte Zeitplan wird der Zusammenfassung der Kommission zugeschrieben und beruht nicht auf einer vollständigen rechtlichen Bewertung des konsolidierten Textes.

Weiterführende Informationen: EMA — Reflexionspapier zur Nutzung von KI im Lebenszyklus von Arzneimitteln; FDA — Überlegungen zu KI bei regulatorischen Entscheidungen; NIST — Rahmenwerk für das KI-Risikomanagement; EU-KI-Verordnung

Umsetzungsfahrplan und Kennzahlen zur Aufsicht

Tag 1–30: folgenreiche Handlungen erfassen, befugte Rollen identifizieren und bestehende Aufzeichnungen, Signaturen und Ausnahmen abbilden. Tag 31–60: Genehmigungspunkte, Nachweispakete, Berechtigungen und Ausweichverfahren konfigurieren; anhand vorab festgelegter Akzeptanzkriterien testen. Tag 61–90: die Abnahme durch die Nutzer abschließen, kritische Feststellungen beheben und einen überwachten Produktivbetrieb innerhalb genehmigter Grenzen ermöglichen. Dies sind Planungszeiträume, keine garantierten Bereitstellungsfristen.

KennzahlDefinition / Einschränkung
ÜbersteuerungsquoteWesentliche Änderungen/Ablehnungen geteilt durch geprüfte Empfehlungen; niedrige Quoten können auf unkritische Übernahme hindeuten
EskalationsquoteEskalierte Vorgänge geteilt durch infrage kommende Vorgänge; nach Ursache und Dringlichkeit aufschlüsseln
PrüfdurchlaufzeitZeit vom Status „prüfbereit“ bis zur verantworteten Entscheidung; dringende Ausreißer untersuchen
Quote unzureichend belegter EmpfehlungenStichprobenartig geprüfte Empfehlungen ohne ausreichende unterstützende Nachweise
Vollständigkeit des Audit TrailsStichprobenartig geprüfte Entscheidungen mit sämtlichen erforderlichen Nachweiselementen
Übersehene Eskalationen (falsch negative Fälle)Durch fachliche Beurteilung bestätigte eskalationspflichtige Vorgänge, die der Workflow nicht erkannt hat
Korrekturen nach GenehmigungGenehmigte Vorgänge, die später wegen wesentlicher Fehler korrigiert wurden; Schweregrade unterscheiden

Legen Sie Nenner, Stichprobenverfahren, Verantwortliche und Eingriffsschwellen vor dem Start fest. Verbinden Sie Geschwindigkeit mit unabhängiger Qualitätsprüfung und ausreichender Warteschlangenkapazität. Ein schnellerer Genehmigungspunkt ist nicht besser, wenn Prüfende folgenreiche Fehler übersehen oder Vorgänge außerhalb ihrer Kompetenz genehmigen.

Wie HERMS menschliche Verantwortlichkeit unterstützt

„Das Modell schlägt vor; die Regel-Engine entscheidet; der Audit Trail zeichnet auf“ ist ein vorgeschlagener Betriebsansatz von HERMS und keine Behauptung einer validierten, bereits eingesetzten Fähigkeit. Hier entscheidet die Regel-Engine über das Routing und darüber, ob die Ausführungsbedingungen erfüllt sind; sie ersetzt nicht das erforderliche fachliche oder gesetzlich zugewiesene Urteil einer Person.

Bei diesem Ansatz bleiben Empfehlungen mit überprüfbaren Nachweisen verknüpft, rollenbasierte Genehmigungspunkte steuern folgenreiche Handlungen und Unsicherheit löst eine Eskalation aus. HERMS beschreibt Lösungsbereiche für regulatorische Arbeit, Sicherheit, Herstellung und neuartige Therapien. Ihre Eignung und die tatsächlichen Genehmigungskontrollen müssen für den vorgesehenen Einsatz festgestellt werden und dürfen nicht aus Portfoliobeschreibungen abgeleitet werden.

Entdecken Sie die HERMS-Lösungen, um eine Demonstration mit Schwerpunkt auf Ihren Genehmigungsgrenzen, Nachweisanforderungen und verantwortlichen Rollen zu besprechen.

Häufig gestellte Fragen

Benötigt jede KI-Ausgabe eine menschliche Genehmigung?

Nein. Klar abgegrenzte risikoarme Verarbeitung kann innerhalb genehmigter Grenzen automatisch erfolgen. Eine vorherige Genehmigung ist dort erforderlich, wo sie gesetzlich oder verfahrensmäßig vorgeschrieben oder risikobedingt gerechtfertigt ist. Dokumentieren Sie, welche Handlungen automatisch verarbeitet, überprüft oder ausdrücklich autorisiert werden; setzen Sie einen generierten Entwurf nicht mit einer Handlungserlaubnis gleich.

Kann ein Agent seine eigene Empfehlung genehmigen?

Nicht, wenn eine unabhängige oder befugte menschliche Genehmigung erforderlich ist. Als vorgeschlagene Kontrolle sollten die Erstellung von Empfehlungen, Berechtigungsprüfungen und Genehmigungsrechte getrennt werden. Das Modell sollte sich weder selbst Befugnisse erteilen noch seinen eigenen Schwellenwert ändern oder die Zugangsdaten einer anderen Person verwenden.

Reicht ein Konfidenzschwellenwert aus?

Nein. Die Konfidenz kann schlecht kalibriert sein und belegt weder die Gültigkeit einer Quelle noch regulatorische Anwendbarkeit oder Befugnis. Kombinieren Sie bewertete Aufgabenleistung mit verbindlichen Richtlinienprüfungen, verfügbaren Nachweisen und Ausnahmekriterien. Neuartige oder folgenreiche Fälle können auch bei einem hohen Wert eine Prüfung erfordern.

Was macht eine elektronische Genehmigung belastbar?

Eine belastbare Aufzeichnung identifiziert die befugte Person, die Entscheidung, die Nachweise, die genehmigte Version und die anschließende Handlung. Formale Anforderungen an elektronische Signaturen hängen von den geltenden Vorschriften ab. Eine allgemeine Genehmigungsschaltfläche oder ein detailliertes Auditprotokoll allein belegt nicht, dass diese Anforderungen erfüllt wurden.

Wie sollten dringende Ausnahmen behandelt werden?

Nutzen Sie vordefinierte Dringlichkeitsregeln, eine benannte Stellvertretung, zeitgebundene Eskalation und ein genehmigtes Ausweichverfahren. Schweigen darf nicht zur Autorisierung werden. Dokumentieren Sie, was getan wurde und warum, und überprüfen Sie anschließend die Ausnahme. Dringlichkeit sollte eine verantwortliche Bearbeitung beschleunigen, nicht erforderliche Sicherheits- oder Qualitätskontrollen stillschweigend beseitigen.

Wie vermeiden Teams Engpässe bei der Prüfung?

Reservieren Sie Genehmigungspunkte für folgenreiche Entscheidungen, leiten Sie Vorgänge nach Kompetenz und Dringlichkeit weiter, stellen Sie prägnante Nachweispakete bereit und überwachen Sie die Warteschlangenkapazität. Testen Sie, ob Prüfende Fehler erkennen können. Verbessern Sie Quellenprüfungen und Routing, statt auf Überlastung mit der Abschwächung einer notwendigen Genehmigung zu reagieren.

Wann muss eine Genehmigung wiederholt werden?

Wiederholen Sie sie gemäß festgelegten Verfahren, wenn eine wesentliche Änderung den genehmigten Inhalt, das Ziel, die Handlung oder die zugrunde liegende Begründungsbasis betrifft. Bewerten Sie auch neu, wenn die Befugnis abläuft oder ein relevantes neues Risiko auftritt. Gestalten Sie das System so, dass es veraltete Genehmigungen zurückweist, statt zu erwarten, dass Prüfende jede nachgelagerte Änderung bemerken.

Ergänzende Perspektiven bieten die vorangegangenen Artikel zu Automatisierungsgrenzen, agentischer gegenüber generativer Architektur und unternehmensweiter KI-Governance. Dieser Artikel konzentriert sich auf die Ausführungskontrollen, die diese Richtlinien mit jeder folgenreichen Entscheidung verbinden.

Besprechen Sie über die HERMS-Lösungen eine Bewertung Ihrer Governance-Bereitschaft oder eine workflowbezogene Demonstration, bei der Genehmigungsrechte, Ausnahmebehandlung und Inspektionsnachweise ausdrückliche Bewertungskriterien sind.

Relevante HERMS-Lösungen

Entdecken Sie HERMS-Lösungen für die in diesem Artikel behandelten Workflows:

Bewerten Sie jede Lösung anhand Ihres vorgesehenen Verwendungszwecks sowie Ihrer Nachweis- und Genehmigungsanforderungen.

Quellen und weiterführende Informationen

Entdecken Sie die Artikelreihe zur KI im Pharmabereich

Entdecken Sie die HERMS-Lösungen für Life Sciences und fordern Sie eine workflowbezogene Demonstration an.

Originalartikel: https://www.hermsglobal.com/human-in-the-loop-ai-pharmaceutical-approval-controls

Deutsche Übersetzung der bearbeitbaren Word-Fassung des englischsprachigen HERMS-Onlineartikels. Inhalt und regulatorischer Status entsprechen dem am 16. November 2026 veröffentlichten Artikel.

FÜR TECHNISCHE ANFRAGEN
RUFEN SIE AN: +971505528077

Für Angehörige der Gesundheitsberufe

Für Patienten

Für Forschende

INTELLIGENZ ENTWICKELN. LIFE SCIENCES REVOLUTIONIEREN.

HERMS ist die Intelligenzplattform. Ihre Anwendungen sind die Entscheidungs-Engines. Die HERMS-Expertendienste unterstützen die Implementierung und regulierte Umsetzung im HERMS-Intelligenz-Ökosystem, von Regulatory Affairs und Marktzugang bis zu Pharmakovigilanz, Compliance und Qualität.

Zulassungsfristen für Arzneimittel nach Land · Fristen von SFDA, MOHAP, EDE, EDA, EMA und FDA · Zentrale GCC-Registrierung