Agentische KI und generative KI in der Pharmaindustrie: zentrale Unterschiede und Anwendungen
Globale KI in den Life Sciences · Veröffentlicht am 16. November 2026 · HERMS Consultancy DMCC
Generative KI erzeugt Inhalte oder strukturierte Ausgaben, etwa eine wissenschaftliche Zusammenfassung oder extrahierte Daten. Agentische KI koordiniert zielgerichtete, mehrstufige Arbeit mithilfe von Planung, Werkzeugen und Rückmeldungen und kann dabei über vernetzte Systeme hinweg handeln. Ein Agent kann ein generatives Modell als eine Komponente neben Regeln, Workflow-Software und menschlicher Prüfung einsetzen. In der Pharmaindustrie hängt die geeignete Wahl von der Aufgabe, der Evidenz, den Handlungsberechtigungen und den Folgen ab.
Keine der beiden Architekturen garantiert von sich aus Zuverlässigkeit, Datenintegrität oder regulatorische Konformität; diese Eigenschaften hängen vom implementierten System und seinen Kontrollen ab.
1. Der Unterschied liegt in der Workflow-Verantwortung
Bei der Gegenüberstellung von agentischer und generativer KI in der Pharmaindustrie geht es praktisch nicht darum, welche Bezeichnung fortschrittlicher klingt. Entscheidend ist, ob das Unternehmen eine Antwort, eine wiederholbare Transaktion oder eine orchestrierte Abfolge von Arbeitsschritten benötigt. Ein Assistent für medizinisches Schreiben kann einen freigegebenen Studienbericht zusammenfassen, ohne den umgebenden Prozess zu verantworten. Ein Agent kann aktualisierte Evidenz abrufen, mit dem Entwurf vergleichen, Änderungen vorschlagen und eine Prüfaufgabe weiterleiten.
Eine Regel-Engine kann einen Vorgang wegen eines fehlenden Pflichtfelds zurückweisen, ohne Sprache zu erzeugen. Dies sind funktionale Unterschiede, keine eigenständigen regulatorischen Kategorien.
Agentisch bedeutet nicht zwangsläufig autonom. Ein Agent kann an jedem Freigabepunkt anhalten, während ein einfaches deterministisches Programm automatisch ablaufen kann. Umgekehrt kann eine generative Anwendung Werkzeuge aufrufen, ohne Verantwortung für einen länger laufenden Workflow zu erhalten. Bewerten Sie die tatsächliche Konfiguration: Was kann sie lesen, ableiten, schreiben und auslösen? Diese operative Sicht entspricht einer Risikobewertung anhand des vorgesehenen Verwendungszwecks und des Kontexts statt anhand der Produktvermarktung.
2. So funktioniert die Architektur
Ein Basismodell wird mit breit gefächerten Daten trainiert und kann an unterschiedliche Aufgaben angepasst werden. Ein großes Sprachmodell, kurz LLM, ist ein auf Sprache ausgerichtetes Beispiel. Prompts liefern Anweisungen und Kontext; sie ersetzen weder Zugriffskontrollen noch eine ausführbare Spezifikation. Modellausgaben sind insofern probabilistisch, als erlernte Muster die Generierung steuern. Eine höhere Wiederholbarkeit der Dekodierung belegt weder sachliche Richtigkeit noch wissenschaftliche Validität.
Retrieval-Augmented Generation, kurz RAG, stellt einem Modell zur Laufzeit abgerufene Evidenz bereit. Bei pharmazeutischen KI-Anwendungen mit RAG müssen Dokumentidentität, Version, Datum und Fundstelle erhalten bleiben. Der Abruf kann die Quellenverankerung verbessern; veraltete Quellen, eine ungeeignete Aufteilung in Textabschnitte, übersehene Dokumente oder Fehlinterpretationen können jedoch weiterhin unzuverlässige Antworten verursachen. Eine angezeigte Quellenangabe muss die zugehörige Aussage tatsächlich stützen; ein Hyperlink allein belegt keine Quellentreue.
Werkzeuge und APIs verbinden die Anwendung mit Repositories und operativen Systemen. Function Calling ermöglicht einem Modell, einen strukturierten Werkzeugaufruf vorzuschlagen; der Anwendungscode muss die Argumente validieren und die Ausführung autorisieren. Eine Workflow-Engine verwaltet Abfolgen, Warteschlangen, Wiederholungsversuche und Ausnahmen. Eine Regel-Engine setzt explizite Bedingungen wie Pflichtfelder oder Schwellenwerte für die Weiterleitung durch.
Deterministische Komponenten folgen bei gegebenen Eingaben einer festgelegten Logik; sie können dennoch durch fehlerhafte Regeln, schlechte Daten oder Integrationsfehler versagen.
Der Speicher beziehungsweise Zustand hält den Aufgabenfortschritt und relevanten Kontext über mehrere Schritte hinweg fest. Dafür sind klare Zuständigkeiten, Aufbewahrungsgrenzen und Schutz vor einer Vermischung von Daten verschiedener Produkte oder Kunden erforderlich. Evaluatoren prüfen ausgewählte Ergebniseigenschaften; Observability macht Ausführungsereignisse und Fehler sichtbar. Freigabepunkte verknüpfen Entscheidungen mit verantwortlichen Personen. Eine sinnvolle Referenzarchitektur lautet daher: freigegebene Quellen → Abruf → modellgestützte Analyse → deterministische Prüfungen → zulässige Werkzeugaufrufe → Prüfung → überwachte Ausführung.
Dies ist ein vorgeschlagenes Entwurfsmuster und keine Aussage über eine validierte HERMS-Implementierung.
3. Vergleich der Kerntechnologien
| Dimension | Generative KI | Agentische KI | Traditionelle Regeln |
|---|---|---|---|
| Zweck | Inhalte erzeugen oder umformen | Zielgerichtete Arbeit koordinieren | Explizite Logik ausführen |
| Arbeitseinheit | Antwort oder strukturierte Ausgabe | Mehrstufige Aufgabe mit Zustand | Regel, Transaktion oder fester Ablauf |
| Workflow-Verantwortung | Meist klar begrenzte Unterstützung | Kann Abfolge und Weiterleitung koordinieren | Vordefinierte Prozesspfade |
| Werkzeugzugriff | Optional | Üblich; durch Berechtigungen begrenzt | Programmierte Integrationen |
| Zustand / Speicher | Optionaler Kontext | Aufgabenzustand häufig persistent | Explizite Datensätze und Variablen |
| Menschliche Interaktion | Prompt eingeben, prüfen, bearbeiten | Ziel setzen, freigeben, beaufsichtigen | Konfigurieren, Ausnahmefälle bearbeiten |
| Ergebnis | Text, Code oder extrahierte Felder | Ausgaben plus vorgeschlagene/ausgeführte Aktionen | Festgelegte Ausgabe oder Aktion |
| Anpassungsfähigkeit | Flexible Sprachinterpretation | Dynamische Schrittauswahl innerhalb definierter Grenzen | Neue Fälle erfordern explizite Logik |
| Fehlermodi | Erfundene Inhalte, Auslassungen, Verzerrungen | Modellfehler plus kaskadierende Werkzeugfehler | Fehlerhafte Regeln, schlechte Eingaben, störanfällige Pfade |
| Bewertung | Quellentreue und Aufgabengenauigkeit | End-to-End-Ergebnisse und Berechtigungen | Regelabdeckung und Korrektheit |
| Auditierbarkeit | Quellen und Versionen erfassen | Zusätzlich Aufrufe, Zustand und Freigaben erfassen | Logik, Eingaben und Transaktionen erfassen |
| Sicherheitsgrenze | Eingabe, Kontext und generierte Ausgabe | Zusätzlich Identitäten, Werkzeuge und externe Auswirkungen | Anwendungs- und Integrationsberechtigungen |
| Komplexität | Variabel; steigt mit den Anforderungen an die Quellenverankerung | Häufig höhere operative Komplexität | Bei stabilen, begrenzten Aufgaben häufig einfacher |
Dieser Vergleich beschreibt gängige Muster, keine absoluten Grenzen. Alle drei Ansätze können Datenbanken, APIs und menschliche Freigaben nutzen. Ein hybrider Ansatz ist häufig vorzuziehen, wenn eine flexible Sprachinterpretation in einen kontrollierten operativen Prozess einfließen soll. Ziel ist es, Unsicherheit einer überprüfbaren Komponente zuzuweisen und zugleich die Autorisierung außerhalb des modellgenerierten Texts zu halten.
4. Auswahlmatrix für pharmazeutische Anwendungsfälle
Die folgende Matrix ist eine vorgeschlagene Auswahlhilfe, keine regulatorische Genehmigung. „Hybrid“ bezeichnet eine Kombination aus generativer Analyse, begrenzter Orchestrierung, deterministischen Kontrollen und einer Prüfung durch verantwortliche Personen. Kein Eintrag berechtigt zur eigenständigen Wahrnehmung einer gesetzlich vorbehaltenen Freigabe.
| Anwendungsfall | Geeignetster Ansatz | Gewünschtes Ergebnis | Wesentliche Kontrolle | Operative Einschränkung |
|---|---|---|---|---|
| Medizinisches Schreiben | Generative KI | Evidenzverknüpfter Entwurf | Wissenschaftliche Prüfung; Quellentreue | Nur freigegebene Evidenz |
| Regulatorische Informationsanalyse | Hybrid | Verifizierte Änderung und Aufgaben zur Folgenbewertung | Prüfung von Quelle und Anwendbarkeit | Rechtsraum- und Produktumfang |
| Dossierzusammenstellung | Hybrid | Zugeordnetes, konsistentes Einreichungspaket | Versionskontrolle; Einreichungsfreigabe | Spezifikationen für die elektronische Publikation |
| Literaturüberwachung | Hybrid | Priorisierte Evidenz-Warteschlange | Abdeckungsprüfungen; verifizierte Quellenangaben | Datenbankzugang und Nutzungsrechte |
| Erfassung unerwünschter Ereignisse | Hybrid | Vorgeschlagene Felder und Triage-Aufgabe | Original erhalten; qualifizierte Prüfung | Meldefristen und Sprache |
| Signalanalyse | Hybrid | Muster und Evidenzzusammenfassungen | Sicherheitsbewertung; statistische Prüfungen | Unvollständige oder verzerrte Berichte |
| Erstellung von Prüfplanentwürfen | Generative KI | Designalternativen und Entwurf | Klinische/statistische Prüfung | Wissenschaftliche und ethische Vorgaben |
| Monitoring von Prüfzentren | Hybrid | Risikohinweise und Prüfaufgaben | Sponsoraufsicht; Datenprüfungen | Zugang und Kontext des Prüfzentrums |
| Evidenzkartierung für Zell- und Gentherapien (CGT) | Hybrid | Verknüpfte wissenschaftliche Evidenzkarte | Fachliche Verifizierung | Sensible Genom- und Prozessdaten |
| Abweichung / CAPA | Hybrid | Untersuchungsnachweise und Vorschläge | Freigabe der Schlussfolgerungen durch die Qualitätseinheit | Kausalität erfordert Untersuchung |
| Chargenprüfung | Hybrid | Prüfung von Aufzeichnungen und Ausnahmefällen | Erforderliche Freigabe durch befugte Personen bleibt erhalten | Validierte Aufzeichnungen und Schnittstellen |
| Bedarfs- und Versorgungsprognose | Hybrid | Prognose aus einem Vorhersagemodell mit Erläuterung | Rücktests; Prüfung durch die Planung | Qualität des Vorhersagemodells und der Daten |
| Änderungsmanagement für Medizinprodukte | Hybrid | Änderungsbewertung und Testaufgaben | Regulatorische Bewertung durch den Hersteller | Zweckbestimmung; genehmigter Änderungsumfang |
Die Bedarfs- und Versorgungsprognose verdeutlicht eine wichtige Abgrenzung: Die Vorhersage kann auf klassischen statistischen Modellen oder Modellen des maschinellen Lernens beruhen, während generative KI die Ergebnisse erklärt und ein Agent die Datenerfassung koordiniert. Nicht jede nützliche KI-Funktion in der Pharmaindustrie ist generativ. Nutzen Sie deterministische Regeln für stabile Rechenoperationen, Pflichtfeldprüfungen und Zugriffsentscheidungen, statt ein Modell diese improvisieren zu lassen.
5. Zwei hypothetische End-to-End-Workflows
Beispiel A: von der regulatorischen Informationsanalyse zu freigegebenen Dossieraufgaben
Hypothetischer Workflow: Ein zeitgesteuerter Konnektor erkennt eine geänderte Behördenveröffentlichung. Regeln sichern deren URL, Veröffentlichungsmetadaten und Vorversion. Ein Agent ruft den relevanten Text ab, vergleicht die Änderungen und schlägt betroffene Produkte und Dossierabschnitte vor. Eine Fachperson für Regulatory Affairs prüft Primärquelle, Geltungsbeginn, Übergangsbestimmungen und tatsächliche Anwendbarkeit, bevor sie Aufgaben freigibt. Der Workflow erstellt anschließend ausschließlich die für das angegebene Produkt und Ziel freigegebenen Aufgaben.
Eine Halluzination kann eine Anforderung erfinden; fehlender Kontext kann dazu führen, dass ein Entwurf mit einer endgültigen Leitlinie verwechselt wird; ein Werkzeugfehler kann Arbeiten dem falschen Produkt zuordnen. Zu den Kontrollen gehören Quellenauszüge, ausdrücklich benannte Unklarheiten, Produktkennungen, Dublettenvermeidung und eine Freigabe, die an den exakten Aufgabeninhalt gebunden ist. Ist eine Quelle nicht zugänglich, sollte das System einen Ausnahmefall weiterleiten, statt die fehlende Verpflichtung abzuleiten. Dieses Beispiel schlägt Kontrollen vor; es beschreibt keinen tatsächlich erfolgten Einsatz.
Beispiel B: vom Literatur-Screening zur Sicherheitsbewertung unter klarer Verantwortlichkeit
Hypothetischer Workflow: Eine freigegebene Recherche ruft Literatur ab, eine Screening-Komponente kennzeichnet einen möglichen Fall, und Regeln prüfen vorgeschlagene Felder sowie mögliche Dubletten. Ein Agent mit begrenztem Handlungsspielraum erstellt einen vorläufigen Falldatensatz und eine dringende Triage-Aufgabe. Pharmakovigilanz-Fachkräfte prüfen den Volltext, klären fehlende Informationen und führen die entsprechende Bewertung durch. Ist eine Meldung erforderlich, steuert ein kontrollierter Prozess Autorisierung, Übermittlung und Empfangsbestätigung gemäß den geltenden Verfahren.
Ein Modell kann eine Verneinung falsch lesen, ein Ereignis in einer Tabelle übersehen oder die Studienpopulation mit einem Einzelfallbericht verwechseln. Fehlender Kontext kann den zeitlichen Ablauf verzerren; wiederholte Werkzeugaufrufe können doppelte Datensätze erzeugen. Bewahren Sie die Originalevidenz auf, kennzeichnen Sie extrahierte Felder als vorläufige Vorschläge, gestalten Sie Wiederholungsversuche idempotent und überwachen Sie dringende Warteschlangen. Setzen Sie automatisiertes Screening nicht mit medizinischer Bewertung gleich, und lassen Sie nicht zu, dass Prüfverzögerungen die geltenden Meldefristen gefährden.
Dies sind vorgeschlagene Schutzmaßnahmen, keine allgemeine Verpflichtung zur manuellen Freigabe jedes einzelnen Falls.
6. Welchen KI-Ansatz sollten wir einsetzen?
Nutzen Sie diesen Entscheidungsbaum, bevor Sie einen Anbieter oder eine Architektur auswählen:
- Ist die Aufgabe unter expliziten, stabilen Bedingungen wiederholbar? Beginnen Sie mit Regeln. Ergänzen Sie KI nur dort, wo die Interpretation variabler Evidenz erforderlich ist.
- Geht es hauptsächlich um einen Entwurf, eine Zusammenfassung oder eine Extraktion? Beginnen Sie mit einer klar begrenzten generativen KI und verifizierten Quellen.
- Muss das System mehrere Schritte koordinieren oder über Werkzeuge handeln? Ziehen Sie agentische Orchestrierung in Betracht; für eine feste Abfolge kann weiterhin eine reine Workflow-Engine ausreichen.
- Sind Daten sensibel, oder könnten Fehler Patienten, Produkte oder regulierte Aufzeichnungen betreffen? Begrenzen Sie Quellen und Umgebungen, bewerten Sie das Risiko und schränken Sie Handlungsrechte ein.
- Ist die Handlung schwer rückgängig zu machen? Verlangen Sie stärkere Prüfungen vor der Ausführung und die jeweils erforderliche menschliche Freigabe, statt sich allein auf Überwachung zu verlassen.
- Lassen sich Evidenz und Handlung rekonstruieren? Falls nicht, gestalten Sie den Audit Trail vor dem Produktivbetrieb neu.
- Zehrt die Verifizierung den erwarteten Nutzen auf? Messen Sie den gesamten Prüf- und Nachbearbeitungsaufwand, nicht nur die Generierungsgeschwindigkeit.
- Kann der Prozess auf deterministische Prüfungen oder manuelle Bearbeitung zurückfallen? Falls nicht, definieren Sie vor der Einführung einen sicheren Stopp und einen Eskalationsweg.
Wählen Sie die einfachste Architektur, die die Akzeptanzkriterien erfüllt. Längere Workflows eröffnen mehr Möglichkeiten für Kontextverlust, Integrationsfehler und Fehlerkaskaden. Zusätzliche Autonomie ist nur gerechtfertigt, wenn ihr zusätzlicher operativer Nutzen den Aufwand für Verifizierung, Sicherheit und Wartung übersteigt. Dies ist ein praktisches Auswahlprinzip, keine Behauptung eines bezifferten ROI.
7. Risiken, Sicherheit und Schutzmaßnahmen
Erfundene Quellenangaben erfordern einen Abgleich zwischen Quelle und Aussage, nicht lediglich die Aufforderung, „genau zu sein“. Prompt Injection liegt vor, wenn nicht vertrauenswürdige Inhalte versuchen, das System umzulenken; behandeln Sie abgerufene Dokumente und Werkzeugantworten als Daten, nicht als maßgebliche Anweisungen. Werkzeugmissbrauch und übermäßig berechtigte Agenten können Interpretationsfehler in Änderungen von Aufzeichnungen oder Offenlegungen verwandeln. Setzen Sie das Prinzip der geringsten Rechte im Anwendungscode durch, isolieren Sie Dienstidentitäten und führen Sie Positivlisten zulässiger Aktionen und Ziele.
Schützen Sie sensible klinische, personenbezogene, genomische und geschäftliche Daten in Prompts, beim Abruf, im Speicher, in Protokollen und im Rahmen der Vereinbarungen mit Dienstleistern. Wenden Sie Funktionstrennung an: Die Komponente, die eine folgenreiche Handlung vorschlägt, darf sich nicht selbst die Erlaubnis dazu erteilen. Sorgen Sie für Cybersicherheitskontrollen, Überwachung, Rücksetzungsmöglichkeiten, soweit praktikabel, und die Eskalation von Ausnahmefällen. Bei irreversiblen externen Handlungen sind Prävention und Freigabe wichtiger als das Versprechen, sie rückgängig zu machen.
Modelldrift, Quellenänderungen und Konfigurationsaktualisierungen können frühere Bewertungen entkräften. Kontrollieren Sie die Versionen von Modellen, Prompts, Indizes, Werkzeugen und Regeln; bewerten Sie Änderungen und wiederholen Sie relevante Tests. Auch die menschliche Prüfung muss getestet werden: Prüfende benötigen nutzbare Evidenz, ausreichend Zeit und die Befugnis, Ergebnisse zurückzuweisen. Die Kombination aus LLM, Regeln und Governance ist eine bewusste Kontrollarchitektur und kein Eingeständnis eines technologischen Scheiterns.
8. GxP-Auswirkungen und Validierung
Nicht jede KI-Anwendung ist automatisch ein GxP-System. Bestimmen Sie den vorgesehenen Verwendungszweck, die regulierte Tätigkeit, die zugrunde gelegten Aufzeichnungen und die möglichen Auswirkungen auf Patientensicherheit, Produktqualität und Datenintegrität. Ein Brainstorming-Assistent und ein System, das Evidenz für Entscheidungen über den weiteren Umgang mit einer Charge vorbereitet, haben unterschiedliche Absicherungsanforderungen. Validierung oder ein entsprechender Absicherungsansatz sollten die Eignung für den konfigurierten Einsatz nachweisen, nicht ein Basismodell pauschal für konform erklären.
Nutzen Sie ALCOA+ als Gestaltungsrahmen für Datenintegrität: zuordenbar, lesbar, zeitnah erfasst, original und richtig sowie vollständig, konsistent, dauerhaft und verfügbar. Bewahren Sie in der Praxis Originale auf, identifizieren Sie, wer oder was einen Eintrag erstellt hat, protokollieren Sie Zeitstempel und Änderungen und erhalten Sie nutzbare Nachweise. Diese Konzepte machen nicht jeden Gesprächsaustausch zu einer regulierten Aufzeichnung; die jeweilige Tätigkeit und die Aufzeichnungspflichten bestimmen die Grenze.
Prüfen Sie die Anwendbarkeit von 21 CFR Part 11 auf elektronische Aufzeichnungen und Signaturen einschließlich der zugrunde liegenden regulatorischen Vorschriften. Die FDA-Leitlinie zum Anwendungsbereich ist nicht bindend und beschreibt einen begrenzten Ermessensspielraum bei der Durchsetzung; Part 11 bleibt in Kraft. Anhang 11 des EU-GMP-Leitfadens behandelt computergestützte Systeme, während GCP-Anforderungen für die jeweiligen Tätigkeiten in klinischen Prüfungen gelten. In der EU gelten die Grundsätze und Anhang 1 von ICH E6(R3) seit dem 23. Juli 2025; Anhang 2 gilt ab dem 15. Januar 2027. Die Umsetzungstermine unterscheiden sich international.
9. Regulatorische Landschaft zum 16. November 2026
Die FDA-Leitlinie vom Januar 2025 zum Einsatz von KI zur Unterstützung regulatorischer Entscheidungen über Arzneimittel und biologische Produkte ist auf der überprüften offiziellen Seite weiterhin als Entwurf und als nicht zur Umsetzung bestimmt gekennzeichnet. Sie schlägt einen risikobasierten Rahmen zur Bewertung der Glaubwürdigkeit für einen festgelegten Nutzungskontext vor. Das EMA-Reflexionspapier zum Lebenszyklus von Arzneimitteln wurde am 30. September 2024 verabschiedet und erstmals veröffentlicht. Keines der beiden Dokumente legt fest, dass eine agentische Architektur an sich regulatorische Akzeptanz verleiht.
Die EU-KI-Verordnung ist verbindliches Recht mit risikobasiertem Anwendungsbereich; stufen Sie nicht jeden pharmazeutischen Assistenten als Hochrisikosystem ein. Die aktuelle Seite der Kommission nennt den 2. August 2026 als allgemeinen Geltungsbeginn, den 2. Februar 2025 für die Bestimmungen zu KI-Kompetenz und Verboten sowie den 2. August 2025 für die Vorschriften zu KI mit allgemeinem Verwendungszweck (GPAI). Sie berichtet vom Inkrafttreten des „AI Omnibus“ am 27. Juli 2026 und von geänderten Fristen für Hochrisikosysteme: 2. Dezember 2027 für Anhang III und 2. August 2028 für produktbezogene Systeme nach Anhang I.
Diese Daten wurden anhand der Zusammenfassung der Kommission überprüft; der maßgebliche geänderte Rechtstext ließ sich über den angegebenen EUR-Lex-Zugang nicht abrufen. Für eine rechtliche Verwendung ist daher eine abschließende Prüfung des Gesetzestexts erforderlich.
Das NIST AI RMF und sein Profil für generative KI sind freiwillige Hilfsmittel, keine gesetzlich vorgesehenen Zulassungen. Die Konsultation der Kommission zum überarbeiteten GMP-Anhang 11 und zum vorgeschlagenen KI-Anhang 22 endete am 7. Oktober 2025. Eine endgültige Verabschiedung von Anhang 22 ließ sich anhand der geprüften Quellen nicht feststellen; das aktuelle Verzeichnis von Band 4 führt weiterhin Anhang 11 vom Januar 2011 auf. Behandeln Sie den vorgeschlagenen Text als Entwurf, nicht als geltende Anforderung.
10. Umsetzungsfahrplan und Leistungskennzahlen
Ein praxisorientierter Fahrplan lautet: Abgrenzung des Anwendungsfalls → Risikoeinstufung → Quellen- und Datenarchitektur → Kontrollen → Bewertung in einer Sandbox → menschliche Abnahme → überwachter Produktivbetrieb → regelmäßige Revalidierung. Definieren Sie bei der Abgrenzung das Ergebnis und die verantwortliche Person. Berücksichtigen Sie bei der Bewertung repräsentative und adversariale Fälle, fehlende Evidenz, Berechtigungsfehler und Werkzeugausfälle. Die menschliche Abnahme sollte nachweisen, dass Prüfende folgenreiche Fehler erkennen können.
Eine Revalidierung sollte auch durch wesentliche Änderungen ausgelöst werden, nicht nur durch ein kalendarisches Intervall.
Legen Sie Ausgangswerte, Bezugsgrößen, Schweregradkategorien und Eingriffsschwellen für acht Kennzahlen fest:
- Quellenverifizierte Genauigkeit: korrekte, belegte Aussagen geteilt durch die bewertbaren Aussagen in der Stichprobe.
- Übersehene kritische Punkte: nach fachlicher Beurteilung als kritisch eingestufte Punkte, die innerhalb der festgelegten Prüfstichprobe nicht erkannt wurden.
- Menschliche Korrekturquote: wesentlich geänderte oder zurückgewiesene Empfehlungen, nach Gründen aufgeschlüsselt.
- Prüfdauer: Zeitspanne von einem zulässigen Eingang bis zum Abschluss der Prüfung durch die verantwortliche Person.
- Behebung von Ausnahmefällen: Alter und Zeit bis zum Abschluss von Ausnahmefällen, wobei dringende Fälle gesondert sichtbar sind.
- Nicht autorisierte Werkzeugaktionen: getrennte Erfassung blockierter Versuche und tatsächlich ausgeführter unzulässiger Aktionen.
- Vollständigkeit des Audit Trails: stichprobenartig geprüfte Aufgaben mit sämtlichen erforderlichen Nachweisen und Ereignisaufzeichnungen.
- Kosten je validierter Aufgabe: gesamte Betriebs-, Integrations-, Prüf- und Nachbearbeitungskosten je akzeptierter Aufgabe.
Der geschäftliche Nutzen sollte einen qualitätsbereinigten Ausgangswert widerspiegeln, nicht allein Token-Kosten oder Entwurfsgeschwindigkeit. Eine sinkende Korrekturquote kann auf Verbesserungen oder auf nachlassende Aufmerksamkeit der Prüfenden hindeuten; kombinieren Sie sie deshalb mit unabhängigen Qualitätsstichproben. Legen Sie keine allgemeingültigen Leistungsschwellen ohne Risikobewertung des jeweiligen Anwendungsfalls fest.
11. Häufig gestellte Fragen
Ist agentische KI dasselbe wie generative KI?
Nein. Generative KI erzeugt oder verändert Inhalte; agentische KI koordiniert Arbeit auf ein Ziel hin und nutzt dabei Zustände, Werkzeuge und Rückmeldungen. Überschneidungen entstehen, wenn ein Agent ein generatives Modell zur Interpretation von Evidenz oder zum Vorschlagen von Aktionen nutzt. Der Unterschied betrifft das Systemverhalten und die Workflow-Verantwortung, nicht eine Garantie, dass ein Ansatz genauer oder konformer ist.
Benötigt agentische KI ein LLM?
Nicht als zwingende technische Voraussetzung. Zielgerichtete Software kann Planer, Regeln, Suchverfahren oder andere Modelle nutzen. Viele heutige sprachzentrierte Agenten verwenden LLMs, weil diese mit variierenden Anweisungen und Evidenz umgehen können. Fragen Sie bei der Beschaffung, welche Komponente die Aktionen auswählt und wie die Ausführung kontrolliert wird, statt anzunehmen, die Bezeichnung „Agent“ stehe für eine bestimmte Modellarchitektur.
Kann generative KI Teil eines Agenten sein?
Ja. Ein generatives Modell kann eine Anfrage interpretieren, abgerufene Evidenz zusammenfassen oder einen strukturierten Werkzeugaufruf vorschlagen. Workflow-Software und Autorisierungskontrollen bestimmen anschließend, was geschieht. Behandeln Sie modellgenerierte Aufrufe als validierungsbedürftige Vorschläge; das Modell darf weder eigene Zugriffsrechte schaffen noch eine Freigabe umgehen, nur weil die angeforderte Handlung plausibel erscheint.
Wann sollte die Pharmaindustrie stattdessen Regeln einsetzen?
Nutzen Sie Regeln für stabile Bedingungen, exakte Berechnungen, Pflichtfeldprüfungen, Zugriffsentscheidungen und vordefinierte Weiterleitungen, sofern sich die Anforderungen klar ausdrücken lassen. Auch Regeln erfordern Tests und Wartung. Ergänzen Sie generative Interpretation nur dort, wo sprachliche Variabilität sie nützlich macht, und prüfen Sie anschließend, ob die zusätzliche Komplexität den gesamten Prozess verbessert, statt lediglich die Benutzeroberfläche dialogorientiert zu gestalten.
Kann ein KI-Agent regulatorische Dossiers einreichen?
Er kann die Zusammenstellung, Prüfungen und kontrollierte technische Übermittlung unterstützen, soweit der geltende Prozess dies erlaubt. Dies ist von der Autorisierung durch den Antragsteller, erforderlichen Unterschriften und einer wissenschaftlichen Prüfung durch verantwortliche Personen zu unterscheiden. Binden Sie die Freigabe an das tatsächliche Einreichungspaket, dessen Version und das Ziel; bewahren Sie Empfangsbestätigungen und die Bearbeitung von Ausnahmefällen auf. Keine allgemeine KI-Architektur ersetzt die gesetzlich zugewiesene oder verfahrensspezifische Einreichungsverantwortung.
Wie validiert man Agenten für GxP-Anwendungen?
Definieren Sie vor dem Testen den vorgesehenen Verwendungszweck und die Systemgrenzen, bewerten Sie die Risiken und legen Sie Akzeptanzkriterien fest. Bewerten Sie den konfigurierten Workflow, den Umgang mit Quellen, Berechtigungen, Integrationen, Prüferkontrollen und Fehlerpfade. Bewahren Sie Nachweise auf, steuern Sie Änderungen und überwachen Sie die Leistung im Produktivbetrieb. Ein allgemeiner Modellbenchmark oder allein die Zusicherung eines Anbieters belegt nicht die Eignung für Ihre konkrete regulierte Anwendung.
Was ist das größte Sicherheitsrisiko?
Es gibt keine universelle Rangfolge für jeden Einsatz. Ein wesentliches agentenspezifisches Risiko besteht darin, dass nicht vertrauenswürdige Inhalte ein System mit folgenreichen Werkzeugberechtigungen beeinflussen. Prompt Injection wird gefährlicher, wenn sie mit weitreichendem Zugriff oder schwacher Autorisierung zusammentrifft. Begrenzen Sie die Auswirkungen durch das Prinzip der geringsten Rechte, Werkzeug-Positivlisten, Isolation, Validierung und Freigaben für sensible Aktionen sowie durch Überwachung und Tests.
Wie misst man den geschäftlichen Nutzen?
Vergleichen Sie akzeptierte, qualitätsgeprüfte Arbeit mit einem definierten Ausgangswert. Berücksichtigen Sie Prüfzeit, Nachbearbeitung, Ausnahmefälle, Integrations- und Betriebskosten und nicht nur die Generierungsgeschwindigkeit. Verfolgen Sie kritische Auslassungen und nicht autorisierte Aktionen als Schutzindikatoren. Kosten je validierter Aufgabe und die Zeit bis zur Prüfung durch eine verantwortliche Person sind entscheidungsrelevanter als das reine Ausgabevolumen, wenn sich das Unternehmen auf das Ergebnis verlassen muss.
12. Relevanz für HERMS
HERMS Global positioniert sein Portfolio rund um vernetzte Life-Sciences-Intelligence in Entwicklung, Regulierung, Herstellung, Marktzugang und Sicherheit. Fachspezifische KI, nachvollziehbare Evidenz, risikobasierte Governance und menschliche Verantwortlichkeit sind nützliche Bewertungs- und Gestaltungsprinzipien. Dieser Artikel belegt nicht, dass ein genanntes HERMS-Produkt über validierte Integrationen, nachgewiesene Leistung oder eine regulatorische Genehmigung verfügt. Dafür sind einsatzspezifische Nachweise erforderlich.
HERMS-Softwarelösungen für die Life Sciences
Eine ergänzende Diskussion der Freigabegrenzen finden Sie unter „Agentische KI in den Life Sciences: Welche Entscheidungen lassen sich automatisieren – und welche erfordern eine menschliche Freigabe?“ : https://www.hermsglobal.com/de/agentic-ai-life-sciences-human-oversight/
Entdecken Sie die HERMS-Lösungen und nutzen Sie die Anfragefunktion der jeweiligen Lösung, um eine Demonstration anzufordern, die auf Ihren Workflow, Ihre Evidenz und Ihre Kontrollanforderungen ausgerichtet ist.
Relevante HERMS-Lösungen
Entdecken Sie HERMS-Lösungen für die in diesem Artikel behandelten Workflows: SYNCRA — Einreichungsintelligenz; AEVOX — Erfassung von Pharmakovigilanzfällen; VERIQIS — Integrität und Absicherung von Evidenz. Bewerten Sie jede Lösung anhand Ihres vorgesehenen Verwendungszwecks sowie Ihrer Evidenz- und Freigabeanforderungen.
Quellen und weiterführende Literatur
- FDA: Überlegungen zum Einsatz künstlicher Intelligenz zur Unterstützung regulatorischer Entscheidungen über Arzneimittel und biologische Produkte
- NIST: Rahmenwerk für das Risikomanagement künstlicher Intelligenz – Profil für generative künstliche Intelligenz
- NIST: Rahmenwerk für das KI-Risikomanagement
- OWASP: Sicherheitsprojekt für generative KI
- EMA: Reflexionspapier zum Einsatz künstlicher Intelligenz (KI) im Lebenszyklus von Arzneimitteln
- Europäische Kommission: EudraLex — Band 4 — Leitlinien zur Guten Herstellungspraxis
- EMA: ICH E6 — Gute klinische Praxis
- FDA: Part 11, elektronische Aufzeichnungen und elektronische Signaturen — Anwendungsbereich und Anwendung
- Europäische Kommission: KI-Verordnung
- Europäische Kommission: Konsultation der Interessenträger zu EudraLex Band 4 — Leitlinien zur Guten Herstellungspraxis: Kapitel 4, Anhang 11 und neuer Anhang 22
Entdecken Sie die Artikelreihe zur KI in der Pharmaindustrie
- Entscheidungsbefugnisse von KI und menschliche Aufsicht
- KI-Governance in den Life Sciences
- Kontrollen für menschliche Freigaben bei pharmazeutischer KI
- Real-World-Evidenz für regulatorische Verfahren und den Marktzugang
- Validierung und Änderungskontrolle KI-gestützter Medizinprodukte
- Globaler pharmazeutischer Marktzugang, Bewertung von Gesundheitstechnologien und Evidenz zur Preisgestaltung
Entdecken Sie die HERMS-Lösungen für die Life Sciences sowie KI-Governance und Rückverfolgbarkeit oder fordern Sie eine workfloworientierte Demonstration an.
Quelle: https://www.hermsglobal.com/agentic-vs-generative-ai-pharmaceuticals
