← Alla insikter
Herms · Insikter

AI med mänsklig tillsyn: utformning av godkännandekontroller för reglerade beslut i läkemedelsindustrin

Global Life Sciences AI · Publicerad 16 november 2026 · HERMS Konsult DMCC

Se hur HERMS levererar integrerade Life Sciences lösningar.

Human-in-the-loop AI i läkemedel innebär att placera kompetenta, auktoriserade personer på de punkter där AI-stödda arbetet blir ett följdbeslut eller åtgärder. AI kan föreslå eller verkställa inom en definierad gräns, men ansvarsskyldigheten måste förbli tilldelad till lämpliga personer och processer. Effektiva godkännandekontroller anger bevisen granskas, beslutet är auktoriserat och den exakta åtgärden som tillåts - inte bara som klickar på en knapp. Tillämplig lag, GxP-procedurer och avsedd användning avgör var godkännande krävs; ytterligare grindar kan vara försiktiga organisatoriska kontroller. Del 11, elektroniska poster; elektroniska signaturer - Skop och tillämpning EudraLex – Volym 4 – riktlinjer för god tillverkning ICH E6 God klinisk praxis

Vad Human-in-the-Loop AI betyder i reglerade Life Sciences

Dessa termer beskriver operativa arrangemang, inte universella regleringskategorier. Ett arbetsflöde kan använda alla tre i olika skeden. Skillnaden är när en person kan påverka resultatet och om ingrepp kan uppstå innan oacceptabla konsekvenser.

Operativt konceptMänskligt engagemangLämplig kontrollgräns
Människa-i-loopenRecensioner eller godkänner innan en angiven åtgärd fortsätterKonsekvensbeslut som kräver förhandsverifiering eller auktoriserat godkännande
Människa-på-the-loopÖvervakar bunden avrättning och kan ingripaÖvervakas, lämpligt reversibla åtgärder där ingripande är aktuellt
Människa-in-commandStäll in policy, behörigheter och villkor för upphävandeOrganisationsmyndighet över utplacering, delegation och fortsatt användning

Övervakning är inte ett substitut för förhandsgodkännande där en erforderlig signatur eller ett kvalificerat beslut är inblandat. Att godkänna ett system förutsätter inte heller varje framtida åtgärd. EU AI Act Article 14 behandlar en effektiv tillsyn över tillämpliga högrisksystem, inklusive tolkning, medvetenhet om automationsfördomar, överskridande och säker avbrott, det kräver inte att en person godkänner varje produktion av varje läkemedels- AI-verktyg. Artikel 14: Mänsklig tillsyn

Design Godkännande grindar runt beslutsrisken - inte runt varje AI-utgång

Klassificera åtgärder snarare än dokument. Ett dokumentär arbetsflöde kan auto-klassificera en fil, kräver verifiering av en vetenskaplig sammanfattning och reserv slutlig arkivering auktorisation för den godkända sponsorprocessen. Fråga om konsekvens, reversibilitet, patient / produktpåverkan, rekord integritet, osäkerhet och nyhet.

En praktisk politik kan möjliggöra automatisk behandling för gränsade lågriskuppgifter, verifiering för rekommendationer som ingår i kontrollerat arbete och explicit tillstånd innan följd. Behandla nya produkter, okända jurisdiktioner, saknade källor och motstridiga bevis som eskalering utlöser. En modell förtroende poäng är inte en validerad sannolikhet för korrekthet om inte demonstreras för den specifika uppgiften. Detta är ett föreslaget genomförandemönster, inte en regleringsklassificering. överväganden för användning av artificiell intelligens för att stödja regleringsbeslutsfattande för läkemedel och biologiska produkter AI Risk Management Framework

Godkännande Gate Test

  • Vilket exakt beslut eller åtgärder kommer detta godkännande att godkänna?
  • Vem har behörighet och delegerad eller juridiskt tilldelad myndighet?
  • Kan granskaren verifiera källan, versionen, osäkerheten och konsekvenserna?
  • Kommer någon väsentlig förändring att ogiltigförklara godkännandet före genomförandet?
  • Kan arbetsflödet stanna säkert och eskalera om bevis eller myndighet saknas?

Vilka läkemedelsbeslut behöver en mänsklig godkännandeport?

Beslut-till-Approval Matrix nedan är ett illustrativt styrningsförslag. Det kombinerar rekommenderade grindar med befintliga rollspecifika ansvarsområden i förekommande fall. Det hävdar inte att varje jurisdiktion mandat manuellt godkännande för varje noterad verksamhet. Faktiska roller och signaturer följer tillämplig lag och godkända förfaranden. Del 11, elektroniska poster; elektroniska signaturer - Skop och tillämpning EudraLex – Volym 4 – riktlinjer för god tillverkning ICH E6 God klinisk praxis

WorkflowAI-tillåtna åtgärderMänsklig godkännandepunktAnsvarig roll (illustrativ)Bevis fångade
Regleringsinlämning sign-offUtkast, försoning och tekniskt kontrolleraGodkänna exakt slutpaket innan överföringenauktoriserad sponsor/regulatorisk approverPaketversion; destination; fordringar; godkännande
SäkerhetssignalbedömningKompilera bevis och föreslå prioriteringarValidera/bedöm klinisk betydelseKvalificerad säkerhet/medicinsk granskarefall; begränsningar; rationale
FallbehandlingExtrahera kandidatfält; föreslå dubbletterLös konsekvens eller osäkra bedömningarSäkerhetsprocessens ägare/reviewerUrsprunglig rapport; redigeringar; klassificeringar
Kliniska protokollförändringarUtkast till alternativ och konsekvenssammanfattningGodkänn ändringar genom tillämplig sponsor/etik/regulatorisk vägSponsor och relevanta kliniska/statistiska rollerVersionsjämförelse; vetenskaplig motivering
DatafrågorUpptäck inkonsekvenser; utkast till frågorGodkänna konsekvent tolkning; rutinmässig routing kan vara bundenKlinisk dataägare/investigator som relevantKälla länkar; fråga historia
Medicinsk översynSammanfatta bevis; flaggfrågorGodkänna medicinska slutsatserKvalificerad medicinsk granskareBevis; osäkerhet; bedömning
Tillverkning av avvikelserMontera poster; föreslå hypoteserGodkänna utredningsslutsatserKvalitet/processägareRecord länkar; impact; root-cause basis
CAPAFöreslå åtgärder och spåra uppgifterGodkänna åtgärder och effektivitet stängningKvalitetsapproverRationale; implementering; effektivitet
Batch dispositionKompilera bevisning och undantagBehålla godkänd kvalitet/QP beslutauktoriserad kvalitetsroll/QP om tillämpligtKontrollerade register; certifiering
LeverantörskvalifikationAggregerad aktsamhet och riskflaggorGodkänna kvalifikationer eller begränsningarLeverantörskvalitetsägareKälla tillförlitlighet; olösta resultat
CGT bevis tolkningKarta litteratur och identifiera luckorGodkänna vetenskapliga/översättningsmässiga slutsatserRelevanta vetenskapliga/kliniska specialisterProvenance; tillämplighet; begränsningar
Administrativ klassificeringApplicera godkända taggar eller routingUndantagsgranskning; ingen grind behövs för alla lågrisk taggarProcessägareRegel/konfiguration; transaktionshistorik

Blueprint för ett AI-godkännande arbetsflöde

Använd en explicit statsmaskin: intag → källa / datakontroll → rekommendation → policy / riskkontroll → auktoriserad granskning → utförande → försonad historia → periodisk granskning. Kontrollerna nedan föreslås tekniska krav som gör organisationspolitiken verkställbar.

  • Intag: tilldela en unik objektidentifierare, produkt/kontext och brådskande; bevara den ursprungliga ingången.
  • Källa/datakontroll: verifiera provenans, behörigheter, version och nödvändiga fält; stoppa eller eskalera saknad kritisk information.
  • Rekommendation: etikett AI-genererat innehåll, stödja bevis, antaganden och olöst osäkerhet.
  • Policy/riskkontroll: tillämpa godkända regler utanför modellen; bestämma roll, godkännande och tillåtna verktyg.
  • Granskning: erbjuda explicit godkänna, avvisa eller begära klargörande beslut; tystnad och förflutet tid är inte godkännande.
  • Avrättning: binda godkännande till det exakta innehållet, målet, versionen och åtgärden; avvisa förföljelsegodkännanden och återkontrollmyndigheten.
  • Historia och försoning: spela in det avrättade resultatet och erkännandet, inte bara avsikten; bevara den skrynkliga historien.
  • Periodisk granskning: prov godkänt och avvisat arbete, granska undantag och ompröva om porten förblir effektiv.

Implementeringsdetaljer. Använd dubblettsäker exekveringsidentifierare så retries skapar inte en andra arkivering eller fall. Om innehållet ändras efter godkännande, returnera det för omprövning enligt definierade materialitetsregler. Ett revisionsspår kan visa att en felaktig process sprang exakt som utformad; det är bevis, inte bevis på efterlevnad.

Beslutsrättigheter, RACI och Segregation of Duties

Definiera vem som föreslår, recensioner, godkänner, administratörer och revisioner. Ett servicekonto kan förbereda arbete men bör inte bevilja sig godkännanderättigheter. Delegation behöver omfattning, effektiva datum, kompetens och en biträdande - inte delade referenser. Använd dubbelt godkännande där det är motiverat eller nödvändigt, inte som en universell ritual.

AktivitetAnsvarsfullAnsvarigKonsulterad / oberoende kontroll
Definiera godkännandepolicyProcessägareUtformad företags-/kvalitetsägareRegelbunden; Medicinsk/PV; Rättslig; säkerhet
Förbered rekommendationAI-operatör/systemägareProcessägareDomänspecialist
Godkänna reglerad slutsatsauktoriserad domängranskareRoll som tilldelats genom tillämpligt förfarande/lagRelevanta tvärfunktionella experter
Administrera åtkomstSystemadministratörSystem/service ägareSäkerhet; Kvalitet; Tillgångsgranskare
Släpp konfigurationsändringTeknisk/förändringsägareauktoriserad förändringsapproverKvalitet och drabbade domänägare
Revisionskontrolleffektivitetoberoende garantiFörsäkringsledningProcess- och tekniska ägare

Denna RACI är illustrativ. En namngiven ansvarsfull roll bör äga varje definierad godkännande beslut, medan professionella eller lagstadgade ansvar förbli separat identifierbar. Administratörer bör inte kunna skriva om godkännande historia utan att detektera. Nödåtkomst måste vara tidsbegränsad, motiverad och oberoende granskas. Del 11, elektroniska poster; elektroniska signaturer - Skop och tillämpning EudraLex – Volym 4 – riktlinjer för god tillverkning

Elektroniska poster, signaturer och inspektion-ready bevis

Ett arbetsflödesbekräftelse är inte automatiskt en juridiskt meningsfull elektronisk signatur. Bestäm om rekordet och signaturen omfattas av tillämpliga krav. FDA:s slutliga del 11 omfattningsvägledning är icke-bindande. Del 11 förblir i själva verket i förekommande fall, tillsammans med underliggande predikatregler. Dess begränsade verkställighetsskillnad är inte ett filtbefrielse från rekord integritet, auktoriserad åtkomst eller signaturkontroller. Del 11, elektroniska poster; elektroniska signaturer - Skop och tillämpning

EU GMP Annex 11 adresserar datoriserade system, medan bilaga 16 adresserar kvalificerad person certifiering och batch release. Automatiserade kontroller kan inte ersätta nödvändiga godkända certifieringar. Applicera kontroller till den reglerade verksamheten snarare än varumärkesprogramvara "GxP-kompatibel" utan en avsedd användningsbedömning. EudraLex – Volym 4 – riktlinjer för god tillverkning

Ett godkännandebevispaket bör ansluta den ursprungliga källan och versionen; relevanta system/modell/konfigurationsidentifierare; materialinmatningar och utgång; policykontroller; granskare identitet och roll; tidsstämpel med definierad tidszon referens; beslut och rationale; godkänt nyttolast; genomföranderesultat; och efterföljande korrigeringar. Registrera vad som är nödvändigt för att rekonstruera beslutet utan att diskriminera känsliga uppgifter.

Håll bevis i eller tillförlitligt kopplade till det utsedda systemet för rekord. En separat chatttranscript är otillräcklig om den godkända produktionen inte kan identifieras i den kontrollerade posten. Skydda lagring, tillgänglighet och förändringshistorik; visa att exporterade bevis bevarar innehåll och mening. Del 11, elektroniska poster; elektroniska signaturer - Skop och tillämpning

Undantag, Overrides och Human-AI Disagreement

Rutt saknade källor, oväntade ingångar, motsägelsefulla bevis och tillåtelse misslyckanden till namngivna undantag köer. Tilldela brådskande från företagskonsekvensen, inte från hur lätt objektet är att lösa. I säkerhets arbetsflöden får gransknings köer inte besegra tillämpliga rapporteringstidslinjer; definiera en godkänd brådskande återgång.

Kräver en proportionell orsak till materiella åsidosättanden och bevarar den ursprungliga rekommendationen. Varken automatisk acceptans eller automatisk avvisning av meningsskiljaktighet är lämplig. Skilja en granskare korrigering från ett godkänt undantag till politik; den senare behöver den utsedda eskaleringsvägen. Spåra nära missar samt utförda fel. AI Risk Management Framework

Hypotetiskt exempel: en agent föreslår att man godkänner en leverantör eftersom ett certifikat visas aktuellt, men granskaren finner att det täcker en annan tillverkningsplats. Avvisa rekommendationen, bevara felmatchen och undersöka liknande utgångar. Rätta källmatchningskontrollen genom förändringshantering snarare än att låta modellen ändra sina egna godkännanderegler.

Rollback är endast användbar när effekten är reversibel. En extern kommunikation kan behöva korrigering och konsekvensbedömning, inte tyst borttagning. Ett misslyckat utförande bör förbli synligt tills försonat; en retry får inte återanvända godkännande för materialförändrat innehåll eller en annan destination.

Validering, övervakning och förändringskontroll

Definiera avsedda användnings- och acceptanskriterier innan testning. Validera både den AI-stödda uppgiften och godkännandemekanismen: kan en obehörig roll godkänna, kan ett stalgodkännande verkställa, kan en avvisad punkt fortsätta, och kan bevisen rekonstrueras? Utmana saknade källor, motstridiga versioner, verktygsfel och samtidiga redigeringar. Del 11, elektroniska poster; elektroniska signaturer - Skop och tillämpning EudraLex – Volym 4 – riktlinjer för god tillverkning

Testgranskare som en del av arbetsflödet. Seed följdfel och bedöma om användarna upptäcker dem med de levererade bevisen och realistisk arbetsbelastning. Utbildning bör omfatta modellbegränsningar, eskalering och automationsförspänning - inte bara gränssnittsoperation. Översikt är svag om en behörig person saknar tid, bevis eller myndighet. Artikel 14: Mänsklig tillsyn

Kontrollförändringar av modeller, intäkter, hämtningsindex, behörigheter, routingregler och integrationer. Bedöm effekter och rerrör relevanta regressionstester. Monitor performancedrift och granskningsbelastning, med tröskelvärden för minskad autonomi eller suspension. Periodisk granskningskomplement - ersätter inte - bytessträngd omprövning. AI Risk Management Framework

Regleringslandskap: FDA, EMA, EU AI Act och GxP

KällaStatus/omfattningGodkännande-kontroll implikation
FDA drog / biologisk AI-vägledningJanuari 2025 utkast; icke-bindande; inte för genomförandecredibility; ingen allmän tillåtelse för autonomt godkännande
EMA AI livscykel reflektion papperAntagen september 2024, EU:s vetenskapliga reflektionspapperRiskbedömning av livscykeln och lämplig ansvarsskyldighet
EU AI Act Article 14Bindande bestämmelse för tillämpliga högrisksystem; fasad tillämplighetEffektiv riskproportionerlig tillsyn, tolkning, åsidosättande och säker stopp
FDA Part 11 / omfångsriktningFörordning i förekommande fall, september 2003 vägledning är icke-bindandeBedöm register/signaturer, identitet, myndighet och predikatregler
EU GMP / ICH GCPAktivitets- och jurisdiktionsberoende förväntningarBehålla tillämplig kvalitet och sponsor/investigatoransvar
Nist Ai RmfFrivillig ram; AI RMF 1.0 revision pågårOrganisera tillsyn, utvärdering och övervakning utan att kräva certifiering

Dessa källor är inte utbytbara rättsliga instrument. FDA: s januari 2025-dokument förblir explicit utkast, EMA: s reflektionspapper antas, och NIST: s ram är frivillig. ICH E 6(R 3) principer och bilaga 1 är effektiva i EU från 23 juli 2025, bilaga 2 från 15 januari 2027. regionalt genomförande skiljer sig åt. Reflektionspapper om användning av artificiell intelligens (AI) i läkemedlets livscykel överväganden för användning av artificiell intelligens för att stödja regleringsbeslutsfattande för läkemedel och biologiska produkter AI Risk Management Framework ICH E6 God klinisk praxis

Från och med 16 november 2026 rapporterar kommissionen allmänna AI Act-ansökan från 2 augusti 2026, med reviderade högriskdatum 2 december 2027 för bilaga III och 2 augusti 2028 för produktrelaterade system i bilaga I. Klassificering beror på det faktiska systemet, syftet och relevanta bestämmelser; inte alla läkemedels-AI är högrisk. Läkemedel och GxP förpliktelser förblir separat tillämpliga. Tidsplanen här hänförs till kommissionens sammanfattning snarare än en fullständig konsoliderad rättslig bedömning. AI Act

Implementation Roadmap och Oversight KPIs

Dagar 1-30: lagerföljande åtgärder, identifiera auktoriserade roller och kartlägga aktuella poster, signaturer och undantag. Dagar 31-60: konfigurera grindar, bevispaket, behörigheter och nedgångsvägar; test mot förutbestämda godkännandekriterier. Dagar 61 - 90: fullständig mänsklig acceptans, lösa kritiska fynd och möjliggöra övervakad produktion inom godkända gränser. Detta är planeringsfönster, inte garanterade drifttider.

KPIDefinition / begränsning
Override rateMaterialförändringar/avslag dividerat med granskade rekommendationer; låga priser kan återspegla självbelåtenhet
Escalation rateObjekt eskalerade dividerat med berättigade objekt; segment efter orsak och brådskande
Granska turnaroundTid från översynsklar status till ansvarigt beslut; inspektera brådskande outliers
Unsupported RekommendationsfrekvensProvtagna rekommendationer som saknar tillräckliga stödbevis
Audit-trail fullkomlighetSamplade beslut som innehåller alla nödvändiga beviselement
Falsk-negativ eskaleringAdjudikerade objekt som behöver eskalering som arbetsflödet missade
Post-godkännande korrigeringarGodkända objekt senare korrigeras för materiellt fel; skilja svårighetsgrad

Etablera nämnare, provtagning, ägare och interventionströsklar innan lanseringen. Pair hastighet med oberoende kvalitetsgranskning och kökapacitet. En snabbare grind är inte bättre om granskare missar följdfel eller godkänner objekt utanför deras kompetens.

Hur HERMS stöder människans ansvar

"Modell föreslår; regler motor beslutar; revisionsled register" är en föreslagen HERMS operativ strategi, inte ett krav på validerad utplacerad kapacitet. Här bestämmer regler motorn routing och om avrättningsvillkoren är uppfyllda; det ersätter inte en persons krävs professionell eller juridiskt tilldelad dom.

Enligt detta tillvägagångssätt är rekommendationerna fortfarande kopplade till verifierbara bevis, rollbaserade grindar kontroll följdåtgärder, och osäkerhet utlöser upptrappning. HERMS beskriver lösningsområden som täcker regleringsarbete, säkerhet, tillverkning och avancerade terapier. Deras lämplighet och faktiska godkännandekontroller måste fastställas för den avsedda utplaceringen, som inte härrör från portföljbeskrivningar.

Utforska HERMS lösningar för att diskutera en demonstration fokuserad på dina godkännandegränser, beviskrav och ansvarsfulla roller.

Ofta frågade frågor

Behöver varje AI-utgång mänskligt godkännande?

Nej. Bundad lågriskbehandling kan vara automatisk inom godkända gränser. Före godkännande hör när det krävs enligt lag eller förfarande, eller motiveras av risk. Dokument som åtgärder är auto-bearbetade, verifierade eller explicit auktoriserade; inte likställa ett genererat utkast med tillstånd att agera.

Kan en agent godkänna sin egen rekommendation?

Inte där oberoende eller auktoriserad mänskligt godkännande krävs. Som en föreslagen kontroll bör separat rekommendationsgenerering från tillståndskontroller och godkännanderättigheter. Modellen bör inte ge sig själv auktoritet, ändra sitt eget tröskelvärde eller använda en annan persons referenser.

Är ett förtroende tröskel nog?

Nej. Förtroende kan vara dåligt kalibrerad och kan inte fastställa källvalidering, regleringstillämpbarhet eller myndighet. Kombinera utvärderad aktivitetsprestanda med hårda policykontroller, bevistillgänglighet och undantagsutlösare. Nya eller följdfall kan kräva granskning även när poängen är hög.

Vad gör ett elektroniskt godkännande försvarbart?

En försvarsrekord identifierar den auktoriserade personen, beslut, bevis, godkänd version och efterföljande åtgärd. Formala elektroniska signaturkrav beror på tillämpliga regler. En generisk godkännandeknapp eller detaljerad revisionslogg ensam konstaterar inte att dessa krav uppfylldes. Del 11, elektroniska poster; elektroniska signaturer - Skop och tillämpning

Hur ska akuta undantag hanteras?

Använda förutbestämda brådskande regler, en namngiven biträdande, tidsupptrappning och en godkänd nedgång. Tystnad får inte bli bemyndigande. Spela in vad som gjordes och varför, sedan granska undantaget. Brådskande bör påskynda ansvarsfull hantering, inte tyst ta bort nödvändiga säkerhets- eller kvalitetskontroller.

Hur undviker lag granskning av flaskhalsar?

Reservportar för följdbeslut, rutt efter kompetens och brådskande, ge koncisa bevispaket och övervaka kökapacitet. Testa om granskare kan upptäcka fel. Förbättra källkontroller och routing snarare än att svara på trängsel genom att försvaga ett nödvändigt godkännande.

När måste ett godkännande upprepas?

Upprepa det när en väsentlig förändring påverkar det godkända innehållet, destinationen, åtgärden eller stödgrunden, enligt definierade förfaranden. Också ompröva när myndigheten löper ut eller en relevant ny risk visas. Designa systemet för att avvisa förföljande godkännande snarare än att förvänta sig att granskare märker varje nedströmsändning.

För relaterade perspektiv behandlar de föregående artiklarna automationsgränser, agentisk kontra generativ arkitektur och företags AI-styrning. Denna artikel fokuserar på genomförandekontroller som kopplar dessa policyer till varje konsekvensbeslut.

Diskutera en styrningsberedskapsbedömning eller arbetsflödesinriktad demonstration genom HERMS lösningar , med godkännanderättigheter, undantagshantering och inspektionsbevis som uttryckliga utvärderingskriterier.

Relevanta lösningar HERMS

Utforska HERMS lösningar som är relevanta för de arbetsflöden som diskuteras i denna artikel: ATTESTRA - integritet och datastyrning; VERIQIS - bevis integritet och försäkran; AXION - tillverkningskvalitetUtvärdera varje lösning mot din avsedda användning, bevis och godkännandekrav.

Källor och vidare läsning

Utforska HERMS livsvetenskapliga lösningar och AI styrning och spårbarheteller begära en arbetsflödesfokuserad demonstration.

FOR TECHNICAL ENQUIRIES,
CALL +971505528077

Vi utvecklar analysverktyg som förändrar livsvetenskaperna.

HERMS är intelligensplattformen. Dess Ansökningar är beslutsmotorerna. HERMS experttjänster stöder implementering och reglerad utförande av HERMS intelligensekosystemet, från tillsyns- och marknadstillträde till farmakovigilans, överensstämmelse och kvalitet.

Drogregistreringstidslinjer per land · SFDA, MOHAP, EDE, EDA, EMA och FDA tidslinjer · GCC central registrering