Global Life Sciences AI · Publicerad 16 november 2026 · HERMS Konsult DMCC
Se hur HERMS levererar integrerade Life Sciences lösningar.
Human-in-the-loop AI i läkemedel innebär att placera kompetenta, auktoriserade personer på de punkter där AI-stödda arbetet blir ett följdbeslut eller åtgärder. AI kan föreslå eller verkställa inom en definierad gräns, men ansvarsskyldigheten måste förbli tilldelad till lämpliga personer och processer. Effektiva godkännandekontroller anger bevisen granskas, beslutet är auktoriserat och den exakta åtgärden som tillåts - inte bara som klickar på en knapp. Tillämplig lag, GxP-procedurer och avsedd användning avgör var godkännande krävs; ytterligare grindar kan vara försiktiga organisatoriska kontroller. Del 11, elektroniska poster; elektroniska signaturer - Skop och tillämpning EudraLex – Volym 4 – riktlinjer för god tillverkning ICH E6 God klinisk praxis
Vad Human-in-the-Loop AI betyder i reglerade Life Sciences
Dessa termer beskriver operativa arrangemang, inte universella regleringskategorier. Ett arbetsflöde kan använda alla tre i olika skeden. Skillnaden är när en person kan påverka resultatet och om ingrepp kan uppstå innan oacceptabla konsekvenser.
| Operativt koncept | Mänskligt engagemang | Lämplig kontrollgräns |
|---|---|---|
| Människa-i-loopen | Recensioner eller godkänner innan en angiven åtgärd fortsätter | Konsekvensbeslut som kräver förhandsverifiering eller auktoriserat godkännande |
| Människa-på-the-loop | Övervakar bunden avrättning och kan ingripa | Övervakas, lämpligt reversibla åtgärder där ingripande är aktuellt |
| Människa-in-command | Ställ in policy, behörigheter och villkor för upphävande | Organisationsmyndighet över utplacering, delegation och fortsatt användning |
Övervakning är inte ett substitut för förhandsgodkännande där en erforderlig signatur eller ett kvalificerat beslut är inblandat. Att godkänna ett system förutsätter inte heller varje framtida åtgärd. EU AI Act Article 14 behandlar en effektiv tillsyn över tillämpliga högrisksystem, inklusive tolkning, medvetenhet om automationsfördomar, överskridande och säker avbrott, det kräver inte att en person godkänner varje produktion av varje läkemedels- AI-verktyg. Artikel 14: Mänsklig tillsyn
Design Godkännande grindar runt beslutsrisken - inte runt varje AI-utgång
Klassificera åtgärder snarare än dokument. Ett dokumentär arbetsflöde kan auto-klassificera en fil, kräver verifiering av en vetenskaplig sammanfattning och reserv slutlig arkivering auktorisation för den godkända sponsorprocessen. Fråga om konsekvens, reversibilitet, patient / produktpåverkan, rekord integritet, osäkerhet och nyhet.
En praktisk politik kan möjliggöra automatisk behandling för gränsade lågriskuppgifter, verifiering för rekommendationer som ingår i kontrollerat arbete och explicit tillstånd innan följd. Behandla nya produkter, okända jurisdiktioner, saknade källor och motstridiga bevis som eskalering utlöser. En modell förtroende poäng är inte en validerad sannolikhet för korrekthet om inte demonstreras för den specifika uppgiften. Detta är ett föreslaget genomförandemönster, inte en regleringsklassificering. överväganden för användning av artificiell intelligens för att stödja regleringsbeslutsfattande för läkemedel och biologiska produkter AI Risk Management Framework
Godkännande Gate Test
- Vilket exakt beslut eller åtgärder kommer detta godkännande att godkänna?
- Vem har behörighet och delegerad eller juridiskt tilldelad myndighet?
- Kan granskaren verifiera källan, versionen, osäkerheten och konsekvenserna?
- Kommer någon väsentlig förändring att ogiltigförklara godkännandet före genomförandet?
- Kan arbetsflödet stanna säkert och eskalera om bevis eller myndighet saknas?
Vilka läkemedelsbeslut behöver en mänsklig godkännandeport?
Beslut-till-Approval Matrix nedan är ett illustrativt styrningsförslag. Det kombinerar rekommenderade grindar med befintliga rollspecifika ansvarsområden i förekommande fall. Det hävdar inte att varje jurisdiktion mandat manuellt godkännande för varje noterad verksamhet. Faktiska roller och signaturer följer tillämplig lag och godkända förfaranden. Del 11, elektroniska poster; elektroniska signaturer - Skop och tillämpning EudraLex – Volym 4 – riktlinjer för god tillverkning ICH E6 God klinisk praxis
| Workflow | AI-tillåtna åtgärder | Mänsklig godkännandepunkt | Ansvarig roll (illustrativ) | Bevis fångade |
|---|---|---|---|---|
| Regleringsinlämning sign-off | Utkast, försoning och tekniskt kontrollera | Godkänna exakt slutpaket innan överföringen | auktoriserad sponsor/regulatorisk approver | Paketversion; destination; fordringar; godkännande |
| Säkerhetssignalbedömning | Kompilera bevis och föreslå prioriteringar | Validera/bedöm klinisk betydelse | Kvalificerad säkerhet/medicinsk granskare | fall; begränsningar; rationale |
| Fallbehandling | Extrahera kandidatfält; föreslå dubbletter | Lös konsekvens eller osäkra bedömningar | Säkerhetsprocessens ägare/reviewer | Ursprunglig rapport; redigeringar; klassificeringar |
| Kliniska protokollförändringar | Utkast till alternativ och konsekvenssammanfattning | Godkänn ändringar genom tillämplig sponsor/etik/regulatorisk väg | Sponsor och relevanta kliniska/statistiska roller | Versionsjämförelse; vetenskaplig motivering |
| Datafrågor | Upptäck inkonsekvenser; utkast till frågor | Godkänna konsekvent tolkning; rutinmässig routing kan vara bunden | Klinisk dataägare/investigator som relevant | Källa länkar; fråga historia |
| Medicinsk översyn | Sammanfatta bevis; flaggfrågor | Godkänna medicinska slutsatser | Kvalificerad medicinsk granskare | Bevis; osäkerhet; bedömning |
| Tillverkning av avvikelser | Montera poster; föreslå hypoteser | Godkänna utredningsslutsatser | Kvalitet/processägare | Record länkar; impact; root-cause basis |
| CAPA | Föreslå åtgärder och spåra uppgifter | Godkänna åtgärder och effektivitet stängning | Kvalitetsapprover | Rationale; implementering; effektivitet |
| Batch disposition | Kompilera bevisning och undantag | Behålla godkänd kvalitet/QP beslut | auktoriserad kvalitetsroll/QP om tillämpligt | Kontrollerade register; certifiering |
| Leverantörskvalifikation | Aggregerad aktsamhet och riskflaggor | Godkänna kvalifikationer eller begränsningar | Leverantörskvalitetsägare | Källa tillförlitlighet; olösta resultat |
| CGT bevis tolkning | Karta litteratur och identifiera luckor | Godkänna vetenskapliga/översättningsmässiga slutsatser | Relevanta vetenskapliga/kliniska specialister | Provenance; tillämplighet; begränsningar |
| Administrativ klassificering | Applicera godkända taggar eller routing | Undantagsgranskning; ingen grind behövs för alla lågrisk taggar | Processägare | Regel/konfiguration; transaktionshistorik |
Blueprint för ett AI-godkännande arbetsflöde
Använd en explicit statsmaskin: intag → källa / datakontroll → rekommendation → policy / riskkontroll → auktoriserad granskning → utförande → försonad historia → periodisk granskning. Kontrollerna nedan föreslås tekniska krav som gör organisationspolitiken verkställbar.
- Intag: tilldela en unik objektidentifierare, produkt/kontext och brådskande; bevara den ursprungliga ingången.
- Källa/datakontroll: verifiera provenans, behörigheter, version och nödvändiga fält; stoppa eller eskalera saknad kritisk information.
- Rekommendation: etikett AI-genererat innehåll, stödja bevis, antaganden och olöst osäkerhet.
- Policy/riskkontroll: tillämpa godkända regler utanför modellen; bestämma roll, godkännande och tillåtna verktyg.
- Granskning: erbjuda explicit godkänna, avvisa eller begära klargörande beslut; tystnad och förflutet tid är inte godkännande.
- Avrättning: binda godkännande till det exakta innehållet, målet, versionen och åtgärden; avvisa förföljelsegodkännanden och återkontrollmyndigheten.
- Historia och försoning: spela in det avrättade resultatet och erkännandet, inte bara avsikten; bevara den skrynkliga historien.
- Periodisk granskning: prov godkänt och avvisat arbete, granska undantag och ompröva om porten förblir effektiv.
Implementeringsdetaljer. Använd dubblettsäker exekveringsidentifierare så retries skapar inte en andra arkivering eller fall. Om innehållet ändras efter godkännande, returnera det för omprövning enligt definierade materialitetsregler. Ett revisionsspår kan visa att en felaktig process sprang exakt som utformad; det är bevis, inte bevis på efterlevnad.
Beslutsrättigheter, RACI och Segregation of Duties
Definiera vem som föreslår, recensioner, godkänner, administratörer och revisioner. Ett servicekonto kan förbereda arbete men bör inte bevilja sig godkännanderättigheter. Delegation behöver omfattning, effektiva datum, kompetens och en biträdande - inte delade referenser. Använd dubbelt godkännande där det är motiverat eller nödvändigt, inte som en universell ritual.
| Aktivitet | Ansvarsfull | Ansvarig | Konsulterad / oberoende kontroll |
|---|---|---|---|
| Definiera godkännandepolicy | Processägare | Utformad företags-/kvalitetsägare | Regelbunden; Medicinsk/PV; Rättslig; säkerhet |
| Förbered rekommendation | AI-operatör/systemägare | Processägare | Domänspecialist |
| Godkänna reglerad slutsats | auktoriserad domängranskare | Roll som tilldelats genom tillämpligt förfarande/lag | Relevanta tvärfunktionella experter |
| Administrera åtkomst | Systemadministratör | System/service ägare | Säkerhet; Kvalitet; Tillgångsgranskare |
| Släpp konfigurationsändring | Teknisk/förändringsägare | auktoriserad förändringsapprover | Kvalitet och drabbade domänägare |
| Revisionskontrolleffektivitet | oberoende garanti | Försäkringsledning | Process- och tekniska ägare |
Denna RACI är illustrativ. En namngiven ansvarsfull roll bör äga varje definierad godkännande beslut, medan professionella eller lagstadgade ansvar förbli separat identifierbar. Administratörer bör inte kunna skriva om godkännande historia utan att detektera. Nödåtkomst måste vara tidsbegränsad, motiverad och oberoende granskas. Del 11, elektroniska poster; elektroniska signaturer - Skop och tillämpning EudraLex – Volym 4 – riktlinjer för god tillverkning
Elektroniska poster, signaturer och inspektion-ready bevis
Ett arbetsflödesbekräftelse är inte automatiskt en juridiskt meningsfull elektronisk signatur. Bestäm om rekordet och signaturen omfattas av tillämpliga krav. FDA:s slutliga del 11 omfattningsvägledning är icke-bindande. Del 11 förblir i själva verket i förekommande fall, tillsammans med underliggande predikatregler. Dess begränsade verkställighetsskillnad är inte ett filtbefrielse från rekord integritet, auktoriserad åtkomst eller signaturkontroller. Del 11, elektroniska poster; elektroniska signaturer - Skop och tillämpning
EU GMP Annex 11 adresserar datoriserade system, medan bilaga 16 adresserar kvalificerad person certifiering och batch release. Automatiserade kontroller kan inte ersätta nödvändiga godkända certifieringar. Applicera kontroller till den reglerade verksamheten snarare än varumärkesprogramvara "GxP-kompatibel" utan en avsedd användningsbedömning. EudraLex – Volym 4 – riktlinjer för god tillverkning
Ett godkännandebevispaket bör ansluta den ursprungliga källan och versionen; relevanta system/modell/konfigurationsidentifierare; materialinmatningar och utgång; policykontroller; granskare identitet och roll; tidsstämpel med definierad tidszon referens; beslut och rationale; godkänt nyttolast; genomföranderesultat; och efterföljande korrigeringar. Registrera vad som är nödvändigt för att rekonstruera beslutet utan att diskriminera känsliga uppgifter.
Håll bevis i eller tillförlitligt kopplade till det utsedda systemet för rekord. En separat chatttranscript är otillräcklig om den godkända produktionen inte kan identifieras i den kontrollerade posten. Skydda lagring, tillgänglighet och förändringshistorik; visa att exporterade bevis bevarar innehåll och mening. Del 11, elektroniska poster; elektroniska signaturer - Skop och tillämpning
Undantag, Overrides och Human-AI Disagreement
Rutt saknade källor, oväntade ingångar, motsägelsefulla bevis och tillåtelse misslyckanden till namngivna undantag köer. Tilldela brådskande från företagskonsekvensen, inte från hur lätt objektet är att lösa. I säkerhets arbetsflöden får gransknings köer inte besegra tillämpliga rapporteringstidslinjer; definiera en godkänd brådskande återgång.
Kräver en proportionell orsak till materiella åsidosättanden och bevarar den ursprungliga rekommendationen. Varken automatisk acceptans eller automatisk avvisning av meningsskiljaktighet är lämplig. Skilja en granskare korrigering från ett godkänt undantag till politik; den senare behöver den utsedda eskaleringsvägen. Spåra nära missar samt utförda fel. AI Risk Management Framework
Hypotetiskt exempel: en agent föreslår att man godkänner en leverantör eftersom ett certifikat visas aktuellt, men granskaren finner att det täcker en annan tillverkningsplats. Avvisa rekommendationen, bevara felmatchen och undersöka liknande utgångar. Rätta källmatchningskontrollen genom förändringshantering snarare än att låta modellen ändra sina egna godkännanderegler.
Rollback är endast användbar när effekten är reversibel. En extern kommunikation kan behöva korrigering och konsekvensbedömning, inte tyst borttagning. Ett misslyckat utförande bör förbli synligt tills försonat; en retry får inte återanvända godkännande för materialförändrat innehåll eller en annan destination.
Validering, övervakning och förändringskontroll
Definiera avsedda användnings- och acceptanskriterier innan testning. Validera både den AI-stödda uppgiften och godkännandemekanismen: kan en obehörig roll godkänna, kan ett stalgodkännande verkställa, kan en avvisad punkt fortsätta, och kan bevisen rekonstrueras? Utmana saknade källor, motstridiga versioner, verktygsfel och samtidiga redigeringar. Del 11, elektroniska poster; elektroniska signaturer - Skop och tillämpning EudraLex – Volym 4 – riktlinjer för god tillverkning
Testgranskare som en del av arbetsflödet. Seed följdfel och bedöma om användarna upptäcker dem med de levererade bevisen och realistisk arbetsbelastning. Utbildning bör omfatta modellbegränsningar, eskalering och automationsförspänning - inte bara gränssnittsoperation. Översikt är svag om en behörig person saknar tid, bevis eller myndighet. Artikel 14: Mänsklig tillsyn
Kontrollförändringar av modeller, intäkter, hämtningsindex, behörigheter, routingregler och integrationer. Bedöm effekter och rerrör relevanta regressionstester. Monitor performancedrift och granskningsbelastning, med tröskelvärden för minskad autonomi eller suspension. Periodisk granskningskomplement - ersätter inte - bytessträngd omprövning. AI Risk Management Framework
Regleringslandskap: FDA, EMA, EU AI Act och GxP
| Källa | Status/omfattning | Godkännande-kontroll implikation |
|---|---|---|
| FDA drog / biologisk AI-vägledning | Januari 2025 utkast; icke-bindande; inte för genomförande | credibility; ingen allmän tillåtelse för autonomt godkännande |
| EMA AI livscykel reflektion papper | Antagen september 2024, EU:s vetenskapliga reflektionspapper | Riskbedömning av livscykeln och lämplig ansvarsskyldighet |
| EU AI Act Article 14 | Bindande bestämmelse för tillämpliga högrisksystem; fasad tillämplighet | Effektiv riskproportionerlig tillsyn, tolkning, åsidosättande och säker stopp |
| FDA Part 11 / omfångsriktning | Förordning i förekommande fall, september 2003 vägledning är icke-bindande | Bedöm register/signaturer, identitet, myndighet och predikatregler |
| EU GMP / ICH GCP | Aktivitets- och jurisdiktionsberoende förväntningar | Behålla tillämplig kvalitet och sponsor/investigatoransvar |
| Nist Ai Rmf | Frivillig ram; AI RMF 1.0 revision pågår | Organisera tillsyn, utvärdering och övervakning utan att kräva certifiering |
Dessa källor är inte utbytbara rättsliga instrument. FDA: s januari 2025-dokument förblir explicit utkast, EMA: s reflektionspapper antas, och NIST: s ram är frivillig. ICH E 6(R 3) principer och bilaga 1 är effektiva i EU från 23 juli 2025, bilaga 2 från 15 januari 2027. regionalt genomförande skiljer sig åt. Reflektionspapper om användning av artificiell intelligens (AI) i läkemedlets livscykel överväganden för användning av artificiell intelligens för att stödja regleringsbeslutsfattande för läkemedel och biologiska produkter AI Risk Management Framework ICH E6 God klinisk praxis
Från och med 16 november 2026 rapporterar kommissionen allmänna AI Act-ansökan från 2 augusti 2026, med reviderade högriskdatum 2 december 2027 för bilaga III och 2 augusti 2028 för produktrelaterade system i bilaga I. Klassificering beror på det faktiska systemet, syftet och relevanta bestämmelser; inte alla läkemedels-AI är högrisk. Läkemedel och GxP förpliktelser förblir separat tillämpliga. Tidsplanen här hänförs till kommissionens sammanfattning snarare än en fullständig konsoliderad rättslig bedömning. AI Act
Implementation Roadmap och Oversight KPIs
Dagar 1-30: lagerföljande åtgärder, identifiera auktoriserade roller och kartlägga aktuella poster, signaturer och undantag. Dagar 31-60: konfigurera grindar, bevispaket, behörigheter och nedgångsvägar; test mot förutbestämda godkännandekriterier. Dagar 61 - 90: fullständig mänsklig acceptans, lösa kritiska fynd och möjliggöra övervakad produktion inom godkända gränser. Detta är planeringsfönster, inte garanterade drifttider.
| KPI | Definition / begränsning |
|---|---|
| Override rate | Materialförändringar/avslag dividerat med granskade rekommendationer; låga priser kan återspegla självbelåtenhet |
| Escalation rate | Objekt eskalerade dividerat med berättigade objekt; segment efter orsak och brådskande |
| Granska turnaround | Tid från översynsklar status till ansvarigt beslut; inspektera brådskande outliers |
| Unsupported Rekommendationsfrekvens | Provtagna rekommendationer som saknar tillräckliga stödbevis |
| Audit-trail fullkomlighet | Samplade beslut som innehåller alla nödvändiga beviselement |
| Falsk-negativ eskalering | Adjudikerade objekt som behöver eskalering som arbetsflödet missade |
| Post-godkännande korrigeringar | Godkända objekt senare korrigeras för materiellt fel; skilja svårighetsgrad |
Etablera nämnare, provtagning, ägare och interventionströsklar innan lanseringen. Pair hastighet med oberoende kvalitetsgranskning och kökapacitet. En snabbare grind är inte bättre om granskare missar följdfel eller godkänner objekt utanför deras kompetens.
Hur HERMS stöder människans ansvar
"Modell föreslår; regler motor beslutar; revisionsled register" är en föreslagen HERMS operativ strategi, inte ett krav på validerad utplacerad kapacitet. Här bestämmer regler motorn routing och om avrättningsvillkoren är uppfyllda; det ersätter inte en persons krävs professionell eller juridiskt tilldelad dom.
Enligt detta tillvägagångssätt är rekommendationerna fortfarande kopplade till verifierbara bevis, rollbaserade grindar kontroll följdåtgärder, och osäkerhet utlöser upptrappning. HERMS beskriver lösningsområden som täcker regleringsarbete, säkerhet, tillverkning och avancerade terapier. Deras lämplighet och faktiska godkännandekontroller måste fastställas för den avsedda utplaceringen, som inte härrör från portföljbeskrivningar.
Utforska HERMS lösningar för att diskutera en demonstration fokuserad på dina godkännandegränser, beviskrav och ansvarsfulla roller.
Ofta frågade frågor
Behöver varje AI-utgång mänskligt godkännande?
Nej. Bundad lågriskbehandling kan vara automatisk inom godkända gränser. Före godkännande hör när det krävs enligt lag eller förfarande, eller motiveras av risk. Dokument som åtgärder är auto-bearbetade, verifierade eller explicit auktoriserade; inte likställa ett genererat utkast med tillstånd att agera.
Kan en agent godkänna sin egen rekommendation?
Inte där oberoende eller auktoriserad mänskligt godkännande krävs. Som en föreslagen kontroll bör separat rekommendationsgenerering från tillståndskontroller och godkännanderättigheter. Modellen bör inte ge sig själv auktoritet, ändra sitt eget tröskelvärde eller använda en annan persons referenser.
Är ett förtroende tröskel nog?
Nej. Förtroende kan vara dåligt kalibrerad och kan inte fastställa källvalidering, regleringstillämpbarhet eller myndighet. Kombinera utvärderad aktivitetsprestanda med hårda policykontroller, bevistillgänglighet och undantagsutlösare. Nya eller följdfall kan kräva granskning även när poängen är hög.
Vad gör ett elektroniskt godkännande försvarbart?
En försvarsrekord identifierar den auktoriserade personen, beslut, bevis, godkänd version och efterföljande åtgärd. Formala elektroniska signaturkrav beror på tillämpliga regler. En generisk godkännandeknapp eller detaljerad revisionslogg ensam konstaterar inte att dessa krav uppfylldes. Del 11, elektroniska poster; elektroniska signaturer - Skop och tillämpning
Hur ska akuta undantag hanteras?
Använda förutbestämda brådskande regler, en namngiven biträdande, tidsupptrappning och en godkänd nedgång. Tystnad får inte bli bemyndigande. Spela in vad som gjordes och varför, sedan granska undantaget. Brådskande bör påskynda ansvarsfull hantering, inte tyst ta bort nödvändiga säkerhets- eller kvalitetskontroller.
Hur undviker lag granskning av flaskhalsar?
Reservportar för följdbeslut, rutt efter kompetens och brådskande, ge koncisa bevispaket och övervaka kökapacitet. Testa om granskare kan upptäcka fel. Förbättra källkontroller och routing snarare än att svara på trängsel genom att försvaga ett nödvändigt godkännande.
När måste ett godkännande upprepas?
Upprepa det när en väsentlig förändring påverkar det godkända innehållet, destinationen, åtgärden eller stödgrunden, enligt definierade förfaranden. Också ompröva när myndigheten löper ut eller en relevant ny risk visas. Designa systemet för att avvisa förföljande godkännande snarare än att förvänta sig att granskare märker varje nedströmsändning.
För relaterade perspektiv behandlar de föregående artiklarna automationsgränser, agentisk kontra generativ arkitektur och företags AI-styrning. Denna artikel fokuserar på genomförandekontroller som kopplar dessa policyer till varje konsekvensbeslut.
Diskutera en styrningsberedskapsbedömning eller arbetsflödesinriktad demonstration genom HERMS lösningar , med godkännanderättigheter, undantagshantering och inspektionsbevis som uttryckliga utvärderingskriterier.
Relevanta lösningar HERMS
Utforska HERMS lösningar som är relevanta för de arbetsflöden som diskuteras i denna artikel: ATTESTRA - integritet och datastyrning; VERIQIS - bevis integritet och försäkran; AXION - tillverkningskvalitetUtvärdera varje lösning mot din avsedda användning, bevis och godkännandekrav.
Källor och vidare läsning
- Del 11, elektroniska poster; elektroniska signaturer - Skop och tillämpning
- EudraLex – Volym 4 – riktlinjer för god tillverkning
- ICH E6 God klinisk praxis
- Artikel 14: Mänsklig tillsyn
- överväganden för användning av artificiell intelligens för att stödja regleringsbeslutsfattande för läkemedel och biologiska produkter
- AI Risk Management Framework
- Reflektionspapper om användning av artificiell intelligens (AI) i läkemedlets livscykel
- AI Act
Utforska läkemedelsserien AI
- AI beslutsmyndighet och mänsklig tillsyn
- Agentisk kontra generativ AI i läkemedel
- AI-styrning i Life Sciences
- Real-world bevis för tillsyns- och marknadstillträde
- AI medicinsk utrustning validering och förändring kontroll
- Global farmaceutisk marknadstillträde, HTA och prissättning
Utforska HERMS livsvetenskapliga lösningar och AI styrning och spårbarheteller begära en arbetsflödesfokuserad demonstration.
