全球生命科学 AI · 2026 年 11 月 16 日出版 · HERMS 咨询公司 DMCC
探索HERMS生命科学平台和我们的监管事务专业知识。
生命科学中的代理人工智能可以自动化有界任务,例如检索批准的信息、检查文档完整性、起草内容和通过受控系统进行路由工作。 影响患者安全、产品质量、受监管承诺或合法分配职责的决定需要进行适当的验证,并在需要时获得授权的人工批准。 边界取决于预期用途、管辖权、证据和可逆性,而不是“代理人”的标签。 组织应仅在书面范围内授予执行权,并提供可追溯的证据、监测和有效干预。 使用人工智能来支持药品和生物制品的监管决策的考虑 关于在药品生命周期中使用人工智能 (AI) 的反思论文 Eudralex Volume 4 —— 良好生产规范指南
1. AI 系统代理是什么?
生成人工智能产生内容:文本、代码、图像或结构化输出。 代理系统将模型与目标、计划、检索、工具访问和多步骤执行相结合。 它可以搜索批准的存储库、比较证据、起草响应并创建审查任务。 传统的工作流自动化遵循预定义的规则; 决策支持会通知一个人,而不必采取行动。 这些类别重叠:代理可以协调确定性检查,生成模型可以仍然是绘图辅助。 本文使用“代理”作为操作描述,而不是监管分类。 使用人工智能支持药品和生物产品监管决策的考虑 人工智能风险管理框架:生成人工智能概况
委派的行动会改变风险。 幻觉需求可能成为错误的归档任务; 工具错误可能会更新错误的记录。 及时注入可以将检索到的内容转换为恶意指令。 数据泄露暴露了机密或个人信息。 自动化偏见鼓励审稿人接受合理的输出; 模型漂移可能会破坏以前演示的性能。 治理必须涵盖整个系统及其权限,而不仅仅是语言模型。 AI 风险管理框架 人工智能风险管理框架:生成人工智能概况
2.边界设定测试
在允许任何自主操作之前,记录八个问题。 这些是拟议的治理控制,而不是八项普遍规定的法律测试:
- 影响:该行动是否会影响患者、产品、试验终点、安全报告或具有约束力的承诺?
- 可逆性:在外部依赖或伤害发生之前可以撤消吗?
- 签署:适用的规则、授权或程序是否将批准分配给合格角色?
- 证据:来源权威、当前、完整且适用于本产品和管辖权?
- 敏感性:将访问或传输哪些个人、基因组、商业或受控信息?
- 可追溯性:独立审稿人可以重建证据、版本、工具调用和批准吗?
- 监测:是否可以快速检测到故障以防止无法接受的后果?
- 升级:谁收到异常,多快,如果该人不可用,会发生什么?
如果后果性诉讼是不可逆的,则证据不完整或缺失所需的签字,停止执行并进行审查。 仅低不确定性是不够的:代理人可能会犯错。 预先约定的限制应指定允许的系统、字段、操作和异常条件。 这种方法可操作化风险管理,而不是创建新的法律豁免。 使用人工智能支持药品和生物产品监管决策的考虑 AI 风险管理框架
3. 决策权矩阵
下面的矩阵是拟议的运营政策。 在适用的情况下,人力控制点将建议的保障措施与现有的特定角色义务相结合; 它们不是声称每个司法管辖区都需要手动批准每个列出的任务。 首先应用当地规则和批准的质量体系。 使用人工智能支持药品和生物制品监管决策的考虑 关于在药品生命周期中使用人工智能 (AI) 的反思性论文 ICH E6 良好的临床 实践 Eudralex Volume 4 — 良好制造实践指南 人工智能支持的医疗设备
| 用例 | 什么人工智能可能自动化 | 人类控制点 | 理由/管理风险 |
|---|---|---|---|
| 监管情报 | 检索、分类和比较已发布的更改 | 在更改义务之前验证适用性 | 源头新鲜度; 管辖权和产品范围 |
| 档案起草 | 准备与证据相关的文本和一致性检查 | 负责任的专家验证索赔并批准受控内容 | 不受支持的索赔; 错误的来源解释 |
| 最终申请授权 | 组装包并运行技术检查 | 授权赞助商流程在传输前批准确切归档 | 外部承诺; 签名和门户权限 |
| 协议设计 | 比较设计; 起草替代品 | 适用的赞助商、临床/统计和伦理/监管审查(如适用) | 参与者保护; 科学有效性 |
| 资格/招聘 | 根据定义的标准预筛选批准的数据 | 合格的现场工作人员确认资格和同意程序 | 错误分类; 隐私; 调查员责任 |
| 安全摄入/分类 | 提取字段; 识别潜在的重复项; 紧急路线 | 审查例外和后续分类 | 错过的案例; 报告时钟; 不完整的叙述 |
| 信号验证 | 筛选模式和编译支持证据 | 合格的安全人员验证重要性 | 统计关联不是确定的因果关系 |
| 医学评估 | 起草叙述并收集相关证据 | 适当合格的医学审查 | 临床解释; 利益-风险后果 |
| 偏差/CAPA | 链接记录; 提出原因和行动 | 质量部门批准调查结论和关闭 | 虚假的因果归因; 无效的纠正措施 |
| 批量发布 | 编译记录; 标记例外; 支持发布测试 | 保留所需的授权质量/QP 决策 | 产品质量; 合法分配的认证 |
| 基因编辑策略 | 比较文献并提出研究假设 | 实验前的科学、生物安全和伦理批准 | 脱靶效应; 不完整的翻译证据 |
| 市场准入分析 | 运行批准的场景和证据比较 | HEOR / Access 团队验证假设和声明 | 偏向输入; 不受支持的付款人价值索赔 |
| 设备更改控制 | 检测变化; 执行批准的测试 | 责任制造商评估监管影响 | 预期用途; 安全/有效性; 变革计划边界 |
4. 监管事务和提交授权
监管事务中的人工智能非常适合证据组装:将要求与档案部分相匹配,检测不一致的术语并标记缺失的参考资料。 检索必须保留文档版本、发布日期、产品范围和来源位置。 在审查之前,提议的要求应始终是候选人解释; 抓取权威网站并不能确定适用的规则。 FDA 2025 年 1 月的草案侧重于特定使用环境的可信度,而不是自动化提交的一揽子许可。 使用人工智能来支持药品和生物产品的监管决策的考虑
单独起草、发布和授权。 代理人可以准备电子提交,并在适当控制的流程下进行技术转让。 这不会使代理人成为负责任的申请人或授权签字人。 将批准绑定到确切的软件包版本和目标; 任何后续重大更改应使该批准无效。 这些是推荐的控制措施,而适用的途径决定了实际归档和签名要求。 使用人工智能支持药品和生物产品监管决策的考虑 第 11 部分,电子记录; 电子签名 — 范围和应用
5.临床研究与药物开发
AI 临床试验工具可以比较方案选项,识别不一致的标准并支持可行性分析。 候选设计不是协议批准。 审查必须测试终点相关性、统计假设、操作可行性和参与者负担。 同样,资格预筛选应确定合格评估的候选人,而不是根据未经证实的摘要或缺失数据默默地排除人员。 关于在药品生命周期中使用人工智能(AI)的反思论文 ICH E6 良好的临床实践
ICH E6(R3) 将审判行为锚定在赞助商和研究人员的责任以及风险成比例的质量中。 在欧盟,其原则和附件 1 自 2025 年 7 月 23 日起适用; 附件 2 计划于 2027 年 1 月 15 日生效。这些日期不应推广到每个国家。 验证实际的试验工作流程,包括数据来源和升级,而不是将模型基准作为 GCP 适用性的证明。 ICH E6 良好的临床实践
6.药物警戒:摄入不是医学评估
药物警戒中的 AI 应将文书准备与相应的安全判断区分开来。 提取、语言帮助和重复建议可以支持案例处理。 严重性、可报告性、因果性和信号意义可能涉及医学解释和特定管辖权的义务。 拟议的控制措施是将不确定或相应的决定发送给合格的安全人员,同时保留原始措辞和每个更改领域的基础。 不要从一般 AI 指南中推断出对每个案例进行人工审查的普遍法律要求。 关于在药品生命周期中使用人工智能(AI)的反思论文 人工智能风险管理框架:生成性人工智能概况
假设示例:代理人收到不良事件电子邮件,记录接收时间,保留原始信息,提取候选字段并标记可能的住院治疗。 它开启了一项紧急审查任务,而不是因为缺少出院信息而决定报告是非严重的。 审稿人检查原件并批准评估; 受控工作流准备报告并跟踪确认。 如果报告时间至关重要,则升级路径必须防止审查队列成为延迟的原因。 这是一个说明性的工作流程,而不是经过验证的 HERMS 实现。
7. 细胞和基因疗法
细胞和基因治疗中的人工智能可以将基因组证据、过程知识和文献与研究问题联系起来。 在得到适当的实验证据和专家评估的支持之前,基因编辑策略建议仍然是假设。 明显强的序列水平预测并不能确定临床安全性、可制造性或可接受的长期风险。 将研究探索与权威分开,以启动实验或做出治疗决策。 使用人工智能支持药品和生物制品的监管决策的考虑 关于在药品生命周期中使用人工智能(AI)的反思性论文
在涉及敏感的基因组信息、捐赠者身份或产品-患者联系的情况下,使用更严格的界限。 推荐的控制包括受限访问、批准的数据环境、独立检查的身份映射和明确的实验批准门。 欧盟 GMP 在第四部分中包含专门的高级治疗指南; 通用聊天机器人评估不能替代产品的适用控制。 Eudralex 第 4 卷 — 良好生产实践指南
8. GMP 制造和质量
在制造中,代理可以组装批次记录、标记非典型结果并提出偏差或 CAPA 调查路径。 他们不应该仅仅因为需要的字段就将相关性转化为确认的根本原因或进行密切调查。 质量审查应根据批准的程序评估证据、影响、行动和有效性。 当引入 AI 组件时,现有的 GMP 计算机化系统和验证期望仍然相关。 Eudralex 第 4 卷 — 良好生产实践指南
批量数据审查与批量发布不同。 欧盟附件 16 涉及合格人员认证和批次释放; 自动证据准备并不能取代所需的责任。 实时发布测试是一个单独的受控概念,不允许通用代理批准批次。 委员会的 2025 年磋商会拟议修订后的附件 11 和新的 AI 附件 22; 经审查的来源没有确定附件 22 的最终通过,因此本文将其视为草案。 Eudralex 第 4 卷 — 良好生产实践指南 Eudralex 第 4 卷 — 第 4 章、附件 11 和新附件 22
9. 受管制的医疗器械
后台助手和诊断或治疗相关的软件功能可能面临不同的制度。 FDA 基于预期用途和适用法律,而不是 AI 作为抽象技术,对医疗设备进行监管。 因此,被纳入受监管设备的代理需要对其实际功能、用户、患者影响和生命周期变化进行评估。 人工智能化医疗设备
设备更改控制不能被简化为“改进的模型”。 对模型、提示、检索或连接工具的更改可能会改变性能或预期用途。 适用预定变更控制计划的,其授权范围很重要; 自我修改并非不受限制的许可。 FDA 的资源页面将最终 PCCP 指南与 AI 设备生命周期指南草案区分开来。 人工智能化医疗设备
10. HERMS AI决策权框架
下面的 HERMS AI 决策权框架是一个说明性的提议模型,而不是官方的监管标准。 它没有断言 HERMS 当前实施或已经验证了每个级别。 将级别分配给单个操作,而不是整个部门或产品。
| 级别 | 允许的权限 | 必需的边界 |
|---|---|---|
| L1 — 检索 | 检索批准的信息 | 源可见性; 访问控制 |
| L2 — 证据分析 | 比较和结构证据 | 出处; 质量检查; 不确定 |
| L3 - 决定建议 | 推荐一个动作 | 间接依赖前的验证 |
| L4 — 条件执行 | 在审批门后执行定义的步骤 | 批准绑定到行动、内容和目的地 |
| L5 — 有限自主权 | 自主执行预定义的低风险操作 | 记录的限制; 监控; 干预; 升级 |
L5 不是到期奖,并不意味着不受限制的自主权。 工作流可以使用 L5 标记文档,L2 比较证据,L4 传输批准的包裹。 要求的临床、监管、安全或质量签署仍在代理人的授权范围之外。 选择最低的权威性可以减少错误的后果,而不会阻止有用的自动化。
11. 治理、GXP 验证和审计跟踪
使用预期用途和系统边界启动 GXP AI 验证。 指定输入、输出、用户、连接系统、允许的操作和不可接受的结果。 评估具有代表性和具有挑战性的案例,包括缺失信息、相互冲突的来源、多语言记录、恶意内容、不可用的工具和不正确的权限。 在测试之前建立验收标准,并验证完整的工作流程,而不是孤立的模型。 这是基于现有可信度和质量体系原则的拟议风险实施方法。 使用人工智能来支持药品和生物制品的监管决策的注意事项 人工智能风险管理框架 Eudralex 第 4 卷 — 良好生产规范指南
维持足以重建相关源版本、模型/配置标识符、材料指令、工具调用、输出、审阅者更改、批准和执行结果的 AI 审计跟踪。 根据批准的政策保留与决策相关的证据; 不要不分青红皂白地记录敏感数据或假设隐藏的模型推理可用。 FDA 第 11 部分的适用性取决于电子记录、签名和谓词规则。 其指导包括有限的执法自由裁量权,而不是全面豁免可信记录或潜在义务。 第 11 部分,电子记录; 电子签名 — 范围和应用
通过影响评估和比例回归测试控制模型、提示、检索索引和集成的更新。 给代理最少特权的服务标识,从写入权限中分开读取,并将检索到的文档视为数据,而不是指令。 只有当审稿人有能力、时间、来源访问权限和拒绝或停止行动的权力时,人才监督才有意义。 监控自动化偏差以及模型误差。 AI 风险管理框架 人工智能风险管理框架:生成人工智能概况
12. 国际监管格局
美国 FDA 2025 年 1 月的药物/生物 AI 文件仍被标记为草案,不具约束力,不在经过验证的官方页面上实施。 其核心贡献是与使用环境相关的基于风险的可信度评估。 EMA 2024 年 9 月的反思论文被采用并跨越了药品生命周期,但它本身并不是对自主代理的普遍授权或禁止。 使用人工智能支持药品和生物制品的监管决策的考虑 关于在药品生命周期中使用人工智能(AI)的反思性论文
欧盟人工智能法案是一个单独的跨部门法律框架。 不要将每个制药 AI 工具归类为高风险:评估预期目的、范围、提供者/部署者角色和相关分类途径。 对于适用高风险规定范围内的系统,人工监督是系统和运营要求; 不应将其作为一个普遍规则,即一个人必须点击每个人工智能输出的批准。 AI 法案 — 监管框架和应用程序时间表
截至2026年11月16日,委员会更新的实施页面报告了2026年8月2日起的一般申请,以及2025年2月2日起的AI素养/禁令规定以及2025年8月2日起的GPai规则。 人工智能综合,委员会报告附件三附件三适用于2027年12月2日起的高风险规则和附件I自2028年8月2日起与产品相关的高风险规则。其2026年7月27日的公告确认该修正案的生效。 较旧的 2026/2027 摘要不应不加批判地重复使用。 在本研究中,修改后的操作法律文本无法完全检索; 法律截止日期依赖需要最终的法律文本检查。 AI 法案 — 监管框架和应用程序时间表 AI Omnibus 生效
NIST AI RMF 及其生成的 AI 配置文件是自愿风险管理资源,而不是产品批准或 GXP 认证。 国际 GXP 原则通过当地实施和适用的质量体系开始运作; ICH 的采用并不能确定在全球范围内相同的生效日期。 将这些资源一起使用,而不将它们视为可互换的法律文书。 AI 风险管理框架 人工智能风险管理框架:生成人工智能概况 ICH E6 良好的临床实践
13. 部署路线图和有意义的 KPI
按行动和风险部署,而不是通过“自动化监管”的广泛承诺。 首次盘点决策并分配负责任的所有者。 第二个地图权限、记录、义务和审查点。 第三个使用现实的故障在隔离环境中进行验证。 第四次在阴影模式下运行,反对合格的审查。 第五,启用受监控异常和经过测试的停止机制的有限生产操作。 只有在书面证据支持额外的风险后,才扩大授权。 这些是推荐的部署步骤,而不是监管机构规定的项目阶段。 使用人工智能来支持药品和生物制品的监管决策的注意事项 人工智能风险管理框架 Eudralex 第 4 卷 — 良好生产规范指南
使用暴露安全和控制性能的 KPI:对裁决记录的临界场错误率; 不受支持的索赔率; 错过紧急病例率; 异常解决时间; 批准旁路尝试; 源到索赔的可追溯性完整性; 和变化后的回归失败。 跟踪重做和质量的周转时间,而不是它们。 在发布前定义分母、抽样、严重性加权、所有者和干预阈值。 在所有用例中,没有通用的数值目标是可以防御的。 使用人工智能支持药品和生物产品监管决策的考虑 AI 风险管理框架
14. 常见问题
AI 可以实现哪些决策自动化?
良好的候选者是有界的,具有可靠输入和可观察结果的可逆操作:检索、完整性检查、文档标记和受控任务路由。 执行权应保持比分析能力更窄。 在允许任何写入操作之前应用边界设置测试,并在源、允许范围或下游效应不确定时升级。 使用人工智能支持药品和生物产品监管决策的考虑 AI 风险管理框架
哪些决定需要人工批准?
在适用法律或授权程序将责任分配给合格人员的情况下保留批准。 作为推荐的政策,还要求审查相应的临床、安全、质量和监管判断。 没有单一的全球列表涵盖每个 AI 应用程序; 按管辖权、预期用途和风险定义边界。 关于在药品生命周期中使用人工智能 (AI) 的反思论文 ICH E6 良好的临床实践 Eudralex 第 4 卷 — 良好制造实践指南
人工智能可以提交监管档案吗?
它可以支持组装、验证和潜在控制的传输。 将技术步骤与赞助商授权、认证和签名区分开来。 推荐的门将批准与确切的包装和目的地结合,重大更改触发重新批准。 适用的备案途径和电子记录要求仍然适用于提交的内容。 使用人工智能支持药品和生物产品监管决策的考虑 第 11 部分,电子记录; 电子签名 — 范围和应用
AI 可以批准一批药品吗?
不要将自动记录审查或实时发布测试等同于合法分配的发布责任。 在欧盟,合格人员认证和批量发布在附件 16 中进行了处理。人工智能可能支持证据评估,但不取代所需的授权认证。 检查其他地方的司法管辖区和产品特定的发布框架。 Eudralex 第 4 卷 — 良好生产实践指南
人在环路上与环上人有何不同?
在这篇文章中,人在循环中是指一个人在相应的行动进行之前验证或批准。 人在环上是指一个人监督有界的自动化过程并可以进行干预。 这些是操作描述,而不是普遍的法定类别。 当干预来得太晚或缺少所需的事先批准时,监督是不充分的。 AI 风险管理框架
欧盟人工智能法案实际上需要什么?
要求取决于系统、目的、行为者和适用的规定。 相关的高风险要求包括监督和其他风险控制,但并非所有制药工具都是高风险的。 佣金页报告在 2027 年 12 月和 2028 年 8 月修订的高风险分阶段实施日期。在依赖于特定部署的最后期限之前确认修改后的法律文本。 AI 法案 — 监管框架和应用程序时间表 AI Omnibus 生效
如何在 GXP 设置中验证 AI 代理?
根据预先指定的接受标准定义预期用途、评估风险并测试完整配置的工作流程。 包括源质量、权限、异常处理、集成和人工审核,不仅可以回答准确性。 保持证据、受控版本、变更评估和与受监管活动成比例的持续监测。 验证是特定于用途的,而不是基础模型的永久徽章。 使用人工智能来支持药品和生物制品的监管决策的注意事项 Eudralex 第 4 卷 — 良好生产规范指南
人工审稿人是否足以使代理安全?
不可以。审阅者无法补偿缺失的源、不当权限、不可见的操作或无法管理的队列。 审查需要能力、时间、权威和可用的证据。 将其与技术限制、有意义的异常处理和监控相结合; 否则,审查步骤可能会成为仪式性的,而自动化偏差仍然存在。 AI 风险管理框架 人工智能风险管理框架:生成人工智能概况
15. 实用的 HERMS 视角
Herms Global 提供了涵盖发现、开发、监管、制造、市场准入和患者安全的互联生命科学智能产品组合。 实际评估问题是拟议的部署是否可以证明其预期用途的证据来源、特定角色的权威和适当的控制,而不是它是否带有“代理”标签。 本文不独立验证平台功能或监管适用性。 AI 生命科学软件 | 25 HERMS 解决方案
探索HERMS 解决方案 并使用相关的解决方案查询请求以您的工作流程、批准范围和证据要求为重点的演示。
相关的 HERMS 解决方案
探索与本文讨论的工作流程相关的 HERMS 解决方案:rulexis — 监管策略; syncra — 提交智能; vigilix — 安全信号情报; Genix — 基因治疗和基因组编辑。 根据您的预期用途、证据和批准要求评估每种解决方案。
资料来源和进一步阅读
- 使用人工智能来支持药品和生物产品的监管决策的考虑
- 关于在药品生命周期中使用人工智能 (AI) 的反思论文
- Eudralex 第 4 卷 — 良好生产实践指南
- 人工智能风险管理框架:生成人工智能概况
- AI 风险管理框架
- ICH E6 良好的临床实践
- 人工智能化医疗设备
- 第 11 部分,电子记录; 电子签名 — 范围和应用
- Eudralex 第 4 卷—第 4 章、附件 11 和新附件 22 的利益相关者的磋商
- AI 法案 — 监管框架和应用程序时间表
- AI Omnibus 生效
