制药行业的智能体式人工智能与生成式人工智能:关键区别及应用
全球生命科学人工智能 · 发布日期:2026年11月16日 · HERMS Consultancy DMCC
生成式人工智能生成内容或结构化输出,例如科学摘要或提取的数据。智能体式人工智能通过规划、工具和反馈,协调以目标为导向的多步骤工作,并可能跨多个互联系统采取行动。智能体可以将生成式模型作为一个组成部分,与规则、工作流软件和人工审核共同使用。在制药行业,适当的选择取决于任务、证据、行动权限及其后果。
这两种架构本身都无法保证可靠性、数据完整性或法规合规性;这些特性取决于实际实施的系统及其控制措施。
1. 区别在于工作流责任
比较制药行业的智能体式人工智能与生成式人工智能时,实际问题并不是哪一个名称更先进,而是组织需要一个答案、一项可重复执行的事务,还是一套经过编排的工作步骤。医学写作助手可以总结已批准的研究报告,而无需负责周边流程。智能体则可以检索更新后的证据,将其与草稿比较,提出修改建议,并分派审核任务。
规则引擎可以因缺少必填字段而拒绝处理,无需生成语言。这些是功能上的区别,而不是不同的监管类别。
智能体式并不一定意味着自主运行。智能体可以在每个审批关口暂停,而简单的确定性程序也可以自动执行。反过来,生成式应用可以调用工具,却不必被赋予长期运行工作流的责任。应评估实际配置:它可以读取、推断、写入和触发什么。这种操作层面的视角,与根据预期用途和使用情境,而非产品品牌宣传来评估风险的思路一致。
2. 架构如何运作
基础模型通过广泛的数据训练而成,并可适配不同任务。大语言模型(LLM)就是其中侧重语言的一类。提示词提供指令和上下文,但不能替代访问控制或可执行的规格说明。模型输出具有概率性,即生成过程由学习到的模式驱动。提高解码过程的可重复性,并不能证明事实准确性或科学有效性。
检索增强生成(RAG)在运行时向模型提供检索到的证据。在采用RAG的制药人工智能系统中,应保留文件标识、版本、日期和来源位置。检索可以改善输出的证据基础,但过时来源、不当分块、遗漏文件或错误解读仍会导致不可靠的答案。显示的引用必须确实支持相关主张;存在超链接并不等于忠实反映来源。
工具和应用程序编程接口(API)将应用连接到资料库和业务系统。函数调用使模型能够提出结构化的工具调用请求;应用代码必须验证参数并授权执行。工作流引擎管理执行顺序、队列、重试和异常。规则引擎执行明确的条件,例如必填字段或分派阈值。
确定性组件对给定输入遵循既定逻辑,但仍可能因规则缺陷、数据错误或集成故障而失效。
记忆或状态机制跨步骤保存任务进度和相关上下文。它需要明确的责任归属、保存期限限制,以及防止跨产品或跨客户数据混杂的保护措施。评估组件测试选定的输出质量;可观测性机制揭示执行事件和故障。审批关口将决策与承担责任的人员相联系。因此,合理的参考架构为:已批准的来源 → 检索 → 模型辅助分析 → 确定性检查 → 获准的工具调用 → 审核 → 受监控的执行。
这是一种建议的设计模式,并非声称HERMS已实施经过验证的同类系统。
3. 核心技术比较
| 维度 | 生成式人工智能 | 智能体式人工智能 | 传统规则 |
|---|---|---|---|
| 目的 | 生成或转换内容 | 协调目标导向的工作 | 执行明确的逻辑 |
| 工作单位 | 回答或结构化输出 | 具有状态的多步骤任务 | 规则、事务或固定流程 |
| 工作流责任 | 通常提供边界明确的辅助 | 可协调执行顺序和任务分派 | 预定义的流程路径 |
| 工具访问 | 可选 | 常见;受权限限制 | 程序化集成 |
| 状态/记忆 | 可选的上下文 | 任务状态通常持续保存 | 明确的记录和变量 |
| 人工交互 | 输入提示词、检查、编辑 | 设定目标、批准、监督 | 配置、处理异常 |
| 结果 | 文本、代码或提取字段 | 输出以及拟议/已执行的行动 | 规定的输出或行动 |
| 适应性 | 灵活的语言解读 | 在边界内动态选择步骤 | 新情况需要明确逻辑 |
| 失效模式 | 编造、遗漏、偏见 | 模型错误及级联工具错误 | 规则错误、输入错误、流程脆弱 |
| 评估 | 忠实度与任务准确性 | 端到端结果及权限 | 规则覆盖度与正确性 |
| 可审计性 | 记录来源和版本 | 另需记录调用、状态和批准 | 记录逻辑、输入和事务 |
| 安全边界 | 输入、上下文和生成输出 | 另包括身份、工具和外部影响 | 应用及集成权限 |
| 复杂度 | 因情况而异;随证据锚定需求增加 | 业务运行复杂度通常更高 | 对于稳定且有边界的任务通常更简单 |
本比较描述的是常见模式,而非绝对边界。这三种方法都可以使用数据库、API和人工审批。当灵活的语言解读需要输入受控的业务流程时,混合方法通常更为合适。其目标是将不确定性分配给可检查的组件,同时将授权机制置于模型生成的文本之外。
4. 制药应用场景选择矩阵
下列矩阵是一项建议的选择辅助工具,并非监管授权。“混合”是指将生成式分析、有边界的编排、确定性控制和明确责任的审核相结合。任何条目均不授权系统独立行使法律规定应由特定人员作出的签署或批准。
| 应用场景 | 最适合的方法 | 期望输出 | 必要控制 | 业务约束 |
|---|---|---|---|---|
| 医学写作 | 生成式人工智能 | 关联证据的草稿 | 科学审核;忠实于来源 | 仅使用已批准的证据 |
| 法规情报 | 混合 | 经核实的变更及影响分析任务 | 来源与适用性审核 | 司法辖区/产品范围 |
| 申报资料组装 | 混合 | 已映射且一致的资料包 | 版本控制;申报批准 | 电子出版规范 |
| 文献监测 | 混合 | 按优先级排列的证据队列 | 覆盖度检查;核实引用 | 数据库访问与使用权 |
| 不良事件接收 | 混合 | 候选字段和分诊任务 | 保留原始资料;合格人员审核 | 报告时限和语言 |
| 信号分析 | 混合 | 模式与证据摘要 | 安全性评估;统计检查 | 不完整或有偏差的报告 |
| 方案起草 | 生成式人工智能 | 备选设计及草稿 | 临床/统计审核 | 科学与伦理约束 |
| 试验中心监查 | 混合 | 风险标记及审核任务 | 申办方监督;数据检查 | 访问权限及中心背景 |
| 细胞与基因治疗(CGT)证据映射 | 混合 | 相互关联的科学证据图谱 | 专科核验 | 敏感的基因组/工艺数据 |
| 偏差/纠正与预防措施(CAPA) | 混合 | 调查证据及建议 | 质量部门批准结论 | 因果关系需要调查 |
| 批次审核 | 混合 | 记录检查及异常事项 | 保留所需的授权放行程序 | 经过验证的记录及接口 |
| 供应预测 | 混合 | 预测模型生成的预测及解释 | 回测;计划人员审核 | 预测模型/数据质量 |
| 医疗器械变更管理 | 混合 | 变更评估及测试任务 | 制造商的法规评估 | 预期用途;获批变更范围 |
供应预测说明了一个重要边界:预测可以依靠传统统计模型或机器学习模型,生成式人工智能负责解释结果,智能体则协调数据收集。并非每一种有用的制药人工智能能力都属于生成式能力。对于规则稳定的算术运算、必填字段检查和访问决策,应使用确定性规则,而不是让模型临场发挥。
5. 两个假设性的端到端工作流
示例A:从法规情报到获批的申报资料任务
假设性工作流:定时运行的连接器检测到监管机构发布文件发生变化。规则保存其URL、发布元数据和先前版本。智能体检索相关文本、比较变更,并提出可能受影响的产品和申报资料章节。法规事务专员在批准任务前,核查一手来源、生效日期、过渡条款及实际适用性。随后,工作流仅创建针对指定产品和目标位置获批的任务。
模型幻觉可能凭空编造要求;上下文缺失可能导致将征求意见稿误认为最终指南;工具错误可能把工作关联到错误产品。控制措施包括提供来源摘录、明确列示未知事项、使用产品标识、防止重复,以及将批准与准确的任务载荷绑定。若来源不可访问,系统应将其作为异常转交处理,而非推断缺失的义务。本示例提出的是控制建议,并非已部署案例。
示例B:从文献筛查到责任明确的安全性评估
假设性工作流:获批的检索流程获取文献,筛查组件标记潜在病例,规则检查候选字段及可能的重复记录。权限受限的智能体准备临时病例记录和紧急分诊任务。药物警戒人员核查全文、补全缺失信息,并开展适当评估。需要报告时,由受控流程按照适用程序管理授权、传输和接收确认。
模型可能误读否定表达、遗漏表格中的事件,或将研究人群与个例报告混淆。上下文缺失可能扭曲时间顺序;工具重试可能创建重复记录。应保留原始证据,将提取字段标记为候选值,确保重试具有幂等性,并监控紧急队列。不要将自动筛查等同于医学评估,也不要让审核延误导致无法遵守适用的报告时限。
这些是建议的保护措施,并不意味着每一个病例都必须经过人工批准这一普遍要求。
6. 应部署哪种人工智能方法?
在选择供应商或架构之前,请使用以下决策树:
- 任务能否在明确且稳定的条件下重复执行?先从规则入手。仅在确需解读可变证据的环节增加人工智能。
- 需求是否主要是起草、总结或提取?先采用边界明确的生成式人工智能和经过核实的来源。
- 系统是否必须协调多个步骤或通过工具采取行动?可考虑智能体式编排;固定顺序的流程可能仍只需要工作流引擎。
- 数据是否敏感,或错误是否可能影响患者、产品或受监管记录?限制来源和环境,评估风险,并收窄行动权限。
- 行动是否难以撤销?应要求更严格的执行前检查及适用的人工签批,而不是仅依靠监控。
- 能否重建证据和行动过程?如果不能,应在投入生产使用前重新设计审计追踪。
- 核验工作是否消耗了预期收益?衡量总审核和返工成本,而不只是生成速度。
- 流程能否回退到确定性检查或人工处理?如果不能,应在部署前定义安全停止机制和升级处理路径。
选择能够满足验收标准的最简单架构。工作流越长,出现上下文丢失、集成故障和级联错误的机会就越多。只有当新增自主性的边际业务价值超过其核验、安全和维护负担时,才有理由增加自主性。这是一项实用的选择原则,而非对量化投资回报率的断言。
7. 风险、安全与保护措施
对于虚构引用,需要核实来源是否支持相关主张,而不是简单要求模型“确保准确”。提示词注入是指不可信内容试图改变系统行为;应将检索到的文件和工具响应视为数据,而非权威指令。工具滥用和权限过大的智能体,可能将解读错误转化为记录更改或信息泄露。应在应用代码中落实最小权限原则,隔离服务身份,并对行动和目标位置设置允许清单。
在提示词、检索、记忆、日志以及与服务商的安排中,保护敏感的临床、个人、基因组和商业数据。实行职责分离:提出重大行动的组件不应自行授予执行许可。维持网络安全控制、监控、可行时的回滚机制,以及异常升级处理。对于不可逆的外部行动,预防和审批比承诺事后撤销更重要。
模型漂移、来源变化和配置更新可能使先前的评估失效。应控制模型、提示词、索引、工具和规则的版本;评估变更,并重新运行相关测试。人工审核也需要测试:审核人员必须获得可用证据、充足时间以及拒绝输出的权力。将LLM、规则和治理相结合,是有意设计的控制架构,并非承认技术失败。
8. GxP影响与验证
并非每项人工智能应用都会自动成为GxP系统。应确定预期用途、受监管活动、作为依据的记录,以及对患者安全、产品质量和数据完整性的潜在影响。头脑风暴助手与准备批次处置决策所用证据的系统,具有不同的保证要求。验证或保证工作应证明系统适合所配置的用途,而不是宣称基础模型在所有情形下均合规。
以ALCOA+作为数据完整性的设计视角:可归属、清晰易读、同步记录、原始、准确,以及完整、一致、持久和可用。在实践中,应保存原件,明确由谁或什么组件创建记录,记录时间戳和变更,并保留可用证据。这些概念并不会使每次对话都成为受监管记录;边界由相关活动及记录义务决定。
对于电子记录和电子签名,应在适用时评估21 CFR Part 11,包括其所依托的基础法规要求。FDA关于适用范围的指南不具有法律约束力,其中说明了有限的执法裁量;Part 11仍然有效。欧盟GMP附录11涉及计算机化系统,而GCP要求适用于相关临床试验活动。在欧盟,ICH E6(R3)原则及附件1于2025年7月23日起生效;附件2将于2027年1月15日起生效。各国实施日期有所不同。
9. 截至2026年11月16日的监管格局
经核实的官方页面显示,FDA于2025年1月发布的、关于使用人工智能支持药品和生物制品监管决策的指南,仍标注为草案,且不供实施。该草案提出针对特定使用情境的、基于风险的可信度框架。EMA关于药品生命周期的反思文件于2024年9月30日通过并首次发布。这两份文件均未认定智能体式架构本身即可获得监管认可。
欧盟《人工智能法案》是具有约束力、按风险界定适用范围的立法;不应将所有制药助手都归类为高风险。欧盟委员会当前页面指出,该法案一般性规定自2026年8月2日起适用,人工智能素养及禁止性规定自2025年2月2日起适用,通用人工智能(GPAI)规则自2025年8月2日起适用。该页面还称,“AI Omnibus”于2026年7月27日生效,并调整了高风险系统的适用日期:附件III所列系统为2027年12月2日,附件I中与产品相关的系统为2028年8月2日。
这些日期已根据欧盟委员会的摘要进行核对;但无法通过所提供的EUR-Lex路径获取经修订的现行法律文本,因此,若要据此作出法律判断,仍需最终核查正式文本。
NIST人工智能风险管理框架(AI RMF)及其生成式人工智能专项框架属于自愿性资源,而非法律规定的批准。欧盟委员会就修订GMP附录11及拟议的人工智能附录22开展的咨询于2025年10月7日结束。所审查来源未能证实附录22已获最终通过;当前第4卷目录仍列示2011年1月版附录11。应将拟议文本视为草案,而非已生效的要求。
10. 实施路线图与关键绩效指标
实用路线图为:界定应用场景 → 风险分级 → 来源和数据架构 → 控制措施 → 沙盒评估 → 人工验收 → 受监控的生产运行 → 定期再验证。在界定范围时,明确输出和责任人。在评估中,应纳入代表性案例和对抗性案例、证据缺失、权限失效及工具中断等情况。人工验收应证明审核人员能够识别可能造成重大后果的错误。
重大变更也应触发再验证,而不应仅按日历周期开展。
为以下八项指标设定基线、分母、严重程度类别和干预阈值:
- 经来源核实的准确率:正确且有证据支持的主张数,除以抽样中可评估的主张数。
- 关键事项漏检:在规定审核样本中,经裁定为关键但未被识别的事项。
- 人工修正率:被实质性修改或拒绝的建议,按原因分类。
- 审核用时:从符合条件的输入到责任人员完成审核之间的时间。
- 异常解决情况:异常已持续的时间及结案用时,并单独展示紧急事项。
- 未经授权的工具行动:分别跟踪被拦截的尝试和实际成功执行的未授权行动。
- 审计追踪完整性:抽样任务中具备全部所需证据和事件记录的情况。
- 每项已验证任务的成本:每项已接受任务对应的运营、集成、审核和返工总成本。
业务价值应体现经质量调整后的基线,而不仅是词元成本或草稿生成速度。人工修正率下降可能意味着改进,也可能意味着审核人员警惕性降低,因此应结合独立质量抽样进行评估。未完成应用场景风险评估前,不应设定普遍适用的性能阈值。
11. 常见问题
智能体式人工智能与生成式人工智能相同吗?
不同。生成式人工智能生成或转换内容;智能体式人工智能利用状态、工具和反馈,协调工作以实现目标。当智能体使用生成式模型解释证据或提出行动建议时,两者存在重叠。区别在于系统行为和工作流责任,而非保证某一种方法更准确或更合规。
智能体式人工智能必须使用LLM吗?
从技术上说,并非绝对必要。目标导向的软件可以使用规划器、规则、搜索或其他模型。许多当代以语言为中心的智能体使用LLM,是因为它们能够处理多变的指令和证据。在采购时,应询问由哪个组件选择行动,以及如何控制执行,而不是假设“智能体”标签就代表某种特定模型架构。
生成式人工智能可以成为智能体的一部分吗?
可以。生成式模型可解释请求、总结检索到的证据,或提出结构化工具调用。随后由工作流软件和授权控制决定实际执行内容。应将模型生成的调用视为需要验证的建议;不能仅因所请求的行动看似合理,就允许模型自行创建访问权限或绕过审批。
制药行业何时应改用规则?
当要求能够被清晰表述时,应将规则用于稳定条件、精确计算、必填字段检查、访问决策和预定义分派。规则同样需要测试和维护。仅在语言变化使生成式解读具有实际价值时,才引入此类能力;随后验证新增复杂性是否改善了整个流程,而不只是让界面变成对话形式。
人工智能智能体能提交监管申报资料吗?
在适用流程允许的情况下,它可以协助资料组装、检查和受控的技术传输。这与申请人授权、所需签名以及责任明确的科学审核有所区别。应将批准绑定到实际申报包、版本和提交目标,并保留接收确认及异常处理记录。任何通用人工智能架构都不能替代法律规定或特定程序指定的申报责任。
如何验证用于GxP的智能体?
在测试前,定义预期用途和系统边界,评估风险,并制定验收标准。评估已配置的工作流、来源处理、权限、集成、审核人员控制及失败路径。保留证据,管理变更,并监控生产运行表现。通用模型基准或供应商的单方面保证,均不足以证明系统适合您特定的受监管应用。
最大的安全风险是什么?
不存在适用于所有部署的统一排名。智能体特有的一个重大风险,是不可信内容影响拥有重大工具权限的系统。当提示词注入与广泛访问权或薄弱授权机制相结合时,危险更大。应通过最小权限、工具允许清单、隔离、验证、敏感行动审批,以及监控和测试,降低其影响。
如何衡量业务价值?
将已接受且通过质量检查的工作与明确基线进行比较。纳入审核时间、返工、异常、集成和运营成本,而不只是生成速度。将关键漏检和未授权行动作为保障性指标持续跟踪。当企业必须依赖结果时,每项已验证任务的成本,以及责任人员完成审核所需的时间,比原始输出量更有决策价值。
12. 与HERMS的相关性
HERMS Global将其产品组合定位为贯穿研发、法规、制造、市场准入和安全领域的互联生命科学情报体系。领域专用人工智能、可追溯证据、基于风险的治理和人工问责,都是有用的评估与设计原则。本文并不证明任何所提及的HERMS产品已具备经过验证的集成、得到证实的性能或监管授权。这些事项需要针对具体部署提供证据。
HERMS生命科学软件解决方案
关于审批边界的补充讨论,请参阅《生命科学中的智能体式人工智能:哪些决策可以自动化,哪些需要人工批准?》:https://www.hermsglobal.com/zh/agentic-ai-life-sciences-human-oversight/
了解HERMS解决方案,并通过相应解决方案的咨询渠道,申请针对您的工作流、证据和控制要求进行演示。
相关HERMS解决方案
了解与本文所述工作流相关的HERMS解决方案:SYNCRA——申报情报;AEVOX——药物警戒病例接收;VERIQIS——证据完整性与保证。请根据您的预期用途、证据要求和审批要求评估各项解决方案。
来源与延伸阅读
- FDA:使用人工智能支持药品和生物制品监管决策的考量
- NIST:人工智能风险管理框架——生成式人工智能专项框架
- NIST:人工智能风险管理框架
- OWASP生成式人工智能安全项目
- EMA:关于在药品生命周期中使用人工智能(AI)的反思文件
- 欧盟委员会:EudraLex——第4卷——药品生产质量管理规范指南
- EMA:ICH E6药物临床试验质量管理规范
- FDA:Part 11,电子记录与电子签名——适用范围与应用
- 欧盟委员会:《人工智能法案》
- 欧盟委员会:关于EudraLex第4卷《药品生产质量管理规范指南》第4章、附录11及新附录22的利益相关方咨询
探索制药人工智能系列文章
- 人工智能决策权限与人工监督
- 生命科学中的人工智能治理
- 制药人工智能的人工审批控制
- 用于监管和市场准入的真实世界证据
- 人工智能医疗器械验证与变更控制
- 全球药品市场准入、卫生技术评估与定价证据
探索HERMS生命科学解决方案以及人工智能治理与可追溯性,或申请以工作流为重点的演示。
来源:https://www.hermsglobal.com/agentic-vs-generative-ai-pharmaceuticals
