框架 3.0 说了什么
框架 3.0 延续「风险分类、技术应对、综合治理」的主轴:三类风险(内生/应用/衍生,共 54 项)、三类技术应对措施、五方面综合治理。智能体专章将风险贯穿八个生命周期环节,并归纳四类核心风险:身份和权限滥用、推理规划、调用执行、记忆存储,同时点名通信协议与多智能体协作带来的新风险。
八环节 × 四类风险自查清单
下表供部署智能体的机构逐项自查(✓=已有对应措施;—=未覆盖,建议补齐)。下载完整版清单(含治理建议)请见页尾。
| 环节 | 身份和权限滥用 | 推理规划 | 调用执行 | 记忆存储 |
|---|---|---|---|---|
| 设计研发 | 权限模型最小化 | 任务目标锚定 | 工具白名单 | 记录留存策略 |
| 安装部署 | 部署身份核验 | 规划基线录制 | 调用边界声明 | 存储完整性 |
| 指令输入 | 委托权限校验 | 指令与目标一致性 | 调用参数审查 | 上下文写入审查 |
| 推理规划 | 越权规划告警 | 漂移检测(快慢对照) | 计划步骤审查 | 规划记录防改 |
| 调用执行 | 执行身份追溯 | 执行偏离告警 | 事务级风险打分+审计 | 执行留痕防改 |
| 记忆存储 | 凭据不落明文 | 记忆一致性检查 | 存储调用审查 | 污染检测+隔离 |
| 结果输出 | 输出主体标识 | 输出与意图对照 | 白盒归因证据 | 输出记录入链 |
| 停用下线 | 权限即时回收 | 残余规划清理 | 工具权限撤销 | 存储按规定销毁 |
技术应对参考(本委员会研究成果)
针对上表调用执行、记忆存储两个高频风险环节,本委员会的研究成果提供以下可部署的技术应对参考(基于冻结编码器与锚点工件的几何方法,全程零梯度训练):
① 事务级守护:对智能体每笔操作(文件修改、API 调用、工具执行)做毫秒级风险打分与三段分流——安全放行、高危阻断、中间灰区提交大语言模型深度审计,使审计成本与风险分布而非操作总量相关。
② 防篡改审计链:每笔守护决策写入链式消息认证码日志(输入仅存加盐指纹、不落原文),支持第三方独立复算——满足框架「AI 始终处于有效监管和人类监督之下」对可举证记录的要求。
③ 治理报告:周期性产出风险画像、干预归因与审计成本帐单,把治理从「支出」变成可度量的管理项。
上述研究成果已形成三项发明专利申请,并于 2026 年 10 月获国家知识产权局受理:CN202611615191.1(智能体防火墙)、CN202611615185.6(防篡改证据链)、CN202611615186.0(行为审计)。
在治理家族中,HoloGovernor 承担旁路监察(限速器+行车记录仪);研究层面的 HoloManager 管家架构进一步主导影响智能体行为(目标锚定、质询升级、超图机群治理),构成「主导+监察」双层闭环。