大湾区AI安全与发展常设委员会 · 非牟利智库
对应《人工智能安全治理框架3.0》智能体风险管理框架

智能体安全治理:八个环节 × 四类风险的自查与技术应对

国家网络安全宣传周发布的《人工智能安全治理框架3.0》(网安标委,2026-09)首次为智能体(Agent)设立风险管理专章。

本页提供逐环节自查清单,以及事务级守护、审计链与治理报告的技术应对参考——可测量、可审计、有保鲜期。

框架 3.0 说了什么

框架 3.0 延续「风险分类、技术应对、综合治理」的主轴:三类风险(内生/应用/衍生,共 54 项)、三类技术应对措施、五方面综合治理。智能体专章将风险贯穿八个生命周期环节,并归纳四类核心风险:身份和权限滥用、推理规划、调用执行、记忆存储,同时点名通信协议与多智能体协作带来的新风险。

八环节 × 四类风险自查清单

下表供部署智能体的机构逐项自查(✓=已有对应措施;—=未覆盖,建议补齐)。下载完整版清单(含治理建议)请见页尾。

环节身份和权限滥用推理规划调用执行记忆存储
设计研发权限模型最小化任务目标锚定工具白名单记录留存策略
安装部署部署身份核验规划基线录制调用边界声明存储完整性
指令输入委托权限校验指令与目标一致性调用参数审查上下文写入审查
推理规划越权规划告警漂移检测(快慢对照)计划步骤审查规划记录防改
调用执行执行身份追溯执行偏离告警事务级风险打分+审计执行留痕防改
记忆存储凭据不落明文记忆一致性检查存储调用审查污染检测+隔离
结果输出输出主体标识输出与意图对照白盒归因证据输出记录入链
停用下线权限即时回收残余规划清理工具权限撤销存储按规定销毁

技术应对参考(本委员会研究成果)

针对上表调用执行、记忆存储两个高频风险环节,本委员会的研究成果提供以下可部署的技术应对参考(基于冻结编码器与锚点工件的几何方法,全程零梯度训练):

① 事务级守护:对智能体每笔操作(文件修改、API 调用、工具执行)做毫秒级风险打分与三段分流——安全放行、高危阻断、中间灰区提交大语言模型深度审计,使审计成本与风险分布而非操作总量相关。

② 防篡改审计链:每笔守护决策写入链式消息认证码日志(输入仅存加盐指纹、不落原文),支持第三方独立复算——满足框架「AI 始终处于有效监管和人类监督之下」对可举证记录的要求。

③ 治理报告:周期性产出风险画像、干预归因与审计成本帐单,把治理从「支出」变成可度量的管理项。

上述研究成果已形成三项发明专利申请,并于 2026 年 10 月获国家知识产权局受理:CN202611615191.1(智能体防火墙)、CN202611615185.6(防篡改证据链)、CN202611615186.0(行为审计)。

在治理家族中,HoloGovernor 承担旁路监察(限速器+行车记录仪);研究层面的 HoloManager 管家架构进一步主导影响智能体行为(目标锚定、质询升级、超图机群治理),构成「主导+监察」双层闭环。

诚实边界:几何打分负责「排序与分流」,语义层最终裁决由大语言模型审计完成;当前质询自证机制对高度伪装行为的鉴别力有限(本委员会实测如实记录),改进路径为复审卡与行为验证。我们不承诺「绝对安全」——我们提供可测量、可审计、有保鲜期的证据。

下载完整版自查清单(含治理建议)

留下机构与联系方式,我们将发送完整版清单与部署指引(免费,用于治理研究统计)。

申请获取清单