框架 3.0 說了什麼
框架 3.0 延續「風險分類、技術應對、綜合治理」的主軸:三類風險(內生/應用/衍生,共 54 項)、三類技術應對措施、五方面綜合治理。智能體專章將風險貫穿八個生命週期環節,並歸納四類核心風險:身份和權限濫用、推理規劃、調用執行、記憶存儲,同時點名通信協議與多智能體協作帶來的新風險。
八環節 × 四類風險自查清單
下表供部署智能體的機構逐項自查(✓=已有對應措施;—=未覆蓋,建議補齊)。下載完整版清單(含治理建議)請見頁尾。
| 環節 | 身份和權限濫用 | 推理規劃 | 調用執行 | 記憶存儲 |
|---|---|---|---|---|
| 設計研發 | 權限模型最小化 | 任務目標錨定 | 工具白名單 | 記錄留存策略 |
| 安裝部署 | 部署身份核驗 | 規劃基線錄製 | 調用邊界聲明 | 存儲完整性 |
| 指令輸入 | 委託權限校驗 | 指令與目標一致性 | 調用參數審查 | 上下文寫入審查 |
| 推理規劃 | 越權規劃告警 | 漂移檢測(快慢對照) | 計劃步驟審查 | 規劃記錄防改 |
| 調用執行 | 執行身份追溯 | 執行偏離告警 | 事務級風險打分+審計 | 執行留痕防改 |
| 記憶存儲 | 憑據不落明文 | 記憶一致性檢查 | 存儲調用審查 | 污染檢測+隔離 |
| 結果輸出 | 輸出主體標識 | 輸出與意圖對照 | 白盒歸因證據 | 輸出記錄入鏈 |
| 停用下線 | 權限即時回收 | 殘餘規劃清理 | 工具權限撤銷 | 存儲按規定銷毀 |
技術應對參考(本委員會研究成果)
針對上表調用執行、記憶存儲兩個高頻風險環節,本委員會的研究成果提供以下可部署的技術應對參考(基於凍結編碼器與錨點工件的幾何方法,全程零梯度訓練):
① 事務級守護:對智能體每筆操作(文件修改、API 調用、工具執行)做毫秒級風險打分與三段分流——安全放行、高危阻斷、中間灰區提交大語言模型深度審計,使審計成本與風險分佈而非操作總量相關。
② 防篡改審計鏈:每筆守護決策寫入鏈式消息認證碼日誌(輸入僅存加鹽指紋、不落原文),支持第三方獨立復算——滿足框架「AI 始終處於有效監管和人類監督之下」對可舉證記錄的要求。
③ 治理報告:週期性產出風險畫像、干預歸因與審計成本帳單,把治理從「支出」變成可度量的管理項。
上述研究成果已形成三項發明專利申請,並於 2026 年 10 月獲國家知識產權局受理:CN202611615191.1(智能體防火牆)、CN202611615185.6(防篡改證據鏈)、CN202611615186.0(行為審計)。
在治理家族中,HoloGovernor 承擔旁路監察(限速器+行車記錄儀);研究層面的 HoloManager 管家架構進一步主導影響智能體行為,與之構成「主導+監察」雙層閉環——技術細節將陸續公布。