香港科技協進會牽頭成立並提供秘書處支援 大灣區 · 3 把鎖:安全 · 可靠 · 可信 想知【國家AI安全治理框架3.0】如何落地你的行業?

開源工具

以下第一部分為委員會六大研究計劃孵化的自主工具;第二部分另闢專欄,推薦面向市民的第三方社群開源工具(非本會開發)。

一、我們的工具 — 由研究計劃孵化

秉持「公開、可審計、可自托管」原則。標注「研究預覽」的工具,其源碼按「學術發表後公開」時序陸續釋出,許可證類型將於發布時公佈;機構夥伴可經秘書處參與共建。每個工具列明許可證計劃、自托管要求、適用場景與白皮書狀態,方便評估是否適合你的環境。

治理閘 · Guardrail

HoloAegis研究預覽

零樣本 LLM 內容安全流形:凍結表徵+拓撲推論,以最小參數量實現可審計的內容護欄,支援 alert mode 風險預警;已通過 40 項自動化測試。

  • 許可證計劃:源碼按學術發表後公開時序釋出,許可證類型於發布時公佈
  • 自托管要求:標準 Python 環境,CPU 即可運行(凍結表徵、最小參數量)
  • 適用場景:開源 LLM 內容安全閘、社群/客服審核、alert mode 風險預警
  • 線上 demo:47.76.62.228/demo/aegis/(示範環境,演示帳號經秘書處索取;demo 防火牆包 3.2MB,部署實測 P50 26.3ms)
  • 白皮書:暫未公開,多等兩周
源自研究:arXiv 2608.08485
物理熔斷 · Circuit Breaker

HoloBlocker研究預覽

具身智能拓撲斷路器:實時計算行為與安全流形的拓撲距離,越閾即毫秒級物理斷電——為工業互聯網、低空經濟與智能體應用保駕護航。

  • 許可證計劃:源碼按學術發表後公開時序釋出;核心組件將優先開源
  • 自托管要求:需與執行層/硬體整合,以夥伴共建模式導入
  • 適用場景:工業機械人、無人機群、金融與生活服務智能體
  • 白皮書/技術文檔:GitHub shennong-ai/HoloBlocker
源自研究:ChinaXiv 202604.00098
幾何審計 · Auditor

HoloAuditor研究預覽

把領域公理(如中醫「君臣佐使」)映射為數學流形,對 AI 輸出做即時幾何審計,0.82 毫秒內攔截「流行但錯誤」的答案,提升數據質量與跨境監管互認。

  • 許可證計劃:源碼按學術發表後公開時序釋出,許可證類型於發布時公佈
  • 自托管要求:標準 Python 環境;領域公理映射模組按場景定制
  • 適用場景:中醫藥等專業領域的數據質量審計與跨境監管互認
  • 白皮書/技術文檔:GitHub shennong-ai/HoloAuditor-Demo
源自研究:SSRN 6368538
隱私審計 · Audit Engine

SA-RI 審計引擎報告可索取

拆分學習/拆分推理表徵洩漏測量引擎:雙攻擊族、跨指標實證審計,出具 AMBER/RED 分級出域安全報告;測量附方差與邊界條件,不可測即標注 INCONCLUSIVE。

  • 許可證計劃:核心引擎 v0.3.x 已開源(BSD,GitHub);審計報告現可委託出具
  • 自托管要求:Python + PyTorch,單張消費級 GPU 可完成完整審計協議
  • 適用場景:拆分學習/拆分推理部署的出域前評估、供應商盡職審查
  • 白皮書/引擎文檔:GitHub alexlihk/splitrisk(v0.3.x)

📄 出域審計報告樣例(C 類 · GitHub)→

源自研究:RG 10.13140/RG.2.2.32481.67681
數據空間 · Data Space

可信數據空間套件夥伴共建

面向食藥同源等產業數據空間:入駐與挂牌雙審核、受控任務註冊、計量與報送體系,對接「數據要素×」戰略與跨境「數據海關」構想。

  • 許可證計劃:按合作項目協定,夥伴共建模式授權
  • 自托管要求:夥伴環境容器化部署(含國密加密模組),提供安裝手冊
  • 適用場景:食藥同源等產業數據空間、跨境數據合規流通試點
  • 白皮書:暫未公開,多等兩周
夥伴合作項目 · 經秘書處索取
公眾教育 · Assistant

AI 安全通識助手開放使用

基於委員會知識庫的公眾教育機械人:釣魚識別、密碼安全、隱私保護、深度偽造、數據出境——免費開放,即問即答,中英雙語。

  • 許可證計劃:網上服務免費開放;知識庫內容可供教育用途引用
  • 自托管要求:純 Python 標準庫實作,任何 OpenAI 兼容 LLM 端點即可運行
  • 適用場景:學校、社團、公共圖書館等公眾教育用途
  • 白皮書:暫未公開,多等兩周
立即使用 →
─ 以下為第三方社群工具欄(非本會開發)─

推薦予市民日常自保使用的公開開源工具。這些項目由全球社群維護,與委員會的研究計劃無關;列出僅為公眾教育目的。

密碼管理器KeePassXC/Bitwarden——「一帳號一強口令」,最經濟有效的防護(開源、可自托管)。
瀏覽器防護Firefox + uBlock Origin——攔截追蹤器與惡意廣告,減少釣魚面。
外洩檢查Have I Been Pwned——查電郵有否出現喺已知外洩資料庫,及時改密碼。
兩步驗證Aegis Authenticator/硬件密鑰——重要帳號必開 2FA,防密碼外洩被直接登入。
📌 開源是我們的方法論,不只是口號:工具的規則、閾值與測試結果都應可被獨立驗證。信任來自可驗證,而非黑箱。