香港科技协进会牵头成立并提供秘书处支援 大湾区 · 3 把锁:安全 · 可靠 · 可信 想知【国家AI安全治理框架3.0】如何落地你的行业?

开源工具

以下第一部分为委员会七大研究计划孵化的自主工具;第二部分另辟专栏,推荐面向市民的第三方社群开源工具(非本会开发)。

一、我们的工具 — 由研究计划孵化

秉持「公开、可审计、可自托管」原则。标注「研究预览」的工具,其源码按「学术发表後公开」时序陆续释出,许可证类型将於发布时公布;机构夥伴可经秘书处参与共建。每个工具列明许可证计划、自托管要求、适用场景与白皮书状态,方便评估是否适合你的环境。

行为主导 · Agent Manager

HoloManager研究预览

智能体管家(新旗舰):主导影响 LLM/智能体行为——目标锚定、质询升级、超图机群治理;内含 HoloGovernor 监察层,构成「主导+监察」双层治理。方向盘主导,限速器+行车记录仪监察。

  • 许可证计划:行为主导层研发推进中,释出时序於发布时公布
  • 自托管要求:标准 Python 环境,叠加於 HoloGovernor 监察引擎之上
  • 适用场景:多智能体机群治理、任务目标漂移矫正、质询升级复审
  • 框架3.0对接:智能体治理对接页
旁路监察 · Governor

HoloGovernor核心引擎已开源

智能体监察引擎:对每笔操作毫秒级风险打分、三段分流(放行/阻断/深度审计),防篡改审计链支持第三方独立复算,周期产出治理报告——HoloManager 的内置监察层。

  • 许可证计划:核心引擎已开源(GitHub,alexlihk/hologovernor)
  • 自托管要求:标准 Python 环境,本地 pip 安装;社群版提供最小闭环
  • 适用场景:智能体操作守护、可举证审计链、审计成本与风险分布挂钩
  • 代码仓:GitHub alexlihk/hologovernor(社群版:alexlihk/aegis)
  • 线上 demo:3token.org/demo/
治理闸 · Guardrail

HoloAegis研究预览

零样本 LLM 内容安全流形:冻结表徵+拓扑推论,以最小参数量实现可审计的内容护栏,支援 alert mode 风险预警;已通过 40 项自动化测试。

  • 许可证计划:源码按学术发表後公开时序释出,许可证类型於发布时公布
  • 自托管要求:标准 Python 环境,CPU 即可运行(冻结表徵、最小参数量)
  • 适用场景:开源 LLM 内容安全闸、社群/客服审核、alert mode 风险预警
  • 线上 demo:47.76.62.228/demo/aegis/(示范环境,演示帐号经秘书处索取;demo 防火墙包 3.2MB,部署实测 P50 26.3ms)
  • 白皮书:暂未公开,多等两周
源自研究:arXiv 2608.08485
物理熔断 · Circuit Breaker

HoloBlocker研究预览

具身智能拓扑断路器:实时计算行为与安全流形的拓扑距离,越阈即毫秒级物理断电——为工业互联网、低空经济与智能体应用保驾护航。

  • 许可证计划:源码按学术发表後公开时序释出;核心组件将优先开源
  • 自托管要求:需与执行层/硬体整合,以夥伴共建模式导入
  • 适用场景:工业机械人、无人机群、金融与生活服务智能体
  • 白皮书/技术文档:GitHub shennong-ai/HoloBlocker
源自研究:ChinaXiv 202604.00098
几何审计 · Auditor

HoloAuditor研究预览

把领域公理(如中医「君臣佐使」)映射为数学流形,对 AI 输出做即时几何审计,0.82 毫秒内拦截「流行但错误」的答案,提升数据质量与跨境监管互认。

  • 许可证计划:源码按学术发表後公开时序释出,许可证类型於发布时公布
  • 自托管要求:标准 Python 环境;领域公理映射模组按场景定制
  • 适用场景:中医药等专业领域的数据质量审计与跨境监管互认
  • 白皮书/技术文档:GitHub shennong-ai/HoloAuditor-Demo
源自研究:SSRN 6368538
隐私审计 · Audit Engine

SA-RI 审计引擎报告可索取

拆分学习/拆分推理表徵泄漏测量引擎:双攻击族、跨指标实证审计,出具 AMBER/RED 分级出域安全报告;测量附方差与边界条件,不可测即标注 INCONCLUSIVE。

  • 许可证计划:核心引擎 v0.3.x 已开源(BSD,GitHub);审计报告现可委托出具
  • 自托管要求:Python + PyTorch,单张消费级 GPU 可完成完整审计协议
  • 适用场景:拆分学习/拆分推理部署的出域前评估、供应商尽职审查
  • 白皮书/引擎文档:GitHub alexlihk/splitrisk(v0.3.x)

📄 出域审计报告样例(C 类 · GitHub)→

源自研究:RG 10.13140/RG.2.2.32481.67681
数据空间 · Data Space

可信数据空间套件夥伴共建

面向食药同源等产业数据空间:入驻与挂牌双审核、受控任务注册、计量与报送体系,对接「数据要素×」战略与跨境「数据海关」构想。

  • 许可证计划:按合作项目协定,夥伴共建模式授权
  • 自托管要求:夥伴环境容器化部署(含国密加密模组),提供安装手册
  • 适用场景:食药同源等产业数据空间、跨境数据合规流通试点
  • 白皮书:暂未公开,多等两周
夥伴合作项目 · 经秘书处索取
公众教育 · Assistant

AI 安全通识助手开放使用

基於委员会知识库的公众教育机械人:钓鱼识别、密码安全、隐私保护、深度伪造、数据出境——免费开放,即问即答,中英双语。

  • 许可证计划:网上服务免费开放;知识库内容可供教育用途引用
  • 自托管要求:纯 Python 标准库实作,任何 OpenAI 兼容 LLM 端点即可运行
  • 适用场景:学校、社团、公共图书馆等公众教育用途
  • 白皮书:暂未公开,多等两周
立即使用 →
─ 以下为第三方社群工具栏(非本会开发)─

推荐予市民日常自保使用的公开开源工具。这些项目由全球社群维护,与委员会的研究计划无关;列出仅为公众教育目的。

密码管理器KeePassXC/Bitwarden——「一帐号一强口令」,最经济有效的防护(开源、可自托管)。
浏览器防护Firefox + uBlock Origin——拦截追踪器与恶意广告,减少钓鱼面。
外泄检查Have I Been Pwned——查电邮有否出现在已知外泄资料库,及时改密码。
两步验证Aegis Authenticator/硬件密钥——重要帐号必开 2FA,防密码外泄被直接登入。
📌 开源是我们的方法论,不只是口号:工具的规则、阈值与测试结果都应可被独立验证。信任来自可验证,而非黑箱。