五大日常 AI 使用陷阱与自保方法
从假客服、钓鱼连结到过度授权,认识最常见的 AI 使用风险,以及立即可以做的防护步骤。
阅读全文 →大湾区AI安全与发展常设委员会是香港科技协进会牵头成立的非牟利智库。我们的工作由自主研究成果驱动:从 HoloTSH 张量-超图学派、HoloBlocker 拓扑断路器到拆分推理隐私审计,把 AI 治理变成可计算、可验证、可审计的数学与工程实践,再透过开源工具、产学研合作与公众教育回馈社会。
响应国家「十五五」规划对人工智能安全治理的战略部署,本会提出「框架3.0」实践路线——治理不能停在政策文件,必须闭环到可计算、可审计、可拦截的技术层。
法律、标准与行业规范划出红线(《生成式AI管理办法》、EU AI Act 等)。必要,但文件管不住每一次推理。
机构建立 AI 治理委员会、风险分级与模型生命周期管理。体系有了,缺的是可执行的「牙齿」。
把治理要求编码为数学约束:输出可审计(SA-RI 测量)、行为可拦截(HoloGovernor 治理闸)、越界即熔断(HoloAegis/HoloBlocker)——三线套件即框架3.0的落地引擎。
委员会的研究以「数学可验证的安全」为主轴:把安全标准编码为几何与拓扑语言,令 AI 的行为可审计、可拦截、可治理。学术现状:预印本 10 篇已公开、8 篇期刊论文在审(under review),HoloAuditor 研究资料集已上架 IEEE DataPort。以下为六大研究计划,全文见研究成果页与学术发表。
HoloAuditor 全息审计 + HoloBlocker 拓扑断路器,於 2026 世界青年科学家「人工智能+」对话(澳门)面向全球发布,为具身智能筑起数学安全防线。
以数学语言翻译中医「辨证论治」,由浸大吴国宝教授(SIAM Fellow)领衔,为中医药数据要素化与跨境监管互认提供可计算基座。
揭示具身 AI「生存动机」的内在风险,提出毫秒级拓扑物理熔断:行为偏离安全流形即强制断电,宁可熔断、绝不酿灾。
冻结表徵、最小参数量的零样本 LLM 护栏:以拓扑推论取代黑箱分类器,为开源模型提供可审计的内容安全闸。
对拆分学习/拆分推理的中间表徵泄漏做跨家族、跨指标的双轨实证审计——把「泄漏风险」变成可测量、有保鲜期的数字。
耦合数据生产与人才创新的新范式:以神农 AI 生态构建青少年体质数据「数字长城」,支撑香港《中小学数字教育发展蓝图》落地。
委员会成员的研究观点获海内外媒体广泛报导。
委员会成员、广东省数字产业研究院执行院长李德豪接受人民日报海外版专访,提出 AI 能力、目标、速度「三个跨越」,指出「AI 迭代是指数级的,而人类的立法和伦理讨论是线性的」。
以下工具均由委员会研究计划孵化,秉持「公开、可审计、可自托管」原则,现已形成三线套件:测量(SA-RI)· 治理(HoloGovernor)· 筛查(HoloAegis)。源码与白皮书按「学术发表後公开」的时序陆续释出,未公开者请稍候两周内的发布安排。
零样本 LLM 内容安全流形:冻结表徵+拓扑推论,最小参数量实现可审计护栏与 alert mode。
线上演示环境(demo 示范帐号经秘书处索取)· demo 包 3.2MB · 部署实测 P50 26.3ms →拆分推理表徵泄漏测量:双攻击族、跨指标实证审计,出具 AMBER/RED 分级的出域安全报告。核心引擎 v0.3.x 已开源(GitHub)。
开源引擎 v0.3.x(GitHub)→ 📄 报告样例 →面向食药同源等产业数据空间的入驻审核、受控任务与计量体系,对接「数据要素×」国家战略。
我们以「3 把锁」作为核心态度——每一次使用 AI,都值得以安全、可靠、可信三个准则来守护你的数据与生活。
认识 AI 的风险——钓鱼、隐私泄漏、深度伪造、数据出境。学会辨识与防护,不让技术成为伤害的入口。
明白 AI 时刻都会出错、会产生幻觉。学会校验来源、用可信工具、做最小化处理,令决策建立在可靠基础上。
了解你的数据会被点用、点储存、点分享。主张数据主权、透明治理与道德规范,重新掌控自己的数据。
面向普罗市民的 AI 安全通识内容与免费助手——另辟一栏,与研究线并行。
大湾区AI安全与发展常设委员会由香港科技协进会牵头成立(1985 年创会的非牟利专业组织),响应国家「十五五」规划对科技自立自强及人工智能安全治理的战略部署,联同大湾区科研联盟、华为、Linux Foundation APAC 及一众企业推动 AI 安全与发展。
委员会联同澳门大学、香港浸会大学、香港教育大学、广东技术师范大学及广东省数字产业研究院组成跨学科研究网络,在世界青年科学家系列活动上面向全球发布 AI 安全「双子星」架构,并发布《大湾区教育人工智能安全防护联合倡议》。香港科技协进会为世界青年科学家联合会(WAYS)机构会员,本会藉此对接青年科学网络。
作为非牟利智库,我们坚持:研究先行、开源透明、教育优先。委员会的评估与治理服务所得均用於支持公益研究与公众教育,不以营利为目的。