香港科技协进会牵头成立并提供秘书处支援 大湾区 · 3 把锁:安全 · 可靠 · 可信

粤港澳四校联合发布AI安全“双子星”架构 为具身智能筑起数学安全防线

转载说明|本文转载自 GDIRI 广东省数字产业研究院微信公众号,作者为研究院团队,经作者同意转载。原文(含活动图片):mp.weixin.qq.com/s/F-gH7z9o0JQp_ADOvzLd1Q;大公网报导原文:takungpao.cn。本页仅转载文字内容,正文保持原文(简体)不经改写。

在3月28日于澳门盛大举行的2026世界青年科学家“人工智能+”对话活动上,由澳门大学、香港浸会大学、香港教育大学、广东技术师范大学,以及广东省数字产业研究院组成的跨学科研究团队,面向全球首次发布人工智能安全“双子星”架构——HoloAuditor(医疗审计器)与HoloBlocker(具身智能断路器)。该架构以纯数学拓扑方法为核心,旨在解决大语言模型在物理世界应用中面临的“致命幻觉”问题,为具身智能筑牢安全底座。

数据警示:6.0%的“语义排序崩塌”揭示AI深层隐患

发布会伊始,香港教育大学讲座教授何建宗院士以一组震撼数据拉开序幕。他指出,在最严谨的中医医疗逻辑框架(君臣佐使)下,最新一代大模型出现了高达6.0%的极端语义排序崩塌。这意味着,当人工智能面对高度结构化、公理驱动的复杂任务时,其推理能力不仅未随参数规模增长而提升,反而出现系统性退化。

何院士强调,随着人工智能从虚拟对话走向物理世界,其幻觉可能引发不可逆的物理后果。为此,四校联合团队决定将“双子星”架构开源,用数学的无可辩驳性为人工智能安全构筑“硬边界”。

破局之道:HoloAuditor与HoloBlocker的技术突破

澳门大学中华医药研究院教授胡豪在发布会上正式宣布,团队将向全球开源发布HoloAuditor医疗逻辑审计器。他指出,中医药国际化的核心瓶颈在于真实世界数据的质量控制。HoloAuditor通过将中医“辨证论治”逻辑映射为连续数学流形,实现对人工智能输出的实时几何审计,从而提升数据质量,助力跨境监管互认。

澳门大学宋梦环教授配合演讲,台下展示了复杂的医疗拓补图谱。屏幕一侧是触目惊心的6.0%崩塌柱状对比图,另一侧则是HoloAuditor发出的幽蓝色拓扑护栏动画。数字与几何的直观交织,让在场各国学者清晰看到了“数学安全”如何拦截逻辑偏差。

广东省数字产业研究院执行院长、香港浸会大学数学系客座副教授李德豪博士进一步揭秘底层技术。他形象地解释:“当AI越来越聪明地对话时,它可能正在变笨地思考。” HoloAuditor的核心,是把中医药千百年传承的“君臣佐使”逻辑映射成数学流形,用几何为语义定规矩。当AI试图输出“流行但错误”的答案时,系统可在0.82毫秒内完成几何距离计算并瞬间拦截。

李德豪博士随即引出另一核心成果——HoloBlocker。他介绍,同样的拓扑逻辑可完美迁移至工业领域。当具身智能体(如无人机、机械臂)接收到“规则允许但逻辑致命”的指令时,HoloBlocker会瞬间触发拓扑能量熔断,强制锁定硬件,阻止危险动作执行。“如果说智能体给了AI翅膀,那么HoloBlocker就是它的雷达和降落伞。”

产业落地:为新质生产力与ESG治理提供数学底座

广东技术师范大学光电工程学院粤港澳ESG及新质生产力研究院副院长刘开杰在台下补充发言时指出,HoloBlocker的诞生远不止于实验室。团队已将国际工业安全标准成功编码为数学流形,使该技术成为保障工业互联网与具身智能安全的物理底座。它不仅防范硬件碰撞等物理事故,更是护航“人工智能+”赋能新质生产力、符合全球ESG治理标准的关键基础设施。

开源发布:中国学者引领AI拓扑安全新纪元

发布会尾声,何建宗院士、胡豪教授、李德豪博士、宋梦环教授、刘开杰院长共同启动全球倒计时。随着大屏幕弹出代表HoloAuditor与HoloBlocker的两大发布源码二维码,全场掌声雷动。这标志着由我国学者引领的AI拓扑安全时代正式拉开帷幕。

研究团队表示,相关核心算法已申请国家发明专利,部分成果已在SSRN预印本平台发布(DOI: 10.2139/ssrn.6368538;10.2139/ssrn.6421619;10.2139/ssrn.6368638),源代码将面向全球开放,欢迎学术界与产业界共同参与安全生态建设。

媒体联络

大会组委会 / 联合研究团队
联系人:李德豪博士
邮箱:alexlihk@hotmail.com
电话:+86 18420600450

延伸阅读

报道原文:大公网专题

广东省数字产业研究院(Guangdong Digital Industry Research Institute, GDIRI)作为大湾区数字经济领域的领军机构,在云端容灾服务、东数西算战略实施、数据隐形交易平台建设等方面取得突破性成果,并致力于智慧城市建设与AI人才培养(“数字少林”计划)。

编者按(委员会观点)

这篇报导里最值得公众记住的,是「6.0% 语义排序崩塌」这组数字——它说明更大的模型不等於更稳的推理:面对高度结构化、公理驱动的任务,最新一代大模型反而出现系统性退化。这正是本委员会推动公众 AI 安全通识教育的核心理由之一:AI 的能力曲线与可靠度曲线并不同步,用家需要懂得问「它错的时候会怎样」。

「双子星」架构的两翼也正好对应我们说的「三把锁」中的两把:HoloAuditor 以几何审计守住「可靠」(数据与逻辑的可验证),HoloBlocker 以拓扑断路器守住「安全」(物理世界的硬边界)。把安全标准编码成数学流形、以毫秒级计算拦截危险动作,代表 AI 治理正在从「事後追责」走向「事中可计算的拦截」——这是值得香港与大湾区产业界关注的方向。相关预印本见本站学术发表页(SSRN 6368538、6421619、6368638)。