五大日常 AI 使用陷阱與自保方法
從假客服、釣魚連結到過度授權,認識最常見嘅 AI 使用風險,以及立即可以做嘅防護步驟。
閱讀全文 →大灣區AI安全與發展常設委員會是香港科技協進會牽頭成立的非牟利智庫。我們的工作由自主研究成果驅動:從 HoloTSH 張量-超圖學派、HoloBlocker 拓撲斷路器到拆分推理隱私審計,把 AI 治理變成可計算、可驗證、可審計的數學與工程實踐,再透過開源工具、產學研合作與公眾教育回饋社會。
響應國家「十五五」規劃對人工智能安全治理的戰略部署,本會提出「框架3.0」實踐路線——治理不能停在政策文件,必須閉環到可計算、可審計、可攔截的技術層。
法律、標準與行業規範劃出紅線(《生成式AI管理辦法》、EU AI Act 等)。必要,但文件管不住每一次推理。
機構建立 AI 治理委員會、風險分級與模型生命周期管理。體系有了,缺的是可執行的「牙齒」。
把治理要求編碼為數學約束:輸出可審計(SA-RI 測量)、行為可攔截(HoloGovernor 治理閘)、越界即熔斷(HoloAegis/HoloBlocker)——三線套件即框架3.0的落地引擎。
委員會的研究以「數學可驗證的安全」為主軸:把安全標準編碼為幾何與拓撲語言,令 AI 的行為可審計、可攔截、可治理。學術現狀:預印本 10 篇已公開、8 篇期刊論文在審(under review),HoloAuditor 研究資料集已上架 IEEE DataPort。以下為六大研究計劃,全文見研究成果頁與學術發表。
HoloAuditor 全息審計 + HoloBlocker 拓撲斷路器,於 2026 世界青年科學家「人工智能+」對話(澳門)面向全球發布,為具身智能築起數學安全防線。
以數學語言翻譯中醫「辨證論治」,由浸大吳國寶教授(SIAM Fellow)領銜,為中醫藥數據要素化與跨境監管互認提供可計算基座。
揭示具身 AI「生存動機」的內在風險,提出毫秒級拓撲物理熔斷:行為偏離安全流形即強制斷電,寧可熔斷、絕不釀災。
凍結表徵、最小參數量的零樣本 LLM 護欄:以拓撲推論取代黑箱分類器,為開源模型提供可審計的內容安全閘。
對拆分學習/拆分推理的中間表徵洩漏做跨家族、跨指標的雙軌實證審計——把「洩漏風險」變成可測量、有保鮮期的數字。
耦合數據生產與人才創新的新範式:以神農 AI 生態構建青少年體質數據「數字長城」,支撐香港《中小學數字教育發展藍圖》落地。
委員會成員的研究觀點獲海內外媒體廣泛報導。
委員會成員、廣東省數字產業研究院執行院長李德豪接受人民日報海外版專訪,提出 AI 能力、目標、速度「三個跨越」,指出「AI 迭代是指數級的,而人類的立法和倫理討論是線性的」。
以下工具均由委員會研究計劃孵化,秉持「公開、可審計、可自托管」原則,現已形成三線套件:測量(SA-RI)· 治理(HoloGovernor)· 篩查(HoloAegis)。源碼與白皮書按「學術發表後公開」的時序陸續釋出,未公開者請稍候兩周內的發布安排。
零樣本 LLM 內容安全流形:凍結表徵+拓撲推論,最小參數量實現可審計護欄與 alert mode。
線上演示環境(demo 示範帳號經秘書處索取)· demo 包 3.2MB · 部署實測 P50 26.3ms →拆分推理表徵洩漏測量:雙攻擊族、跨指標實證審計,出具 AMBER/RED 分級的出域安全報告。核心引擎 v0.3.x 已開源(GitHub)。
開源引擎 v0.3.x(GitHub)→ 📄 報告樣例 →面向食藥同源等產業數據空間的入駐審核、受控任務與計量體系,對接「數據要素×」國家戰略。
我們以「3 把鎖」作為核心態度——每一次使用 AI,都值得以安全、可靠、可信三個準則來守護你的數據與生活。
認識 AI 的風險——釣魚、隱私洩漏、深度偽造、數據出境。學會辨識與防護,不讓技術成為傷害的入口。
明白 AI 時刻都會出錯、會產生幻覺。學會校驗來源、用可信工具、做最小化處理,令決策建立在可靠基礎上。
了解你的數據會被點用、點儲存、點分享。主張數據主權、透明治理與道德規範,重新掌控自己的數據。
面向普羅市民的 AI 安全通識內容與免費助手——另闢一欄,與研究線並行。
大灣區AI安全與發展常設委員會由香港科技協進會牽頭成立(1985 年創會的非牟利專業組織),響應國家「十五五」規劃對科技自立自強及人工智能安全治理的戰略部署,聯同大灣區科研聯盟、華為、Linux Foundation APAC 及一眾企業推動 AI 安全與發展。
委員會聯同澳門大學、香港浸會大學、香港教育大學、廣東技術師範大學及廣東省數字產業研究院組成跨學科研究網絡,在世界青年科學家系列活動上面向全球發布 AI 安全「双子星」架構,並發布《大灣區教育人工智能安全防護聯合倡議》。香港科技協進會為世界青年科學家聯合會(WAYS)機構會員,本會藉此對接青年科學網絡。
作為非牟利智庫,我們堅持:研究先行、開源透明、教育優先。委員會的評估與治理服務所得均用於支持公益研究與公眾教育,不以營利為目的。