科技日報記者 裴宸緯

今年開年，OpenClaw席卷全球，推動人工智能從“會聊天”走向“能干活”。與此同時，關于其安全性的討論熱火朝天。

AI的智能化程度不斷提高的同時，安全風險如影隨形。為了讓人工智能“更聰明”，往往需要賦予其更大的行動自由與自主決策空間，但這恰恰會放大潛在的失控風險；若為了“更向善”而施加過多約束，又可能限制其性能發揮。于是，讓人工智能“更向善”與“更聰明”這兩個目標在實踐中似乎陷入對立。“安全與性能割裂”的悖論已成為制約人工智能規模化賦能實體經濟發展的關鍵瓶頸。

近日，科技日報記者專訪了中國工程院院士、國家數字交換系統工程技術研究中心主任、網絡通信與計算機領域專家鄔江興。在他看來，解決上述悖論，必須放棄“打補丁”的防御思維，轉而追求“硬性的防御屏障”，實現人工智能系統的內生安全。

人工智能存在內生性安全風險

記者：近來關于人工智能風險的討論越來越熱烈，我們應該怎么看待它？

鄔江興：我認為要從人工智能競爭角度來分析這個問題。當前各國關于人工智能的競爭本質上圍繞兩個核心點展開。一是算法模型與算力技術的比拼，這方面，目前我國發展情況與國際先進水平之間，呈現追趕與博弈的態勢。二是規模化滲透應用的耐力比拼，這一點我們有體制機制和市場優勢。

美國智庫蘭德公司曾明確表示，人工智能競爭并非沖刺賽，而是一場終點模糊的馬拉松，決定勝負的關鍵是哪個國家能更高效地推動人工智能在各行業實現規模化落地。安全可信，正是制約這場馬拉松推進的“裉節或前置性”問題。大眾不敢放心地使用人工智能，企業不敢大膽地推廣人工智能，監管部門缺乏可量化管控依據……導致這些問題的核心原因都是人工智能的安全邊界不確定。這種風險不是局部的、偶然的，而是貫穿人工智能全生命周期的內生的或自在性矛盾，若無法破解這一問題，即便算法再先進、算力再充沛、應用場景再廣泛，也難以實現人工智能對其他行業真正的規模化賦能，甚至可能因風險失控引發更大的社會問題。

記者：從技術本質上看，人工智能安全風險的根源是什么？

鄔江興：人工智能安全風險的根本問題，在于本因缺陷與根因問題的雙重疊加。

從本因來看，當前大模型的輸出本質是概率性選擇生成，而非傳統計算的確定性邏輯推導。這種天然特性導致其輸出具有不可解釋、不可判識、不可推論這三大不確定性問題，“幻覺”就是這種本因缺陷的典型體現。從數學層面講，這種“幻覺”根植于訓練數據的統計學本質，不可能徹底消除。

從根因來看，人工智能規模化應用，離不開基于馮·諾依曼架構的數字生態系統，這種架構天生存在功能靈活性與安全邊界確定性的固有矛盾。因此可以說，其安全問題是“娘胎里帶來的”。加之功能安全、網絡安全、數據安全等多重風險相互交織，僅靠事后打補丁、疊羅漢、加防護這類“附加式”“保鏢式”手段難以奏效，甚至可能適得其反。這決定了我們必須站在統籌發展與安全的高度，從源頭上治理，實現內生安全。

記者：那是不是可以理解為，現有的人工智能安全防御范式很難應對這種內生性安全風險。

鄔江興：是的。當前的人工智能安全治理主要有自律、他律兩種模式，但這兩種模式都存在難以突破的困境。

自律模式試圖通過優化訓練數據、改進模型結構、細化價值對齊來消除安全邊界的不確定性。然而，這一模式陷入了一種完備性困境：試圖用局部自證去覆蓋整體不確定的安全邊界。再完善的模型優化，也無法窮盡人工智能概率性輸出可能帶來的所有風險。

他律模式包括人類監督和傳統機器測試兩種方式。人類監督難以滿足海量人工智能應用的實時檢測需求——畢竟人工智能的運行速度之快、應用場景之廣，遠超人類監督的能力邊界。傳統機器測試則用基于軟件工程的確定性符號邏輯系統，去測試具有不確定性的概率性人工智能模型，存在認知上的根本不匹配。這好比刻舟求劍，永遠無法精準捕捉其動態變化。

更關鍵的是，傳統安全范式遵循還原論思維，習慣性地將系統拆解為獨立模塊逐一優化，用“打地鼠”的方式疲于奔命地被動應對。但人工智能的安全風險是系統性、關聯性的，傳統的碎片化防御無法應對不確定性風險所引發的連鎖反應，這正是其核心短板所在。因此，要破解人工智能的內生安全風險，必須從根源上化解這一內生安全問題。

實現安全與性能協同共生

記者：您剛才提到了人工智能內生安全這一概念，這究竟是什么意思？它與傳統“補丁式”的安全防御有何區別？

鄔江興：簡單來說，人工智能內生安全的核心，在于跳出“附加安全”的路徑依賴，并回答三個關鍵問題：如何從機理上證明人工智能的內生安全？如何設計具有內生安全能力的人工智能系統？如何檢測其內生安全的質量或性能？

與傳統事后補漏的“補丁式”防御不同，內生安全將“安全基因”深度植入人工智能系統的架構設計、模型訓練與算法應用全流程，使安全成為人工智能系統的原生屬性，而非后續附加的功能。

傳統安全是先有系統、后補安全，安全始終滯后于風險；內生安全則是安全與系統同生共長，將原本不可調和的安全與性能矛盾，轉化為可控的系統特性。它不再試圖徹底消除不確定性，而是通過概率化的風險管控，讓安全成為性能提升的催化劑，而非絆腳石。其核心邏輯是結構決定安全——通過優化系統架構，從根源上增強人工智能的抗擾動能力，實現安全與性能的協同共生。

記者：內生安全的優越性顯而易見，那么，它是否具備可行性？

鄔江興：內生安全的可行性，已通過信息論、控制論、博弈論、系統論等多學科交叉的數學證明，得到了理論化與形式化的驗證。

在信息論層面，我們創建了“結構編碼/環境加密”新體制，通過系統架構的異構性編碼，實現類似“一次一密”的完美安全效果，使攻擊者無法捕捉系統的運行規律。在控制論層面，內生安全的動態異構冗余（DHR）架構具備隨機穩定性、指數穩定性與超穩定性，即使系統受到擾動，也能快速重建穩定狀態，不會引發系統性崩潰。在博弈論層面，內生安全架構擁有納什均衡解與雙盲效應，能大幅壓縮攻防雙方的博弈空間，讓攻擊者難以掌握系統的運行邏輯。在系統論層面，DHR架構可在狀態空間構建特殊的拓撲結構，使攻擊軌跡受到莫比烏斯環式動力學機制的約束，無法實現有效突破。這些數學證明，使內生安全從理論假說轉化為可量化、可推導、可驗證的科學體系。

記者：理論層面具備可行性，在實戰層面，內生安全的有效性是否經過了檢驗？

鄔江興：當然。實戰檢驗既是內生安全最有力的支撐，也是科學證偽的必要環節。紫金山實驗室內生安全試驗場（NEST）連續八屆“強網”擬態防御國際精英挑戰賽的結果，充分證明了其有效性。此外，我們在智能網聯汽車、人工智能電視、無人系統安全檢測等場景中的科學驗證，也佐證了其落地可行性。

構建適配內生安全的質量檢測體系

記者：人工智能內生安全如何在更大范圍內安全落地？

鄔江興：推進人工智能內生安全落地，必須從安全質量檢測開始，構建適配內生安全的質量檢測體系，讓安全可量化、可驗證、可體驗。

記者：那么具體來說，該怎么構建適配內生安全的質量檢測體系？

鄔江興：我認為，加快構建人工智能內生安全質量檢測體系，需要從科學問題破解、平臺建設、行業試點三個方面協同發力。

首先，要破解三大核心問題。一是建立可信任、可檢測的量綱，使人工智能安全不再是模糊的概念。二是提升檢測理論與技術的普適性，實現規模化、高效驗證，降低檢測成本。三是構建良好產業生態，避免因檢測周期長、成本高而阻礙人工智能創新鏈與產業鏈的銜接。

其次，要加快建設國家級人工智能內生安全質量檢測中試平臺。立足國家戰略需求，打造“科學驗證、產業賦能、標準引領、全球協同”的綜合平臺，整合科研院所、檢測機構、頭部企業資源，為檢測技術的規模化應用提供支撐。

最后，要謀劃在前、先行先試。人工智能質量檢測機構應適應智能經濟加速到來的趨勢，為大模型驅動的智能產品普及提供質量保障。堅持剛需牽引與民生拓展雙驅動，在智能網聯汽車、智能無人機、智能制造等高安全行業，以及智能家居、智能康養、智能電器等民生場景同步開展質量檢測示范，盡快構建“瀑布式”的全行業快速拓展能力。

記者：看來，人工智能內生安全質量檢測是一個發展前景很廣闊的領域。

鄔江興：是的，人工智能內生安全檢測本身就是一個潛力巨大的未來產業，有望創造億元級的市場需求，并帶動人工智能核心產業與相關配套產業協同升級。

在建設標準化認證體系方面，人工智能內生安全檢測產業將“安全+性能”納入智能產品評價體系，有助于引導市場拒絕缺乏“默認安全”的智能產品，筑牢AI產業高質量發展的信任基石。

在創新全鏈條服務模式方面，人工智能內生安全檢測產業可整合檢測認證、安全維護、技術升級等全流程服務，有利于培育專業化、規模化的檢測服務主體，孵化第三方檢測機構與檢測領域的新支柱企業，形成“AI主導+安全檢測配套”的產業協同發展生態。

在構建風險分散機制方面，人工智能內生安全檢測產業可帶動人工智能安全保險業的發展，推動形成“檢測—認證—保險”聯動機制，以市場化手段分散AI應用的安全風險，撬動AI規模化應用需求，帶動上下游產業協同升級。

致青年科技人才

實現真正的創新，前提是敢于質疑、勇于挑戰權威。科學探索能走多遠，往往取決于我們回歸本源的能力。這種溯源，是對理論基石的重新審視。只有敢于質疑學科的基本假設，才能真正觸及創新的源頭。

這要求我們打破既有框架，擺脫對權威理論的盲目遵從，敢于在無人區里樹立燈塔。這種突破需要自信與勇氣，需要建立新范式、開辟新路徑，在自立自強、獨創獨有上持續下功夫。

20世紀80年代，我接手搞程控交換機時，連這東西的原理都不太懂。當時西方人說，到20世紀末中國也搞不出來這個東西。可我偏不信——我從程控交換機的第一性問題出發，用“軟件定義功能”的思路去造“能打電話的計算機”，結果搞出了“04機”，把電話初裝費從五千塊降到了兩三百。這段經歷告訴我，創新不是修修補補，而是敢于走沒人走過的路。創新之路上充滿荊棘，希望青年人別怕摔跟頭，勇敢地邁出創新的第一步。

因此，我希望青年科技工作者保持對知識本真的追求，在科學探索中追尋本真、突破“條條框框”，為推動或引領人類工程科學的發展作出新貢獻。

——鄔江興