在人工智能（AI）技術加速發展的同時，有關AI安全風險的警報聲也在明顯增大。英國《金融時報》不久前在一篇文章中引用“切爾諾貝利時刻”的說法，提醒世界需要防止AI領域出現類似“時刻”，即因為一次重大失控事件及其連鎖反應，突然擊穿社會對技術進步的信任。

這些聲音的一個共同點，在于都不只是把AI發展看作一般意義上的產業升級，而是將其視為一種可能重塑社會結構和人類處境的基礎性技術。與之相應的巨大風險，首先來自AI能力躍遷與制度相對滯后的錯位。AI技術的一個優勢但也極其危險之處在于，它的能力具有通用性和可復制性。同一個大模型可以幫助程序員修復系統漏洞，也能被破壞者用來生成攻擊路徑。

其次，來自AI領域過度的“速度崇拜”。當前前沿AI模型領域競爭已經形成明顯的“軍備競賽邏輯”。相關企業需要融資、估值和市場份額，資本市場需要不斷看到“下一代模型更強”。在這種邏輯下，AI模型能力快速增長，安全擔憂和風險管理在技術加速的迫切性面前愈發難以受到足夠重視。

再次，來自AI領域的透明度不足。一些前沿AI模型在訓練中用了什么數據，具備哪些危險能力，安全評估是否充分等等，這些關鍵問題目前依然高度依賴企業的自我披露。

最后，來自國家或路徑競爭對AI安全治理的擠壓。在幾經猶豫和內部博弈之后，美國政府近期要求前沿AI模型在發布之前接受測試和國家安全審查。但美國方案有其內在局限。它看似強調安全，實則把安全納入美國技術領先、國家安全和盟友體系等考量之中。這種做法可能讓AI安全治理成為大國政治新的分歧點，阻礙國際社會參與全球AI安全治理合作的意愿。

顯然，避免AI領域的“切爾諾貝利時刻”，不能單純依靠恐慌心態，也不能靠粗暴的技術剎車。真正可行的路徑是建立一種“在發展中嵌入安全、在安全中維持創新”的有效治理框架。

一是要求領先AI企業承擔更高透明度義務。前沿AI大模型不能再被視為普通互聯網產品，達到一定能力閾值、可能影響國家安全的模型應當發布標準化安全報告，披露能力評估、風險緩釋措施和部署邊界。

二是建立第三方安全評價機制。AI安全不能只由企業自我評測，而應當是企業自評、第三方復評、監管部門抽查、重大模型強制備案等相結合。對于涉及生物武器、關鍵基礎設施破壞等高危能力的大模型，還應設置更嚴格的門檻。

三是探索算法授權、溯源和追責機制。未來的AI治理重點需從“內容審核”轉向“能力授權”，針對高風險模型和高風險插件建立調用許可、身份認證、用途聲明、行為日志和水印溯源機制。一旦發生重大事故，需要盡快確立責任主體，進行補救和懲罰。

四是推動國際社會制定共同的算法對齊原則和安全機制。AI安全不可能只依靠“美國方案”，而是需要多邊、開放、可驗證的規則體系。

再者，就是要把“防濫用”作為AI安全治理的核心要務。當前國際社會對于AI安全的討論過度聚焦相關模型是否具有“自主意識”，卻低估了它們被人為濫用這一現實世界中更迫近的風險。為此，AI安全治理重心應當放在提高防濫用的門檻上。

如何避免AI技術及其產業出現“切爾諾貝利時刻”，已經成為國際社會迫在眉睫的一場考驗。這顯然需要國際社會攜手合作，允許不同國家、不同文明、不同發展階段的主體參與規則制定。否則，所謂的AI安全治理就會變成新的技術壁壘，所謂的AI風險防控就會變成新的權力分配。（作者是中國現代國際關系研究院美國所副所長、研究員）