統(tǒng)籌發(fā)展和安全，需要在法律法規(guī)、技術(shù)標(biāo)準(zhǔn)、風(fēng)險監(jiān)測等方面協(xié)同發(fā)力

前不久，美國開放人工智能研究中心（OpenAI）承認(rèn)，旗下部分人工智能（AI）模型在一次內(nèi)部安全測試中失控，突破隔離環(huán)境并入侵開源AI平臺的基礎(chǔ)設(shè)施。這起“前所未有的網(wǎng)絡(luò)安全事件”引人深思：當(dāng)人工智能越來越像一匹日行千里的駿馬，如何才能駕馭好它？

“千里馬”要跑得快，也要跑得穩(wěn)。從生成式大模型到具身智能，從AI編程助手到自主決策智能體，人工智能的能力邊界不斷拓展，應(yīng)用場景持續(xù)豐富，而與之匹配的安全治理卻未必能完全跟上。此次事件中，部分AI模型在無指令下自主完成入侵、滲透、操控的全鏈條動作，暴露出治理能力沒有跟上技術(shù)發(fā)展。安全與發(fā)展從來不是非此即彼，管控好風(fēng)險，創(chuàng)新才有試錯的空間；守住了底線，技術(shù)才有迭代的根基。

統(tǒng)籌發(fā)展和安全，需要在法律法規(guī)、技術(shù)標(biāo)準(zhǔn)、風(fēng)險監(jiān)測等方面協(xié)同發(fā)力。從《人工智能生成合成內(nèi)容標(biāo)識辦法》發(fā)布，到《智能體應(yīng)用安全基本要求》強制性國家標(biāo)準(zhǔn)下達(dá)，再到一些人工智能實驗室推出高安全、產(chǎn)業(yè)級智能體平臺并開源智能體守衛(wèi)模型，探索將安全準(zhǔn)則嵌入智能體決策層……以規(guī)則的確定性應(yīng)對技術(shù)的不確定性，讓安全治理覆蓋從模型研發(fā)到終端應(yīng)用的各個環(huán)節(jié)，才能確保人工智能始終安全、可靠、可控。

“千里馬”行穩(wěn)致遠(yuǎn)，需要有廣闊的空間。此次OpenAI模型失控事件的“下半場”頗具啟示：多家閉源模型因安全護(hù)欄無法參與分析攻擊載荷的工作，被入侵平臺的工程師最終依靠在本地部署中國開源模型GLM—5.2完成取證流程?？梢?，開源模型既能降低人工智能使用門檻，也有助于構(gòu)筑更穩(wěn)固的安全堤壩。

DeepSeek面世以來，全球開發(fā)者參與模型復(fù)現(xiàn)與安全改進(jìn)的熱潮至今不息。某種程度上，看到代碼的眼睛越多，藏身其中的風(fēng)險就越少。以開放促安全、以協(xié)作聚合力，這正是中國率先提出《全球人工智能治理倡議》、推動成立世界人工智能合作組織的重要目的。今天的中國，既是全球開源參與者增速最快的國家，也在積極推動人工智能治理規(guī)則與技術(shù)標(biāo)準(zhǔn)的國際對接協(xié)調(diào)。面對技術(shù)進(jìn)步帶來的治理挑戰(zhàn)，各國需要攜手應(yīng)對、通力合作，讓人工智能始終處于人類控制之下。

“千里馬”疾馳，最緊要的是錨定向上向善、造福人類的方向。發(fā)展人工智能，不僅要看算力多強、模型多大，更要看能幫多少人解決多少真問題。在巴基斯坦等國，中國氣象智能預(yù)警方案“媽祖”落地顯效，幫助氣象學(xué)家在季風(fēng)雨季提前捕捉極端信號、發(fā)布預(yù)警，減少人員傷亡和財產(chǎn)損失。在巴西，中國企業(yè)搭建智慧農(nóng)場管理平臺，將耕種管收全流程納入智能化管控，越來越多當(dāng)?shù)剞r(nóng)戶走出“看天吃飯”的困境，實現(xiàn)增產(chǎn)增收。各國無論大小、強弱，都應(yīng)該擁有平等發(fā)展和利用人工智能的權(quán)利。深化創(chuàng)新合作，彌合智能鴻溝，新技術(shù)定能跨越山海，持續(xù)釋放惠及更多人的紅利。

“明者因時而變，知者隨事而制。”當(dāng)前，人工智能技術(shù)創(chuàng)新進(jìn)入前所未有的活躍期。未來，決定這匹“千里馬”命運的，不只是速度，也是方向與規(guī)則。以善治促善智，這是中國的選擇，也是時代的呼喚。（孟繁哲）