3月13日，《中華人民共和國(guó)國(guó)民經(jīng)濟(jì)和社會(huì)發(fā)展第十五個(gè)五年規(guī)劃綱要》（以下簡(jiǎn)稱《綱要》）正式發(fā)布，為我國(guó)未來(lái)五年經(jīng)濟(jì)社會(huì)發(fā)展擘畫(huà)了宏偉藍(lán)圖、明確了實(shí)踐路徑。人工智能作為新質(zhì)生產(chǎn)力的核心引擎，在《綱要》正文中被提及30次，被賦予了前所未有的戰(zhàn)略地位，其發(fā)展與安全治理被納入數(shù)字中國(guó)建設(shè)、國(guó)家安全體系的全局部署。

統(tǒng)籌發(fā)展與安全是《綱要》的基本方略，也是未來(lái)五年我國(guó)人工智能產(chǎn)業(yè)發(fā)展的主基調(diào)?！毒V要》明確將人工智能安全與治理納入國(guó)家頂層設(shè)計(jì)，并在戰(zhàn)略布局、法律法規(guī)、體系建設(shè)、重點(diǎn)治理等層面，提出了明確的規(guī)劃與要求。這標(biāo)志著我國(guó)人工智能安全與治理正式進(jìn)入全領(lǐng)域、全流程、制度化的全新發(fā)展階段，也為政、企、學(xué)、研、用各界指明了方向、確立了目標(biāo)。

本文將系統(tǒng)解讀《綱要》對(duì)于人工智能安全與治理的相關(guān)政策部署，聚焦全生命周期風(fēng)險(xiǎn)管理制度與風(fēng)險(xiǎn)防控體系建設(shè)，為各界準(zhǔn)確把握政策導(dǎo)向提供權(quán)威參考。

一、夯實(shí)制度基石：完善人工智能安全治理的法治體系

“十五五”期間，人工智能安全與治理全面納入法治化軌道?！毒V要》第十四章第二節(jié)“完善科學(xué)有效監(jiān)管機(jī)制”中明確要求：“完善人工智能領(lǐng)域法律法規(guī)、政策制度、應(yīng)用規(guī)范、倫理準(zhǔn)則，健全算法備案、透明度管理、安全評(píng)估等制度，探索建立人工智能生成物權(quán)利歸屬和開(kāi)發(fā)者、經(jīng)營(yíng)者、使用者權(quán)責(zé)認(rèn)定規(guī)則”。

這意味著，我國(guó)將加速構(gòu)建“法治+監(jiān)管+倫理+標(biāo)準(zhǔn)”四位一體的治理體系，為風(fēng)控體系落地提供制度支撐。

在法治層面，新修訂的《網(wǎng)絡(luò)安全法》已新增人工智能安全與治理相關(guān)條款，將AI安全納入網(wǎng)絡(luò)安全基礎(chǔ)性法律框架，實(shí)現(xiàn)了AI安全與網(wǎng)絡(luò)、數(shù)據(jù)安全的法治銜接。結(jié)合《綱要》部署，“十五五”期間，業(yè)界期盼已久的《人工智能法》有望正式進(jìn)入立法程序，針對(duì)算法歧視、深度偽造責(zé)任歸屬等深層次問(wèn)題提供專(zhuān)項(xiàng)法律依據(jù)。

在監(jiān)管層面，《綱要》明確要求制定的算法備案、透明度管理、安全評(píng)估三大制度，將保證算法可追溯、打破算法黑箱、嚴(yán)控源頭風(fēng)險(xiǎn)。

在倫理和標(biāo)準(zhǔn)層面，倫理準(zhǔn)則與配套的國(guó)家標(biāo)準(zhǔn)、行業(yè)標(biāo)準(zhǔn)為技術(shù)應(yīng)用劃定價(jià)值底線，提供可操作的執(zhí)行依據(jù)，讓AI治理有法可依、有章可循。

二、強(qiáng)化風(fēng)險(xiǎn)管理：建立人工智能全生命周期風(fēng)險(xiǎn)管理制度

《綱要》明確提出：“推動(dòng)建立人工智能全生命周期風(fēng)險(xiǎn)管理制度”。這是AI安全治理的核心制度安排，也是落實(shí)“統(tǒng)籌發(fā)展與安全”方針的關(guān)鍵舉措，旨在破解傳統(tǒng)監(jiān)管“事前無(wú)防范、事中難管控、事后缺處置”的痛點(diǎn)，將治理的觸角延伸至算法設(shè)計(jì)、數(shù)據(jù)采集、模型訓(xùn)練、測(cè)試評(píng)估及部署應(yīng)用的每一個(gè)細(xì)胞。

該制度覆蓋AI系統(tǒng)從規(guī)劃到退役的六大核心環(huán)節(jié)，全程落實(shí)風(fēng)險(xiǎn)可預(yù)判、可監(jiān)測(cè)、可處置、可追溯的要求。

需求分析與設(shè)計(jì)階段：聚焦風(fēng)險(xiǎn)前置評(píng)估，在系統(tǒng)立項(xiàng)初期同步識(shí)別安全、倫理、法律風(fēng)險(xiǎn)，建立風(fēng)險(xiǎn)清單與分級(jí)標(biāo)準(zhǔn)，對(duì)高風(fēng)險(xiǎn)場(chǎng)景嚴(yán)格約束，從源頭防范技術(shù)盲目落地。

數(shù)據(jù)準(zhǔn)備與預(yù)處理階段：聚焦數(shù)據(jù)合規(guī)與質(zhì)量管控，遵循法律法規(guī)要求，規(guī)范數(shù)據(jù)采集、標(biāo)注、存儲(chǔ)全流程，開(kāi)展質(zhì)量校驗(yàn)，強(qiáng)化敏感數(shù)據(jù)加密與隱私保護(hù)，為后續(xù)模型開(kāi)發(fā)提供安全合規(guī)的數(shù)據(jù)支撐。

模型開(kāi)發(fā)與訓(xùn)練階段：落實(shí)“安全左移”理念，強(qiáng)化模型算法安全測(cè)試、數(shù)據(jù)安全管控與隱私保護(hù)，規(guī)范數(shù)據(jù)全流程使用，杜絕非法數(shù)據(jù)濫用，消除技術(shù)內(nèi)生安全隱患。

工程化與部署階段：實(shí)施分級(jí)安全管控，完成安全驗(yàn)證、算法備案與透明度評(píng)估，按場(chǎng)景風(fēng)險(xiǎn)等級(jí)差異化監(jiān)管，涉及公共利益、國(guó)家安全的高風(fēng)險(xiǎn)場(chǎng)景從嚴(yán)管控，確保不安全系統(tǒng)不落地運(yùn)行。

運(yùn)行與監(jiān)控階段：搭建常態(tài)化監(jiān)測(cè)平臺(tái)，實(shí)時(shí)跟蹤系統(tǒng)運(yùn)行、模型輸出與數(shù)據(jù)流轉(zhuǎn)，精準(zhǔn)識(shí)別異常漏洞與倫理偏差，實(shí)現(xiàn)風(fēng)險(xiǎn)早發(fā)現(xiàn)、早研判。

退役與停用階段：規(guī)范數(shù)據(jù)銷(xiāo)毀、模型封存與系統(tǒng)關(guān)停流程，徹底清除敏感數(shù)據(jù)與技術(shù)殘留，杜絕后續(xù)數(shù)據(jù)泄露風(fēng)險(xiǎn)，形成完整管理閉環(huán)。

這要求企業(yè)將安全管理由“外部約束”全面轉(zhuǎn)化為“內(nèi)部流程體系”。在實(shí)踐層面，企業(yè)應(yīng)嚴(yán)格落實(shí)《綱要》關(guān)于算法備案、透明度管理與安全評(píng)估的法定要求，將合規(guī)審查節(jié)點(diǎn)深度嵌入從立項(xiàng)研發(fā)、數(shù)據(jù)處理到部署退役的每一道流程關(guān)口。通過(guò)建立貫穿全過(guò)程的倫理審查與權(quán)責(zé)認(rèn)定機(jī)制，確保AI系統(tǒng)在生命周期的每一個(gè)坐標(biāo)點(diǎn)都具備“合規(guī)身份”，從而在組織制度層面筑牢防御陣地，實(shí)現(xiàn)從“零散防范”向“全流程合規(guī)管理”的系統(tǒng)性跨越。

三、提升響應(yīng)能力：打造風(fēng)險(xiǎn)防控閉環(huán)體系

如果說(shuō)全生命周期管理制度是治理的“藍(lán)圖”，那么風(fēng)險(xiǎn)防控體系就是實(shí)現(xiàn)該藍(lán)圖的核心“抓手”?！毒V要》明確提出：“健全覆蓋安全監(jiān)測(cè)、風(fēng)險(xiǎn)預(yù)警、應(yīng)急響應(yīng)的風(fēng)險(xiǎn)防控體系”。該體系是全生命周期風(fēng)險(xiǎn)管理制度的核心支撐，三大機(jī)制協(xié)同聯(lián)動(dòng)，構(gòu)建“監(jiān)測(cè)-預(yù)警-響應(yīng)”的風(fēng)險(xiǎn)管理閉環(huán)，實(shí)現(xiàn)從單點(diǎn)防御到系統(tǒng)防護(hù)的升級(jí)。

安全監(jiān)測(cè)機(jī)制是風(fēng)險(xiǎn)防控的基礎(chǔ)，依托技術(shù)平臺(tái)搭建全覆蓋監(jiān)測(cè)體系，覆蓋模型、數(shù)據(jù)、系統(tǒng)、算法等核心維度，實(shí)時(shí)捕捉風(fēng)險(xiǎn)苗頭與異常波動(dòng)，為風(fēng)險(xiǎn)處置提供精準(zhǔn)數(shù)據(jù)支撐，做到風(fēng)險(xiǎn)早發(fā)現(xiàn)。

風(fēng)險(xiǎn)預(yù)警機(jī)制是防控樞紐，基于監(jiān)測(cè)數(shù)據(jù)開(kāi)展分級(jí)研判，劃分一般、重大、特別重大風(fēng)險(xiǎn)等級(jí)，建立分級(jí)預(yù)警流程，對(duì)高風(fēng)險(xiǎn)事項(xiàng)及時(shí)發(fā)出提示，為風(fēng)險(xiǎn)處置爭(zhēng)取時(shí)間，做到防患未然。

應(yīng)急響應(yīng)機(jī)制是最后防線，制定專(zhuān)項(xiàng)應(yīng)急預(yù)案，建立AI系統(tǒng)熔斷與一鍵管控機(jī)制，突發(fā)風(fēng)險(xiǎn)時(shí)快速啟動(dòng)處置，暫停違規(guī)系統(tǒng)運(yùn)行，控制風(fēng)險(xiǎn)擴(kuò)散，降低損失并復(fù)盤(pán)優(yōu)化，形成處置閉環(huán)。

風(fēng)險(xiǎn)防控體系的有效運(yùn)轉(zhuǎn)，核心在于實(shí)現(xiàn)從“管理框架”到“內(nèi)生本領(lǐng)”的技術(shù)跨越。企業(yè)需深度落實(shí)《綱要》關(guān)于“深化可解釋、可決策等關(guān)鍵算法研究”的部署，從底層架構(gòu)層面賦予系統(tǒng)更強(qiáng)的抗干擾能力與邏輯透明度。通過(guò)構(gòu)建動(dòng)態(tài)感知的安全監(jiān)測(cè)儀表盤(pán)與標(biāo)準(zhǔn)化的應(yīng)急止損接口，確保在面對(duì)數(shù)據(jù)濫用、深度偽造等突發(fā)風(fēng)險(xiǎn)時(shí)，系統(tǒng)能夠?qū)崿F(xiàn)“感知即預(yù)警、預(yù)警即響應(yīng)”的技術(shù)閉環(huán)。這種即時(shí)化的風(fēng)險(xiǎn)處置能力，將成為企業(yè)在復(fù)雜數(shù)智環(huán)境下確保業(yè)務(wù)連續(xù)性的核心安全底座。

四、精準(zhǔn)靶向治理：重塑社會(huì)治理與平臺(tái)經(jīng)濟(jì)數(shù)智規(guī)范

針對(duì)社會(huì)反響強(qiáng)烈的AI亂象，《綱要》列出了明確的治理“清單”，即要求“依法打擊數(shù)據(jù)濫用、深度偽造、泄露隱私等行為”。這體現(xiàn)了監(jiān)管層面對(duì)個(gè)人信息保護(hù)和網(wǎng)絡(luò)空間真實(shí)性的高度重視。同時(shí)，對(duì)于支撐AI運(yùn)行的平臺(tái)生態(tài)，《綱要》要求“加強(qiáng)平臺(tái)企業(yè)數(shù)據(jù)、算法、流量和規(guī)則監(jiān)管”，旨在打破“內(nèi)卷式”競(jìng)爭(zhēng)，促進(jìn)平臺(tái)企業(yè)和平臺(tái)內(nèi)經(jīng)營(yíng)者、勞動(dòng)者共贏發(fā)展

此外，《綱要》高度重視人工智能在社會(huì)治理中的作用。通過(guò)深化“人工智能+”行動(dòng)，《綱要》要求在安全生產(chǎn)監(jiān)管、防災(zāi)減災(zāi)救災(zāi)、社會(huì)治安管理等領(lǐng)域全面賦能，從而實(shí)現(xiàn)社會(huì)治理的智慧化、精細(xì)化。

五、深化國(guó)際合作：貢獻(xiàn)人工智能全球治理的“中國(guó)方案”

人工智能的治理不僅是中國(guó)的問(wèn)題，更是全球的共同挑戰(zhàn)?！毒V要》提出要“拓展數(shù)智領(lǐng)域國(guó)際合作”，并“積極參與人工智能、數(shù)字貨幣、數(shù)據(jù)跨境流動(dòng)等領(lǐng)域國(guó)際治理”。在具體的組織架構(gòu)上，《綱要》明確提出要“推動(dòng)成立世界人工智能合作組織”，并建設(shè)“‘一帶一路’人工智能多邊合作平臺(tái)”。

中國(guó)正以負(fù)責(zé)任大國(guó)的姿態(tài)，倡導(dǎo)“構(gòu)建平權(quán)、互信、多元、共贏的全球人工智能開(kāi)放生態(tài)”。這種國(guó)際化視野不僅有助于在全球范圍內(nèi)輸AI治理的“中國(guó)方案”，更能通過(guò)“加強(qiáng)國(guó)際司法協(xié)調(diào)和規(guī)則互認(rèn)”，為我國(guó)AI產(chǎn)業(yè)參與全球數(shù)字治理、增強(qiáng)國(guó)際話語(yǔ)權(quán)提供有力支撐。

六、深化實(shí)踐落實(shí)：多元協(xié)同落實(shí)《綱要》部署

對(duì)《綱要》提出的宏觀部署，政策的生命力在于執(zhí)行。為了將人工智能安全治理的“藍(lán)圖”轉(zhuǎn)化為具體“實(shí)踐”，必須凝聚政、企、社、才各方合力，構(gòu)建多層聯(lián)動(dòng)、協(xié)同增效的落地機(jī)制。

1.壓實(shí)企業(yè)主體責(zé)任，強(qiáng)化全鏈條安全管控

企業(yè)作為技術(shù)創(chuàng)新的主體，應(yīng)嚴(yán)格落實(shí)《綱要》關(guān)于“開(kāi)發(fā)者、經(jīng)營(yíng)者、使用者權(quán)責(zé)認(rèn)定規(guī)則”的要求。研發(fā)方需將安全評(píng)估、算法備案貫穿模型迭代全過(guò)程，確保技術(shù)“合規(guī)上線”；運(yùn)營(yíng)方與使用方應(yīng)建立健全內(nèi)部安全審核機(jī)制，壓實(shí)數(shù)據(jù)安全與隱私保護(hù)責(zé)任 ，實(shí)現(xiàn)安全能力從底層架構(gòu)到應(yīng)用端的全鏈條覆蓋。

2.提升政府監(jiān)管賦能，實(shí)現(xiàn)智能化精準(zhǔn)治理

《綱要》強(qiáng)調(diào)要“完善科學(xué)有效監(jiān)管機(jī)制”，這要求監(jiān)管部門(mén)加快向“智能監(jiān)管”轉(zhuǎn)型。通過(guò)“健全算法備案、透明度管理”等制度工具 ，政府應(yīng)充分利用 AI 技術(shù)賦能安全治理，提升對(duì)安全風(fēng)險(xiǎn)的“感知預(yù)警、指揮決策和即時(shí)響應(yīng)能力”，在確保安全可靠的前提下，為人工智能產(chǎn)業(yè)營(yíng)造“有益、安全、公平的發(fā)展環(huán)境”。

3.推動(dòng)社會(huì)協(xié)同監(jiān)督，共建多元共治新格局

AI治理需堅(jiān)持“多元協(xié)同共治”。應(yīng)暢通社會(huì)反饋渠道 ，鼓勵(lì)行業(yè)協(xié)會(huì)制定自律公約，引導(dǎo)各方“有序參與社會(huì)治理”。通過(guò)形成行業(yè)自律與社會(huì)監(jiān)督的合力，有效識(shí)別并抵制“數(shù)據(jù)濫用、深度偽造”等違規(guī)行為，讓科技向善成為全社會(huì)的自覺(jué)行動(dòng)。

4.強(qiáng)化人才技術(shù)支撐，構(gòu)筑內(nèi)生安全底座

人才與技術(shù)是落地根基，需持續(xù)強(qiáng)化AI 安全技術(shù)研發(fā)與專(zhuān)業(yè)人才培養(yǎng)。聚焦模型安全、應(yīng)急處置等關(guān)鍵領(lǐng)域攻關(guān)核心技術(shù)，完善安全工具體系；深化校企協(xié)同育人，培育兼具技術(shù)、合規(guī)、倫理知識(shí)的復(fù)合型人才，為AI安全治理提供長(zhǎng)效技術(shù)與人才支撐。

七、芯盾時(shí)代的人工智能安全與治理實(shí)踐

芯盾時(shí)代作為領(lǐng)先的業(yè)務(wù)安全產(chǎn)品方案提供商，自2015年成立以來(lái)，始終將人工智能技術(shù)作為核心戰(zhàn)略支柱之一，基于自主研發(fā)的AI模型與豐富的項(xiàng)目積累，助力企業(yè)構(gòu)建“雙向驅(qū)動(dòng)”的AI業(yè)務(wù)安全體系，為企業(yè)數(shù)智化業(yè)務(wù)轉(zhuǎn)型的決策和安全防護(hù)場(chǎng)景，提供高精準(zhǔn)、零信任、自適應(yīng)的一體化AI基座。

為了共建人工智能安全與治理生態(tài)，芯盾時(shí)代作為發(fā)起單位之一，與中國(guó)科學(xué)院自動(dòng)化研究所、北京大學(xué)、清華大學(xué)、中國(guó)信息通信研究院等政、企、學(xué)、研單位聯(lián)合發(fā)起成立了國(guó)內(nèi)首個(gè)AI安全與治理的研究機(jī)構(gòu)——北京前瞻人工智能安全與治理研究院，構(gòu)筑全球化交流平臺(tái)，共同開(kāi)展人工智能安全研究與治理實(shí)踐，為國(guó)家的人工智能安全與治理體系貢獻(xiàn)中堅(jiān)力量，為全球人工智能安全與治理的協(xié)作與合作貢獻(xiàn)中國(guó)聲音。

芯盾時(shí)代發(fā)起、承擔(dān)了多項(xiàng)人工智能安全與治理的前沿課題，取得了一系列研究成果，獲得了權(quán)威機(jī)構(gòu)的高度認(rèn)可。在此基礎(chǔ)上，芯盾時(shí)代將研究成果與自身產(chǎn)品技術(shù)深度融合，為客戶提供AI安全解決方案，幫助企業(yè)安全、高效地部署、使用AI大模型，奠定數(shù)智化轉(zhuǎn)型安全基座。

憑借在AI技術(shù)研發(fā)與應(yīng)用上的突出成果，芯盾時(shí)代先后榮獲“中國(guó)AI最高獎(jiǎng)”吳文俊人工智能科學(xué)技術(shù)獎(jiǎng)一等獎(jiǎng)、北京市科學(xué)技術(shù)進(jìn)步二等獎(jiǎng)、銀行業(yè)信息科技風(fēng)險(xiǎn)管理課題一類(lèi)成果獎(jiǎng)、中國(guó)電子學(xué)會(huì)科技進(jìn)步三等獎(jiǎng)等權(quán)威獎(jiǎng)項(xiàng)，并作為業(yè)務(wù)安全領(lǐng)域唯一代表廠商多次入選Gartner人工智能領(lǐng)域相關(guān)重磅報(bào)告。

“十五五”規(guī)劃綱要為我國(guó)人工智能安全治理擘畫(huà)了宏偉藍(lán)圖，也為芯盾時(shí)代指明了奮斗航標(biāo)。芯盾時(shí)代將全力落實(shí)《綱要》部署，推進(jìn)AI全生命周期風(fēng)險(xiǎn)管理制度與風(fēng)險(xiǎn)防控體系建設(shè)，通過(guò)政企研協(xié)同創(chuàng)新，將國(guó)家治理藍(lán)圖轉(zhuǎn)化為扎實(shí)的數(shù)智屏障，為新質(zhì)生產(chǎn)力的高質(zhì)量發(fā)展貢獻(xiàn)力量，護(hù)航人工智能技術(shù)在向善軌道上行穩(wěn)致遠(yuǎn)。