2026年4月11日，由OpenHarmony安全委員會主辦、浙江大學網(wǎng)絡(luò)空間安全學院承辦的“智能攻防·安全共治”論壇在浙江杭州·浙江大學玉泉校區(qū)順利舉辦。論壇以“聚焦智能攻防、共筑安全生態(tài)”為核心宗旨，深入剖析AI安全的核心熱點與技術(shù)難點，分享前沿研究成果與實踐案例，探索可信AI的實現(xiàn)路徑，推動構(gòu)建全方位、多層次的AI安全治理體系。來自各大高校、企業(yè)、研究機構(gòu)的專家、學者及行業(yè)代表齊聚一堂，共議AI時代的安全挑戰(zhàn)與應(yīng)對之策。

OpenHarmony安全委員會副主席楊開封在開幕致辭中圍繞“智能攻防·安全治理”這一主題，指出人工智能給網(wǎng)絡(luò)安全帶來的巨大挑戰(zhàn)與機遇。致辭強調(diào)了AI對于安全領(lǐng)域的雙刃劍作用：一方面，AI的高效能力可提升漏洞挖掘與利用，使攻防對抗達到新高度，需加強國家數(shù)字安全防線；另一方面，需在AI發(fā)展過程中同步強化安全防護機制，包括“安全for AI”和“AI for安全”。同時呼吁用AI的方式革新安全治理、漏洞管理及工作流的各環(huán)節(jié)，提高效率與安全性，并期待會議中各方深入探討相關(guān)議題。

浙江大學申大坤作為本場論壇的主持人，介紹了論壇的主旨，并對演講嘉賓表示感謝。

當前推理大模型與智能體系統(tǒng)面臨新興復雜安全威脅，傳統(tǒng)防御機制依賴已知攻擊庫，缺乏動態(tài)迭代能力，難以適配攻防對抗的持續(xù)演化，嚴重制約AI系統(tǒng)安全落地。北京郵電大學網(wǎng)絡(luò)空間安全學院副院長張熙教授提出以認知學習為主導的AI安全防護框架。傳統(tǒng)防御機制依賴已知攻擊庫，難以滿足攻防對抗快速演化的現(xiàn)實需求。新方法賦予系統(tǒng)持續(xù)自主推理與優(yōu)化的能力，推動AI從“知識層”躍升至“智慧層”，為構(gòu)建自適應(yīng)、自進化的AI安全體系奠定基礎(chǔ)。

大模型技術(shù)的發(fā)展對供應(yīng)鏈安全治理帶來了挑戰(zhàn)與機遇。復旦大學計算與智能創(chuàng)新學院陳碧歡副教授系統(tǒng)介紹了軟件供應(yīng)鏈安全所面臨的主要挑戰(zhàn)，以及團隊在大模型賦能軟件供應(yīng)鏈安全的初步嘗試，包括漏洞傳播影響分析、投毒與漏洞檢測等；同時，報告還介紹了大模型供應(yīng)鏈安全所面臨的主要問題，以及團隊在大模型溯源分析與MC生態(tài)風險檢測等方面的初步探索。

隨著大模型的興起，大模型生成代碼與多智能體應(yīng)用也逐步取代了傳統(tǒng)的代碼實現(xiàn)范式。與此同時，AI代碼生成與智能體應(yīng)用仍然存在著諸多安全與實用性問題。浙江大學計算機科學與技術(shù)學院百人計劃研究員李松指出對AI生成代碼隱藏的安全問題進行了深入剖析，并提出代碼生成的實用性與安全性的應(yīng)對建議。

當LLM從實驗室走向生產(chǎn)環(huán)境，安全威脅正沿技術(shù)棧向縱深演進。華中科技大學網(wǎng)絡(luò)空間安全學院慕冬亮副教授聚焦底層推理引擎的Token注入攻擊模型。該攻擊通過構(gòu)造特定Token序列觸發(fā)LLM推理框架的未捕獲異常，實現(xiàn)服務(wù)崩潰。此外，報告還討論了OpenClaw框架安全風險及具體防御策略。

隨著生成式人工智能的爆發(fā)式增長，深度偽造音頻技術(shù)已從實驗室研究走向大規(guī)模應(yīng)用。該技術(shù)能夠以極高的逼真度模擬特定個體的音色、語調(diào)及情感。然而，這種能力的“雙刃劍”效應(yīng)日益凸顯，給身份認證、電信詐騙防控及社會輿論安全帶來了嚴峻挑戰(zhàn)。蘭州大學信息科學與工程學院劉新副教授對深度偽造音頻技術(shù)進行系統(tǒng)性分析，指出其逼真音色模擬對身份認證和電信行業(yè)帶來的挑戰(zhàn)。團隊分析“矛”與“盾”的對抗現(xiàn)狀，為構(gòu)建更具魯棒性的語音安全體系提供初步參考。

傳統(tǒng)的軟件物料清單（SBOM）難以適應(yīng)AI模型復雜的集成特性；另一方面，以 PeatMOSS為代表的現(xiàn)有靜態(tài)分析工具主要依賴抽象語法樹（AST）層面的淺層分析，難以處理跨文件調(diào)用與復雜的參數(shù)傳遞，從而無法精準追蹤風險模型在下游軟件系統(tǒng)中的實際調(diào)用路徑與真實觸發(fā)情況。為突破這一瓶頸，東北大學王瑩副教授提出并實現(xiàn)了一種基于數(shù)據(jù)流分析的風險模型調(diào)用識別框架。為大語言模型供應(yīng)鏈安全提供了系統(tǒng)性的實證依據(jù)與分析視角。

在自動化漏洞分揀已能實現(xiàn)秒級響應(yīng)的當下，安全研究者的工作重點正在發(fā)生變化。AI究竟是效率倍增器，還是隱蔽的干擾源？這是目前閉源系統(tǒng)安全領(lǐng)域需要面對和解決的問題。安全研究員王宇分享了AI如何在漏洞研究中成為效率倍增器和干擾源的雙重角色。通過原創(chuàng)漏洞案例，展示了AI在漏洞挖掘中的實際成效與局限性。呼吁建立與AI有效協(xié)作的方法，同時加強技術(shù)細節(jié)的獨立判斷。

隨著人工智能技術(shù)的不斷發(fā)展，AI安全已經(jīng)成為關(guān)乎數(shù)字時代全局的基礎(chǔ)環(huán)節(jié)。OpenHarmony安全委員會將繼續(xù)秉持“開放共享、協(xié)同創(chuàng)新”的理念，與全球開發(fā)者、企業(yè)及學術(shù)機構(gòu)深化共建，共同攻克安全技術(shù)難題，推動安全技術(shù)的創(chuàng)新、治理理念的融合以及生態(tài)體系的共建。期待更多伙伴加入開源鴻蒙安全生態(tài)建設(shè)，共創(chuàng)更安全、更智能的未來，共筑AI安全的治理之路。