AI賦能系統(tǒng)的安全風(fēng)險不容忽視

隨著人工智能技術(shù)在產(chǎn)業(yè)中的不斷深化，AI系統(tǒng)已逐步成為企業(yè)關(guān)鍵業(yè)務(wù)的組成部分。與傳統(tǒng)IT系統(tǒng)不同，AI系統(tǒng)具備“自學(xué)習(xí)、自決策”的特性，這也意味著它們在運行過程中可能面臨更多非結(jié)構(gòu)化、動態(tài)演變的風(fēng)險場景。例如：

數(shù)據(jù)投毒：攻擊者通過惡意干擾訓(xùn)練數(shù)據(jù)，誘導(dǎo)模型產(chǎn)生錯誤輸出，影響系統(tǒng)決策。

對抗攻擊：輸入精心設(shè)計的對抗樣本可欺騙AI模型，繞過安全檢測或做出錯誤判斷。

模型竊取與反向工程：AI模型作為企業(yè)核心資產(chǎn)，易成為攻擊者試圖復(fù)制、反推出模型邏輯的目標。

隱私泄露：模型訓(xùn)練過程中可能暴露敏感數(shù)據(jù)，觸發(fā)GDPR等法規(guī)的合規(guī)風(fēng)險。

系統(tǒng)不可控性：AI系統(tǒng)的不透明性與自適應(yīng)行為，使傳統(tǒng)安全檢測難以奏效。

這些問題一旦發(fā)生，不僅可能導(dǎo)致企業(yè)數(shù)據(jù)資產(chǎn)受損、業(yè)務(wù)中斷，甚至還會引發(fā)合規(guī)風(fēng)險。因此，構(gòu)建具備“可防御、可識別、可響應(yīng)”能力的AI安全體系，已成為企業(yè)當前與未來不可回避的重要課題。

ETSI TS 104 223標準發(fā)布

為AI系統(tǒng)構(gòu)建系統(tǒng)性安全框架

為響應(yīng)日益突出的AI安全需求，歐洲電信標準協(xié)會（ETSI）于2025年4月正式發(fā)布了《Securing Artificial Intelligence (SAI); Baseline Cyber Security Requirements for AI Models and Systems》——ETSI TS 104 223標準。

ETSI TS 104 223標準通過以下方式增強 AI 系統(tǒng)的網(wǎng)絡(luò)安全性：

數(shù)據(jù)治理：確保 AI 系統(tǒng)使用的數(shù)據(jù)來源可靠，防止數(shù)據(jù)中毒等攻擊。

模型穩(wěn)健性：增強 AI 模型對抗攻擊的能力，如對抗樣本和模型混淆。

透明性和可解釋性：提高 AI 系統(tǒng)的透明度，使其決策過程更易于理解和審查。

責任分配：明確各方在 AI 系統(tǒng)安全中的責任，確保在出現(xiàn)問題時能夠迅速響應(yīng)。

持續(xù)評估和測試：定期對 AI 系統(tǒng)進行安全評估和測試，及時發(fā)現(xiàn)并修復(fù)潛在漏洞。

作為全球首個聚焦AI系統(tǒng)網(wǎng)絡(luò)安全的標準體系，該標準通過三大核心亮點，為企業(yè)提供了清晰的建設(shè)路徑：

13項核心安全原則：為AI系統(tǒng)的安全設(shè)計與實現(xiàn)提供了頂層指導(dǎo)。

72條可操作性要求：細化了在AI系統(tǒng)生命周期各階段需要滿足的具體安全要求，具有很強的落地指導(dǎo)意義。

安全生命周期管控：將安全考慮融入AI的規(guī)劃、數(shù)據(jù)處理、模型開發(fā)、部署、運行維護等生命周期的每一個環(huán)節(jié)。

通過這些規(guī)范，標準旨在建立一個可信賴的 AI 安全生態(tài)系統(tǒng)，保護最終用戶免受不斷演變的網(wǎng)絡(luò)威脅。

DEKRA德凱：專業(yè)AI安全評估合作伙伴

助力企業(yè)理解并實施ETSI TS 104 223

作為國際領(lǐng)先的第三方檢驗檢測認證機構(gòu)，DEKRA德凱緊跟AI領(lǐng)域前沿標準動態(tài)，現(xiàn)已推出覆蓋 ETSI TS 104 223 的評估與測試服務(wù)，護航企業(yè)AI創(chuàng)新之路：

標準解讀與差距評估：協(xié)助企業(yè)全面理解標準要求，并識別當前AI系統(tǒng)的安全弱點與改進方向。

技術(shù)測試與漏洞分析：通過實測方式檢測數(shù)據(jù)安全性與系統(tǒng)防御能力。

整改建議與能力建設(shè)：指導(dǎo)企業(yè)通過架構(gòu)優(yōu)化、流程重建或技術(shù)加固，提升系統(tǒng)整體安全性。

DEKRA德凱不僅提供技術(shù)服務(wù)，更幫助客戶構(gòu)建長期可信的AI安全管理機制。通過引入ETSI TS 104 223標準體系，企業(yè)不僅能提升自身AI系統(tǒng)的安全水平，也能在信任、合規(guī)與責任方面，建立更堅實的基礎(chǔ)。

關(guān)于DEKRA德凱

DEKRA德凱，百年安全保障的全球領(lǐng)導(dǎo)者。成立于1925年，DEKRA德凱旨在通過車輛檢驗確保道路安全。如今，DEKRA德凱已發(fā)展成為全球最大的獨立非上市檢驗、檢測和認證專家機構(gòu)，覆蓋廣泛的行業(yè)領(lǐng)域。作為值得信賴的全球合作伙伴，DEKRA德凱憑借全面的服務(wù)和創(chuàng)新的解決方案，助力客戶提升安全和可持續(xù)發(fā)展，踐行百年慶典主題——“Securing the Future”。2024年，DEKRA德凱營業(yè)總額達到43億歐元，業(yè)務(wù)遍布世界5大洲60多個國家和地區(qū)，逾48,000名員工致力于提供獨立、專業(yè)的專家服務(wù)。DEKRA德凱連續(xù)榮獲EcoVadis鉑金評級，位列前1%的可持續(xù)發(fā)展公司之列。