AI賦能系統(tǒng)的安全風(fēng)險(xiǎn)不容忽視

隨著人工智能技術(shù)在產(chǎn)業(yè)中的不斷深化，AI系統(tǒng)已逐步成為企業(yè)關(guān)鍵業(yè)務(wù)的組成部分。與傳統(tǒng)IT系統(tǒng)不同，AI系統(tǒng)具備“自學(xué)習(xí)、自決策”的特性，這也意味著它們?cè)谶\(yùn)行過(guò)程中可能面臨更多非結(jié)構(gòu)化、動(dòng)態(tài)演變的風(fēng)險(xiǎn)場(chǎng)景。例如：

數(shù)據(jù)投毒：攻擊者通過(guò)惡意干擾訓(xùn)練數(shù)據(jù)，誘導(dǎo)模型產(chǎn)生錯(cuò)誤輸出，影響系統(tǒng)決策。

對(duì)抗攻擊：輸入精心設(shè)計(jì)的對(duì)抗樣本可欺騙AI模型，繞過(guò)安全檢測(cè)或做出錯(cuò)誤判斷。

模型竊取與反向工程：AI模型作為企業(yè)核心資產(chǎn)，易成為攻擊者試圖復(fù)制、反推出模型邏輯的目標(biāo)。

隱私泄露：模型訓(xùn)練過(guò)程中可能暴露敏感數(shù)據(jù)，觸發(fā)GDPR等法規(guī)的合規(guī)風(fēng)險(xiǎn)。

系統(tǒng)不可控性：AI系統(tǒng)的不透明性與自適應(yīng)行為，使傳統(tǒng)安全檢測(cè)難以奏效。

這些問(wèn)題一旦發(fā)生，不僅可能導(dǎo)致企業(yè)數(shù)據(jù)資產(chǎn)受損、業(yè)務(wù)中斷，甚至還會(huì)引發(fā)合規(guī)風(fēng)險(xiǎn)。因此，構(gòu)建具備“可防御、可識(shí)別、可響應(yīng)”能力的AI安全體系，已成為企業(yè)當(dāng)前與未來(lái)不可回避的重要課題。

ETSI TS 104 223標(biāo)準(zhǔn)發(fā)布

為AI系統(tǒng)構(gòu)建系統(tǒng)性安全框架

為響應(yīng)日益突出的AI安全需求，歐洲電信標(biāo)準(zhǔn)協(xié)會(huì)（ETSI）于2025年4月正式發(fā)布了《Securing Artificial Intelligence (SAI); Baseline Cyber Security Requirements for AI Models and Systems》——ETSI TS 104 223標(biāo)準(zhǔn)。

ETSI TS 104 223標(biāo)準(zhǔn)通過(guò)以下方式增強(qiáng) AI 系統(tǒng)的網(wǎng)絡(luò)安全性：

數(shù)據(jù)治理：確保 AI 系統(tǒng)使用的數(shù)據(jù)來(lái)源可靠，防止數(shù)據(jù)中毒等攻擊。

模型穩(wěn)健性：增強(qiáng) AI 模型對(duì)抗攻擊的能力，如對(duì)抗樣本和模型混淆。

透明性和可解釋性：提高 AI 系統(tǒng)的透明度，使其決策過(guò)程更易于理解和審查。

責(zé)任分配：明確各方在 AI 系統(tǒng)安全中的責(zé)任，確保在出現(xiàn)問(wèn)題時(shí)能夠迅速響應(yīng)。

持續(xù)評(píng)估和測(cè)試：定期對(duì) AI 系統(tǒng)進(jìn)行安全評(píng)估和測(cè)試，及時(shí)發(fā)現(xiàn)并修復(fù)潛在漏洞。

作為全球首個(gè)聚焦AI系統(tǒng)網(wǎng)絡(luò)安全的標(biāo)準(zhǔn)體系，該標(biāo)準(zhǔn)通過(guò)三大核心亮點(diǎn)，為企業(yè)提供了清晰的建設(shè)路徑：

13項(xiàng)核心安全原則：為AI系統(tǒng)的安全設(shè)計(jì)與實(shí)現(xiàn)提供了頂層指導(dǎo)。

72條可操作性要求：細(xì)化了在AI系統(tǒng)生命周期各階段需要滿足的具體安全要求，具有很強(qiáng)的落地指導(dǎo)意義。

安全生命周期管控：將安全考慮融入AI的規(guī)劃、數(shù)據(jù)處理、模型開(kāi)發(fā)、部署、運(yùn)行維護(hù)等生命周期的每一個(gè)環(huán)節(jié)。

通過(guò)這些規(guī)范，標(biāo)準(zhǔn)旨在建立一個(gè)可信賴的 AI 安全生態(tài)系統(tǒng)，保護(hù)最終用戶免受不斷演變的網(wǎng)絡(luò)威脅。

DEKRA德凱：專業(yè)AI安全評(píng)估合作伙伴

助力企業(yè)理解并實(shí)施ETSI TS 104 223

作為國(guó)際領(lǐng)先的第三方檢驗(yàn)檢測(cè)認(rèn)證機(jī)構(gòu)，DEKRA德凱緊跟AI領(lǐng)域前沿標(biāo)準(zhǔn)動(dòng)態(tài)，現(xiàn)已推出覆蓋 ETSI TS 104 223 的評(píng)估與測(cè)試服務(wù)，護(hù)航企業(yè)AI創(chuàng)新之路：

標(biāo)準(zhǔn)解讀與差距評(píng)估：協(xié)助企業(yè)全面理解標(biāo)準(zhǔn)要求，并識(shí)別當(dāng)前AI系統(tǒng)的安全弱點(diǎn)與改進(jìn)方向。

技術(shù)測(cè)試與漏洞分析：通過(guò)實(shí)測(cè)方式檢測(cè)數(shù)據(jù)安全性與系統(tǒng)防御能力。

整改建議與能力建設(shè)：指導(dǎo)企業(yè)通過(guò)架構(gòu)優(yōu)化、流程重建或技術(shù)加固，提升系統(tǒng)整體安全性。

DEKRA德凱不僅提供技術(shù)服務(wù)，更幫助客戶構(gòu)建長(zhǎng)期可信的AI安全管理機(jī)制。通過(guò)引入ETSI TS 104 223標(biāo)準(zhǔn)體系，企業(yè)不僅能提升自身AI系統(tǒng)的安全水平，也能在信任、合規(guī)與責(zé)任方面，建立更堅(jiān)實(shí)的基礎(chǔ)。

關(guān)于DEKRA德凱

DEKRA德凱，百年安全保障的全球領(lǐng)導(dǎo)者。成立于1925年，DEKRA德凱旨在通過(guò)車輛檢驗(yàn)確保道路安全。如今，DEKRA德凱已發(fā)展成為全球最大的獨(dú)立非上市檢驗(yàn)、檢測(cè)和認(rèn)證專家機(jī)構(gòu)，覆蓋廣泛的行業(yè)領(lǐng)域。作為值得信賴的全球合作伙伴，DEKRA德凱憑借全面的服務(wù)和創(chuàng)新的解決方案，助力客戶提升安全和可持續(xù)發(fā)展，踐行百年慶典主題——“Securing the Future”。2024年，DEKRA德凱營(yíng)業(yè)總額達(dá)到43億歐元，業(yè)務(wù)遍布世界5大洲60多個(gè)國(guó)家和地區(qū)，逾48,000名員工致力于提供獨(dú)立、專業(yè)的專家服務(wù)。DEKRA德凱連續(xù)榮獲EcoVadis鉑金評(píng)級(jí)，位列前1%的可持續(xù)發(fā)展公司之列。