全新的集成解決方案確保企業(yè)以安全、負(fù)責(zé)任的方式應(yīng)用 AI 智能體及其他生成式 AI 技術(shù)。

借助以上工具，企業(yè)可以對(duì)智能體執(zhí)行“紅隊(duì)測(cè)試”和審計(jì)，并檢測(cè)“影子智能體”等安全威脅。

隨著越來(lái)越多的企業(yè)開(kāi)始推動(dòng) AI 智能體的規(guī)模應(yīng)用，IBM 于近日推出業(yè)內(nèi)首款整合了AI 安全與 AI 治理、并提供企業(yè)風(fēng)險(xiǎn)態(tài)勢(shì)統(tǒng)一視圖的軟件。

該產(chǎn)品的新功能增強(qiáng)并集成了 watsonx.governance 和 Guardium AI Security 的能力，旨在幫助客戶(hù)以安全且負(fù)責(zé)任的方式，實(shí)現(xiàn)AI技術(shù)（包括智能體）的規(guī)模應(yīng)用。watsonx.governance 是 IBM 的端到端 AI 治理工具，Guardium AI Security軟件則用于保護(hù) AI 模型、數(shù)據(jù)和應(yīng)用的安全。

IBM 數(shù)據(jù)和 AI 業(yè)務(wù)總經(jīng)理 Ritika Gunnar表示：“AI 智能體有能力重塑企業(yè)的生產(chǎn)力，但其優(yōu)勢(shì)也會(huì)帶來(lái)挑戰(zhàn)。如果這些自主的系統(tǒng)得不到妥善的治理或保護(hù)，可能會(huì)帶來(lái)嚴(yán)重的后果?！?/p>

本次發(fā)布的新產(chǎn)品包括：

AI 智能體安全的集成和自動(dòng)化

IBM 不斷增強(qiáng) IBM Guardium AI Security 與 watsonx.governance 的集成，為企業(yè)提供業(yè)內(nèi)首發(fā)的統(tǒng)一解決方案，可同時(shí)管理與 AI 用例相關(guān)的安全風(fēng)險(xiǎn)和治理風(fēng)險(xiǎn)。該集成支持用戶(hù)根據(jù) 12種不同框架（包括《歐盟人工智能法案》和 ISO 42001）驗(yàn)證其合規(guī)標(biāo)準(zhǔn)的流程。

IBM 還與 AllTrue.ai 合作為 Guardium AI Security 打造新功能，包括能夠檢測(cè)云環(huán)境、代碼庫(kù)和嵌入式系統(tǒng)中新的 AI 用例，以及為去中心化的 AI 生態(tài)提供全面的可視性與保護(hù)。一旦發(fā)現(xiàn)安全隱患，IBM Guardium AI Security 可自動(dòng)觸發(fā) watsonx.governance 中相應(yīng)的治理流程。

IBM Guardium AI Security 的更新還包括自動(dòng)化的“紅隊(duì)測(cè)試”功能，旨在幫助企業(yè)檢測(cè)和修復(fù) AI 用例中的漏洞和錯(cuò)誤配置。為了消除代碼注入、敏感數(shù)據(jù)暴露和數(shù)據(jù)泄露等風(fēng)險(xiǎn)，該功能可幫助用戶(hù)量身定制安全策略，同時(shí)對(duì)輸入和輸出提示進(jìn)行分析。上述功能已在 IBM Guardium AI Security 正式上線(xiàn)，它們與 watsonx.governance 的集成將在今年晚些時(shí)候陸續(xù)推出。

IBM 安全和 Runtime 產(chǎn)品副總裁 Suja Viswesan表示：“AI 的未來(lái)取決于我們?nèi)绾未_保其安全。安全能力的構(gòu)建應(yīng)該從AI應(yīng)用的第一步就開(kāi)始，這對(duì)于企業(yè)保護(hù)數(shù)據(jù)安全、滿(mǎn)足合規(guī)要求以及建立持久信任至關(guān)重要。”

IDC 安全與信任團(tuán)隊(duì)研究總監(jiān) Jennifer Glenn表示：“企業(yè)安全團(tuán)隊(duì)面臨的最大挑戰(zhàn)之一，就是將安全事件與違規(guī)行為轉(zhuǎn)變成可量化的業(yè)務(wù)風(fēng)險(xiǎn)，AI 和AI智能體的快速引用進(jìn)一步加劇了這一挑戰(zhàn)。將 AI 治理與 AI 安全統(tǒng)一起來(lái)，為企業(yè)提供必要的背景信息，這將幫助他們輕松發(fā)現(xiàn)風(fēng)險(xiǎn)并確定優(yōu)先級(jí)，更直觀地看到忽略風(fēng)險(xiǎn)可能帶來(lái)的嚴(yán)重后果?！?/p>

增強(qiáng)的 AI 智能體評(píng)估和全生命周期治理

IBM watsonx.governance 可監(jiān)控和管理 AI 智能體從開(kāi)發(fā)到部署的整個(gè)生命周期，并直接在智能體中構(gòu)建評(píng)估節(jié)點(diǎn)，監(jiān)控回答相關(guān)性、上下文相關(guān)性和忠誠(chéng)度等指標(biāo)，并幫助用戶(hù)找出表現(xiàn)不佳的根因。智能體上線(xiàn)的風(fēng)險(xiǎn)評(píng)估、智能體審計(jì)跟蹤和智能體工具目錄等新功能，預(yù)計(jì)將于 6月 27日推出。

即刻可用的合規(guī)能力

IBM watsonx.governance Compliance Accelerators 預(yù)置了全球各地的部分法規(guī)、標(biāo)準(zhǔn)和框架，幫助用戶(hù)了解相關(guān)義務(wù)，從而調(diào)整自己的 AI 用例。這些內(nèi)容涵蓋了《歐盟人工智能法案》、美聯(lián)儲(chǔ) SR 11-7 文件以及紐約市第 144號(hào)地方法律等重要法規(guī)，以及 ISO/IEC 42001 等全球標(biāo)準(zhǔn)和 NIST AI RMF 等框架。watsonx.governance Compliance Accelerators 已作為 watsonx.governance 的附加組件正式上線(xiàn)。

為了向 AWS（亞馬遜云科技）客戶(hù)提供更多價(jià)值和便利，watsonx.governance 已支持在印度的 AWS 數(shù)據(jù)中心使用，包含增強(qiáng)的模型監(jiān)控功能。

此次推出的新功能和集成工具為企業(yè)提供了制勝 AI 智能體時(shí)代所需的全面治理和安全能力。這些創(chuàng)新成果還與 IBM 更廣泛的watsonx AI 解決方案聯(lián)動(dòng)，幫助企業(yè)以負(fù)責(zé)任和安全的方式加速生成式 AI 的規(guī)模應(yīng)用。

關(guān)于 IBM

IBM 是全球領(lǐng)先的混合云、人工智能及企業(yè)服務(wù)提供商，幫助超過(guò) 175個(gè)國(guó)家和地區(qū)的客戶(hù)，從其擁有的數(shù)據(jù)中獲取商業(yè)洞察，簡(jiǎn)化業(yè)務(wù)流程，降低成本，并獲得行業(yè)競(jìng)爭(zhēng)優(yōu)勢(shì)。金融服務(wù)、電信和醫(yī)療健康等關(guān)鍵基礎(chǔ)設(shè)施領(lǐng)域的超過(guò) 4000家政府和企業(yè)實(shí)體依靠 IBM 混合云平臺(tái)和紅帽 OpenShift 快速、高效、安全地實(shí)現(xiàn)數(shù)字化轉(zhuǎn)型。IBM 在人工智能、量子計(jì)算、行業(yè)云解決方案和企業(yè)服務(wù)方面的突破性創(chuàng)新為我們的客戶(hù)提供了開(kāi)放和靈活的選擇。對(duì)企業(yè)誠(chéng)信、透明治理、社會(huì)責(zé)任、包容文化和服務(wù)精神的長(zhǎng)期承諾是 IBM 業(yè)務(wù)發(fā)展的基石。