隨著人工智能技術的發(fā)展，新的安全隱患和威脅正以空前的速度涌現(xiàn)，現(xiàn)有的安全解決方案已無法提供足夠的保護。有效防范AI工具濫用、數(shù)據(jù)泄露等日益復雜的安全威脅，成為企業(yè)端廣泛部署人工智能的前提。

1月16日全球安全和網(wǎng)絡領域的領導者思科（NASDAQ: CSCO）正式發(fā)布思科人工智能防御系統(tǒng)（Cisco AI Defense），這一端到端解決方案，可全面保護AI應用的開發(fā)與使用，助力企業(yè)從容推進人工智能項目。

思科全球執(zhí)行副總裁兼首席產品官Jeetu Patel表示：“在擁抱人工智能時，企業(yè)和技術領導者絕不能為追求速度而置安全于不顧。然而在競爭激烈的多變格局中，速度決定勝負。思科人工智能防御系統(tǒng)深度融入網(wǎng)絡架構，能夠在開發(fā)和訪問AI應用時精準檢測并抵御威脅，讓企業(yè)無需在速度與安全之間做出妥協(xié)。”

根據(jù)思科發(fā)布的《2024年人工智能就緒指數(shù)》，僅有29%的中國大陸受訪企業(yè)能夠全面檢測并防止未經授權的篡改。由于AI應用呈現(xiàn)多云、多模型的態(tài)勢，其面臨的安全挑戰(zhàn)也是全新且復雜的。漏洞可能出現(xiàn)在模型層或應用層，而開發(fā)者、終端用戶及供應商的責任難以明確。隨著企業(yè)逐漸從利用公共數(shù)據(jù)轉向在自有專有數(shù)據(jù)上訓練模型，相關風險也在不斷攀升。

為釋放AI的創(chuàng)新潛力并推動其廣泛應用，企業(yè)亟需構建一個通用的安全防護層，保護每位用戶和每項應用。思科人工智能防御系統(tǒng)通過解決以下兩大緊迫風險，助力企業(yè)推進人工智能轉型：

 隨著人工智能技術的普及，企業(yè)將使用并開發(fā)成百上千種AI應用程序。開發(fā)者需要一套適用于所有應用的AI安全防護措施。思科人工智能防御系統(tǒng)能夠助力開發(fā)者加速創(chuàng)新進程并創(chuàng)造更大價值，通過全方位保護人工智能系統(tǒng)免受攻擊，并保障模型行為的穩(wěn)定性，實現(xiàn)跨平臺的安全防護。

在AI檢測方面，安全團隊需要了解構建應用的主體以及其使用的訓練源。思科人工智能防御系統(tǒng)能夠在公有云和私有云中檢測到未授權和已授權的AI應用。

模型調整可能導致有害或意外結果。思科人工智能防御系統(tǒng)的自動化測試可檢查人工智能模型中數(shù)百種潛在的安全問題。這支由人工智能驅動的算法紅隊能夠識別潛在漏洞，并為安全團隊推薦思科人工智能防御系統(tǒng)中的防護措施。運行時持續(xù)驗證能夠防范潛在的安全威脅，如提示注入、拒絕服務和敏感數(shù)據(jù)泄露等。

隨著終端用戶紛紛采用總結工具等AI應用來提高工作效率，安全團隊需要防范數(shù)據(jù)泄露以及專有數(shù)據(jù)污染的風險。思科人工智能防御系統(tǒng)通過可視化全面了解員工使用的未授權和已授權的AI應用；通過實施策略限制員工訪問未授權的AI工具；持續(xù)防范威脅和機密數(shù)據(jù)丟失，同時確保合規(guī)性。

不同于嵌入在單個AI模型中的安全措施，思科提供的是適用于多模型環(huán)境的一致性控制。思科人工智能防御系統(tǒng)具備自我優(yōu)化能力，可基于思科獨有的機器學習模型，并利用思科Talos的威脅情報數(shù)據(jù)檢測不斷演變的AI安全問題。使用思科人工智能防御系統(tǒng)的Splunk客戶將收到來自整個生態(tài)系統(tǒng)的附加上下文的豐富警報。思科人工智能防御系統(tǒng)能夠無縫對接現(xiàn)有的數(shù)據(jù)流，實現(xiàn)卓越的可視化與控制力，并深度集成于思科推出的統(tǒng)一化、由人工智能驅動的跨領域安全平臺——思科安全云中。

通過利用思科廣泛的執(zhí)行點網(wǎng)絡，思科人工智能防御系統(tǒng)在網(wǎng)絡層面實現(xiàn)AI安全，其能力是思科獨有的優(yōu)化結果。準確性和可信度對于保護企業(yè)AI應用至關重要，思科一直積極參與制定人工智能安全行業(yè)標準，其中包括與MITRE、OWASP以及NIST等權威機構合作開發(fā)的相關標準。

思科亞太、日本及大中華區(qū)總裁Dave West表示：“2025年-2027年，AI將有巨大的發(fā)展。未來的工作者將與人工智能攜手合作，處理一些日常任務以及其他工作和功能，他們將能夠真正地創(chuàng)造自己的價值，發(fā)揮差異化優(yōu)勢，并在這個過程中提升自己的技能。思科也會與生態(tài)系統(tǒng)中的合作伙伴合作，進一步提升生態(tài)系統(tǒng)的能力?！?/p>

繼思科Hypershield后，思科人工智能防御系統(tǒng)是思科AI驅動安全創(chuàng)新系列的最新成果。思科計劃將人工智能防御系統(tǒng)于3月正式向企業(yè)用戶開放，助力企業(yè)的人工智能轉型進程。