Gartner預測，到2030年，守護代理(Guardian Agent)技術將在代理型人工智能(AI)市場中占據至少10%至15%的份額。

　　守護代理是一類專為實現可信、安全的AI交互而設計的AI技術。其中既有協助用戶完成內容審核、監控、分析等任務的AI助手，也有可不斷進化的半自主或全自主代理。后者具有根據既定目標制定與執行行動計劃、甚至調整或阻止行動的能力。

　　隨著代理型AI日益普及，防護機制變得愈發關鍵

　　Gartner在近期舉行的網絡研討會上對147位首席信息官(CIO)和IT部門領導者進行了調查，其中24%的受訪者已部署了少量AI代理(少于12個)，另有4%的受訪者部署了12個以上的AI代理。

　　調查顯示，50%的受訪者正在研究和實驗該技術，另有17%的受訪者尚未開展相關工作，但計劃最遲于2026年底前部署該技術。自動化信任、風險和安全控制措施是確保AI代理一致、安全運行的必要條件，推動了對守護代理的需求和該技術的增長。

　　Gartner杰出研究副總裁Avivah Litan表示：“如果沒有適當的防護措施，代理型AI將導致意想不到的結果。守護代理能夠使用代理型AI的豐富功能和基于AI的確定性評估對全部代理功能進行監視和管理，實現運行時決策與風險管理之間的平衡。”

　　代理能力的提升和擴展帶來了更大的風險

　　調查發現，在125名受訪者中有52%表示其AI代理當前或在未來將主要側重于IT、人力資源、會計等與內部行政職能相關的用例，有23%表示其AI代理側重于面向外部客戶的職能。

　　隨著用例的不斷增加，AI代理會受到輸入操縱、數據中毒等多種威脅的影響，被投喂受到操縱或被曲解的數據。例如：

　　•    證書遭到劫持和濫用，導致未經授權的控制以及數據竊取。

　　•    代理與虛假或犯罪網站及來源發生交互，導致中毒行為。

　　•    內部缺陷或外部觸發因素導致代理偏差和意外行為，造成聲譽損害和運營中斷。

　　Litan表示：“AI代理的快速發展及其自主性的提升使傳統的人類監督模式已不再足夠。由于企業開始轉向復雜的多代理系統并且此類系統的通信速度驚人，人類已跟不上錯誤和惡意活動的速度。鑒于這一日益嚴峻的威脅形勢，企業更加迫切地需要守護代理對AI應用和代理進行自動監視和控制并提供安全保障。

　　CIO以及安全和AI領導者應重點關注守護代理的三大核心用途，以此保障AI交互的安全：

　　•    審核：識別并審查AI生成的輸出內容，確保其準確性和合規性

　　•    監視：觀察并追蹤AI及代理的行動，以便人類或AI進行跟進

　　•    保護：在運行過程中通過自動化操作調整或限制AI和代理的行動與權限

　　守護代理將管理所有類型的交互和異常情況。Gartner預測，到2028年，70%的AI應用程序將采用多代理系統，這也將成為守護