今年4月，Anthropic首席信息安全官（CISO）做出了一項令人震驚的預測：在未來一年內(nèi)，持有企業(yè)認證的AI虛擬員工將開始投入到企業(yè)運營中。這些智能體不僅將協(xié)助完成工作，還會成為員工隊伍的成員。
圖源：Andrey_Popov
企業(yè)這樣做的原因也很明顯：AI智能體能夠擴大自動化的規(guī)模、降低運營成本，并且連續(xù)工作。Salesforce已將這一愿景變?yōu)楝F(xiàn)實——于近期推出了AI“數(shù)字同事”。預計未來兩年AI智能體部署量將增長327% ，但從網(wǎng)絡安全角度來看，這一演進帶來了創(chuàng)新與風險并存的復雜局面。企業(yè)不僅授予軟件系統(tǒng)訪問權(quán)限，更是在賦予其身份、自主權(quán)和決策能力。這將徹底改變企業(yè)的安全策略。
具有自主權(quán)且經(jīng)過認證的AI智能體易受攻擊
需要明確的是，這些AI智能體并非傳統(tǒng)意義上的工具。與傳統(tǒng)自動化或服務賬戶不同，這些智能體以認證用戶的身份使用企業(yè)資質(zhì)進行操作、做出決策、與系統(tǒng)和數(shù)據(jù)互動，甚至在某些情況下執(zhí)行敏感任務。這意味著它們將擁有與人類員工相同的訪問權(quán)限，并因此可能帶來相同的安全風險。
但與人類不同，AI智能體無法理解背景、意圖和后果。它們可能被提示注入或?qū)剐暂斎氲燃夹g欺騙、操縱或脅迫。長期以來，我們都認為人類是整條安全鏈中最薄弱的環(huán)節(jié)，我們的心理弱點會被釣魚攻擊和社會工程學計劃所利用。但AI智能體是一個更脆弱的目標——它們會直接接受表面信息、不會求助，并且以機器的速度運行。一旦被入侵，它們可能成為埋藏在企業(yè)環(huán)境深處的一個持久而巨大的隱患。
重新思考AI時代的安全問題
登錄、密碼和訪問/權(quán)限級別等傳統(tǒng)安全工具圍繞人類行為設計。AI員工讓這些工具失去了作用，數(shù)量遠超人類用戶的非人類身份正在成為云環(huán)境中的主導力量。
隨著云投資持續(xù)呈爆發(fā)式增長（AI被認為是最大的推動力），并且越來越多的AI智能體被部署到云端，企業(yè)需要轉(zhuǎn)向新一代AI安全工具，才能對AI去蕪存菁，尤其是要解決以下問題：
• AI代理在企業(yè)內(nèi)部將擁有何種程度的自主權(quán)和權(quán)限？
• 如何監(jiān)控特權(quán)活動并檢測異常行為？
• 智能體是否會被提示注入或?qū)剐暂斎肜没蚱平猓?/div>
• 智能體的訓練數(shù)據(jù)來自何處？
AI智能體可能成為新一代企業(yè)內(nèi)部威脅
AI為應用堆棧帶來了未經(jīng)驗證的新組件，包括基礎設施、模型、數(shù)據(jù)集、工具和插件。而隨著代理的引入，AI創(chuàng)新達到了空前的速度。不同于大語言模型（LLM），智能體能夠自主推理、采取行動，并與其他智能體進行協(xié)調(diào)。AI智能體將被授予持續(xù)的訪問權(quán)限，它們不會休息和休假，而且可以大規(guī)模地部署到多個部門。這增加了企業(yè)環(huán)境的復雜性，并帶來了新的安全風險。如果智能體被“策反”，其在數(shù)分鐘內(nèi)就能造成惡意內(nèi)部人員數(shù)月才能造成的破壞。
AI員工的風險可能很快就會接近甚至超越內(nèi)部人員，成為最危險的威脅來源。OWASP近期發(fā)布的《AI智能體威脅和應對之策》重點介紹了提示注入、工具濫用、身份冒充等新型威脅。值得注意的是，Unit 42最新研究發(fā)現(xiàn)，提示注入仍是最強大和最靈活的攻擊途徑之一，能夠盜取數(shù)據(jù)、濫用工具和篡改代理行為。
一直以來，網(wǎng)安防御體系都是圍繞人類構(gòu)建的。如今，企業(yè)需要對以其員工名義行動的機器采取同樣甚至更嚴格的措施。
派拓網(wǎng)絡Prisma AIRS讓企業(yè)放心采用AI
派拓網(wǎng)絡推出的Prisma人工智能運行時安全（AIRS）專為幫助企業(yè)發(fā)現(xiàn)、評估和保護其環(huán)境中的每一個AI應用、模型、數(shù)據(jù)集和智能體而設計。通過采用Prisma AIRS，企業(yè)可獲得一個具有以下功能的綜合平臺：
• AI模型掃描：通過掃描模型漏洞確保AI模型使用的安全。保護AI生態(tài)系統(tǒng)免受模型篡改、惡意腳本和反序列化攻擊等風險。
• AI安全態(tài)勢管理：深入了解與AI生態(tài)系統(tǒng)相關的安全態(tài)勢風險，例如權(quán)限過多、敏感數(shù)據(jù)暴露、平臺配置錯誤、訪問配置錯誤等。
• AI紅隊測試：在攻擊者發(fā)現(xiàn)之前，發(fā)現(xiàn)潛在的漏洞問題和隱藏風險。派拓網(wǎng)絡的紅隊測試智能體能夠?qū)I應用和模型進行自動滲透測試，從而對AI部署進行壓力測試，并像真正的攻擊者一樣不斷學習和調(diào)整。
• 運行時安全：保護基于大語言模型（LLM）的AI應用、模型和數(shù)據(jù)免受運行時威脅，例如提示注入、惡意代碼、有毒內(nèi)容、敏感數(shù)據(jù)泄露、資源過載、幻覺等。
• AI智能體安全：保護智能體（包括基于無代碼/低代碼平臺開發(fā)的智能體）免受新型智能體威脅，例如身份冒充、內(nèi)存操縱和工具濫用等。
AI正在重塑攻擊模式和企業(yè)的運營方式，而Prisma AIRS能夠做出同樣快速的響應，使企業(yè)放心使用未來的AI技術。
上一篇：多元文化背景下加速企業(yè)出海的兩大策略
下一篇：最后一頁
分享到：
收藏
收藏
