憑借在模仿和破譯人類思維方面的不懈努力，我們進入了人工智能（AI）時代。作為一款基于文本的AI機器人，ChatGPT因廣泛應(yīng)用先進的AI技術(shù)而備受關(guān)注。從準確修復(fù)編碼錯誤、生成烹飪食譜、創(chuàng)建3D動畫，到制作完整的歌曲，ChatGPT展現(xiàn)了AI的驚人能量，為世界帶來了不可思議的新能力。
然而與此同時，AI也一直被視為一把“雙刃劍”。多年來，全世界都在猜測AI可能即將統(tǒng)治世界。如今，用戶可以使用AI驅(qū)動的安全工具和產(chǎn)品，在幾乎無需人為干預(yù)的情況下應(yīng)對大量網(wǎng)絡(luò)安全事件，但業(yè)余黑客也可以利用同樣的技術(shù)開發(fā)智能惡意軟件程序并發(fā)起隱形攻擊。
ChatGPT帶來的網(wǎng)絡(luò)安全隱患不容忽視
自去年11月底ChatGPT問世以來，全球技術(shù)專家和評論員一直在關(guān)注AI生成的內(nèi)容工具所產(chǎn)生的影響，尤其是對網(wǎng)絡(luò)安全的影響。那么AI軟件會使網(wǎng)絡(luò)犯罪走向普及嗎？
在拉斯維加斯舉行的黑帽和Defcon安全大會上，一個技術(shù)團隊展示了AI在生成釣魚郵件和魚叉式釣魚信息方面是如何超越人類的。
研究人員將OpenAI的GPT-3平臺與其他側(cè)重于個性分析的AI即服務(wù)產(chǎn)品相結(jié)合，生成了根據(jù)他們同事的背景和性格而定制的釣魚郵件。最終，研究人員開發(fā)出一個在攻擊目標之前對郵件進行梳理和完善的流程。令他們驚訝的是，這個平臺還能自動提供具體內(nèi)容，例如當被要求生成針對特定國家的人的內(nèi)容時，會提到該國的法律。
ChatGPT的開發(fā)者明確表示，這款A(yù)I工具具有質(zhì)疑錯誤前提和拒絕不當請求的能力。雖然該系統(tǒng)自帶用于防止任何形式犯罪活動的護欄，但經(jīng)過調(diào)整，它生成了一封看上去極其像人類寫出來的近乎完美的釣魚郵件。
采取智能化行動，實現(xiàn)自動化響應(yīng)
根據(jù)派拓網(wǎng)絡(luò)威脅情報團隊Unit 42的調(diào)查，勒索軟件攻擊是最主要的安全事件，發(fā)展呈現(xiàn)愈演愈烈的態(tài)勢——不僅案例數(shù)量超過總量的三分之一（36%），而且攻擊者索要和獲得的贖金也在不斷增加。究其原因，主要是由于暗網(wǎng)中的工具價格低廉——甚至不到10美元，而且還出現(xiàn)了勒索軟件即服務(wù)模式和ChatGPT等AI工具，大大降低了網(wǎng)絡(luò)犯罪的門檻。
鑒于日益智能和先進的黑客技術(shù)所帶來的威脅迫在眉睫，網(wǎng)絡(luò)安全行業(yè)必須擁有同等資源才能對抗這些AI驅(qū)動的攻擊。從長遠來看，安全行業(yè)的目標不是僅讓一群人類威脅獵手通過猜測來零散地解決問題。
當務(wù)之急是采取智能化的行動來化解這些不斷發(fā)展的威脅。好消息是自主響應(yīng)如今能夠在無需人類干預(yù)的情況下有效解決威脅。但隨著AI驅(qū)動的攻擊成為常態(tài)，受到自動化惡意軟件攻擊的企業(yè)、政府和個人需要越來越多地依靠AI和機器學(xué)習(xí)（ML）等新興技術(shù)做出自動化響應(yīng)。
更負責(zé)且道德地使用AI工具
從技術(shù)的復(fù)雜性到人為因素，企業(yè)在確保AI網(wǎng)絡(luò)安全的過程中面臨著諸多挑戰(zhàn)，尤其是需要高度重視機器、人類和道德因素之間的平衡。
制定企業(yè)策略對于兼顧經(jīng)營道德和網(wǎng)絡(luò)安全至關(guān)重要。建立有效的治理和法律框架能夠增強人們對AI技術(shù)的信任，并促進社會公平和可持續(xù)發(fā)展。因此，AI和人類之間的微妙平衡將成為實現(xiàn)網(wǎng)絡(luò)安全的關(guān)鍵因素，其中信任、透明度和責(zé)任感為機器帶來了補充優(yōu)勢。
本文作者：
Sean Duca，派拓網(wǎng)絡(luò)副總裁兼亞太及日本地區(qū)首席安全官
