會議背景
目前，AI技術(shù)和ML技術(shù)正以驚人的速度發(fā)展，并形成廣泛且有益的應(yīng)用，從機(jī)器翻譯到醫(yī)學(xué)圖像分析等等。人工智能擁有極大的保護(hù)網(wǎng)絡(luò)安全潛力，利用AI技術(shù)，人類分析師能夠更有效、更準(zhǔn)確地檢測安全威脅并做好相關(guān)決策。多樣化是數(shù)據(jù)分析的關(guān)鍵，然而，因可用數(shù)據(jù)量增長過大，以至于熟練的安全分析師在識別潛在攻擊時也異常頭疼，因此，利用AI技術(shù)和ML技術(shù)進(jìn)行安全檢測成為重中之重。
與此同時，AI授權(quán)的應(yīng)用程序和服務(wù)已經(jīng)開發(fā)出來，基于其潛力和效率，可讓安全管理人員不必總是考慮新的安全漏洞、威脅或其他意想不到的后果的出現(xiàn)。如果人工智將成為安全防御的一部分，就需要探索這些防御如何被顛覆。
會議現(xiàn)場
會議重點(diǎn)討論了三個關(guān)鍵點(diǎn)，一是人工智能與安全之間的關(guān)系，二是如何利用人工智能和機(jī)器學(xué)習(xí)提高網(wǎng)絡(luò)防御能力，三是在人工智能授權(quán)的基礎(chǔ)應(yīng)用程序（尤其是隱私風(fēng)險）應(yīng)解決哪些風(fēng)險。
會上，中興通訊風(fēng)險負(fù)責(zé)人表示，我們應(yīng)關(guān)注如何利用人工智能和機(jī)器學(xué)習(xí)技術(shù)提高網(wǎng)絡(luò)防御能力，在APT防御應(yīng)用方面，我們可以對人工智能進(jìn)行設(shè)計(jì)，提高其深度學(xué)習(xí)能力，完成一些高難度的網(wǎng)絡(luò)安全任務(wù)，例如DGA檢測和惡意軟件檢測。然而，由于ML技術(shù)缺乏可靠的解釋性和準(zhǔn)確性，目前還沒有準(zhǔn)備好實(shí)踐應(yīng)用，此外，它還容易受到一些GAN攻擊，這是網(wǎng)絡(luò)安全的另一個研究領(lǐng)域。
中國聯(lián)通安全負(fù)責(zé)人表示，人工智能技術(shù)作為一種新興的技術(shù)，已成為通信領(lǐng)域的研究熱點(diǎn)領(lǐng)域。對于5G網(wǎng)絡(luò)，人工智能相關(guān)研究包括終端用戶服務(wù)體驗(yàn)、自動網(wǎng)絡(luò)優(yōu)化運(yùn)行、數(shù)據(jù)分析等。當(dāng)前，5G安全中的人工智能仍在初始階段。
通過本次會議，總體確定了未來ITU-T SG17需要研究的關(guān)于AI和ML安全的標(biāo)準(zhǔn)化方向，即確定各種特定安全和隱私控制方面的標(biāo)準(zhǔn)差距，解決已識別的威脅和風(fēng)險，提出制定技術(shù)建議以填補(bǔ)這些差距的潛在方法，確定未來SG17的合作方向。
