文 | 饒少陽(yáng)

新一輪科技革命與產(chǎn)業(yè)變革的浪潮洶涌澎湃，信息化、數(shù)字化的巨輪正以前所未有的速度重新繪制世界藍(lán)圖，而網(wǎng)絡(luò)安全作為這一進(jìn)程中的隱形盾牌，已悄然成為大國(guó)博弈的關(guān)鍵戰(zhàn)場(chǎng)。在這場(chǎng)沒(méi)有硝煙的較量中，人工智能（AI）正以不可阻擋之勢(shì)重塑網(wǎng)絡(luò)安全的格局，它既是挑戰(zhàn)者，也是守護(hù)者。

一方面，以Sora、GPT-4o為代表的生成式人工智能（AI Generated Content，AIGC）引發(fā)公眾對(duì)個(gè)人隱私、AI惡意使用等問(wèn)題的廣泛關(guān)注。一些不法分子利用開(kāi)源的大語(yǔ)言模型（Large Language Model，LLM），結(jié)合有害語(yǔ)料庫(kù)，訓(xùn)練出專門用于漏洞發(fā)現(xiàn)、社交操縱、欺詐勒索等非法活動(dòng)的惡意應(yīng)用，對(duì)國(guó)家社會(huì)經(jīng)濟(jì)和人民生活等造成嚴(yán)重危害。

另一方面，AI也為網(wǎng)絡(luò)安全行業(yè)插上了智慧的翅膀，開(kāi)啟了全新的防御篇章。在2024年網(wǎng)絡(luò)安全頂級(jí)盛會(huì)——RSA大會(huì)（RSA Conference，RSAC）上，谷歌、思科、CrowdStrike等業(yè)界領(lǐng)軍企業(yè)紛紛推出由AI驅(qū)動(dòng)的網(wǎng)絡(luò)安全產(chǎn)品和服務(wù)。與會(huì)行業(yè)專家普遍認(rèn)為，AI是推動(dòng)網(wǎng)絡(luò)安全產(chǎn)業(yè)革命性發(fā)展的核心技術(shù)，AI將重塑網(wǎng)絡(luò)安全產(chǎn)業(yè)。

展望未來(lái)，AI與網(wǎng)絡(luò)安全的結(jié)合將引領(lǐng)產(chǎn)業(yè)步入新的發(fā)展階段，實(shí)現(xiàn)從被動(dòng)防御到主動(dòng)出擊的跨越。在這一進(jìn)程中，我國(guó)企業(yè)應(yīng)重視這一趨勢(shì)，積極推動(dòng)AI技術(shù)與網(wǎng)絡(luò)安全技術(shù)的深度融合，為構(gòu)建更加堅(jiān)固、智能的網(wǎng)絡(luò)安全防線貢獻(xiàn)力量。

“用AI保護(hù)AI”

過(guò)去30年來(lái)，攻擊和防御技術(shù)在相互對(duì)抗過(guò)程中不斷變化和升級(jí)。我國(guó)網(wǎng)絡(luò)安全產(chǎn)業(yè)發(fā)展從最初的防病毒、防火墻等單一傳統(tǒng)產(chǎn)品發(fā)展成目前較為成熟的網(wǎng)絡(luò)安全產(chǎn)品體系，已經(jīng)能夠滿足多場(chǎng)景、多維度的安全防護(hù)需求。

然而，隨著AI技術(shù)的廣泛應(yīng)用，不法分子升級(jí)了攻擊手段，針對(duì)和利用AI技術(shù)的網(wǎng)絡(luò)攻擊顯著增加，包括“深度偽造”詐騙、釣魚郵件、漏洞攻擊以及數(shù)據(jù)泄露等問(wèn)題日益突出，網(wǎng)絡(luò)安全防護(hù)變得更加復(fù)雜和緊迫。根據(jù)MIT Technology Review對(duì)300名網(wǎng)絡(luò)安全專業(yè)人員的調(diào)查，2021年，60%的受訪者表示難以有效抵御自動(dòng)化網(wǎng)絡(luò)攻擊，96%的受訪者曾經(jīng)歷過(guò)由AI驅(qū)動(dòng)的網(wǎng)絡(luò)攻擊。

“用AI保護(hù)AI”已經(jīng)成為應(yīng)對(duì)當(dāng)前網(wǎng)絡(luò)安全威脅的必選項(xiàng)。越來(lái)越多的國(guó)家和機(jī)構(gòu)正在加速布局網(wǎng)絡(luò)安全與AI技術(shù)的融合，以促進(jìn)攻防技術(shù)升級(jí)。從現(xiàn)有的行業(yè)實(shí)踐來(lái)看，以安全大模型為代表的“AI+安全”范式在惡意代碼檢測(cè)、安全策略管理、安全運(yùn)營(yíng)、數(shù)據(jù)分類分級(jí)、數(shù)據(jù)脫敏等領(lǐng)域涌現(xiàn)出超越人類的潛質(zhì)。

安全產(chǎn)業(yè)格局迎來(lái)三大新變化

放眼全球，網(wǎng)絡(luò)安全人工智能市場(chǎng)處于高速增長(zhǎng)階段。專業(yè)研究機(jī)構(gòu)數(shù)據(jù)分析，2023年的市場(chǎng)規(guī)模超過(guò)200億美元，預(yù)計(jì)到2030年年復(fù)合增長(zhǎng)率將保持在20%以上。

筆者認(rèn)為，隨著“AI+安全”范式的廣泛實(shí)踐應(yīng)用，網(wǎng)絡(luò)安全產(chǎn)業(yè)將迎來(lái)三大變化：

一是智能化。網(wǎng)絡(luò)安全產(chǎn)品及服務(wù)的智能化能夠極大解放人力負(fù)擔(dān)，過(guò)去需要大量人工操作的流程，如今可通過(guò)安全大模型來(lái)解決。微軟、Palo Alto Networks、深信服、奇安信等數(shù)十家網(wǎng)絡(luò)安全企業(yè)已將安全大模型應(yīng)用于自身產(chǎn)品及服務(wù)中，取得明顯效果。以安全運(yùn)營(yíng)服務(wù)為例，傳統(tǒng)安全運(yùn)營(yíng)中心的人工處置流程占比高達(dá)93%，在安全大模型的賦能下，安全運(yùn)營(yíng)中心的數(shù)據(jù)處理量提升了6倍，誤報(bào)率減少70%，響應(yīng)速度從2～3天縮短到16分鐘～5小時(shí)。

二是平臺(tái)化。網(wǎng)絡(luò)安全產(chǎn)品及服務(wù)的平臺(tái)化升級(jí)類似于智能家居系統(tǒng)，用戶通過(guò)一個(gè)平臺(tái)控制所有家電設(shè)備，實(shí)現(xiàn)統(tǒng)一管理、統(tǒng)一監(jiān)控。早在2021年，網(wǎng)絡(luò)安全行業(yè)就已從分散化解決方案向集約化平臺(tái)轉(zhuǎn)型，并朝著“以安全大腦為核心，各類檢測(cè)與響應(yīng)工具為觸手”的防御體系趨勢(shì)演進(jìn)。進(jìn)入2023年，平臺(tái)化的趨勢(shì)進(jìn)一步加速。頭部網(wǎng)絡(luò)安全企業(yè)開(kāi)始將安全大模型應(yīng)用于安全平臺(tái)，推動(dòng)平臺(tái)能力從管理不同安全子系統(tǒng)擴(kuò)展到管理IT、云和網(wǎng)絡(luò)架構(gòu)。

三是服務(wù)化。網(wǎng)絡(luò)安全企業(yè)正從傳統(tǒng)的“產(chǎn)品銷售”向“服務(wù)提供”模式轉(zhuǎn)變。這一轉(zhuǎn)變恰如電影消費(fèi)模式的演進(jìn)，從曾經(jīng)需要購(gòu)買DVD光盤到如今只需一鍵訂閱，即可暢享海量、高清的最新影片。在這一轉(zhuǎn)型過(guò)程中，安全大模型逐漸成為網(wǎng)絡(luò)安全企業(yè)構(gòu)建競(jìng)爭(zhēng)優(yōu)勢(shì)的核心要素。自2023年起，頭部網(wǎng)絡(luò)安全企業(yè)如思科、IBM、Palo Alto Networks等通過(guò)資本并購(gòu)的方式，積極整合威脅情報(bào)、態(tài)勢(shì)感知、攻擊面管理等關(guān)鍵能力和數(shù)據(jù)，不僅極大地豐富了安全大模型訓(xùn)練數(shù)據(jù)來(lái)源，也顯著提升了其分析預(yù)測(cè)、智能響應(yīng)的能力，從而可為用戶提供更精準(zhǔn)、高效的安全服務(wù)體驗(yàn)。

“AI+安全”高質(zhì)量發(fā)展的挑戰(zhàn)與機(jī)會(huì)

“AI”是一個(gè)不斷突破和創(chuàng)新的激進(jìn)型領(lǐng)域，“安全”是一個(gè)強(qiáng)調(diào)穩(wěn)妥和保障的保守型領(lǐng)域。因此，要實(shí)現(xiàn)“AI+安全”范式的高質(zhì)量發(fā)展，仍需克服多方面的挑戰(zhàn)。

一是AI技術(shù)方面，安全大模型通用底座能力有待提升。目前國(guó)內(nèi)外網(wǎng)絡(luò)安全企業(yè)大多通過(guò)在通用大模型的基礎(chǔ)上進(jìn)行垂直訓(xùn)練，以開(kāi)發(fā)出針對(duì)特定領(lǐng)域需求的安全大模型，盡管我國(guó)的通用大模型技術(shù)發(fā)展迅速，但與OpenAI的GPT-4.0相比仍存在差距，將在一定程度上制約國(guó)產(chǎn)安全大模型的性能，底座能力亟待提升。

二是安全技術(shù)方面，安全產(chǎn)品接口標(biāo)準(zhǔn)化程度有待提升。目前，我國(guó)不同廠商的網(wǎng)絡(luò)安全產(chǎn)品互聯(lián)互通尚處于起步階段。安全企業(yè)提供的產(chǎn)品類型繁多，不同企業(yè)甚至同一企業(yè)產(chǎn)品之間的集成和交互存在困難，且實(shí)現(xiàn)方式各異。用戶在推動(dòng)網(wǎng)絡(luò)安全產(chǎn)品互聯(lián)互通改造過(guò)程中，需承擔(dān)高昂的成本，且實(shí)際成效并不理想，這在一定程度上制約了我國(guó)網(wǎng)絡(luò)安全產(chǎn)業(yè)向平臺(tái)化轉(zhuǎn)型的進(jìn)程，同時(shí)制約安全大模型的賦能效果。

鑒于此，筆者認(rèn)為可從以下幾方面著力把握機(jī)遇，推動(dòng)“AI+安全”的高質(zhì)量發(fā)展。

一是完善“AI+安全”的頂層設(shè)計(jì)。人才資源方面，整合產(chǎn)、學(xué)、研領(lǐng)域?qū)＜屹Y源，組建“AI+安全”復(fù)合型專家團(tuán)隊(duì)；行業(yè)標(biāo)準(zhǔn)方面，針對(duì)安全大模型的數(shù)據(jù)集標(biāo)注、系統(tǒng)安全測(cè)評(píng)、倫理和法律合規(guī)性等方面，制定一系列行業(yè)標(biāo)準(zhǔn)，指導(dǎo)并規(guī)范我國(guó)企業(yè)的安全大模型建設(shè)。

具體到實(shí)踐層面：在數(shù)據(jù)標(biāo)注階段，針對(duì)數(shù)據(jù)格式、標(biāo)簽定義、注釋方法等方面形成統(tǒng)一指導(dǎo)標(biāo)準(zhǔn)，去解決無(wú)效返工與一致性的問(wèn)題，從而提高數(shù)據(jù)集的質(zhì)量；在成效評(píng)估階段，形成業(yè)界公認(rèn)、權(quán)威的評(píng)價(jià)方式來(lái)評(píng)估安全大模型的性能和可靠性，去解決模型在實(shí)際應(yīng)用中產(chǎn)生誤導(dǎo)性結(jié)果的問(wèn)題，從而提高網(wǎng)絡(luò)安全性。

二是促進(jìn)“AI+安全”的跨行業(yè)協(xié)同創(chuàng)新。國(guó)內(nèi)安全廠商正積極探索大模型技術(shù)在安全領(lǐng)域的應(yīng)用，并已取得初步成果。積極有效的跨行業(yè)協(xié)同機(jī)制和引導(dǎo)，是促進(jìn)創(chuàng)新的保障。比如，提高“AI+安全”領(lǐng)域的國(guó)家級(jí)重點(diǎn)項(xiàng)目數(shù)量、設(shè)立創(chuàng)新保障資金；充分發(fā)揮央企的主力軍作用，調(diào)動(dòng)中小企業(yè)的創(chuàng)新動(dòng)力；引導(dǎo)企業(yè)在行業(yè)定制化訓(xùn)練、數(shù)據(jù)資源共享、商業(yè)模式創(chuàng)新等方面建立深度合作機(jī)制，共同推動(dòng)“AI+安全”范式的高質(zhì)量發(fā)展。

三是推動(dòng)網(wǎng)絡(luò)安全產(chǎn)品互聯(lián)互通。推動(dòng)我國(guó)網(wǎng)絡(luò)安全企業(yè)貫徹落實(shí)網(wǎng)絡(luò)安全產(chǎn)品互聯(lián)互通相關(guān)標(biāo)準(zhǔn)要求，嚴(yán)格遵循接口規(guī)范、數(shù)據(jù)格式、通信協(xié)議和操作流程等方面要求,增強(qiáng)產(chǎn)品的兼容性和互操作性，共同構(gòu)建協(xié)同高效的網(wǎng)絡(luò)安全防護(hù)體系，推進(jìn)產(chǎn)業(yè)向平臺(tái)化和智能化轉(zhuǎn)型。

四是共同培育“AI+安全”服務(wù)生態(tài)。建議我國(guó)網(wǎng)絡(luò)安全企業(yè)拓展市場(chǎng)應(yīng)用范圍和深度，加強(qiáng)服務(wù)支撐體系建設(shè)，明確服務(wù)水平基線指標(biāo)，通過(guò)市場(chǎng)宣傳提升用戶對(duì)安全服務(wù)的認(rèn)知和滿意度。建議科研機(jī)構(gòu)加強(qiáng)在聯(lián)邦學(xué)習(xí)、隱私計(jì)算和區(qū)塊鏈技術(shù)方面的研究開(kāi)發(fā)力度，以支持網(wǎng)絡(luò)安全企業(yè)在確保用戶數(shù)據(jù)隱私安全的同時(shí)，實(shí)現(xiàn)對(duì)用戶信息的精確分析，進(jìn)而提高在全網(wǎng)范圍內(nèi)的威脅感知能力。

五是樹(shù)立全球化視野，加快國(guó)際化步伐。目前，中國(guó)網(wǎng)絡(luò)安全企業(yè)已具備滿足國(guó)內(nèi)市場(chǎng)需求的堅(jiān)實(shí)基礎(chǔ)，但在海外市場(chǎng)的拓展仍處于起步階段。近年來(lái)，中國(guó)一些網(wǎng)絡(luò)安全領(lǐng)軍企業(yè)，如奇安信、綠盟科技、深信服等，均加快國(guó)際化步伐，積極拓展海外市場(chǎng)，海外業(yè)務(wù)收入取得顯著增長(zhǎng)。但從整體來(lái)看，當(dāng)下中國(guó)網(wǎng)絡(luò)安全企業(yè)海外總收入遠(yuǎn)不及國(guó)內(nèi)的市場(chǎng)規(guī)模。若僅局限于本土市場(chǎng)，發(fā)展?jié)摿⑹芟?。因此，建議中國(guó)網(wǎng)絡(luò)安全企業(yè)將視野范圍擴(kuò)大至海外，加快國(guó)際化步伐。

綜上所述，“AI+安全”新范式將為網(wǎng)絡(luò)安全產(chǎn)業(yè)帶來(lái)深刻變革，我國(guó)網(wǎng)絡(luò)安全企業(yè)應(yīng)抓住機(jī)遇，推動(dòng)產(chǎn)品服務(wù)體系向智能化、平臺(tái)化、服務(wù)化轉(zhuǎn)型，提升全球影響力，成為全球網(wǎng)絡(luò)安全市場(chǎng)的領(lǐng)導(dǎo)者。

（本文作者系中國(guó)電信研究院戰(zhàn)略發(fā)展研究所所長(zhǎng)）

（本文刊發(fā)于《中國(guó)經(jīng)濟(jì)周刊》2024年第14期）