近日，多家網(wǎng)絡(luò )安全上市公司公布網(wǎng)絡(luò )安全領(lǐng)域AI技術(shù)應用的新進(jìn)展。綠盟科技、北信源向記者透露AI創(chuàng )新成果，深信服、亞信安全等企業(yè)相繼公布應用AI技術(shù)的網(wǎng)絡(luò )安全產(chǎn)品以及市場(chǎng)應用。

　　行業(yè)專(zhuān)家認為，AI技術(shù)應用在帶來(lái)新型安全風(fēng)險的同時(shí)，也為網(wǎng)絡(luò )安全行業(yè)提升效率、提高產(chǎn)品能力帶來(lái)機遇。

　　● 本報記者 鄭萃穎

　　“網(wǎng)絡(luò )安全+AI”成研發(fā)重點(diǎn)

　　9月23日，記者獲悉，綠盟科技將于近期發(fā)布保護大模型自身安全的網(wǎng)絡(luò )安全產(chǎn)品，包括AI安全一體機、AI安全圍欄、大模型安全評估系統以及相關(guān)的服務(wù)和解決方案。

　　綠盟科技副總裁宮智介紹，目前綠盟科技通過(guò)深入研究AI系統的安全風(fēng)險，針對客戶(hù)AI系統的不同應用模式，提供場(chǎng)景化的產(chǎn)品和服務(wù)，幫助客戶(hù)全面提升AI體系的整體安全防護能力，實(shí)現在線(xiàn)AI系統的安全合規。

　　北信源董事、副總裁高曦近日對記者表示，AI技術(shù)幫助企業(yè)提升開(kāi)發(fā)效率，完善產(chǎn)品性能。公司已開(kāi)發(fā)出AI能力平臺，集成了大模型、開(kāi)發(fā)工具和知識庫，可進(jìn)行私有化部署。此外，公司已在金融、能源行業(yè)等領(lǐng)域交付了應用AI技術(shù)的相關(guān)軟件產(chǎn)品。

　　多家網(wǎng)絡(luò )安全上市公司正在積極投入AI技術(shù)研發(fā)。深信服在投資者互動(dòng)平臺表示，持續將人工智能技術(shù)與能力融入網(wǎng)絡(luò )安全和云計算各項產(chǎn)品與服務(wù)中，截至目前已將大模型技術(shù)應用到網(wǎng)絡(luò )安全產(chǎn)品，形成安全GPT、融合AI能力的AI防火墻和其他多款安全產(chǎn)品，并計劃未來(lái)繼續加大對AI技術(shù)的研發(fā)投入。

　　天融信表示，公司已在A(yíng)I+安全、智算云等新方向進(jìn)行布局和投入，目前已形成“云、管、邊、端”全棧安全產(chǎn)品體系與智算云綜合解決方案，并在多行業(yè)實(shí)現規?；瘧?。未來(lái)將重點(diǎn)推動(dòng)網(wǎng)絡(luò )安全、智算云產(chǎn)品與人工智能等新興場(chǎng)景的深度融合。

　　螞蟻集團也于近日發(fā)布了融合網(wǎng)絡(luò )安全與AI技術(shù)的創(chuàng )新產(chǎn)品及解決方案。其中，智能眼鏡可信連接技術(shù)框架gPass已與Rokid、小米、夸克、雷鳥(niǎo)等智能眼鏡品牌合作，率先落地“看一下支付”場(chǎng)景。在大模型安全方面，螞蟻集團展示了AIGC濫用檢測、深度偽造防御在內的多項解決方案。

　　另外，啟明星辰表示，其開(kāi)發(fā)的安星智能體已經(jīng)應用于安全運營(yíng)、威脅檢測、數據安全等產(chǎn)品或服務(wù)中，顯著(zhù)提升了產(chǎn)品的能力和服務(wù)的效率。亞信安全稱(chēng)，上半年，公司AI大模型應用與交付業(yè)務(wù)實(shí)現顯著(zhù)增長(cháng)，未來(lái)公司將持續聚焦AI大模型應用與交付、5G專(zhuān)網(wǎng)與應用、數智運營(yíng)三大增長(cháng)引擎，加快簽單節奏。

　　AI應用帶來(lái)安全新挑戰

　　信息技術(shù)咨詢(xún)公司Gartner的報告顯示，中國網(wǎng)絡(luò )安全的重點(diǎn)正逐步轉向保障人工智能的安全，實(shí)現業(yè)務(wù)轉型并加強企業(yè)、機構的韌性。

　　Gartner高級研究總監陳延全稱(chēng)，預計到2027年，60%的中國大型企業(yè)將在安全運營(yíng)中心采用暴露面管理技術(shù)，以提升事件響應效率并減少漏洞。預計到2028年，在部署AI技術(shù)的中國企業(yè)中，60%企業(yè)將實(shí)施協(xié)作式AI防御策略，整合跨職能團隊應對AI網(wǎng)絡(luò )安全風(fēng)險，而目前這一比例僅為5%。

　　綠盟科技副總裁曹嘉表示，企業(yè)應用AI大模型時(shí)需警惕提示詞注入、模型被誘導等風(fēng)險?！半m然這些風(fēng)險在模型運營(yíng)商或開(kāi)發(fā)廠(chǎng)商中出現的概率較低，但仍需重點(diǎn)關(guān)注。目前，行業(yè)主要依賴(lài)電子圍欄技術(shù)來(lái)防止模型被誘導輸出違規內容?！辈芗握f(shuō)，另外云計算的安全問(wèn)題須引起重視。

　　綠盟科技首席創(chuàng )新官劉文懋則提到工具鏈安全的重要性。他解釋稱(chēng)，在企業(yè)應用AI大模型過(guò)程中，工具鏈漏洞和配置錯誤可能導致嚴重的數據泄露，例如智能體調用第三方工具時(shí)存在的風(fēng)險。他呼吁重視軟件供應鏈安全，采取加強版本漏洞管理、代碼安全審計等基礎安全措施。

　　360集團創(chuàng )始人周鴻祎近日公開(kāi)表示，大模型在帶來(lái)機遇的同時(shí)也帶來(lái)了惡意利用、內容安全、幻覺(jué)問(wèn)題、提示詞攻擊等風(fēng)險。大模型既是生產(chǎn)力工具，也可能成為新的攻擊載體和攻擊入口，政府和企業(yè)的數據資產(chǎn)、商業(yè)機密面臨著(zhù)前所未有的暴露風(fēng)險，保障AI安全是一項長(cháng)期而艱巨的任務(wù)。

　　奇安信在投資者互動(dòng)平臺表示，大模型能顯著(zhù)提升網(wǎng)絡(luò )安全企業(yè)的能力和效率，產(chǎn)生“乘數效應”。該公司認為，當前政企推廣智能體應用的趨勢，類(lèi)似于二三十年前普及網(wǎng)站的浪潮。然而，智能體應用也帶來(lái)了爆炸式增長(cháng)的安全風(fēng)險，因為它們往往擁有企業(yè)內網(wǎng)的超級權限。奇安信建議企業(yè)加強跨部門(mén)協(xié)作，構建動(dòng)態(tài)防御體系，特別是部署特權賬號管理系統，以應對AI智能體帶來(lái)的安全風(fēng)險。

　　構建AI安全防護網(wǎng)

　　在保障AI應用安全方面，行業(yè)專(zhuān)家們認為，可以從大模型強制備案、構建體系化防護入手，保障企業(yè)應用AI過(guò)程中的安全。

　　曹嘉認為，AI大模型備案應成為強制性要求，模型廠(chǎng)商可以到當地網(wǎng)信部門(mén)進(jìn)行基礎評估，提前識別風(fēng)險，讓使用者更全面地理解其安全性與可用性。

　　“與傳統軟件和基礎設施相比，AI大模型的風(fēng)險更大、更泛化，必須由專(zhuān)業(yè)安全廠(chǎng)商進(jìn)行持續投入。未來(lái)，大模型的檢測與防御將走向一體化，客戶(hù)需要從產(chǎn)品開(kāi)發(fā)、代碼審計等全流程進(jìn)行規劃?！辈芗握f(shuō)。

　　此外，AI大模型的運營(yíng)單位可以通過(guò)構建防護體系，保障AI應用安全。首先開(kāi)展合規評估，對照監管規定、合規檢查清單進(jìn)行自查；其次是部署專(zhuān)項防護，引入AI安全圍欄等技術(shù)，防御新型攻擊，并確保過(guò)程可審計、可追溯；再是考慮引入第三方評估，定期進(jìn)行滲透測試和安全評估，獲取權威報告，降低責任風(fēng)險。

　　劉文懋認為，AI技術(shù)應用將為各行業(yè)帶來(lái)爆發(fā)式增長(cháng)，但安全問(wèn)題限制了數據流通。他認為，通過(guò)安全手段建立信任，推動(dòng)數據流通，并將AI全面應用于各類(lèi)場(chǎng)景，將為各行業(yè)釋放巨大價(jià)值。