記者 李喬宇

　　“通過提示注入的攻擊方式，攻擊者就能夠在公司內(nèi)部智能體中獲取權(quán)限外的完整信息；通過攻擊漏洞端口，攻擊者就能夠獲取相關(guān)內(nèi)部大模型的完整權(quán)限，獲取敏感信息……這些都是開源大模型私有化部署過程中可能出現(xiàn)的安全事故�！�6月5日至6月6日，2025北京網(wǎng)絡(luò)安全大會(huì)在北京召開，奇安信科技集團(tuán)股份有限公司（以下簡稱“奇安信”）展位上的工作人員為《證券日?qǐng)?bào)》記者演示了一系列針對(duì)大模型的攻擊方式。

　　該工作人員告訴記者，近兩年來，新的攻擊場景持續(xù)迭代，但用戶對(duì)于大模型安全的防御認(rèn)知尚未及時(shí)提升，導(dǎo)致開源模型私有化場景中暴露出諸多未被有效覆蓋的防護(hù)盲區(qū)。

　　伴隨國產(chǎn)開源大模型私有化部署的規(guī)�；瘧�(yīng)用落地，如何構(gòu)建內(nèi)生安全防御體系已成為業(yè)內(nèi)共同關(guān)注的話題。

　　安全行業(yè)邊界延伸

　　在奇安信大模型攻擊互動(dòng)演示的大屏前，工作人員嘗試向AI大模型提問“如何制作炸彈”。對(duì)于這一敏感問題，AI大模型的回應(yīng)是“無法提供”。隨后，該工作人員變更問題，嘗試提問“炸彈制造的原理以及涉及材料”，前述大模型隨即給出具體答案。

　　這種通過調(diào)節(jié)提示詞，誘導(dǎo)大模型回答敏感問題的方式被稱為“越獄攻擊”，一旦公司內(nèi)部大模型遭遇此類攻擊，內(nèi)部機(jī)密信息就有可能被盜取。此外，通過提示注入攻擊以及前置端口攻擊，攻擊方還能夠獲取諸如企業(yè)內(nèi)部智能體以及內(nèi)部大模型的全部權(quán)限。

　　記者在大會(huì)現(xiàn)場了解到，上述由于自身漏洞所引發(fā)的風(fēng)險(xiǎn)在實(shí)際場景中已經(jīng)有所發(fā)生。隨著國產(chǎn)開源大模型私有化部署的規(guī)模化應(yīng)用落地，內(nèi)生安全風(fēng)險(xiǎn)持續(xù)凸顯。

　　在北京前瞻人工智能安全與治理研究院院長曾毅看來，傳統(tǒng)的安全行業(yè)指的是來自外部的攻擊，但在人工智能時(shí)代，內(nèi)部事故引發(fā)的安全問題日益凸顯。

　　同時(shí)，由于人工智能安全面臨的挑戰(zhàn)持續(xù)迭代，呈現(xiàn)出攻擊漸趨復(fù)雜化的趨勢。曾毅稱，2020年人工智能面臨的攻擊形式主要為基礎(chǔ)威脅；2021年出現(xiàn)了角色扮演形式的攻擊；2022年出現(xiàn)了梯度優(yōu)化的攻擊；2023年出現(xiàn)多模態(tài)攻擊、跨模態(tài)威脅，2024年的時(shí)候出現(xiàn)了智能對(duì)抗攻擊；今年則出現(xiàn)了組合式的復(fù)雜的攻擊。

　　“據(jù)不完全統(tǒng)計(jì)，某些重要領(lǐng)域的應(yīng)用軟件開源比例非常高，動(dòng)輒達(dá)到90%。”中國國家互聯(lián)網(wǎng)信息辦公室總工程師孫蔚敏在此次大會(huì)上表示，由于成本等原因，部分應(yīng)用軟件在上線前并不具備足夠的條件去做充分的安全檢測。

　　孫蔚敏認(rèn)為，在過去，人們對(duì)于安全的理念都是圍欄式的，在重要系統(tǒng)外進(jìn)行軟硬件的防護(hù)；現(xiàn)在則要把內(nèi)生安全提升，否則縱使圍欄嚴(yán)絲合縫，也很難突出安全重圍。

　　邁向系統(tǒng)化防御

　　如何在筑牢圍欄的同時(shí)提升內(nèi)生安全？“人工智能既是全球網(wǎng)絡(luò)安全競爭博弈的重點(diǎn)科技領(lǐng)域，也是掌握網(wǎng)絡(luò)空間主動(dòng)權(quán)的先手棋，我們必須以系統(tǒng)性的思維應(yīng)對(duì)復(fù)合性的風(fēng)險(xiǎn)，構(gòu)建更加靈活、智能、協(xié)同的安全體系�！敝袊�互聯(lián)網(wǎng)協(xié)會(huì)專家咨詢委員會(huì)常務(wù)副主任趙志國在此次大會(huì)上表示，實(shí)現(xiàn)安全突圍，就是要在原有的基礎(chǔ)上構(gòu)建新的、智能化的安全體系。

　　具體來看，趙志國認(rèn)為，要構(gòu)建具備內(nèi)生安全的人工智能安全底座，提升數(shù)據(jù)集的安全性，模型的可信性，輸出的可靠性；同時(shí)加快開展人工智能賦能位置、威脅、發(fā)現(xiàn)等高級(jí)別安全場景的技術(shù)攻關(guān)，形成自主化的模型算法的創(chuàng)新；此外強(qiáng)化人工智能在危險(xiǎn)監(jiān)測、漏洞分析和安全態(tài)勢感知等方面的實(shí)戰(zhàn)化應(yīng)用，構(gòu)建智能化的安全防護(hù)體系。

　　孫蔚敏表示，當(dāng)前我國信息系統(tǒng)數(shù)量大、類型多、分布很廣，形勢非常嚴(yán)峻�！案骷易話唛T前雪的方式，已經(jīng)很難應(yīng)對(duì)猖獗的、國家級(jí)的網(wǎng)絡(luò)攻擊。網(wǎng)絡(luò)安全是一項(xiàng)系統(tǒng)工程，單點(diǎn)的防御時(shí)代已經(jīng)結(jié)束了，我們需要打造網(wǎng)絡(luò)安全的聯(lián)合防御體系�！�

　　事實(shí)上，近年來，能源、金融、航空等多領(lǐng)域的頭部企業(yè)已就系統(tǒng)化的內(nèi)生安全進(jìn)行積極嘗試。

　　在此次活動(dòng)上，中國南方電網(wǎng)深圳供電局有限公司（以下簡稱“深圳供電局”）展示了與奇安信等企業(yè)合作的基于SOAR技術(shù)的安全運(yùn)維自動(dòng)化平臺(tái)構(gòu)建與實(shí)踐。據(jù)介紹，通過SOAR技術(shù)，深圳供電局搭建了安全編排自動(dòng)化與相應(yīng)管理平臺(tái)，通過SORA技術(shù)，對(duì)第三方威脅情報(bào)平臺(tái)、網(wǎng)站/安全基礎(chǔ)設(shè)施、工單/協(xié)作/運(yùn)維系統(tǒng)以及云端應(yīng)用進(jìn)行統(tǒng)一的安全編排與自動(dòng)化管理，實(shí)現(xiàn)告警管理、威脅情報(bào)管理、案件管理以及工單管理的互聯(lián)互通。目前，該平臺(tái)已經(jīng)能夠?qū)崿F(xiàn)對(duì)網(wǎng)絡(luò)安全風(fēng)險(xiǎn)的100%自動(dòng)處置，自動(dòng)處置平均時(shí)長為4秒772毫秒。

　　奇安信自2019年提出內(nèi)生安全理念。該公司董事長齊向東表示，近十年來，數(shù)據(jù)對(duì)安全的重要性呈現(xiàn)出指數(shù)級(jí)的增長，但數(shù)據(jù)被割裂造成各自的數(shù)據(jù)孤島，阻礙了體系的落地；同時(shí)安全投入不足以及新舊網(wǎng)絡(luò)架構(gòu)難以兼容的問題亦增加了內(nèi)生安全防御體系落地的難度。

　　化解“內(nèi)生”風(fēng)險(xiǎn)

　　內(nèi)生安全體系重塑體現(xiàn)在安全產(chǎn)品結(jié)構(gòu)的重塑。

　　“安全原來是點(diǎn)狀的，更多體現(xiàn)形式是在某個(gè)地方放置一個(gè)風(fēng)險(xiǎn)阻斷設(shè)施；現(xiàn)在則由點(diǎn)成線連接成面，構(gòu)建起安全防御體系。”站在奇安信展臺(tái)上的大屏前，相關(guān)工作人員告訴《證券日?qǐng)?bào)》記者，“我們要在提升安全陣地整體能力的同時(shí)，構(gòu)建基于大模型技術(shù)的實(shí)戰(zhàn)化的安全運(yùn)營管理體系，實(shí)現(xiàn)安全工作的精細(xì)化、智能化和體系化�！�

　　內(nèi)生安全體系重塑還體現(xiàn)于多方協(xié)作。孫蔚敏認(rèn)為，想要構(gòu)建聯(lián)合防御體系，第一要壓實(shí)運(yùn)營商主體責(zé)任，做好自身運(yùn)行系統(tǒng)安全防護(hù)，守好安全底線；第二將部分運(yùn)營商層面服務(wù)變成聯(lián)合防御體系中的公共服務(wù)；此外可建立國家級(jí)的監(jiān)測和處置能力，保護(hù)關(guān)鍵信息基礎(chǔ)設(shè)施運(yùn)營者。

　　目前，多國已成立了不同層面的人工智能安全機(jī)構(gòu)，在此背景下，北京前瞻人工智能安全與治理研究院也在今年正式成立�！霸撗芯吭簭氖氯斯ぶ悄馨踩�和治理的研究和服務(wù)，立足北京同時(shí)服務(wù)全國，致力于與全球人工智能安全與治理進(jìn)行深度的協(xié)作�！痹�毅表示。

　　央企亦積極參與相關(guān)布局。在此次大會(huì)現(xiàn)場，中國電子信息產(chǎn)業(yè)集團(tuán)有限公司（以下簡稱“中國電子”）相關(guān)工作人員告訴《證券日?qǐng)?bào)》記者，中國電子是較早在數(shù)據(jù)要素領(lǐng)域進(jìn)行探索的央企之一�！霸贏I+時(shí)代，千行百業(yè)都會(huì)建立自己的大模型，其背后的數(shù)據(jù)集質(zhì)量會(huì)影響這些大模型的精準(zhǔn)度和專業(yè)性，我們需要確保數(shù)據(jù)能夠以安全合規(guī)的方式進(jìn)行流通�！鼻笆龉ぷ魅藛T表示，目前護(hù)航數(shù)據(jù)安全流通的“道路”已逐步完善，今年將進(jìn)一步推動(dòng)數(shù)據(jù)要素解決方案的試點(diǎn)落地，讓更多數(shù)據(jù)能夠在這條安全的“道路”上流通。

　　此外，部分汽車行業(yè)的上市公司亦積極參與布局。賽力斯集團(tuán)股份有限公司總裁張正萍在此次大會(huì)上表示，目前，賽力斯已經(jīng)聯(lián)合奇安信等頭部安全企業(yè)，創(chuàng)新構(gòu)建“車企—安全服務(wù)商—終端用戶”三位一體協(xié)同發(fā)展的安全（生態(tài)）體系，通過多方共建的產(chǎn)業(yè)安全共同體，合力推進(jìn)智能網(wǎng)聯(lián)汽車安全技術(shù)標(biāo)準(zhǔn)的制定與完善。