央廣網(wǎng)昆明9月16日消息（記者 魏文青） 9月16日，第22屆中國(guó)網(wǎng)絡(luò)安全年會(huì)（暨國(guó)家網(wǎng)絡(luò)安全宣傳周網(wǎng)絡(luò)安全協(xié)同防御分論壇）上，國(guó)內(nèi)首次針對(duì)人工智能大模型的實(shí)網(wǎng)眾測(cè)檢驗(yàn)結(jié)果正式發(fā)布。大模型特有漏洞177個(gè)，占比超過(guò)60%。

眾測(cè)結(jié)果發(fā)布現(xiàn)場(chǎng)（央廣網(wǎng)記者 魏文青 攝）

據(jù)介紹，本次活動(dòng)共動(dòng)員559名“白帽子”，對(duì)國(guó)內(nèi)10家廠(chǎng)商的15款大模型及相關(guān)應(yīng)用產(chǎn)品進(jìn)行了漏洞測(cè)試，涵蓋基礎(chǔ)大模型、垂域大模型、智能體及模型開(kāi)發(fā)平臺(tái)等，測(cè)試范圍具有較廣泛的代表性。

測(cè)試結(jié)果顯示，在參與測(cè)試的主流產(chǎn)品中，騰訊混元大模型、百度文心一言、阿里巴巴通義APP、智譜華章智譜清言等發(fā)現(xiàn)的漏洞風(fēng)險(xiǎn)較少，安全防護(hù)水平相對(duì)較高�；顒�(dòng)中，涌現(xiàn)出梁宏宇、馬寶新、劉銘等一批優(yōu)秀白帽子，他們?cè)趶S(chǎng)商防護(hù)條件下仍能挖掘出高危漏洞，展現(xiàn)了專(zhuān)業(yè)能力。

統(tǒng)計(jì)數(shù)據(jù)顯示，本次眾測(cè)累計(jì)發(fā)現(xiàn)各類(lèi)安全漏洞281個(gè)，其中大模型特有漏洞177個(gè)，占比超過(guò)60%。典型風(fēng)險(xiǎn)包括：不當(dāng)輸出、信息泄露、提示注入、不受限消耗類(lèi)漏洞，以及傳統(tǒng)安全漏洞等。專(zhuān)家表示，若此類(lèi)問(wèn)題被惡意利用，將對(duì)大模型生態(tài)帶來(lái)較大影響。

此次活動(dòng)由中央網(wǎng)信辦網(wǎng)絡(luò)安全協(xié)調(diào)局指導(dǎo)，國(guó)家計(jì)算機(jī)網(wǎng)絡(luò)應(yīng)急技術(shù)處理協(xié)調(diào)中心主辦，相關(guān)平臺(tái)和基地提供技術(shù)支持。業(yè)內(nèi)人士指出，隨著人工智能應(yīng)用場(chǎng)景不斷拓展，新的風(fēng)險(xiǎn)和攻擊方式仍將持續(xù)出現(xiàn)。未來(lái)需加快漏洞分級(jí)標(biāo)準(zhǔn)制定，持續(xù)完善防護(hù)措施，并通過(guò)社會(huì)眾測(cè)模式構(gòu)建協(xié)同治理機(jī)制，以高水平安全護(hù)航“人工智能+”的高質(zhì)量發(fā)展。