7月23日，2025（第二十四屆）中國互聯(lián)網(wǎng)大會在京開幕。作為大會重要組成部分，大模型安全發(fā)展論壇暨中國電信第五屆科技節(jié)·北京站舉辦。論壇由中國互聯(lián)網(wǎng)協(xié)會主辦，中國電信集團有限公司、中國電信科學(xué)技術(shù)協(xié)會及天翼安全科技有限公司聯(lián)合主辦，以“安全護智·智惠安全”為主題，匯聚政產(chǎn)學(xué)研頂尖力量，共話大模型安全發(fā)展，推動AI安全與創(chuàng)新共振，賦能可信智能生態(tài)建設(shè)。
中國互聯(lián)網(wǎng)協(xié)會專家咨詢委員會常務(wù)副主任邵廣祿和中國電信集團有限公司黨組成員、副總經(jīng)理劉穎出席論壇并致辭。
中國互聯(lián)網(wǎng)協(xié)會專家咨詢委員會常務(wù)副主任邵廣祿
邵廣祿強調(diào)，伴隨AI加速迭代，安全必須同步進階。當前，AI安全領(lǐng)域面臨三大挑戰(zhàn)：場景化風(fēng)險加劇、“重應(yīng)用、輕安全”、 協(xié)同機制有待完善。要從技術(shù)、治理、生態(tài)三個層面協(xié)同發(fā)力，共筑大模型安全。中國互聯(lián)網(wǎng)協(xié)會將進一步發(fā)揮橋梁作用，推動產(chǎn)學(xué)研用協(xié)同攻關(guān)，完善標準體系，營造規(guī)范環(huán)境。
中國電信集團有限公司黨組成員、副總經(jīng)理劉穎
劉穎表示，當前人工智能技術(shù)正以前所未有的速度重塑全球科技與產(chǎn)業(yè)格局，同時也帶來了嚴峻復(fù)雜的安全風(fēng)險與治理挑戰(zhàn)。論壇以“安全護智·智惠安全”為主題，中國電信與產(chǎn)學(xué)研各位專家同仁一道，分享在AI安全領(lǐng)域的思考、探索和實踐。
一、中國電信全面擁抱AI，開啟“云改數(shù)轉(zhuǎn)智惠”的戰(zhàn)略升級。中國電信積極踐行建設(shè)網(wǎng)絡(luò)強國、科技強國、數(shù)字中國、維護國家網(wǎng)信安全的初心使命，逐步構(gòu)建起算力安全、算法模型安全、數(shù)據(jù)安全、內(nèi)容和應(yīng)用安全的AI安全防護體系。
二、堅持走自主可控之路，逐步構(gòu)建起一體化AI安全保障體系。兩年前，中國電信宣布啟動用于安全垂類模型訓(xùn)練的“阡陌數(shù)聚”安全語料庫建設(shè)，經(jīng)過兩年的積累，“阡陌”已成為國內(nèi)領(lǐng)先的安全語料庫�；诖�，訓(xùn)練出“星辰·見微”安全大模型，已經(jīng)深入嵌入了中國電信日常安全運營生產(chǎn)當中。今年四月發(fā)布大模型應(yīng)用一站式安全運營方案，形成了從模型安全檢測到模型安全防護的系列創(chuàng)新成果。
三、開放合作是人工智能安全發(fā)展的必然選擇。中國電信秉持開放共享、合作共贏的理念，持續(xù)深化產(chǎn)業(yè)協(xié)作，通過生態(tài)共建，實現(xiàn)協(xié)同共治，推動人工智能產(chǎn)業(yè)安全、穩(wěn)定、繁榮發(fā)展。
中國工程院教授吳世忠
吳世忠作了題為《大模型安全治理的現(xiàn)狀與展望》主題演講。他指出技術(shù)發(fā)展勢不可擋，安全風(fēng)險亟待監(jiān)管。既要擁抱技術(shù)的無限可能，也要筑牢安全的堅實防線。通過國際和國內(nèi)協(xié)同、技術(shù)與政策并重、公眾與行業(yè)共治，以安全為基石，以智慧為引領(lǐng)，積極推進大模型的發(fā)展與治理，共同打造一個安全、可信、智慧的AI未來。
中國信息通信研究院副院長魏亮
魏亮以《大模型安全挑戰(zhàn)與應(yīng)對》為題，聚焦大模型技術(shù)發(fā)展及安全治理現(xiàn)狀，全面剖析了全球政策法規(guī)與行業(yè)自律態(tài)勢，探討模型生命周期安全風(fēng)險，同時結(jié)合安全治理的實踐案例，展望未來大模型協(xié)同共治格局，為構(gòu)建安全可信的大模型生態(tài)貢獻思路。
中國軟件評測中心副主任唐剛
唐剛分享了大模型安全實踐。他表示，智能時代，網(wǎng)絡(luò)和數(shù)據(jù)安全的機遇與挑戰(zhàn)并存，人們既享受了人工智能帶來的便捷，也不得不面對由此伴生的風(fēng)險。一方面，大模型自身的安全缺陷隨著其廣泛應(yīng)用傳播風(fēng)險，警示我們應(yīng)加強大模型安全治理；另一方面，人工智能降低網(wǎng)絡(luò)和數(shù)據(jù)攻擊門檻，迫使我們必須加快人工智能賦能網(wǎng)絡(luò)和數(shù)據(jù)安全的技術(shù)攻關(guān)與產(chǎn)業(yè)實踐。中國軟件評測中心積極研發(fā)大模型安全能力并投入實踐，將協(xié)同產(chǎn)業(yè)界各方共同構(gòu)建人工智能時代的網(wǎng)絡(luò)和數(shù)據(jù)安全防線。
清華大學(xué)網(wǎng)絡(luò)研究院副教授邱寒
邱寒分享了《從現(xiàn)實世界的數(shù)據(jù)污染思考大語言模型安全》研究報告。大語言模型在其預(yù)訓(xùn)練階段，往往依靠海量互聯(lián)網(wǎng)語料進行非監(jiān)督學(xué)習(xí)，這其中難免會混入真實互聯(lián)網(wǎng)中存在的賭博、色情等非法內(nèi)容或毫無意義的污染語料，一方面體現(xiàn)在模型的詞表中，一方面會對模型的推理產(chǎn)生不良影響。報告從GPT-4o詞表中的中文污染token出發(fā)，探索不同大語言模型詞表中文token污染的情況，并探索基于詞表中token分布估算語料庫中token詞頻的方法，最后分析不同污染token在推理中異常表現(xiàn)的原因。
天翼安全科技有限公司首席AI安全專家曹輝、高級安全研究員危嘉祺以《識別大模型新型安全威脅，守護大模型安全可靠可控》為題，介紹電信安全在人工智能安全領(lǐng)域的最新成果。
天翼安全科技有限公司高級安全研究員危嘉祺
危嘉祺表示，電信安全在兩年前提出要構(gòu)建安全領(lǐng)域的“ImageNet”，以推動AI安全行業(yè)的系統(tǒng)性發(fā)展。圍繞AI安全的兩個關(guān)鍵方向——AI for Security（人工智能賦能網(wǎng)絡(luò)安全）與Security for AI（安全手段護航人工智能），電信安全持續(xù)打造了一整套體系化的數(shù)據(jù)獲取、清洗、標注與蒸餾的全流程能力。
在 AI for Security 方面，依托中國電信強大的云網(wǎng)基礎(chǔ)及兩級SOC體系積累的海量高質(zhì)量安全數(shù)據(jù)，電信安全開展深度清洗、特征抽取與自動化標注，成功構(gòu)建數(shù)千萬條高質(zhì)量標注樣本，以及近百億Token規(guī)模的語料庫，數(shù)據(jù)內(nèi)容全面覆蓋IPDRR（識別、保護、檢測、響應(yīng)、恢復(fù)）安全能力框架。
在 Security for AI 方面，電信安全參考國家標準TC260-003定義的五大類、三十一小類風(fēng)險類別，進一步細化、構(gòu)建三級分類標簽體系，并設(shè)計獨特高效的數(shù)據(jù)蒸餾流程，能夠持續(xù)產(chǎn)出對齊精度高、泛化能力強的安全樣本。同時，電信安全構(gòu)建了一套生成式對抗環(huán)境，基于數(shù)十類攻擊策略，融合黑盒與白盒的多種攻擊生成算法，不斷在攻防對抗中演進，持續(xù)產(chǎn)出高質(zhì)量的提示注入攻擊樣本，助力模型對抗能力的提升。
天翼安全科技有限公司首席AI安全專家曹輝
曹輝指出，近兩年伴隨大模型應(yīng)用的蓬勃興起，其伴生的安全風(fēng)險也日益凸顯。一方面，針對大模型的新型攻擊手段層出不窮，如提示詞攻擊、數(shù)據(jù)投毒攻擊等，正快速演進迭代。另一方面，大模型相關(guān)的安全事件頻發(fā)并呈現(xiàn)快速增長態(tài)勢。
為有效應(yīng)對和管控上述風(fēng)險，電信安全積極探索并落地了三項實踐。一是進行AI風(fēng)險監(jiān)控，提出AI資產(chǎn)測繪，結(jié)合AI威脅情報，開發(fā)AI安全監(jiān)測系統(tǒng)，實現(xiàn)對AI安全態(tài)勢的全面感知。二是進行AI安全評測，系統(tǒng)化收集AI威脅數(shù)據(jù)，集成至AI評測系統(tǒng)，為評估AI系統(tǒng)的安全成熟度提供有效依據(jù)。三是研究AI威脅的防護技術(shù)，并開發(fā)大模型護欄解決方案，為大模型提供實時、精準的貼身防護。
基于這三項實踐，電信安全深刻體會到，構(gòu)建堅實的AI安全防線，必然需要深度融合安全領(lǐng)域的人工智能技術(shù)，安全數(shù)據(jù)集是其中的關(guān)鍵。對此，電信安全提出兩方面建議：一是大模型的開發(fā)者、提供者、使用者及監(jiān)管方高度重視大模型安全風(fēng)險，共同提升風(fēng)險應(yīng)對能力。二是倡議多方合作，加大安全研究投入，共建高質(zhì)量安全數(shù)據(jù)集。
圓桌論壇
在圓桌論壇環(huán)節(jié)，數(shù)世咨詢創(chuàng)始人兼總經(jīng)理李少鵬、天翼安全科技有限公司首席AI安全專家曹輝，《中國信息安全》雜志社副社長李剛，北京瑞萊智慧科技有限公司合伙人、高級副總裁朱萌和火山引擎云安全解決方案負責(zé)人林揚圍繞“大模型安全發(fā)展路徑探索與思考”展開了深入的交流。專家們結(jié)合各自領(lǐng)域的實踐經(jīng)驗與前瞻洞察，共同剖析挑戰(zhàn)、分享洞見，為大模型安全發(fā)展的可行路徑與關(guān)鍵策略積極獻計獻策，凝聚了寶貴的行業(yè)共識與發(fā)展智慧。
本次論壇的舉辦，為政府部門、行業(yè)組織及企業(yè)搭建了高效對話平臺，有力推動了大模型安全發(fā)展共識的形成與實踐創(chuàng)新。未來，電信安全將持續(xù)深化與產(chǎn)業(yè)鏈伙伴的戰(zhàn)略合作，優(yōu)化AI治理機制，加快培育新質(zhì)生產(chǎn)力，為人工智能的高質(zhì)量、可持續(xù)發(fā)展注入新動能。
