伴隨大模型技術(shù)的高速發(fā)展，AI原生應(yīng)用持續(xù)涌現(xiàn)，企業(yè)迎來新的發(fā)展機(jī)遇。6月10日，在騰訊全球數(shù)字生態(tài)大會青島峰會上，騰訊云副總裁、騰訊云智能解決方案負(fù)責(zé)人王麒介紹，從自研的混元大模型到AI基礎(chǔ)設(shè)施，再到模型訓(xùn)推、智能體開發(fā)，以及應(yīng)用軟件，騰訊云已經(jīng)構(gòu)建起了全鏈路的 AI 原生服務(wù)，并不斷打磨和升級產(chǎn)品，幫助企業(yè)實(shí)現(xiàn)降本增效和價(jià)值飛躍。
騰訊云副總裁、騰訊云智能解決方案負(fù)責(zé)人王麒
在模型訓(xùn)推層面，騰訊云TI平臺提供從數(shù)據(jù)準(zhǔn)備到模型精調(diào)、服務(wù)部署的全流程開發(fā)工具鏈。結(jié)合客戶部署和使用DeepSeek的需求，TI平臺提供了多種訓(xùn)練和精調(diào)模式；在推理加速層面，通過深挖內(nèi)核和架構(gòu)延展，在精度幾乎無損的前提下，實(shí)現(xiàn)服務(wù)時(shí)延的大幅降低， 以及吞吐能力的大幅提升。
在大語言模型之外，TI平臺也提供了面向不同細(xì)分場景的解決方案。王麒表示，青島是一個底蘊(yùn)深厚且活力迸發(fā)的制造業(yè)大市。面向制造業(yè)，騰訊云 TIAOI平臺提供了先進(jìn)的工業(yè)質(zhì)檢方案，幫助企業(yè)利用AI提升質(zhì)檢的效率和質(zhì)量。
截至目前，騰訊云的工業(yè)質(zhì)檢方案已經(jīng)在20多個領(lǐng)域落地，覆蓋電子3C、鋰電制造、汽車零部件、半導(dǎo)體SMT等高端制造業(yè)核心板塊；年交付超過1000套軟件平臺，累計(jì)檢測超過2000萬件產(chǎn)品，顯著降低了瑕疵率，同時(shí)每年幫助企業(yè)節(jié)省超億元質(zhì)檢成本。
在智能體開發(fā)層面，騰訊云也提供了完備的工具產(chǎn)品。不久前，騰訊云將大模型知識引擎全面升級為“騰訊云智能體開發(fā)平臺”，通過行業(yè)領(lǐng)先的RAG技術(shù)、全面的Agent能力、以及實(shí)戰(zhàn)打磨出來的匹配用戶需求的功能，幫助用戶在大模型時(shí)代快速構(gòu)建智能體。
比如，騰訊云智能體開發(fā)平臺首創(chuàng)零代碼配置多Agent協(xié)同轉(zhuǎn)交能力，讓用戶能輕松實(shí)現(xiàn)Agent間協(xié)作，通過構(gòu)建“多專家”體系，讓智能體組合處理更復(fù)雜的任務(wù)。在插件生態(tài)上，全面支持MCP協(xié)議，平臺預(yù)置了高質(zhì)量的、豐富的插件，開箱即用；依托穩(wěn)定的工作流編排、多智能體協(xié)同機(jī)制和完善的MCP插件生態(tài)，企業(yè)可以快速搭建高可用、可演進(jìn)的專屬智能體系統(tǒng)。
王麒介紹，目前已經(jīng)有眾多客戶通過智能體開發(fā)平臺的能力實(shí)現(xiàn)降本增效和業(yè)務(wù)創(chuàng)新。比如，一汽豐田搭建起客服Agent，幫助用戶自助排障，降低客服人力成本投入。目前，一汽豐田客服機(jī)器人獨(dú)立解決問題率已從37%提升為84%，知識問答準(zhǔn)確率也提升到了81%。
頭部物流集團(tuán)DHL通過智能體開發(fā)平臺，編排了50條企業(yè)專屬的工作流，快速搭建適合物流場景的智能服務(wù)，用AI自動接待客戶，完成查詢快件、修改地址和時(shí)間、寄送等服務(wù)。更重要的是，通過工作流的模式，一線業(yè)務(wù)人員也可以直接配置智能服務(wù)，大幅降低了AI技術(shù)的使用門檻。
以下為演講全文：
各位領(lǐng)導(dǎo)、嘉賓、媒體朋友們，大家上午好! 我是騰訊的王麒， 今天非常榮幸能在這里，與大家共同探討大模型時(shí)代下的新機(jī)遇。
今年以來，大模型技術(shù)的發(fā)展速度非�？欤芏郃I原生的應(yīng)用在涌現(xiàn)。我們看到了幾個明確的趨勢：首先，大模型這項(xiàng)技術(shù)，與各類應(yīng)用進(jìn)一步融合，從AI原生到應(yīng)用融合，正在重塑應(yīng)用市場格局。
第二，訓(xùn)練和推理的效率持續(xù)提升。通過算力管理調(diào)度、推理加速優(yōu)化等手段，算力的利用率不斷提升,模型的使用成本降低，這也進(jìn)一步推動了模型在更多場景落地。
第三，智能體的加速落地。今年以來，智能體這個話題特別熱，通過智能體開發(fā)平臺類的工具，企業(yè)可以快速落地智能體，企業(yè)構(gòu)建AI應(yīng)用的門檻也正在降低。
在這樣的背景下，騰訊積極擁抱變化,開放共贏：我們堅(jiān)持以長期投入的精神，繼續(xù)加強(qiáng)研發(fā)投入和優(yōu)質(zhì)產(chǎn)品的開發(fā)。
在模型層面：我們堅(jiān)定不移的推動全鏈路大模型自研，同時(shí)也積極擁抱先進(jìn)的開源模型，讓用戶可以根據(jù)場景進(jìn)行靈活選擇。
在C端應(yīng)用層面：我們承載滿血版 DeepSeek的元寶已成為最受歡迎的AI應(yīng)用之一，而元寶也正在變成一個AI基礎(chǔ)能力，與微信、騰訊文檔、騰訊新聞等各類應(yīng)用融合創(chuàng)新。
比如用戶可以把騰訊新聞、微信公眾號等內(nèi)容資源，一鍵分享到元寶進(jìn)行分析和解讀，高效獲取內(nèi)容干貨；比如元寶快速生成的PPT大綱也可以一鍵發(fā)布到騰訊文檔，生成高質(zhì)量PPT。還有更多實(shí)用的能力，正在快速迭代。
在ToB領(lǐng)域：騰訊云也為企業(yè)提供全鏈路的 AI 原生服務(wù)。從基礎(chǔ)設(shè)施層、平臺工具層 、應(yīng)用軟件層，我們也提供了全棧的AI服務(wù)能力，助力企業(yè)降本增效和價(jià)值飛躍。下面來一起看一下我們我們重點(diǎn)升級的AI服務(wù)能力。
騰訊云TI平臺是騰訊云面向?qū)崙?zhàn)的大模型開發(fā)平臺,提供從數(shù)據(jù)準(zhǔn)備到模型精調(diào)，到服務(wù)部署的全流程開發(fā)工具鏈。
在模型訓(xùn)練層面：我們升級了精調(diào)工具鏈，支持更多訓(xùn)練方式，同時(shí)支持訓(xùn)推一體潮汐調(diào)度。基于這個能力，TI平臺能在夜間，將在線推理業(yè)務(wù)的閑時(shí)算力，自動釋放給離線訓(xùn)練任務(wù)和離線數(shù)據(jù)處理任務(wù)，從而大幅提升資源利用率。
來看這樣一個案例：某頭部消費(fèi)電子企業(yè)，基于TI平臺統(tǒng)一管理集團(tuán)算力， 支撐了大模型和傳統(tǒng)CV小模型的研發(fā)，應(yīng)用在電視產(chǎn)品文案生成、視頻分析等場景。基于TI平臺提供的精調(diào)工具鏈和資源管理能力，AI研發(fā)整體提效50%以上， GPU資源利用率也提升超過80%。
在模型推理層面：TI平臺持續(xù)升級內(nèi)置的Angel加速套件，以業(yè)界領(lǐng)先的推理加速能力，幫助企業(yè)降本。在技術(shù)升級方面，我們通過深挖內(nèi)核和架構(gòu)延展，在精度幾乎無損的前提下，實(shí)現(xiàn)服務(wù)時(shí)延的大幅降低， 以及吞吐能力的大幅提升。
比如某頭部新能源汽車制造商基于TI平臺統(tǒng)一納管算力部署DeepSeek專屬模型，支撐知識問答、營銷、座艙語音助手等多個業(yè)務(wù)場景。在使用TI平臺提供的Angel加速能力后，DeepSeek的模型綜合性能顯著提升，資源成本顯著降低。
青島是一個底蘊(yùn)深厚且活力迸發(fā)的制造業(yè)大市，騰訊云也提供面向制造業(yè)的工業(yè)質(zhì)檢方案。騰訊云 TIAOI-AI工業(yè)質(zhì)檢平臺，專注于外觀缺陷質(zhì)檢場景。在訓(xùn)練端，通過TI-AOI訓(xùn)練端訓(xùn)練高精度工業(yè)質(zhì)檢模型，并輸出SDK；在運(yùn)營端，將訓(xùn)練好的模型部署在產(chǎn)線機(jī)臺，進(jìn)行視覺缺陷檢測。
截至目前，我們的工業(yè)質(zhì)檢方案在20多個細(xì)分領(lǐng)域成功落地，包括電子3C、鋰電制造、汽車零部件、半導(dǎo)體SMT等高端制造業(yè)核心板塊；年交付超過1000套軟件平臺，累計(jì)檢測超過2000萬件產(chǎn)品，顯著降低瑕疵率，同時(shí)每年幫助企業(yè)節(jié)省超億元質(zhì)檢成本。真正助力企業(yè)實(shí)現(xiàn)降本增效。
從模型到智能體，AI應(yīng)用落地的門檻正在逐步降低。就在不久前，我們將大模型知識引擎全面升級為騰訊云智能體開發(fā)平臺，通過行業(yè)領(lǐng)先的RAG技術(shù)、全面的Agent能力、以及實(shí)戰(zhàn)打磨出來的匹配用戶需求的功能，幫助用戶在大模型時(shí)代快速構(gòu)建智能體應(yīng)用。
我們始終相信，企業(yè)的智能化能力，必須建立在對企業(yè)私域知識的深度激活和挖掘之上。因此我們在知識處理領(lǐng)域做了非常深的工作：我們的RAG能力行業(yè)領(lǐng)先，能夠?qū)崿F(xiàn)從復(fù)雜 Excel表中精準(zhǔn)提取答案，支持對接數(shù)據(jù)庫，通過Text2SQL，用戶用自然語言即可精準(zhǔn)查詢、秒級返回。
支持從文檔自動生成問答對，并對完整的問答進(jìn)行校對和管理，全流程可控，顯著降低運(yùn)營人力投入的時(shí)間成本。同時(shí)，支持文檔間比對，輔助高效決策，支持版本對照，高亮增刪改的內(nèi)容，支持僅對變更片段生成問答對，顯著降低token消耗。
在RAG基礎(chǔ)上，我們提供了全面的Agent能力支持。這些能力源自大量企業(yè)場景的實(shí)戰(zhàn)打磨，既保障了落地所需的穩(wěn)定性和確定性，又保留了對話智能的靈活性。
比如，我們在工作流中首創(chuàng)具備全局視野的Agent節(jié)點(diǎn)，支持參數(shù)回退和全局意圖洞察，讓對話表現(xiàn)得更靈活自然。
同時(shí)，我們首創(chuàng)零代碼配置多Agent協(xié)同轉(zhuǎn)交能力，讓用戶能輕松實(shí)現(xiàn)Agent間協(xié)作，通過構(gòu)建“多專家”體系，讓智能體組合處理更復(fù)雜的任務(wù)。
在插件生態(tài)上，我們?nèi)嬷С諱CP協(xié)議，平臺預(yù)置了高質(zhì)量的、豐富的插件，開箱即用；依托穩(wěn)定的工作流編排、多智能體協(xié)同機(jī)制和完善的MCP插件生態(tài)，企業(yè)可以快速搭建高可用、可演進(jìn)的專屬智能體系統(tǒng)。
同時(shí)，我們的平臺提供真正面向業(yè)務(wù)上線運(yùn)營的全鏈路支持。從智能體發(fā)布上線，到后續(xù)的運(yùn)營監(jiān)控、配置管理， 我們都有完善的運(yùn)營管理后臺支持，助力實(shí)現(xiàn)精細(xì)化運(yùn)維，并支持私有化部署，真正讓企業(yè)用得放心、運(yùn)維省心。
這里我介紹兩個客戶案例：比如在一汽豐田，我們基于汽車行業(yè)大模型，提供汽車使用的客服Agent能力，幫助用戶自助排障，客服機(jī)器人獨(dú)立解決問題率已從37%提升為84%，知識問答準(zhǔn)確率也提升到了81%，幫助客戶有效減少客服人力成本的投入。
頭部物流集團(tuán)DHL通過智能體開發(fā)平臺，編排了50條企業(yè)專屬的工作流，快速搭建適合物流場景的智能服務(wù)，用AI自動接待客戶，并完成查詢快件、修改地址和時(shí)間、寄送等服務(wù)。更重要的是，通過工作流的模式，一線業(yè)務(wù)人員也可以直接配置智能服務(wù)，大幅降低了AI技術(shù)的使用門檻。
我們還有非常多的行業(yè)客戶，包括零售、政務(wù)、金融、消費(fèi)電子、教育、醫(yī)療、出行等客戶落地案例。我們相信，隨著大模型的持續(xù)進(jìn)化和各項(xiàng)工具的升級，性能指標(biāo)和產(chǎn)品體驗(yàn)會進(jìn)一步得到優(yōu)化，智能體一定能夠成為企業(yè)和用戶的得力助手。
也歡迎大家試用我們的騰訊云智能體開發(fā)平臺。未來，騰訊也將圍繞客戶需求，持續(xù)打磨產(chǎn)品，為各行各業(yè)用好大模型、用好智能體提供助力!
