【導(dǎo)讀】當(dāng)AI Agent從概念驗證步入真實業(yè)務(wù)場景,行業(yè)關(guān)注的焦點正從“芯片有多少算力”轉(zhuǎn)向“算力能轉(zhuǎn)化出多少業(yè)務(wù)價值”。8月27日,2026中國國際大數(shù)據(jù)產(chǎn)業(yè)博覽會上,海光信息重磅發(fā)布“Agent to Token開放計算架構(gòu)”,以CPU與DCU雙芯協(xié)同及開放互連,為Token經(jīng)濟規(guī)?;峁男酒綉?yīng)用的全新算力框架。這一架構(gòu)并非簡單的硬件疊加,而是對AI計算分工的重新定義——CPU負責(zé)指令流與任務(wù)編排,DCU專注Token生成與并行推理,兩者通過高效互連形成協(xié)同。海光信息總裁助理杜夏威與張攀勇向EEWorld分享了這一架構(gòu)背后的產(chǎn)業(yè)洞察與技術(shù)邏輯。
海光為什么要發(fā)布這樣的架構(gòu)?這一架構(gòu)有什么值得關(guān)注的細節(jié)?在當(dāng)下發(fā)展中海光能夠提供什么?海光信息總裁助理兼智能計算產(chǎn)品部總經(jīng)理杜夏威,海光信息總裁助理兼服務(wù)器產(chǎn)品部總經(jīng)理張攀勇向EEWorld深度分享了自己的見解。
為什么要推出“Agent to Token”架構(gòu)
現(xiàn)在,用戶買AI算力,越來越不只是看峰值性能,而是更關(guān)注一個實際問題:Token能不能穩(wěn)定、高效地生產(chǎn)出來。在杜夏威看來,這種變化實際上意味著整個AI產(chǎn)業(yè)正在走向成熟。
如果說Token解決的是模型與算力如何更高效協(xié)同,那么進入Agent時代之后,問題又向上走了一層。因為Agent天然帶有更強的業(yè)務(wù)屬性。傳統(tǒng)大模型更多關(guān)注生成和推理,而Agent需要調(diào)用工具、執(zhí)行任務(wù)、與業(yè)務(wù)系統(tǒng)交互。因此,最終的業(yè)務(wù)效果已經(jīng)不再由單一DCU,甚至單一AI芯片決定。
比如現(xiàn)在的Agent,需要執(zhí)行操作、調(diào)用工具,還需要考慮Sandbox沙箱和安全機制。這些任務(wù)并不是100%由AI芯片完成,CPU同樣需要參與其中。同時,在一個完整的業(yè)務(wù)流程中,AI推理也只是其中一個環(huán)節(jié),數(shù)據(jù)存儲、網(wǎng)絡(luò)通信、業(yè)務(wù)系統(tǒng)調(diào)用等都會影響最終效率。
因此,海光提出“Agent to Token”,并不只是把Token作為新的算力指標,而是希望把關(guān)注點進一步從Token提升到業(yè)務(wù)層。
“Agent to Token”架構(gòu)的三個階段
對于海光此次提出的Token架構(gòu),杜夏威將其背后的產(chǎn)業(yè)邏輯概括為三個階段。
第一個階段,是算力階段。這個階段主要解決的是“芯片能做什么、能提供多少算力”的問題。PFLOPS、TOPS等指標是核心衡量方式,這也是海光長期積累的重要領(lǐng)域。
第二個階段,是Token階段。隨著大模型快速發(fā)展,Token成為連接算法和算力的重要紐帶。過去談算力,更多是在談芯片;談參數(shù)量,更多是在談模型。而Token則把模型和算力結(jié)合了起來,更直接地反映兩者協(xié)同后的實際效果。
第三個階段,則是Agent時代下的業(yè)務(wù)化階段。當(dāng)Token已經(jīng)成為行業(yè)普遍接受的價值衡量方式之后,下一個問題就是:這些Token到底如何服務(wù)具體業(yè)務(wù)?業(yè)務(wù)流程如何改造?智能體如何與業(yè)務(wù)系統(tǒng)整合?AI如何幫助研發(fā)和生產(chǎn)提效?
海光此前一直推動AI計算開放架構(gòu),以CPU和DCU雙芯戰(zhàn)略為基礎(chǔ),同時堅持開放生態(tài)的發(fā)展思路。這些底層能力,也構(gòu)成了未來繼續(xù)向Token、Agent,以及更廣泛AI業(yè)務(wù)場景延伸的基礎(chǔ)。
Agent對CPU提出了哪些新需求?
隨著Agent進入實際行業(yè)和應(yīng)用場景,AI計算的重心正在從單純的模型訓(xùn)練、推理,轉(zhuǎn)向完整業(yè)務(wù)流程的執(zhí)行。CPU不再只是AI系統(tǒng)的輔助角色,而需要承擔(dān)任務(wù)理解、工具調(diào)用、任務(wù)編排、數(shù)據(jù)訪問、結(jié)果處理等大量工作。
張攀勇認為,Agent時代CPU的重要性會進一步提升。過去服務(wù)器中CPU與加速卡的配比可能是1:4甚至1:8,未來在Agent場景下可能逐步向1:2乃至1:1收斂。其背后的原因在于,Agent涉及大量非純計算任務(wù),CPU承擔(dān)的工作量明顯增加。
不過,與傳統(tǒng)服務(wù)器相比,Agent時代CPU承擔(dān)的角色有所變化。過去CPU更多承擔(dān)通用計算、數(shù)據(jù)預(yù)處理等任務(wù),而在Agent系統(tǒng)中,CPU更像是整個業(yè)務(wù)流程的“中樞”,需要負責(zé)數(shù)據(jù)接入、沙箱運行、任務(wù)理解、決策編排、工具調(diào)用、數(shù)據(jù)庫訪問以及多節(jié)點并發(fā)等工作。因此,Agent對CPU的需求不一定只是追求更高的峰值算力,而是更加看重串行處理效率、低延遲、高并發(fā)、數(shù)據(jù)處理能力和帶寬,同時需要與DCU、網(wǎng)絡(luò)等資源實現(xiàn)高效協(xié)同。
海光也會針對這些變化持續(xù)優(yōu)化CPU架構(gòu),并從系統(tǒng)層面重新定義CPU的定位。例如通過HSL等互連技術(shù)提升CPU與DCU以及系統(tǒng)內(nèi)部的數(shù)據(jù)傳輸效率,同時提升IPC和內(nèi)部數(shù)據(jù)通路效率。
安全同樣是重要能力。海光希望將安全能力從芯片底層開始內(nèi)嵌到整個系統(tǒng)中,通過隔離、權(quán)限管理、加密等機制,在保證數(shù)據(jù)安全和可信的同時,盡可能降低對系統(tǒng)性能的影響。
CPU與DCU不是簡單疊加,而是重新分工
海光提出“Agent to Token”,核心并不是簡單地把CPU和DCU放在一起,而是根據(jù)不同任務(wù)的特征重新分配計算資源。
其中,任務(wù)編排、實時決策、工具調(diào)用、數(shù)據(jù)處理和數(shù)據(jù)存取等工作,更適合CPU承擔(dān)。CPU擅長通用處理、復(fù)雜邏輯和低延遲響應(yīng);而Token生成、推理等大規(guī)模并行計算任務(wù),則更適合交給DCU。
因此,在海光的雙芯架構(gòu)中,CPU更多承擔(dān)Agent側(cè)的指令流,DCU負責(zé)Token側(cè)的生成流,兩者通過高效互連形成協(xié)同。
張攀勇認為,未來AI算力系統(tǒng)的“最優(yōu)”,不再是單獨追求CPU或者DCU性能最強,而是要在系統(tǒng)層面實現(xiàn)最優(yōu),通過合理的任務(wù)分工和資源配置,提高整體效率,并最終降低客戶TCO。
在安全方面,海光則堅持“云邊端”與“內(nèi)生全棧安全”的思路,從芯片底層開始設(shè)計整體安全架構(gòu),在盡量降低對系統(tǒng)和應(yīng)用性能影響的同時,提供更高等級的安全保障。
國產(chǎn)算力要降低門檻,不能只靠“被動適配”
杜夏威表示,海光希望更早進入模型研發(fā)階段,讓開發(fā)者從一開始就能夠基于DCU進行原生開發(fā),包括模型訓(xùn)練和推理。這樣,當(dāng)模型后續(xù)迭代時,能夠盡可能實現(xiàn)“發(fā)布即可用,可用即好用”。
從這個角度來看,國產(chǎn)AI算力生態(tài)真正要解決的問題,不只是兼容多少模型,而是要讓開發(fā)者能夠更低門檻地直接在國產(chǎn)平臺上開發(fā)。
海光目前主要從兩個方向推進:
第一,是持續(xù)完善自身的軟件棧。隨著大模型不斷迭代,新的算子、新的數(shù)據(jù)精度,以及分布式、工程化部署等能力都在快速演進。底層軟件棧必須具備足夠完善的支撐能力,才能讓新的模型和算子更快地在DCU平臺上運行起來。
第二,則是繼續(xù)推動開放生態(tài)。海光希望通過進一步開放和開源,讓開發(fā)者、用戶以及上下游合作伙伴,能夠更方便地獲得基于DCU的開發(fā)工具和技術(shù)支持。尤其是大模型廠商,可以圍繞自身的研發(fā)節(jié)奏,自主開展模型訓(xùn)練、推理和業(yè)務(wù)部署。
總結(jié)
從“算力時代”到“Token時代”再到“Agent業(yè)務(wù)化時代”,海光“Agent to Token”架構(gòu)清晰映射出AI產(chǎn)業(yè)價值重心的遷移路徑。Agent時代,CPU從輔助角色躍升為業(yè)務(wù)流程中樞,承擔(dān)任務(wù)理解、決策編排與安全隔離;DCU則專注Token生成與大規(guī)模并行推理。海光以雙芯協(xié)同、HSL互連和內(nèi)生安全架構(gòu),為這一分工提供系統(tǒng)級支撐。更關(guān)鍵的是,海光正將國產(chǎn)算力的參與節(jié)點從“模型發(fā)布后的適配”前移至“模型研發(fā)階段的原生開發(fā)”,讓開發(fā)者從源頭即可在國產(chǎn)平臺上完成訓(xùn)練與推理。






