“全球范圍內(nèi)，多模態(tài)大模型的開(kāi)發(fā)仍主要依賴(lài)于國(guó)外成熟平臺(tái)，我國(guó)在訓(xùn)推一體化設(shè)備、軟硬件協(xié)同系統(tǒng)方面較薄弱”，杭州電子科技大學(xué)計(jì)算機(jī)學(xué)院副教授曾艷對(duì)記者說(shuō)道。她帶領(lǐng)的研究生團(tuán)隊(duì)聯(lián)合杭州人工智能計(jì)算中心（下稱(chēng)：杭州智算中心）等單位申報(bào)“2024年浙江省重點(diǎn)研發(fā)項(xiàng)目”，并獲批。
該項(xiàng)目聚焦人工智能大模型領(lǐng)域，攻關(guān)軟硬件一體化系統(tǒng)，支持多模態(tài)大模型的訓(xùn)練與推理兩大核心任務(wù)，性能對(duì)標(biāo)國(guó)外主流軟硬件協(xié)同方案，可實(shí)現(xiàn)多模態(tài)大模型訓(xùn)推系統(tǒng)的進(jìn)口替代。
杭州人工智能計(jì)算中心位于杭州高新區(qū)（濱江）海創(chuàng)基地
作為項(xiàng)目參與方之一，杭州智算中心不同于科研單位或商業(yè)企業(yè)，是人工智能與大模型浪潮下應(yīng)運(yùn)而生的新型基礎(chǔ)設(shè)施。作為全市首個(gè)公共服務(wù)性質(zhì)的AI智能算力平臺(tái)，中心由杭州高新區(qū)（濱江）管委會(huì)和政府投資建設(shè)，不僅踐行普惠算力供給的本職；更以算力需求為抓手，為本地產(chǎn)業(yè)集聚、應(yīng)用孵化與成果轉(zhuǎn)化、科研創(chuàng)新與人才培養(yǎng)等產(chǎn)業(yè)發(fā)展需求，提供專(zhuān)業(yè)化運(yùn)營(yíng)服務(wù)。
一、算力需求牽引科研攻關(guān)
與大多數(shù)合作類(lèi)似，曾艷團(tuán)隊(duì)與杭州智算中心的結(jié)識(shí)始于算力需求。“我們先申請(qǐng)了一個(gè)月的算力免費(fèi)試用，”曾艷回憶道，“由于科研工作較強(qiáng)的原創(chuàng)性，技術(shù)適配要求高，運(yùn)營(yíng)團(tuán)隊(duì)不僅提供了全面的技術(shù)支持，更為我們聯(lián)系了產(chǎn)品端的研發(fā)人員一起解決難題。”
杭州智算中心基于昇騰神經(jīng)網(wǎng)絡(luò)處理單元（NPU），構(gòu)建了一套全棧國(guó)產(chǎn)化、開(kāi)源開(kāi)放、安全高效的軟硬件算力集群，可支持千億級(jí)參數(shù)大模型運(yùn)行，以及深度學(xué)習(xí)模型與算法的訓(xùn)推、應(yīng)用等豐富場(chǎng)景。針對(duì)算力使用者從數(shù)據(jù)準(zhǔn)備、代碼開(kāi)發(fā)到運(yùn)維部署等不同階段的需求，中心推出全流程工具鏈和一站式開(kāi)發(fā)平臺(tái)，并配備技術(shù)團(tuán)隊(duì)，手把手指導(dǎo)與答疑。
基于前期適配階段建立的默契與信任，曾艷團(tuán)隊(duì)選定與杭州智算中心一同推進(jìn)科研項(xiàng)目�！拔覀儚挠布O(shè)備和軟件框架兩個(gè)層面協(xié)同攻關(guān)，在多模態(tài)大模型研發(fā)、訓(xùn)練與推理軟硬件一體化系統(tǒng)等多個(gè)層面實(shí)現(xiàn)協(xié)同創(chuàng)新�！痹G解釋道，該系統(tǒng)可同時(shí)處理文本、音頻和視頻等多種類(lèi)型數(shù)據(jù)，并能夠在同一設(shè)備上進(jìn)行迭代訓(xùn)練與推理部署，可有效補(bǔ)齊我國(guó)對(duì)應(yīng)領(lǐng)域的技術(shù)和產(chǎn)業(yè)短板。
不止于核心技術(shù)攻關(guān)，AI算力的潛力也體現(xiàn)在腦機(jī)智能等前瞻性創(chuàng)新上�！耙恢币詠�(lái)，課題組非常期望依托國(guó)產(chǎn)算力展開(kāi)科學(xué)研究”，浙江大學(xué)求是高等研究院教授鄭能干告訴記者。他長(zhǎng)期從事感知-運(yùn)動(dòng)控制的腦機(jī)智能研究，用于研制新型動(dòng)物機(jī)器人。
“在杭州智算中心、昇騰團(tuán)隊(duì)的全方位支持下，我們大幅提升了全腦神經(jīng)元數(shù)據(jù)重建的速度，將單個(gè)鼠腦數(shù)據(jù)的分割與預(yù)重建時(shí)間縮短到一周，”鄭能干介紹，“該技術(shù)幫助我們更好地理解腦部神經(jīng)元之間的復(fù)雜連接，為腦機(jī)智能和動(dòng)物機(jī)器人研究提供了必要的神經(jīng)科學(xué)基礎(chǔ)。”
二、構(gòu)建產(chǎn)學(xué)研生態(tài)圈，打通成果轉(zhuǎn)化“最后一公里”
高效的算力服務(wù)推動(dòng)創(chuàng)新孵化跑出“加速度”。自2022年成立以來(lái)，杭州智算中心已累計(jì)服務(wù)企業(yè)、高校、科研機(jī)構(gòu)200余家，成功孵化超過(guò)50個(gè)行業(yè)大模型和應(yīng)用創(chuàng)新，覆蓋科教文衛(wèi)等十余個(gè)行業(yè)。
在解決單點(diǎn)算力需求之外，杭州智算中心亦是多方資源匯聚與聯(lián)動(dòng)的“樞紐站”。“算力需求的另一面是產(chǎn)業(yè)資源，我們將需求與資源整合、精準(zhǔn)再匹配；通過(guò)打造創(chuàng)新聯(lián)合體等形式，解決產(chǎn)業(yè)共性問(wèn)題�！焙贾葜撬阒行呢�(fù)責(zé)人表示。
“面向技術(shù)攻關(guān)類(lèi)挑戰(zhàn)性項(xiàng)目，區(qū)科技局等上級(jí)單位給予了中心更多支持”，負(fù)責(zé)人介紹，“比如在多模態(tài)大模型項(xiàng)目中，以多模態(tài)大模型項(xiàng)目為例，中心整合‘硬件-軟件-算法-應(yīng)用’全鏈條資源，聯(lián)合浙江大學(xué)、之江實(shí)驗(yàn)室及行業(yè)龍頭企業(yè)，共建創(chuàng)新聯(lián)合體。
杭州人工智能計(jì)算中心聯(lián)合昇騰AI計(jì)算產(chǎn)業(yè)上下游伙伴聯(lián)合發(fā)布生態(tài)鏈
為切實(shí)突破創(chuàng)新瓶頸，聚焦“強(qiáng)鏈”“補(bǔ)鏈”戰(zhàn)略，杭州智算中心聯(lián)合昇騰人工智能產(chǎn)業(yè)上下游的關(guān)鍵伙伴，整合研、造、用、服等領(lǐng)域的研究機(jī)構(gòu)和企業(yè)單位，構(gòu)建從技術(shù)孵化到成果落地的完整閉環(huán)，形成產(chǎn)學(xué)協(xié)同系統(tǒng)優(yōu)勢(shì)。
以多模態(tài)大模型項(xiàng)目為例，記者了解到，中心首先為項(xiàng)目對(duì)接了新能源、電網(wǎng)電力等亟待智能化升級(jí)的行業(yè)場(chǎng)景；針對(duì)項(xiàng)目私有化部署、開(kāi)發(fā)高效的優(yōu)勢(shì)，中心進(jìn)一步挖掘了面向數(shù)據(jù)安全、開(kāi)發(fā)效率有明確需求的企業(yè)，為創(chuàng)新成果與行業(yè)需求精準(zhǔn)對(duì)接，讓創(chuàng)新有所落，讓技術(shù)有所依。
由此，上下游企業(yè)、高校、院所等創(chuàng)新要素得以深度集聚聯(lián)動(dòng)，形成合力攻克關(guān)鍵技術(shù)，打造集基礎(chǔ)研究、試驗(yàn)驗(yàn)證、成果轉(zhuǎn)化于一體的AI產(chǎn)業(yè)生態(tài)圈。
三、人才生態(tài)培育創(chuàng)新活水
上個(gè)月，杭州智算中心聯(lián)合浙江大學(xué)、杭州電子科技大學(xué)、浙江工業(yè)大學(xué)等高校先后舉辦了“浙江鯤鵬昇騰產(chǎn)業(yè)與人才創(chuàng)新論壇”“2024昇騰CANN技術(shù)行—算子開(kāi)發(fā)專(zhuān)場(chǎng)”等多場(chǎng)以科創(chuàng)人才為主題的線下活動(dòng)。今年以來(lái)，為加速產(chǎn)教融合，中心聯(lián)合昇騰產(chǎn)業(yè)鏈資源舉辦圈層沙龍、技術(shù)賽事及專(zhuān)業(yè)培訓(xùn)30余場(chǎng)，覆蓋行業(yè)領(lǐng)袖、校企開(kāi)發(fā)者千余人，培養(yǎng)認(rèn)證開(kāi)發(fā)者300余人。
杭州人工智能計(jì)算中心支持承辦人工智能領(lǐng)域的技術(shù)培訓(xùn)
持續(xù)培養(yǎng)高水平創(chuàng)新型人才，助力“三支隊(duì)伍”建設(shè)，是算力平臺(tái)衍生出的另一大職能，也是培育壯大新質(zhì)生產(chǎn)力的基礎(chǔ)和前提。杭州智算中心不僅為校企提供充沛算力，吸引尖端科研人才與項(xiàng)目創(chuàng)新；同時(shí)攜手多所院校開(kāi)設(shè)專(zhuān)項(xiàng)課程，搭建‘學(xué)-練-訓(xùn)-賽’全周期人才培養(yǎng)體系，為行業(yè)輸送實(shí)戰(zhàn)型復(fù)合人才。
談到參加昇騰系列活動(dòng)的收獲，杭州曠維炬銳有限公司創(chuàng)始人兼CEO王超深有感觸。自大學(xué)時(shí)代，主修異構(gòu)計(jì)算方向的他就開(kāi)始關(guān)注國(guó)產(chǎn)計(jì)算，不僅連續(xù)參與了兩屆昇騰AI 創(chuàng)新大賽與相關(guān)培訓(xùn)，創(chuàng)業(yè)后也與中心展開(kāi)密切合作�！叭绻f(shuō)早兩年我們還是國(guó)產(chǎn)AI生態(tài)的貢獻(xiàn)者，為技術(shù)舔磚加瓦，”王超說(shuō)道，“那么如今走向落地，前期基于國(guó)產(chǎn)化平臺(tái)的能力經(jīng)驗(yàn)則成為了我們獨(dú)特的競(jìng)爭(zhēng)優(yōu)勢(shì)，真正帶來(lái)了價(jià)值�！�
“具備項(xiàng)目經(jīng)驗(yàn)的學(xué)生，在今年的擇業(yè)就業(yè)中更為搶手，”曾艷表示，中心作為橋梁，幫助項(xiàng)目學(xué)生和研究人員對(duì)接醫(yī)療、能源等行業(yè)需求，并能夠針對(duì)市場(chǎng)需求和痛點(diǎn)提供技術(shù)建議與經(jīng)驗(yàn)方向。
新質(zhì)生產(chǎn)力的核心在于突破性技術(shù)推動(dòng)產(chǎn)業(yè)創(chuàng)新，智能算力是關(guān)鍵要素和抓手。杭州智算中心立足普惠算力平臺(tái)，持續(xù)整合產(chǎn)學(xué)研用資源，不僅有效推動(dòng)人工智能大模型自主研發(fā)與前瞻性技術(shù)創(chuàng)新突破，填補(bǔ)基礎(chǔ)軟硬件空白，更為夯實(shí)高水平人才體系，構(gòu)建從基礎(chǔ)研究到成果落地的產(chǎn)業(yè)閉環(huán)貢獻(xiàn)力量，已成為區(qū)域新質(zhì)生產(chǎn)力發(fā)展的標(biāo)桿樣本。
