首頁|必讀|視頻|專訪|運營|制造|監(jiān)管|大數(shù)據(jù)|物聯(lián)網(wǎng)|量子|元宇宙|博客|特約記者
手機|互聯(lián)網(wǎng)|IT|5G|光通信|人工智能|云計算|芯片報告|智慧城市|移動互聯(lián)網(wǎng)|會展
首頁 >> 終端 >> 正文

自研大模型、打造“智能體”,vivo打開敘事新空間

2023年11月3日 09:47  CCTIME飛象網(wǎng)  作 者:高靖宇

飛象網(wǎng)訊(高靖宇/文)近年來手機產(chǎn)業(yè)發(fā)展進入創(chuàng)新期,手機廠商正試圖尋找新的差異化出路。特別今年以來,隨著ChatGPT的橫空出世和全民級應(yīng)用發(fā)展趨勢,眾多手機廠商紛紛入局AI大模型賽道,成為當(dāng)下最火熱的技術(shù)賽道。

而在這場大模型競賽中,vivo顯然走在了前列。11月1日,在2023 vivo開發(fā)者大會上,vivo正式發(fā)布自研藍心大模型BlueLM、OriginOS 4、自研藍河操作系統(tǒng)BlueOS。其中,藍心大模型是vivo自研通用大模型矩陣,從開源到完全自研歷時6年,包括十億、百億、千億三個不同參數(shù)量級的5款自研大模型,全面覆蓋核心應(yīng)用場景,并將大模型矩陣能力全面融入到OriginOS 4。這意味著,vivo端側(cè)大模型已從前沿技術(shù)探索進入到應(yīng)用和產(chǎn)業(yè)級落地新階段。

大模型與手機結(jié)合之后,智能手機又有了新敘事,為未來智能手機發(fā)展探索出新方向。vivo副總裁、OS產(chǎn)品副總裁周圍預(yù)判,未來手機的發(fā)展趨勢或?qū)⑦M化為“智能體”。

如何將大模型裝入手機?答案是:端云協(xié)同

通過類似ChatGPT、文心一言的APP就能使用大模型,為什么還要把大模型裝入到手機端側(cè)呢?這是因為,與單純在云端部署生成式 AI 應(yīng)用和服務(wù)相比,手機終端側(cè)部署生成式 AI 可以實現(xiàn)在設(shè)備端運行復(fù)雜的AI算法,從而減少對云端服務(wù)的依賴,個人私密信息也不用上傳的云端,保障數(shù)據(jù)安全。此外,手機可以更好地理解和響應(yīng)用戶的需求,從而滿足用戶對更加智能化手機的期待。

那么,大模型千億級的參數(shù)量如何在手機上流程運行,此時端云協(xié)同的混合架構(gòu)就成為關(guān)鍵。vivo的藍心大模型包含有10億、70億、700億、1300億、1750億五種參數(shù)規(guī)模,其中10億量級模型是主要面向端側(cè)場景打造的專業(yè)文本大模型,具備本地化的文本總結(jié)、摘要等能力。70億模型是面向手機打造的端云兩用模型,具有優(yōu)秀的語言理解、文本創(chuàng)作能力,同時,上述兩個量級的模型支持高通和MTK最新旗艦雙平臺端側(cè)化部署,在保證數(shù)據(jù)安全的同時,在出詞速度、響應(yīng)時間、內(nèi)存占用等方面也非常優(yōu)秀,實現(xiàn)了安全與性能的雙重并舉。

vivo同時在做的有10億、70億、700億、1300億、1750億五種參數(shù)規(guī)模的藍心大模型,其中10億和70億已經(jīng)可以由本地算力支撐,而更大的數(shù)據(jù)仍然需要運行在云端。為此,vivo并不會強制用戶必須使用端側(cè)或者云端,而是交給用戶自己去選擇,比如隱私保密性不需要那么高的輸入法等功能,可以選擇在云端運行,而公司文件、相冊等,就可以利用手機本身的算力來完成。

700億模型是面向云端服務(wù)的主力模型,其綜合能力,在C-Eval、CMMLU、SuperCLUE(10月)等榜單中均處于中文大模型的第一梯隊。另外1300億、1750億模型也將在更復(fù)雜的場景中以更豐富的知識和推理能力為用戶帶來更專業(yè)的智能體驗。

除了與云端協(xié)作,手機大模型還面臨算法和算力的挑戰(zhàn)。vivo整個團隊花了六年多時間不斷解決問題,在算法方面,在預(yù)訓(xùn)練階段,vivo利用最前沿的Transformer架構(gòu),改良了注意力機制、位置編碼等關(guān)鍵模塊,并在包含了3.3萬億詞的大規(guī)模多語言數(shù)據(jù)集上進行訓(xùn)練,最終使得藍心大模型具備了超強的基礎(chǔ)能力。算力上,vivo也在積極通過信息技術(shù)應(yīng)用創(chuàng)新去解決算力問題,組建了一只150人的工程團隊,持續(xù)地提升集群的效率,目前vivo千億模型訓(xùn)練周期低于2個月,百億模型不到2周。

目前,vivo構(gòu)建了超過100萬條高質(zhì)量的多語言多任務(wù)指令數(shù)據(jù)進行學(xué)習(xí)和訓(xùn)練,從而讓藍心大模型更好地理解用戶的意圖,適應(yīng)各種目標(biāo)任務(wù)。并在安全部署中通過了中國信通院內(nèi)容審核服務(wù)系統(tǒng)評測,在文本、語音和視頻內(nèi)容識別需要檢測的15個大類中,14個大類獲得最高的5星等級,1個獲得4星等級。

全新OriginOS 4,讓手機越用越好用

在本次發(fā)布會上,vivo帶來了全新升級的OriginOS4,它將大模型能力與系統(tǒng)結(jié)合,打造“1+2+N”智能系統(tǒng)體驗,藍心小V則是具體的應(yīng)用呈現(xiàn)。

與傳統(tǒng)AI應(yīng)用相比,藍心小V擁有更為自然的人機交互方式,強大的自然對話能力、信息處理能力以及洞察能力,不僅支持通過語音、文字、拖拽等方式接受并處理信息數(shù)據(jù),還可以針對不同問題以合適的形式進行信息呈現(xiàn),這些讓它能夠像一位專屬私人助理一般,在自然交流中幫助用戶完成找文件、搜照片、總結(jié)歸納信息、快捷創(chuàng)建日程等操作,帶來更加智慧便捷的AI體驗。

為了讓大模型在用戶端得到廣泛應(yīng)用,vivo還推出了可在任意手機安裝的藍心千詢APP,具備同樣強大的自然對話能力和信息處理能力,而與藍心小V不同的是,藍心千詢完全基于云端大模型處理任務(wù),不會涉及用戶隱私數(shù)據(jù)。

此外,針對硬件配置較低的終端設(shè)備,vivo推出了一個全新的操作系統(tǒng)——藍河BlueOS,它從全棧視角進行了高性能架構(gòu)設(shè)計,例如,在編程語言、運行時Runtime、系統(tǒng)調(diào)度、框架、顯示和內(nèi)存等技術(shù)方向取得了技術(shù)突破,能支持藍河操作系統(tǒng)流暢地運行在各種配置的設(shè)備上。而在智慧層面,它結(jié)合了先進的AI大模型,接入藍心大模型的多模態(tài)能力。

據(jù)vivo介紹,藍河操作系統(tǒng)首發(fā)將落地vivo Watch3搭載。用戶可以通過語音的方式,基于AI能力,個性化地創(chuàng)作手表表盤。

目前AI大模型在手機端側(cè)的應(yīng)用還在起步階段,但卻是未來必爭的技術(shù)高地。根據(jù)IDC預(yù)測,到2026年,中國市場中近50%的終端設(shè)備的處理器將帶有AI引擎技術(shù)。這意味著,手機廠商擁有AI大模型的能力將變得越來越重要。而vivo布局大模型絕非“蹭熱點”,歷經(jīng)六年的蓄勢,vivo通過“1+2+N”的智能系統(tǒng)將大模型能力在終端側(cè)全面釋放,讓AI有機會走入千家萬戶,為每一位用戶帶來更加智慧且貼心的體驗。

編 輯:高靖宇
聲明:刊載本文目的在于傳播更多行業(yè)信息,本站只提供參考并不構(gòu)成任何投資及應(yīng)用建議。如網(wǎng)站內(nèi)容涉及作品版權(quán)和其它問題,請在30日內(nèi)與本網(wǎng)聯(lián)系,我們將在第一時間刪除內(nèi)容。本站聯(lián)系電話為86-010-87765777,郵件后綴為#cctime.com,冒充本站員工以任何其他聯(lián)系方式,進行的“內(nèi)容核實”、“商務(wù)聯(lián)系”等行為,均不能代表本站。本站擁有對此聲明的最終解釋權(quán)。
相關(guān)新聞              
 
人物
工信部張云明:大部分國家新劃分了中頻段6G頻譜資源
精彩專題
專題丨“汛”速出動 共筑信息保障堤壩
2023MWC上海世界移動通信大會
中國5G商用四周年
2023年中國國際信息通信展覽會
CCTIME推薦
關(guān)于我們 | 廣告報價 | 聯(lián)系我們 | 隱私聲明 | 本站地圖
CCTIME飛象網(wǎng) CopyRight © 2007-2024 By CCTIME.COM
京ICP備08004280號-1  電信與信息服務(wù)業(yè)務(wù)經(jīng)營許可證080234號 京公網(wǎng)安備110105000771號
公司名稱: 北京飛象互動文化傳媒有限公司
未經(jīng)書面許可,禁止轉(zhuǎn)載、摘編、復(fù)制、鏡像