首頁|必讀|視頻|專訪|運營|制造|監(jiān)管|大數(shù)據(jù)|物聯(lián)網(wǎng)|量子|低空經(jīng)濟|智能汽車|特約記者
手機|互聯(lián)網(wǎng)|IT|5G|光通信|人工智能|云計算|芯片|報告|智慧城市|移動互聯(lián)網(wǎng)|會展
首頁 >> 移動互聯(lián)網(wǎng) >> 正文

火山引擎云基礎、模型服務等多產(chǎn)品更新發(fā)布,為企業(yè)大模型應用落地再提效

2024年12月19日 17:02  CCTIME飛象網(wǎng)  

每一次工業(yè)革命 ,都為我們帶來了躍遷式發(fā)展。當以 AI 為代表的又一次技術(shù)變革浪潮向我們奔來時,企業(yè)如何才能獲得所必須的技術(shù)支撐。為開啟通用人工智能時代做好充分準備?12月18日,2024火山引擎FORCE原動力大會·冬 技術(shù)主論壇,帶來了一系列全新產(chǎn)品及升級。幫助企業(yè)解決,落地大模型所面臨的實際問題。

字節(jié)跳動基礎架構(gòu)負責人 趙鵬偉

“為了迎接通用人工智能時代的來臨,企業(yè)需要在性價比、創(chuàng)新以及安全等方面做好準備。火山引擎為企業(yè)提供了 AI 云原生式的全鏈路產(chǎn)品服務能力,以豆包大模型、大模型服務、AI 基礎設施、數(shù)據(jù)和安全方向的產(chǎn)品新成果,與眾多企業(yè)和開發(fā)者用戶在未來的 AI 創(chuàng)新變革之路上攜手共進!弊止(jié)跳動 基礎架構(gòu)負責人趙鵬偉表示。

AI云原生 打造以AI負載為中心的基礎架構(gòu)新范式

過去十年中,云原生架構(gòu)的彈性、存算分離以及服務化等能力,成為了企業(yè)高效構(gòu)建大規(guī)模業(yè)務系統(tǒng)的有力支持。隨著 AI 時代的來臨,更多的計算變成以 GPU 為核心,舊有架構(gòu)難以充分發(fā)揮 GPU 高算力、高帶寬優(yōu)勢,同時 GPU 訓練和推理場景,也對高速互聯(lián)、在線存儲和隱私安全提出了更高的要求。

火山引擎認為,下一個十年,計算范式應該進入 AI 云原生的新時代。AI 云原生,將以 GPU 為核心重新來優(yōu)化計算、存儲與網(wǎng)絡架構(gòu),GPU 可以直接訪問存儲和數(shù)據(jù)庫,來顯著的降低 IO 延遲。同時,全系統(tǒng)提供更高規(guī)模的高速互聯(lián),和端到端的安全保護。為此,火山引擎將打造以 AI 負載為中心的基礎架構(gòu)新范式,推出新一代計算、網(wǎng)絡、存儲和安全產(chǎn)品。

✔ 在計算層面,新一代的火山引擎 GPU 實例,通過 vRDMA 網(wǎng)絡,支持大規(guī)模并行計算和 P/D 分離推理架構(gòu),顯著提升訓練和推理效率,降低成本。

✔ 存儲上,新推出的 EIC 彈性極速緩存,能夠?qū)崿F(xiàn) GPU 直連,使大模型推理時延降低至1/50;成本降低20%。

✔ 在安全層面,火山將推出 PCC 私密云服務,構(gòu)建大模型的可信應用體系; PCC,企業(yè)能夠?qū)崿F(xiàn)用戶數(shù)據(jù)在云上推理的端到端加密,而且性能很好,推理時延比明文模式的差異在5%以內(nèi)。

火山方舟加速大規(guī)模落地 全新發(fā)布Prompt優(yōu)解

作為一站式大模型服務平臺,火山方舟將憑借 Cache、離線推理模式等產(chǎn)品與升級,以及全新發(fā)布的 Prompt 優(yōu)解,加速大模型能力落地。

大模型落地過程中,prompt(提示詞)的編寫,往往是橫在面前的第一道門檻,大模型能力越強,對指示詞、指令的遵循程度也就越高。

火山引擎發(fā)布 Prompt 優(yōu)解,可以通過“自動+互動”方式協(xié)助用戶編寫提示詞,讓用戶在互動中表達需求,快速上手。用機器實現(xiàn)類似人類的反思、類比、錯誤總結(jié)能力,全自動優(yōu)化  prompt,助力企業(yè)低成本高效率獲得高質(zhì)量  prompt。目前,Prompt 優(yōu)解已通過火山方舟開放全量公測。

火山引擎始終把更低、更好的成本和價格放在首位。為進一步踐行“人人用得起,才是好模型”理念,火山引擎發(fā)布離線批量推理方案和上下文緩存,幫助用戶實現(xiàn)更為精細化和低成本的運營。

全新扣子1.5、HiAgent1.5 助力打造企業(yè)級AI原生應用

從通用大模型到企業(yè) AI 應用落地,需跨越“到一個好用的應用”、“到 N 個好用的應用”、“到組織、流程、戰(zhàn)略”三道鴻溝。

此外,豆包大模型最新發(fā)布的豆包·視覺理解模型、豆包·文生圖模型2.1和豆包·音樂模型,都可以在扣子通過插件的方式體驗,將有助于更多多模態(tài) AI 應用在扣子誕生。

數(shù)據(jù)飛輪2.0發(fā)布 開啟數(shù)智生產(chǎn)力新時代

為了幫助企業(yè)用好數(shù)據(jù),用數(shù)據(jù)驅(qū)動業(yè)務價值的提升,火山引擎發(fā)布數(shù)據(jù)飛輪2.0,通過 AI 創(chuàng)新,來重新定義企業(yè)數(shù)據(jù)智能。數(shù)據(jù)飛輪2.0將全面注入大模型,帶來前所未有的決策洞察;通過一體化數(shù)智研發(fā)與一站式數(shù)據(jù)智能運營,讓工作流程化繁為簡;在多元異構(gòu)計算引擎的加速下,快速處理結(jié)構(gòu)與非結(jié)構(gòu)數(shù)據(jù)資產(chǎn),激發(fā)企業(yè)更多潛在數(shù)據(jù)資產(chǎn),實現(xiàn)更大的動力。

圍繞企業(yè)數(shù)據(jù)建設與數(shù)據(jù)應用的各個環(huán)節(jié),數(shù)據(jù)飛輪2.0的全系產(chǎn)品迎來了全面實現(xiàn) AI 創(chuàng)新的新階段。此外,發(fā)布兩大核心方案:

✔ Data Fabric 驅(qū)動下的 ChatBI 智能體,可以讓數(shù)據(jù)消費變得更簡單直接。該方案通過構(gòu)建完整的智能數(shù)據(jù)服務體系,打破數(shù)據(jù)“專業(yè)”壁壘,幫助企業(yè)內(nèi)每個業(yè)務都能定制專屬智能體,持續(xù)降低數(shù)據(jù)使用門檻,提升大模型能力下的數(shù)據(jù)反饋效率和準確率。

✔ 多模態(tài)數(shù)據(jù)湖,拓寬了數(shù)據(jù)資產(chǎn)的邊界,可以實現(xiàn)海量結(jié)構(gòu)化、半結(jié)構(gòu)化及非結(jié)構(gòu)化數(shù)據(jù)的統(tǒng)一精細化管理,全方位兼容各類數(shù)據(jù)格式,為 LLM 預訓練、持續(xù)訓練和微調(diào)全程各個環(huán)節(jié)提供更好的數(shù)據(jù)支持。

讓智能更安全,讓安全更智能

火山引擎云安全圍繞“讓智能更安全、讓安全更智能”理念,為 AI 基礎設施提供透明可信的安全保障,同時也通過安全智能體,希望字節(jié)跳動沉淀的安全經(jīng)驗服務好每個企業(yè)。

大模型應用進入開花結(jié)果階段,企業(yè)對模型能力、價格以及落地難度都提出了更高要求;鹕揭姹敬伟l(fā)布的多款全新產(chǎn)品與升級,進一步降低模型訓練、推理應用難度,以更高性價比、更強安全保障,為企業(yè)落地 AI 能力形成增長奠定了堅實基礎。

未來,火山引擎將繼續(xù)強化全棧 AI 服務能力,不斷推動技術(shù)與行業(yè)場景深度融合,助力企業(yè)憑借 AI 等創(chuàng)新技術(shù),實現(xiàn)更大價值飛躍。

編 輯:T01
飛象網(wǎng)版權(quán)及免責聲明:
1.本網(wǎng)刊載內(nèi)容,凡注明來源為“飛象網(wǎng)”和“飛象原創(chuàng)”皆屬飛象網(wǎng)版權(quán)所有,未經(jīng)允許禁止轉(zhuǎn)載、摘編及鏡像,違者必究。對于經(jīng)過授權(quán)可以轉(zhuǎn)載,請必須保持轉(zhuǎn)載文章、圖像、音視頻的完整性,并完整標注作者信息和飛象網(wǎng)來源。
2.凡注明“來源:XXXX”的作品,均轉(zhuǎn)載自其它媒體,在于傳播更多行業(yè)信息,并不代表本網(wǎng)贊同其觀點和對其真實性負責。
3.如因作品內(nèi)容、版權(quán)和其它問題,請在相關(guān)作品刊發(fā)之日起30日內(nèi)與本網(wǎng)聯(lián)系,我們將第一時間予以處理。
本站聯(lián)系電話為86-010-87765777,郵件后綴為cctime.com,冒充本站員工以任何其他聯(lián)系方式,進行的“內(nèi)容核實”、“商務聯(lián)系”等行為,均不能代表本站。本站擁有對此聲明的最終解釋權(quán)。
相關(guān)新聞              
 
人物
中國移動副總經(jīng)理張冬:5G揚帆開新篇,數(shù)智遠航啟新程
精彩專題
2024通信業(yè)年終盤點
2024數(shù)字科技生態(tài)大會
2024年度中國光電纜優(yōu)質(zhì)供應商評選活動
2024全球6G發(fā)展大會
CCTIME推薦
關(guān)于我們 | 廣告報價 | 聯(lián)系我們 | 隱私聲明 | 本站地圖
CCTIME飛象網(wǎng) CopyRight © 2007-2024 By CCTIME.COM
京ICP備08004280號-1  電信與信息服務業(yè)務經(jīng)營許可證080234號 京公網(wǎng)安備110105000771號
公司名稱: 北京飛象互動文化傳媒有限公司
未經(jīng)書面許可,禁止轉(zhuǎn)載、摘編、復制、鏡像