大模型“圖紙”已現(xiàn),火山方舟開(kāi)工

多云多模型的終局里,MaaS生態(tài)應(yīng)該長(zhǎng)什么樣?

大模型“圖紙”已現(xiàn),火山方舟開(kāi)工

文丨劉雨琦

編丨王一粟

中國(guó)房子蓋了2000年,直至漢朝初期,才開(kāi)始出現(xiàn)“建筑圖紙”。

有了圖紙后,蓋房子便不僅僅依賴于幾個(gè)“老師傅”,圖紙是全盤(pán)的指導(dǎo),避免了曾經(jīng)多次的推倒重建以及因?yàn)榱W(xué)結(jié)構(gòu)不合理而半途而廢的情況,更能將任務(wù)合理的分配給不同的木工、瓦工,進(jìn)行團(tuán)隊(duì)協(xié)作。

圖紙的出現(xiàn),使建筑史進(jìn)入了快速發(fā)展期,漢朝之后,中國(guó)建筑類型開(kāi)始百花齊放,也通過(guò)不同房屋類型,出現(xiàn)了餐廳、書(shū)房、旅館等功能性建筑。

大模型的路,也正在經(jīng)歷從摸著OpenAI過(guò)河,到按圖索驥的階段。

從今年2月份開(kāi)始,大模型的公司進(jìn)入了井噴的狀態(tài)。中國(guó)科學(xué)技術(shù)信息研究所等機(jī)構(gòu)發(fā)布的《中國(guó)人工智能大模型地圖研究報(bào)告》顯示,截至今年5月,國(guó)內(nèi)已公開(kāi)披露的大模型數(shù)量達(dá)到79個(gè),“百模大戰(zhàn)”名副其實(shí)。

當(dāng)眾多巨頭、明星創(chuàng)業(yè)者都紛紛下場(chǎng)“淘金”的時(shí)候,字節(jié)跳動(dòng)旗下的火山引擎,選擇了另一條“賣鏟人”的路。6月28日,火山引擎發(fā)布大模型服務(wù)平臺(tái)“火山方舟”,面向企業(yè)提供模型精調(diào)、評(píng)測(cè)、推理等全方位的平臺(tái)服務(wù)。

不做通用大模型,做一個(gè)“賣鏟人”,是火山引擎選擇的路。

求本溯源,當(dāng)下選擇的路,往往在未來(lái)的目標(biāo)之中。火山引擎總裁譚待在接受光錐智能等訪談時(shí)表示:“多云多模型時(shí)代將成為確定性的趨勢(shì)。在未來(lái),企業(yè)自身對(duì)于大模型的應(yīng)用,將會(huì)是一個(gè)‘1 + N’的應(yīng)用模式,即一個(gè)主力模型和N個(gè)模型協(xié)作的模式?!?/strong>

多云多模型的時(shí)代,一定需要平臺(tái)去建立生態(tài),串聯(lián)上下游。就像房子會(huì)越蓋越多,需要不同公司滿足多元化的住戶需求,也需要建筑設(shè)計(jì)、鋼筋水泥、軟硬裝修等一整套產(chǎn)業(yè)鏈。對(duì)應(yīng)到大模型服務(wù)平臺(tái),就需要一邊遞圖紙、錘子釘子、鏟子等工具,幫大模型打造好;一邊要對(duì)接模型方和需求方,通過(guò)鏈接完成商業(yè)閉環(huán)。

可以說(shuō),火山方舟作為一個(gè)大模型服務(wù)平臺(tái),是“模型商城+模型工具”的集合。

模型商城,讓大模型用起來(lái)

MaaS(模型即服務(wù))的概念如火如荼,但想要落地卻非常不容易。

整個(gè)大模型的產(chǎn)業(yè)鏈條中,分為三個(gè)重點(diǎn)角色:一是模型的提供方,如OpenAI、谷歌、百度、阿里、MiniMax等打造通用大模型的廠商,他們打造的通用大模型,被稱為基座模型;二是模型的使用方,不同企業(yè)將基座大模型通過(guò)精調(diào)和特殊數(shù)據(jù)的喂養(yǎng)為行業(yè)大模型;三是,大模型的終端客戶/用戶

相比海外市場(chǎng)在應(yīng)用方面的火爆,中國(guó)市場(chǎng)仍然處在一個(gè)探索期。一方面,國(guó)內(nèi)大模型百花齊放,但通用大模型仍然在不斷訓(xùn)練和提升當(dāng)中,追趕GPT-4的涌現(xiàn)能力;另一方面,想把大模型用起來(lái)的企業(yè)要么不知道如何決策,要么體驗(yàn)后效果并不盡如人意。

大模型“圖紙”已現(xiàn),火山方舟開(kāi)工

基于上述痛點(diǎn),火山引擎將大模型服務(wù)平臺(tái)的作用分為兩個(gè)大方面,一個(gè)是模型商城,一個(gè)是模型工具。

模型商城,顧名思義,就是讓市面上的大模型都盡量入駐,供模型需求方挑選。

據(jù)光錐智能了解到,目前,“火山方舟”集成了百川智能、出門(mén)問(wèn)問(wèn)、復(fù)旦大學(xué)MOSS、IDEA研究院、瀾舟科技、MiniMax、智譜AI等7家AI科技公司及科研院所的大模型,統(tǒng)一對(duì)外提供服務(wù)。

這種吸納多家初創(chuàng)大模型的做法,和此前業(yè)界初期普遍認(rèn)為的“大模型是巨頭的游戲”,“行業(yè)只需要極少數(shù)通用大模型,其余都是行業(yè)大模型”的想法并不完全一致。

火山引擎智能算法負(fù)責(zé)人吳迪認(rèn)為,大模型市場(chǎng)會(huì)形成三級(jí)火箭:第一級(jí)是大模型提供商和研究機(jī)構(gòu),提供極具競(jìng)爭(zhēng)性的通用基座模型或行業(yè)垂直模型。第二級(jí)是大量頗具技術(shù)能力的公司,形成1+N的模型格局,1個(gè)迭代自研模型的同時(shí),引用若干商用模型。第三級(jí)則是千行百業(yè)都從大模型中獲益,通過(guò)調(diào)用接口、精調(diào)模型,打造應(yīng)用。在提升自身公司經(jīng)營(yíng)效率的同時(shí), 把大模型能力輸送到我們生活的方方面面。

如果未來(lái)的格局是多云多模型的情況,那一定需要一個(gè)“模型商城”來(lái)聚合提供商和使用方。

比如,在火山方舟“模型廣場(chǎng)”中會(huì)有不同的模型供應(yīng)商提供不同版本、參數(shù)、擅長(zhǎng)不同領(lǐng)域的模型,使用方可以直接調(diào)用API 接入使用環(huán)境,也可以使用精調(diào)工具來(lái)做二次調(diào)優(yōu),再部署使用。

光錐智能曾在4月份調(diào)研多位SaaS廠商使用大模型的情況發(fā)現(xiàn),大模型接入并不是“排他性”的,SaaS廠商更愿意同時(shí)接入多個(gè)大模型。這是因?yàn)榻尤氤杀静⒉桓?,多一個(gè)模型就多一個(gè)選擇、多一個(gè)能力、多一重保障。比如,萬(wàn)興科技就在海外業(yè)務(wù)中接入ChatGPT,國(guó)內(nèi)業(yè)務(wù)接入文心一言。

而對(duì)于有大模型能力的廠商,不僅可以成為大模型的提供方,也能同時(shí)是需求方。比如,一家自研大語(yǔ)言模型的廠商,也可以接入其他大模型多模態(tài)的能力,讓自己的產(chǎn)品更加多元化。

可以說(shuō),沒(méi)有全能的大模型,但可以有全能的模型商城。

為了能幫企業(yè)選擇與自己更適配的基座模型,火山方舟推出“模型評(píng)估”功能,支持用戶基于自身數(shù)據(jù)、系統(tǒng)化地感知模型表現(xiàn)情況,并且給出詳細(xì)的測(cè)評(píng)報(bào)告,為后續(xù)做決策提供數(shù)據(jù)基礎(chǔ)。

對(duì)很多模型需求方來(lái)講,并不是一味追求參數(shù)。參數(shù)大、性能強(qiáng)的,可能性價(jià)比不高?!耙粋€(gè)經(jīng)過(guò)良好精調(diào)的中小規(guī)格模型,在特定工作上的表現(xiàn)可能不亞于通用的、巨大的基座模型,而推理成本可以降低到原來(lái)的十分之一?!眳堑戏Q。

而在模型評(píng)估之后,還需要進(jìn)一步做模型精調(diào),技術(shù)門(mén)檻和成本門(mén)檻是兩個(gè)最大的攔路虎。

如果沒(méi)有大模型服務(wù)平臺(tái),對(duì)于很多需求方而言,模型精調(diào)首先技術(shù)門(mén)檻比較高,既需要完整的數(shù)據(jù)能力,也需要有豐富的算法實(shí)踐經(jīng)驗(yàn);其次對(duì)算力要求也不小,公有云的彈性廉價(jià)資源可以極大地降低成本。

為了解決上述問(wèn)題,火山方舟提供“模型精調(diào)”能力,由平臺(tái)提供極簡(jiǎn)精調(diào)流程,客戶選擇基礎(chǔ)模型,上傳標(biāo)注數(shù)據(jù)集后即可精調(diào);同時(shí)對(duì)于有復(fù)雜需求的場(chǎng)景,客戶可以設(shè)置高級(jí)參數(shù)、驗(yàn)證集、測(cè)試集等更豐富功能,更自由的使用模型精調(diào)功能。

總之,火山方舟希望解決模型使用方的痛點(diǎn),用更少的錢、更強(qiáng)的算力使用“更快的推理能力”。而對(duì)模型提供方來(lái)講,只有把大模型用起來(lái),才能進(jìn)一步迭代成長(zhǎng)。

大模型的底座:安全和工具

僅僅完成商業(yè)邏輯上的閉環(huán),對(duì)大模型生態(tài)來(lái)說(shuō),還遠(yuǎn)遠(yuǎn)不夠。除了大模型的核心能力,還需要更深厚的內(nèi)功。

“企業(yè)使用大模型,首先要解決安全與信任問(wèn)題”,譚待表示。

據(jù)網(wǎng)絡(luò)安全公司Cyberhaven的調(diào)查,至少有 4%的員工將企業(yè)敏感數(shù)據(jù)輸入 ChatGPT,敏感數(shù)據(jù)占輸入內(nèi)容的比例高達(dá) 11%。2023 年初,三星公司在使用 ChatGPT不到20天時(shí),就發(fā)現(xiàn)其半導(dǎo)體設(shè)備相關(guān)機(jī)密數(shù)據(jù)被泄露,并連續(xù)發(fā)生3起類似事故。

在多云多模型的時(shí)代,安全信任是所有大模型使用的底線。這里的安全,并不只是大模型內(nèi)部的安全,而是模型提供方和使用方連接時(shí)的雙向信任。譚待介紹到,大模型服務(wù)商會(huì)考慮到知識(shí)產(chǎn)權(quán)問(wèn)題,不希望方案和代碼被泄露;而使用者和企業(yè)更希望保障自身、Prompt和精調(diào)數(shù)據(jù)的安全。

為此,火山方舟通過(guò)安全沙箱、聯(lián)邦學(xué)習(xí)、硬件支持等方式保證雙方的安全連接,類似于第三方托管平臺(tái)的角色。

大模型“圖紙”已現(xiàn),火山方舟開(kāi)工

“火山方舟”已上線了基于安全沙箱的大模型安全互信計(jì)算方案,利用計(jì)算隔離、存儲(chǔ)隔離、網(wǎng)絡(luò)隔離、流量審計(jì)等方式,實(shí)現(xiàn)了模型的機(jī)密性、完整性和可用性保證,適用于對(duì)訓(xùn)練和推理延時(shí)要求較低的客戶。

吳迪表示,“火山方舟”還在探索基于英偉達(dá)NVIDIA新一代硬件支持的可信計(jì)算環(huán)境、基于聯(lián)邦學(xué)習(xí)的數(shù)據(jù)資產(chǎn)分離等多種方式的安全互信計(jì)算方案,更全面地滿足大模型在不同業(yè)務(wù)場(chǎng)景的數(shù)據(jù)安全要求。

大模型“圖紙”已現(xiàn),火山方舟開(kāi)工

在安全的基礎(chǔ)上,大模型落地更多是一個(gè)事無(wú)巨細(xì)的工程化能力,這就需要許多工具幫助其實(shí)現(xiàn)。

回想ChatGPT從剛剛問(wèn)世到如今,OpenAI一直在打造生態(tài)壁壘:

3月份,很快GPT-4問(wèn)世,面向企業(yè)用戶進(jìn)行內(nèi)測(cè),與此同時(shí),OpenAI開(kāi)放了ChatGPT的API接口,一眾企業(yè)和開(kāi)發(fā)者蜂擁而至,據(jù)不完全統(tǒng)計(jì),目前基于GPT接口打造的應(yīng)用超過(guò)1000個(gè);

6月份,OpenAI計(jì)劃推出類似“APP Store”的大模型商店,將上面1000個(gè)應(yīng)用能夠上架在應(yīng)用商店中,并可以開(kāi)源垂直領(lǐng)域的聊天機(jī)器人和定制的模型;

如此一步步走來(lái),OpenAI在4個(gè)月之內(nèi),從一個(gè)模型的提供方發(fā)展為了模型生態(tài)。換句話說(shuō),谷歌可以在不到一個(gè)月之內(nèi)推出一個(gè)新的大模型,但無(wú)法短時(shí)間內(nèi)再形成1000個(gè)應(yīng)用。

火山方舟的價(jià)值也在于此,精調(diào)后的模型在具體的業(yè)務(wù)中歷練,而應(yīng)用端也有更加源源不斷模型資源可調(diào)配。吳迪透露,后續(xù)火山方舟計(jì)劃提供更多的插件,包括實(shí)時(shí)信息獲取、私域文檔問(wèn)答召回、Prompt補(bǔ)全與構(gòu)建等,并會(huì)為插件配套數(shù)據(jù)集。

另外,算力資源也是大模型訓(xùn)練和使用中最稀缺資源。

今天,仍在算力增長(zhǎng)的第一條曲線上,主要是把基礎(chǔ)模型訓(xùn)練好,讓涌現(xiàn)能力更強(qiáng)、更聰明。但即將出現(xiàn)的,是“模型應(yīng)用”的第二條增長(zhǎng)曲線。隨著大模型融入千行百業(yè),把大模型用好,ROI慢慢會(huì)轉(zhuǎn)正。通過(guò)應(yīng)用再反哺訓(xùn)練,讓營(yíng)收和技術(shù)正向循環(huán)。

這個(gè)期間,模型應(yīng)用所消耗的算力,會(huì)逐步超過(guò)模型訓(xùn)練,預(yù)計(jì)在2025年會(huì)達(dá)到一個(gè)匯合點(diǎn)(下圖)。

大模型“圖紙”已現(xiàn),火山方舟開(kāi)工

硬件儲(chǔ)備只是基礎(chǔ),算力要想更好的被調(diào)用,離不開(kāi)硬件和軟件的雙向打磨。NVIDA開(kāi)發(fā)與技術(shù)部亞太區(qū)總經(jīng)理李曦鵬指出,之前的AI訓(xùn)練以小模型為主,一般是單機(jī)或者單機(jī)多卡,如果訓(xùn)練失敗重啟即可。而大模型訓(xùn)練則需要成千上萬(wàn)張卡,任何一臺(tái)機(jī)器出故障都可能影響整個(gè)訓(xùn)練過(guò)程,所以大模型的算力平臺(tái)是一個(gè)大的系統(tǒng)工程。

除了訓(xùn)練穩(wěn)定性和安全問(wèn)題,云平臺(tái)的集中算力還可以解決成本問(wèn)題,只有推理成本足夠低,才能讓大模型被廣泛使用。然而,離散型的企業(yè)推理成本無(wú)法形成規(guī)?;?yīng),需要有統(tǒng)一的平臺(tái)進(jìn)行和強(qiáng)大的算力作為支撐。

火山引擎,抓住MaaS的新賽點(diǎn)

MaaS,是這一輪云廠商走出新增長(zhǎng)曲線的機(jī)會(huì)。

不止一家云廠商向光錐智能透露,這一輪AI的需求,正在拉動(dòng)著企業(yè)對(duì)算力需求的提升,將云計(jì)算拉出增長(zhǎng)疲軟的泥潭,甚至能恢復(fù)到之前的高速增長(zhǎng)期。

而站在MaaS的新起點(diǎn)上,所有的云廠商都在同一個(gè)起跑線上。為了搶奪這個(gè)新的藍(lán)海,云廠商都在探索不同的商業(yè)路徑。

一是如同百度文心一言、阿里通義千問(wèn)、華為盤(pán)古大模型等,云廠商本身是基座模型的提供方,并在此基礎(chǔ)上面向企業(yè)客戶提供API插件,提供帶養(yǎng)分的培育土壤。但也會(huì)和行業(yè)客戶合作,共創(chuàng)行業(yè)大模型。

另一種則是如同火山方舟,騰訊MaaS商城等,并沒(méi)發(fā)布自己的通用大模型。騰訊是發(fā)布自己的行業(yè)大模型,而火山方舟是與不同的大模型提供方深度共創(chuàng),幫助企業(yè)用行業(yè)數(shù)據(jù)開(kāi)發(fā)大模型,并提供后續(xù)的一站式服務(wù),直連客戶。

參考電商的模式,我們可以將這兩種模式類比為:?自營(yíng)大模型和平臺(tái)型大模型。

自營(yíng)考驗(yàn)的是技術(shù)能力,而平臺(tái)考驗(yàn)的則是“攢局”能力。對(duì)于綜合型云廠商來(lái)講,多數(shù)都具備自營(yíng)和平臺(tái)兩種能力,但側(cè)重點(diǎn)卻非常不同。

模式本身都有各自的優(yōu)劣勢(shì),并無(wú)絕對(duì)的高下之分。作為一家“后起之秀”,火山引擎有機(jī)會(huì)抓住MaaS的新賽點(diǎn),在市場(chǎng)中占有更多的份額。

目前,抖音集團(tuán)內(nèi)部已有十多個(gè)業(yè)務(wù)團(tuán)隊(duì)試用“火山方舟”,在代碼糾錯(cuò)等研發(fā)提效場(chǎng)景,文本分類、總結(jié)摘要等知識(shí)管理場(chǎng)景,以及數(shù)據(jù)標(biāo)注、歸因分析等方面探索,利用大模型能力促進(jìn)降本增效。這些內(nèi)部實(shí)踐在快速打磨“火山方舟”,推動(dòng)平臺(tái)能力的進(jìn)一步完善。

經(jīng)歷業(yè)務(wù)的“淬煉”,火山引擎已經(jīng)跑出了差異化的競(jìng)爭(zhēng)能力。

舉個(gè)簡(jiǎn)單的例子,在經(jīng)過(guò)抖音長(zhǎng)期、大規(guī)模的機(jī)器學(xué)習(xí)實(shí)踐后,火山引擎在系統(tǒng)工程優(yōu)化和超大規(guī)模分布式并行訓(xùn)練上積累了豐富的經(jīng)驗(yàn),能夠從軟硬協(xié)同層面進(jìn)行優(yōu)化,更輕松的支持一個(gè)大模型長(zhǎng)時(shí)間穩(wěn)定的高速訓(xùn)練。

這樣的經(jīng)驗(yàn)也沉淀在了火山方舟中。據(jù)了解,火山引擎使用抖音同源的機(jī)器學(xué)習(xí)平臺(tái)對(duì)外服務(wù),在大規(guī)模穩(wěn)定訓(xùn)練上,尤其是自動(dòng)駕駛、生物醫(yī)藥等“難啃”的行業(yè),機(jī)器學(xué)習(xí)和推理能力將通過(guò)火山方舟釋放給更多模型使用方。

而這也將是客戶“用好”大模型的一塊重要拼圖,未來(lái)的大模型比拼的并不是“德智體美勞”全面發(fā)展,而是“術(shù)業(yè)有專攻”的專項(xiàng)比拼。

用一艘大模型方舟,火山引擎能否抓住MaaS的新賽點(diǎn)?

本文來(lái)自投稿,不代表增長(zhǎng)黑客立場(chǎng),如若轉(zhuǎn)載,請(qǐng)注明出處:http://allfloridahomeinspectors.com/quan/101332.html

(0)
打賞 微信掃一掃 微信掃一掃 支付寶掃一掃 支付寶掃一掃
上一篇 2023-07-07 11:40
下一篇 2023-07-07 13:38

增長(zhǎng)黑客Growthhk.cn薦讀更多>>

發(fā)表回復(fù)

登錄后才能評(píng)論