容聯(lián)云，12個(gè)月趟出一條AI生產(chǎn)力的路

這種AI的真實(shí)需求對(duì)應(yīng)的已然不再是單純的技術(shù)本身的命題，而更是一個(gè)集合工程能力、產(chǎn)品能力、技術(shù)能力的綜合命題，只有把這個(gè)綜合命題答好，才能真正被市場(chǎng)認(rèn)可和買單。

“大模型這一波是典型的技術(shù)驅(qū)動(dòng)。但我們相信，伴隨著越來越多的場(chǎng)景落地，到明年包括像質(zhì)檢、洞察在內(nèi)的環(huán)節(jié)會(huì)成為新的需求，進(jìn)而進(jìn)入需求驅(qū)動(dòng)階段。”

作者| 皮爺

出品|產(chǎn)業(yè)家

在孔淼的感知里，大模型風(fēng)向在今年正在發(fā)生發(fā)生微妙的變化?！白铋_始基本是模型的需求，而從今年Q1、Q2開始，應(yīng)用的需求開始起來了。”

這是他和容聯(lián)云團(tuán)隊(duì)在一線的真正感受。

其中，金融行業(yè)首當(dāng)其沖。根據(jù)一組來自中國(guó)移動(dòng)產(chǎn)業(yè)研究院的數(shù)據(jù)顯示，在金融行業(yè)，大模型的滲透率如今已經(jīng)超過了50%，幾乎是所有產(chǎn)業(yè)之首。

但這種滲透率并不代表真實(shí)的生產(chǎn)力。即對(duì)金融行業(yè)而言，如果說一年前的更多動(dòng)作是基于基座大模型進(jìn)行自身專屬模型的訓(xùn)練，那么如今包括銀行、保險(xiǎn)、證券等不同金融機(jī)構(gòu)的核心焦點(diǎn)恰只有一個(gè)：應(yīng)用。

這些應(yīng)用的需求廣泛分布在足夠精細(xì)的場(chǎng)景中，比如智能客服、坐席輔助、證券質(zhì)檢、數(shù)字營(yíng)銷等等。

這也對(duì)應(yīng)的是孔淼和容聯(lián)云的真實(shí)反饋。實(shí)際上，不僅是金融，在千行百業(yè)，如今基于AI的需求都在從模型層向更具體的應(yīng)用層（copilot/agent）轉(zhuǎn)變，這些轉(zhuǎn)變的底層對(duì)應(yīng)的是企業(yè)在如今AI發(fā)展一年后，對(duì)有效的產(chǎn)品加持和對(duì)更高ROI轉(zhuǎn)化的真實(shí)需求。

不過一個(gè)真實(shí)情況是，對(duì)于如何將大模型真正嵌入自身的業(yè)務(wù)系統(tǒng)，或者是如何在應(yīng)用層進(jìn)行基于自身業(yè)務(wù)的適配開發(fā)，如今市場(chǎng)上并沒有一個(gè)標(biāo)準(zhǔn)的答案。

但已經(jīng)有企業(yè)正在跑出一條路徑。

2023年12月的發(fā)布會(huì)上，容聯(lián)云正式發(fā)布基于自研赤兔大模型的全新產(chǎn)品品牌【容犀智能】及生成式應(yīng)用【容犀Copilot】，旨在幫助企業(yè)進(jìn)行包括營(yíng)銷服等一系列流程的AI改造和重構(gòu)，其中覆蓋包括數(shù)據(jù)、Copilot、Agent等一系列落地形態(tài)。

從當(dāng)時(shí)的行業(yè)視角來看，這幾乎是國(guó)內(nèi)最早被拆解的AI應(yīng)用路徑之一。而如今，一年過去了，容聯(lián)云的這個(gè)答題卷上已經(jīng)有了新答案。

一、金融，

智能化變革前夕

“金融現(xiàn)在對(duì)AI應(yīng)用的需求很大?！币晃换ヂ?lián)網(wǎng)大廠相關(guān)AI應(yīng)用負(fù)責(zé)人告訴我們，根據(jù)他向我們透露，在今年以及接下來的KPI中，金融都將成為最重要的大頭。

誠(chéng)然如此。如果從整個(gè)大模型落地的橫向來看，金融幾乎可以算是有最為豐沃的AI落地土壤。根據(jù)一組不完全數(shù)據(jù)統(tǒng)計(jì)，截止目前，如今國(guó)有六大行的MAU均已經(jīng)超過4億，排名靠前的股份制銀行MAU也已經(jīng)超過2億，此外，區(qū)域性農(nóng)商行等用戶數(shù)也已經(jīng)超過大幾千萬。

從宏觀視角來看，在過去幾年時(shí)間里，金融行業(yè)已經(jīng)初步進(jìn)行了數(shù)字化底層框架的建設(shè)，其中包括線上線下的一體化，即銀行網(wǎng)點(diǎn)和手機(jī)線上渠道的一體化，以及不同渠道（移動(dòng)金融生態(tài)、APP等）的拓寬加碼等等，這些“立柱架梁”的措施也恰構(gòu)成了如今金融行業(yè)的高度線上化和數(shù)據(jù)化。

但下一步的挑戰(zhàn)也更在浮現(xiàn)。“從現(xiàn)狀上講，絕大多數(shù)場(chǎng)景比如像數(shù)字化營(yíng)銷平臺(tái)、智能運(yùn)營(yíng)等這些平臺(tái)包括智能坐席，真正做到成熟應(yīng)用的還是比較少的，大多數(shù)屬于初步的部署，有些淺層次的應(yīng)用但還沒有深入到業(yè)務(wù)中。”孔淼表示。

實(shí)際上，這也恰是前文報(bào)告所說的金融企業(yè)普遍布局大模型的原因之一。即在相對(duì)成熟的數(shù)字化基座之上，金融企業(yè)需要基于AI的手段幫助其完成更精細(xì)化的業(yè)務(wù)搭建和客群運(yùn)營(yíng)，這其中包括營(yíng)、銷、服的全部場(chǎng)景和節(jié)點(diǎn)。

這顯然不是一件容易的事。

首先，從應(yīng)用本身來看，就當(dāng)下大模型服務(wù)市場(chǎng)來看，大部分大模型廠商更多的聚焦點(diǎn)仍然是模型層，即基于訓(xùn)練和微調(diào)幫助企業(yè)落地自身的大模型，即使中間有自適應(yīng)的調(diào)優(yōu)工具或RAG手段，其也很難細(xì)化到某個(gè)如營(yíng)銷、客服等細(xì)分場(chǎng)景的應(yīng)用，這也就導(dǎo)致了對(duì)金融企業(yè)而言，其采購(gòu)的產(chǎn)品很難在具體的業(yè)務(wù)場(chǎng)景落地應(yīng)用。

其次，對(duì)于金融行業(yè)而言，從過去的數(shù)字化時(shí)代能看出的一個(gè)特點(diǎn)是，其需要足夠精通特定金融場(chǎng)景和流程的服務(wù)商，比如對(duì)于營(yíng)、銷、服不同環(huán)節(jié)的產(chǎn)業(yè)理解和加持，只有對(duì)癥下藥，才能幫助其構(gòu)建足夠可用的數(shù)字化基礎(chǔ)設(shè)施，而在AI大模型時(shí)代，在AI能力的疊加下，這些要求的含金量還更在肉眼可見的上升。

此外，也是最重要的，則是金融行業(yè)對(duì)于數(shù)據(jù)安全合規(guī)的要求，即對(duì)于服務(wù)商而言，其需要有特定的方式來保證數(shù)據(jù)的安全合規(guī)，不論是在訓(xùn)練側(cè)還是后續(xù)的RAG等環(huán)節(jié)，都需要對(duì)數(shù)據(jù)有特殊的處理。

實(shí)際上，這些要求背后對(duì)應(yīng)的也更是過去一年不少金融企業(yè)嘗試的現(xiàn)狀——即花費(fèi)大量的人力、物力，但最終卻很難實(shí)現(xiàn)高性價(jià)比的回報(bào)，僅僅在底層構(gòu)建了一個(gè)“受限”的金融大模型底座，在數(shù)據(jù)治理、數(shù)據(jù)表達(dá)，以及具體的AI應(yīng)用環(huán)節(jié)，都未收到成效。

從更大的視角來看，AI對(duì)應(yīng)的是金融企業(yè)的第二次競(jìng)爭(zhēng)力構(gòu)建，是必行之事。這其中不論是營(yíng)、銷、服的任何一個(gè)節(jié)點(diǎn)，都需要AI的加持進(jìn)而放大其固有邊界，使企業(yè)進(jìn)化。

對(duì)金融行業(yè)而言，真正的大模型工具應(yīng)該是怎樣的？或者如果把視角放大，對(duì)于產(chǎn)業(yè)而言，一個(gè)真正的AI生產(chǎn)力工具應(yīng)該是怎樣的模式？

二、容聯(lián)云的12個(gè)月：

尋找一條生產(chǎn)力路徑

“準(zhǔn)確率從90%到94%，召回率從67%到96%”。在容聯(lián)云活動(dòng)現(xiàn)場(chǎng)，容聯(lián)云產(chǎn)業(yè)智能云大模型應(yīng)用產(chǎn)品經(jīng)理彭波給出了一組數(shù)字——這是在容聯(lián)云質(zhì)檢代理（QM Agent）的加持下，某個(gè)國(guó)內(nèi)頭部證券機(jī)構(gòu)內(nèi)部發(fā)生的新改變。

提及質(zhì)檢，在證券行業(yè)不會(huì)有人陌生。即基于質(zhì)檢的環(huán)節(jié)，證券機(jī)構(gòu)可規(guī)避來自市場(chǎng)層面和內(nèi)部操作層面的一系列風(fēng)險(xiǎn)，最終做到合規(guī)安全和對(duì)投資人負(fù)責(zé)，可以說，質(zhì)檢是證券公司保證自身業(yè)務(wù)正常推進(jìn)的核心環(huán)節(jié)。

但這個(gè)核心環(huán)節(jié)伴隨著企業(yè)業(yè)務(wù)的增長(zhǎng)也更對(duì)應(yīng)出現(xiàn)一些問題。比如隨著客戶服務(wù)數(shù)增加，對(duì)傳統(tǒng)的人工質(zhì)檢而言，其對(duì)應(yīng)的工作量和投入的人力成本也更在與日俱增；此外，伴隨著表達(dá)形式的多元化，由于質(zhì)檢人員的業(yè)務(wù)水平不一，部分對(duì)于質(zhì)檢語言的篩查力度存在漏洞。

這正是容聯(lián)云錨定的節(jié)點(diǎn)。和前面顯著提升的數(shù)據(jù)對(duì)應(yīng)的是，基于容聯(lián)云質(zhì)檢代理（QM Agent）產(chǎn)品，證券公司可以實(shí)現(xiàn)“10000通會(huì)話、300小時(shí)時(shí)長(zhǎng)、8大語義質(zhì)檢項(xiàng)、6.5小時(shí)質(zhì)檢完成”的成績(jī)，而這些標(biāo)簽之外，企業(yè)需要部署的僅僅是一個(gè)14B參數(shù)的小模型和幾張市面上通用的GPU算力卡。

同樣有相似效果的也更在壽險(xiǎn)場(chǎng)景，以坐席環(huán)節(jié)為例，基于容聯(lián)云的坐席代理（Virtual Agent）產(chǎn)品，某壽險(xiǎn)企業(yè)實(shí)現(xiàn)了超過50人/天的人力節(jié)省，其咨詢問答首解率由原來的60%提升至80%，轉(zhuǎn)人工率由85%降低至55%。對(duì)企業(yè)而言，其同樣僅需要基于數(shù)量不多的顯卡進(jìn)行14B小參數(shù)模型的部署，即可以達(dá)到這些效果。

這些都是在剛剛舉辦的“2024數(shù)智金融應(yīng)用論壇”上容聯(lián)云的交出的成績(jī)單。除了上述提到的容犀質(zhì)檢代理（QM Agent）、容犀坐席代理（Virtual Agent），還有容犀坐席助理(Agent Copilt) 、洞察代理Insight Agent等等面向具體業(yè)務(wù)環(huán)節(jié)的AI應(yīng)用產(chǎn)品和具體實(shí)例。

“過去這一年，伴隨著和客戶的溝通，我們對(duì)大模型的落地場(chǎng)景也越來越清晰，包括那些是真正的痛點(diǎn)，哪些是癢點(diǎn)，再或者哪些是能產(chǎn)生真正的商業(yè)價(jià)值和增量的?！?/strong>孔淼告訴產(chǎn)業(yè)家。

這些愈加清晰的場(chǎng)景在容聯(lián)云內(nèi)部進(jìn)一步基于AI被轉(zhuǎn)化為應(yīng)用產(chǎn)品，不論是容犀質(zhì)檢代理（QM Agent）、容犀坐席代理（Virtual Agent），容犀坐席助理(Agent Copilt) 、洞察代理Insight Agent，還是如今一眾仍在加速落地的產(chǎn)品，對(duì)容聯(lián)云而言，其對(duì)應(yīng)都是團(tuán)隊(duì)基于真實(shí)考察的AI剛需點(diǎn)，輔助各種AI訓(xùn)練/調(diào)優(yōu)方式最終的成果。

實(shí)際上，這也恰是對(duì)待新技術(shù)應(yīng)有的審慎的態(tài)度，即在AI大模型的技術(shù)浪潮中，在技術(shù)的極致理想之外，對(duì)更多的企業(yè)而言，其更需要真實(shí)可見的生產(chǎn)力抓手，這些抓手是更加有價(jià)值的線索梳理、更智能的營(yíng)銷輔助等等。

在孔淼看來，相較于大模型在預(yù)訓(xùn)練等環(huán)節(jié)的推進(jìn)，在具體的落地層面，其更需要基于工程的能力進(jìn)行需求的滿足，比如大小模型結(jié)合的方式，比如在不同的環(huán)節(jié)基于copolit或者agent的方式等等。

實(shí)際上，孔淼說的工程能力不僅于產(chǎn)品層面。據(jù)了解，對(duì)于不同企業(yè)的需求，容聯(lián)云可以采取靈活的滿足方式，即不論是其底層是否具備基座大模型，還是需要靈活的模型部署等，再或者是僅需要上層的應(yīng)用部署等等，基于基于RAG、大小模型結(jié)合的方式，容聯(lián)云都可以幫助金融企業(yè)完成落地。

一個(gè)數(shù)據(jù)是，截至目前，在金融行業(yè)，容聯(lián)云的相關(guān)AI產(chǎn)品已經(jīng)落地超過幾十個(gè)場(chǎng)景，在幾十家銀行、證券、保險(xiǎn)等不同細(xì)分領(lǐng)域的金融企業(yè)成功落地，幫助其構(gòu)建出新的智能化營(yíng)銷服體系。

三、中國(guó)產(chǎn)業(yè)AI落地的密鑰到底在哪？

對(duì)于金融，在過去的數(shù)字化時(shí)代，市場(chǎng)往往冠以“明珠”的稱謂。即因?yàn)槠浔旧韺?duì)于數(shù)字化技術(shù)的應(yīng)用足夠廣泛，不論在底層的數(shù)據(jù)層面，還是上層的軟件層面，金融企業(yè)往往都是最先進(jìn)生產(chǎn)力的代名詞。

在中國(guó)一眾產(chǎn)業(yè)的數(shù)字化轉(zhuǎn)型中，刨除產(chǎn)業(yè)本身的差異性之外，更多的產(chǎn)業(yè)轉(zhuǎn)型路徑都是以金融為模板進(jìn)行布局。

而能看到的是，在如今的AI時(shí)代，這個(gè)命題正在再次上演。也或者可以說，在金融行業(yè)對(duì)于AI應(yīng)用的落地中，我們更能看到在中國(guó)的土壤上，怎樣的AI模型才能真正轉(zhuǎn)化為企業(yè)的市場(chǎng)競(jìng)爭(zhēng)力和生產(chǎn)力。

“現(xiàn)在我們的上層應(yīng)用之間，應(yīng)用和底層模型之間的各個(gè)組塊都是解耦的，企業(yè)可以根據(jù)自身需要或者現(xiàn)階段的業(yè)務(wù)需求來一步步使用。”容聯(lián)云大模型產(chǎn)品負(fù)責(zé)人唐興才告訴產(chǎn)業(yè)家，“而且不需要使用參數(shù)特別大的模型，只需要在特定的小參數(shù)模型上，經(jīng)過推理強(qiáng)化或規(guī)則增強(qiáng)等就可以做到相關(guān)能力?！?/strong>

即一個(gè)真實(shí)的情況是，對(duì)于企業(yè)的AI項(xiàng)目而言，其需要的往往是漸進(jìn)式的落地和“小成本”的業(yè)務(wù)嘗試，以更小參數(shù)量的模型和特定的場(chǎng)景環(huán)節(jié)為切入點(diǎn)，可以讓企業(yè)感受到AI的真正加持，進(jìn)而一步步完成AI化的改造。

此外，對(duì)服務(wù)商而言，其需要的也更是聚焦企業(yè)特殊痛點(diǎn)，比如銀行和壽險(xiǎn)的坐席環(huán)節(jié)，比如證券的質(zhì)檢環(huán)節(jié)，比如營(yíng)銷環(huán)節(jié)等等，這些細(xì)分場(chǎng)景在過去的多年里已經(jīng)完成了數(shù)字化改造，需要AI幫助其釋放更大的活力和能力邊界。

對(duì)應(yīng)到產(chǎn)品側(cè)則是要求服務(wù)商需要對(duì)特定的環(huán)節(jié)和場(chǎng)景有足夠深的理解和數(shù)據(jù)沉淀，同時(shí)在工程落地側(cè)具備特定的推理強(qiáng)化或?qū)儆?xùn)練能力，進(jìn)而打磨出對(duì)應(yīng)細(xì)分場(chǎng)景的產(chǎn)品。

實(shí)際上，這也恰對(duì)應(yīng)著容聯(lián)云能夠給到金融企業(yè)真實(shí)加持的核心原因。不論是在整個(gè)金融方向的基于金融數(shù)據(jù)的底座赤兔大模型的訓(xùn)練，還是聚焦到細(xì)分場(chǎng)景環(huán)節(jié)的規(guī)則增強(qiáng)、推理增強(qiáng)，以及在落地過程中的大小模型結(jié)合和不同模塊的解耦，其本質(zhì)都是為了適配當(dāng)下金融企業(yè)對(duì)大模型的真實(shí)需求：真實(shí)可用，小步迭代。

也可以說，這種真實(shí)需求對(duì)應(yīng)的已然不再是單純的技術(shù)本身的命題，而更是一個(gè)集合工程能力、產(chǎn)品能力、技術(shù)能力的綜合命題，只有把這個(gè)綜合命題答好，才能真正發(fā)揮作用，被市場(chǎng)認(rèn)可和買單。

“大模型這一波是典型的技術(shù)驅(qū)動(dòng)。但我們相信，伴隨著越來越多的場(chǎng)景落地，到明年包括像質(zhì)檢、洞察在內(nèi)的環(huán)節(jié)會(huì)成為新的需求，進(jìn)而進(jìn)入需求驅(qū)動(dòng)階段。”孔淼說道。

12個(gè)月后的如今，容聯(lián)云正在趟出一條真實(shí)的AI路。