百度智能云客悅，進擊在AI時代

從更大的視角來看，如今的客悅走出的不僅是智能客服的新AI范式，也更是一個百度探索AI，以及中國軟件產品AI進化的典代表路徑。在這個進化路徑里面，有產品為王，有產業(yè)為基，有需求驅動，有小步代，也更有從技術到服務流程的全面進化。

作者| 皮爺

出品|產業(yè)家

2023年下半年，李敏明顯感覺到，氛圍正在變的不一樣。“大模型一出來，幾乎所有的客戶都開始觀望是不是應該用大模型做點什么，尤其是自己的智能客服系統(tǒng)。”

如果把時間往前回溯幾個月，幾個重磅的事件在科技界先后發(fā)生，即在大洋彼岸OpenAI發(fā)布了生成式對話產品ChatGPT，而在中國，百度率先打響大廠AI的第一槍——文心一言正式發(fā)布。

與此同時，一系列關于大模型革命的討論蜂擁而來。在其中，最首當其沖的行業(yè)正是李敏所在的智能客服賽道。但相較于其他人，身處智能客服運營一線的她，在漩渦中的體感甚至還要更強烈一些。

一個確定性的事實是，伴隨著AI時代的到來，智能客服可以說是最先成為討論點的企業(yè)服務方向，甚至沒有之一。而從當下來看，在過去的18個月時間里，關于它的討論和市場檢驗一直沒有減少。

但伴隨著時間的推移，這種討論的水溫在發(fā)生微妙的變化。如果說，最初人們對于AI理解更多的標簽是“替代”“重構”“顛覆”等定調式的表達，那么如今伴隨著AI技術的不斷落地，這個關于AI故事的褶皺則是在被不斷拉長——市場的關注點開始更多地在“變化”、“迭代”，以及“+AI”。

理性的另一面，是越來越多的產品驚喜正在出現(xiàn)。一個不完全的數(shù)據(jù)統(tǒng)計是，如今李敏所在的百度智能云客悅智能客服應用，自基于大模型重構上線后已經(jīng)累計幫助企業(yè) 客戶成功接待1.5億人次，如今這個速度伴隨著越發(fā)成熟的產品服務更在加速飆升。

如果說對于AI大模型時代的TO B產品應該有一個展望和雛形，那么智能客服，這個在風口浪尖上的賽道是最能找到答案的方向，在其中，在剛剛過去的云智大會上再次宣布升級的百度智能云客悅恰是最好的觀察樣本。

幾個問題是：在過去的18個月時間里，客悅做了什么？站在百度這艘龐大AI輪艦之上，它理解或者說定義的智能客服到底是怎樣的？以及更細來看，如今的它，產品和工程能力是否已經(jīng)成型？

通過對客悅的產品、市場反饋以及內部行進的故事的拆解，我們試圖還原這個如今在智能客服市場可以稱之為絕對頭部的AI玩家，在奔涌至今的AI浪潮里，到底走過了一條怎樣的路。

可以說，這條路不僅是關于智能客服行業(yè)的進化，也更是百度之于AI探索、中國軟件產品進化故事的一個縮影。

一 、“打響第一槍”

“我們算是百度內部在toB方向上第一批嘗試大模型重構產品的業(yè)務線?！卑俣戎悄茉浦悄芸头c智能內容產品部總經(jīng)理張紅光告訴產業(yè)家，“但最開始更多的還是基于文檔問答的形式?！?/p>

用李敏的話來說，就是隨著大模型的到來，“整個市場都‘懵’了，我們自己內部是這樣，當然也包括客戶?！彼嬖V我們，一個有意思的現(xiàn)象是，由于AI大模型的到來，很多即將上線智能客服的大型企業(yè)甚至暫停了智能客服的項目進度，“客戶也在擔心能用A I做什么，不想項目上線后明年就”過時了”?！?/p>

誠然如此。伴隨著百度打響國內大模型第一槍，盡管市場對于大模型有了足夠真實的感知，但不論是從模型能力、模型參數(shù)以及模型應用等等方面，都處于絕對的初期，雖然技術參數(shù)的突破始終保持在“日更”的頻率，但就落地而言，與之對應的是AI能看到的在企業(yè)側的能力僅僅停留在copilot階段，即基于文檔進行智能輔助問答以及輔助編輯處理。

對企業(yè)和服務商而言，從2023年3月甚至到10月的半年時間里，“AI到底能做什么？”幾乎可以算是整個市場都在不斷探索和摸索的問題。

在客悅內部，這種思考也更在成為所有人的日常，即大模型對于智能客服的加持是在坐席輔助、智能外呼，還是營銷、前端引流，就當時的大模型產業(yè)能力邊界而言，都很難有足夠清晰的答案。

甚至對客悅團隊而言，他們的壓力甚至要更大?！耙驗榘俣仁亲钕仍贏I側發(fā)聲的，所以我們給自己的定的目標也是要在AI智能客服方向要做到市場領先。”

但實際上，在張紅光的帶領下，客悅已經(jīng)開始邁步。一個能看到的市場動作是，其實早在2023年年中，客悅就已經(jīng)在一些大型客戶內部進行了基于大模型智能客服項目的POC測試，和企業(yè)一起摸索使用場景，這些摸索包括但不限于做知識運營工具、以及對于不同文檔和知識庫的檢索問答，以及對不同的SOP進行排序等等。

如果從行業(yè)的視角來看，這幾乎可以算是國內最早一批的大模型客服項目POC。

而在這些項目POC的摸索和共創(chuàng)中，同時伴隨著百度智能云文心大模型能力和工具鏈的不斷升級，張紅光和團隊也開始慢慢對于AI大模型時代的智能客服也有了自己的新理解。2023年Q4初始，在張紅光的帶領下，客悅正式基于文心大模型進行智能客服應用的開發(fā)重構。

“其實到了2023年年底，就已經(jīng)有不少客戶開始嘗試我們的SaaS版本了?！崩蠲舾嬖V我們。

這也正是客悅團隊的AI大模型客服應用推進節(jié)奏。與在客戶內部進行私有化POC受到算力限制情況不同的是，客悅首先推出的是公有云SaaS版本，可以理解為，基于SaaS的產品形態(tài)，一些基于AI大模型的能力可以被更好地呈現(xiàn)和被企業(yè)客戶使用，同時基于這些使用和數(shù)據(jù)飛輪反饋再反推產品的加速迭代更新。

而在這個過程中，一些更新的能力在被越來越多客戶“點贊”。比如過往需要花費大量精力做的FAQ，基于客悅的新版本用大模型泛化能力就可以節(jié)省大量時間；比如自助解決率，越來越多的企業(yè)基于客悅SaaS版本的能力突破了這個過去多年“穩(wěn)步不動”的指標等等。

不過對客悅團隊而言，挑戰(zhàn)仍在繼續(xù)。即盡管SaaS版本已經(jīng)得到了不少客戶的驗證，但對于在數(shù)據(jù)隱私側要求高的客戶而言，更能滿足其需求的還需要是私有化的企業(yè)版，即通過混合云甚至是專有云的形式進行部署，這其中考察的不單純是產品的單點能力，更有智能客服結合AI大模型的服務能力、與其他應用集成的能力，以及全端運維。

就2023年年底的時間點來看，整個智能客服行業(yè)還尚沒有成型的同類產品出現(xiàn)。

而在2個月后，客悅交卷，智能客服專業(yè)版正式上線。

張紅光告訴我們一個細節(jié)?！昂芸煊幸粋€很頭部的餐飲客戶上線了客悅的專有版本，基于客悅，企業(yè)的自助解決率從之前的不到80%提升到了90%以上，提升了超過10個點?！?/p>

這個企業(yè)在驗證了客悅智能客服專業(yè)版能力之外，對客悅團隊而言，它更重要的一個信號是：客悅的AI原生能力，已然真正成型。

二 、智能客服，正式進入AI時代

實際上，不止這個餐飲客戶，在2023年嘗鮮客悅SaaS版本的很多企業(yè)，伴隨著客悅專業(yè)版的出現(xiàn)，也都開始了遷移。

李敏印象比較深刻的是一個旅游局公共服務單位，早在去年10月份雙方就已經(jīng)開始了接觸測試，基于大模型任務會話與大模型文檔問答等能力可以幫助其做到用戶自助解決率93%，而在今年的Q2，它也更是直接全量接入到了客悅智能客服專業(yè)版上。

如果說去年來自各行各業(yè)的企業(yè)是處于“搖擺不定”“觀望摸索””的階段，那么在今年的Q2、Q3，幾乎之前的所有企業(yè)都加速了項目的推進，和百度智能云客悅簽約。

“因為AI的智能客服是最好衡量效果的，它替代了多少坐席，自助解決率能提高多少，這些都是可以計算出來的?！睆埣t光告訴我們，“就像提到的這個Top級的餐飲客戶，每天我們能幫他節(jié)省超過2.5w的人力成本?！?/p>

那么，客悅到底摸索出來的是怎樣的一個AI大模型智能客服能力？對當下的大中小型企業(yè)，他們最大的AI智能客服需求在哪？——這是張紅光和客悅團隊在整個2023年一直思考的問題，即從智能客服的需求場景來看，大模型的價值到底在哪？

而在一個個需求了解和產品碰撞的過程中，幾個點逐漸被梳理出來，“一是對復雜場景、復雜問題的分析理解，更好地解決問題；其次是基于大模型在智能客服場景進行營銷屬性的強加持；最后則是在電話等智能客服端降低基于大模型的對話時延?！?/strong>

拆解來看，這三個問題對應的幾乎是不同的大模型能力。比如對復雜問題的簡單化拆解，其更多對應的是模型對不同表達的理解力以及對特定領域的強化學習能力；再比對營銷場景的加持，其對應的是基于不同的SOP大模型自動規(guī)劃和思考的Agent能力構建等等。

在一次次嘗試中，這些真實的需求點也被客悅一點點實現(xiàn)并體現(xiàn)到產品中。客悅能將端到端自助解決率提升超過92%的能力，具體到產品側還有兩個花費大量精力設計的點：客服靈活畫布和客服快捷場景Agent。

對靈活畫布的一個簡單介紹是，它對應的是企業(yè)之前的豎狀SOP流程圖，但在如今的大模型加持下，之前的SOP流程圖可以被無限延展和放大，即從單點流程可以擴充到多個分支的并行，同時基于某個節(jié)點可以嵌入不同的AI能力。比如大模型自動回復、大模型條件判別等等，幫助企業(yè)在原有的SOP基礎上可以更高效、更智能地完 成端到端的客服任務。

而快捷場景Agent對應的恰是張紅光所說的第二個目標，即營銷。它可以幫助企業(yè)定向完成某個任務目標，比如商品導購、引電留資等等，基于定向的目標它可以實現(xiàn)流程和規(guī)劃的自動生成，伴隨著實際使用，也會同步自我進化。

“現(xiàn)在很多企業(yè)一般會兩個都選用，靈活畫布和快捷場景Agent都會選擇，在不同的業(yè)務場景和環(huán)節(jié)里使用，前者更多是基于企業(yè)自己固有流程的優(yōu)化，后者是面向具體特定的目標。”

而這些能力更底層的分子化拆解，也更是在本次百度云智大會上被先后披露。比如其多模態(tài)能力的升級，對企業(yè)而言，其不再需要像之前只使用FAQ的結構化文本進行低效訓練，而是可以基于大模型以及其多模態(tài)能力，基于不同的知識進行全面理解；比如多語言能力，可以幫助不同地域的用戶滿足需求；以及端到端的洞察能力，可以基于客戶的對話數(shù)據(jù)進行自動打標總結，可以更好地挖掘和理解用戶需求優(yōu)化業(yè)務流程，進而提高企業(yè)的服務水平。

以客悅幫助澳門特別行政區(qū)政府旅游局所打造的澳門旅游局智能客服機器人為例，它一共學習了數(shù)千篇中英文旅游相關文檔，問題回答準確率可以達到達到90%以上，同時它還能提供簡體中文、繁體中文和英文等多種語言的服務。

實際上，能清晰感知到的是，在產品的單點之外，客悅更進化的點也更在工程落地側。以為構建速度為例，“之前一個完整的對話模型搭建至少要20天到30天，現(xiàn)在基于大模型的多輪對話甚至一天就可以完成，完整上線最多也就10天的時間。”李敏表示，“整個過程效率提升了超過6倍?！?/strong>

這種從產品到工程落地的價值也更在客戶側被進一步感知。李敏告訴我們，一個面向汽車配件的企業(yè)從今年3月份下單，4月份開始逐步調試上線，但他經(jīng)常會給客悅的運營同學提供反饋建議?！八羌兇獾募夹g信仰派，他經(jīng)常說‘你們這個產品非常棒’‘’很有希望‘一定會越來越好’?！?/p>

在SaaS專業(yè)版本側，客悅匯聚的中小企業(yè)客戶也在越來越多，基于所有用戶的反饋，張紅光帶領團隊也更會保持穩(wěn)步的AI能力進化。

“目前很多企業(yè)開始接受公有云的AI大模型智能客服項目POC了。”他告訴我們。

而與這些產品策略、模型進化同步發(fā)生的是，客悅也在越來越多的出現(xiàn)在不同的企業(yè)場景里，比如澳門旅游局的旅游小助手，比如國家圖書館的“顧朝夕”，再比如面向某金融機構的智能客服“小興”。

從客戶類型來看，來自教育、政務、電商、汽車、文旅、物流、醫(yī)療等不同行業(yè)的企業(yè)如今都已經(jīng)或者正在基于客悅構建自身的AI大模型客服系統(tǒng)。

三 、看見客悅，理解客悅，成為客悅

如果把時間回到2023年3月份，從上帝視角看，客悅可以說是百度內部TO B產品打響的AI第一槍。

而從3月份至今，百度智能云自身也更在進化，不論是如今新升級到4.0版本的底層算力設施百舸，還是AI工具側的千帆大模型平臺等 等，它們在成為不同企業(yè)AI需求強大供給陣地的同時，也在為客悅的進化提供的養(yǎng)料。

張紅光告訴我們?！艾F(xiàn)在雖然水面之上能看到的是我們交付的客悅產品，但在水面之下，其實我們封裝了包括千帆大模型平臺企業(yè)級RAG能力，以及百舸算力的模塊，一起面向客戶提供服務?！?/strong>

此外，在具體的交付上，客悅也會基于企業(yè)的不同情況采取“大模型+小模型”的方式進行交付，即通過對模型特定領域的能力強化學習，使得小模型在特定領域具備和大模型一樣的能力，進而使得企業(yè)可以以最低的成本滿足自身需求。

以及在不同的項目上，團隊也會根據(jù)企業(yè)情況派出相關的效果運營同學，幫助企業(yè)能更“嚴絲合縫”地使用和將客悅嵌入業(yè)務體系。

可以說，如今的客悅正在構建的恰是一套基于AI大模型的新智能客服體系，這套體系里有從copilot升級到將AI能力完全嵌入產品的AI原生應用。有靈活的部署模式，有封裝成型的多模態(tài)能力，更有其中最為核心的AI客服核心模塊靈活畫布、客服Agent框架等等。

這些也恰都在構成著如今在AI大模型時代里新的客悅。“其實我們也更融入了之前一些產業(yè)算法和理解，之前的東西也都沒有丟，都融入到現(xiàn)在的客悅里面。”

一個數(shù)據(jù)是，在過去幾年時間里，包括沙利文等多個權威咨詢機構出具的行業(yè)報告里，客悅都位于市場領導者梯隊，而其對話式AI Frost Radar中增長指數(shù)、創(chuàng)新指數(shù)也更是名列前茅。

而這些過往的產業(yè)積累，結合如今在AI大模型側的創(chuàng)新，也恰構成著如今新的AI時代里的客悅。

從更大的視角來看，如今的客悅走出的不僅是智能客服的新AI范式，也更是一個百度探索AI，以及中國軟件產品AI進化的典代表路徑。在這個進化路徑里面，有產品為王，有產業(yè)為基，有需求驅動，有小步代，也更有從技術到服務流程的全面進化。

而這些進化，在經(jīng)過漫長的摸索和重構后，如今在一個個客戶選擇和認可中也更在逐漸浮現(xiàn)出新的市場正反饋。

如今，百度智能云客悅團隊依然沒有懈怠。比如像前文提到的幾個重點突破領域，如營銷Agent的構建，對話時延，以及底層模型的不斷優(yōu)化等等，這些依然是客悅團隊在2024下半年的日常主線。“比如對話時延，這其中涉及的不單純是大模型的本身問題，更有推理、通信等多方面的問題，這些都優(yōu)化好，才能真正解決問題?！?/strong>

寫到最后：

當談到對過去20多個月的感受時，張紅光和李敏都不約而同用了“突破”這個詞，對他們而言，相較于智能客服之前幾個時代的升級，在AI的到來下，這個行業(yè)正在經(jīng)歷的是幾乎重構式的變化，從產品到行業(yè)規(guī)則，從服務模式到智能客服賽道本身的邊界。

但突破之中，也有冷靜的把持。“現(xiàn)在仍然處于一個行業(yè)早期，大家整體還是比較浮躁，我們覺得要更加耐心，真正把產品打磨好，讓更多人使用，只有這樣才能真正突破?！?/strong>

他還告訴我們一個小插曲，“客悅”，這個名字是集“團隊之腦力”，在去年剛起的，出發(fā)點是在AI到來的今天，讓客戶能真正擁有喜悅，享受喜悅。

能看到的是，這個名字背后的理念正在被照進現(xiàn)實。

注：文中李敏為化名