16個月后,中國大模型的最佳實踐是什么?

大模型要用起來,才能活起來。

 

16個月后,中國大模型的最佳實踐是什么?

 

作為同時具備實體企業(yè)屬性和數(shù)字技術能力的新型實體企業(yè),京東內(nèi)部的供應鏈場景恰是大模型應用最好的“試驗田”。從實驗室到具體場景,從技術到供應鏈,AI應用的范例正在出現(xiàn)。

作者| 皮爺

出品|產(chǎn)業(yè)家

大模型已經(jīng)成為一項時代技術。在基礎設施建設幾年后,人們的關注點轉向應用落地問題。而京東在國內(nèi)技術企業(yè)中,擁有電商、物流、健康、科技等豐富的供應鏈場景,成為大模型技術落地應用的沃土 。

 

大模型在京東的落地實踐,也更在成為人們關注的話題點之一。

在2024京東云上海峰會上,京東就展示了大量大模型應用產(chǎn)品和落地案例。包括言犀數(shù)字人3.0平臺、智能編程助手JoyCoder、言犀智能體平臺,以及小哥終端智能助手、智能導購助手、OA助手、智能醫(yī)生助手等對應場景的智能體。

做大模型應用的企業(yè)不在少數(shù)。但能讓大模型應用在產(chǎn)業(yè)場景里真正跑起來,融入工作流程,產(chǎn)生實際價值,則對千行百業(yè)都有珍貴的借鑒意義。這些大模型應用從京東零售、物流、健康、金融等無數(shù)真實場景中“長出來”,打磨完善后又在以京東云為窗口,逐漸開放給外界。

實際上,對于京東,外界一直有所期許。在所有技術企業(yè)中,京東是少數(shù)具備豐富供應鏈場景和數(shù)據(jù)的,能夠為大模型應用生長提供土壤。京東以言犀大模型驅動的應用,具備“產(chǎn)業(yè)原生”得天獨厚的優(yōu)勢。而近期,在去年JDD大會發(fā)布言犀大模型后,京東又階段性地交出了大模型應用的答卷。

“敢為人后,慢即是快。”京東沒有讓大模型頻繁刷榜,在新聞熱搜里爭第一,而是在內(nèi)部供應鏈場景讓大模型應用持續(xù)生長。京東云宣布:大模型應用在內(nèi)部超100個AI場景全面鋪開,已經(jīng)有超35萬京東自有配送員、超23萬商家、超5萬副主任級別以上醫(yī)生、超2萬采銷運營、超1萬研發(fā)人員得到了大模型應用的支持。

16個月后,中國大模型的最佳實踐是什么?

“大模型 要用起來,才能活起來?!?京東集團技術委員會主席、京東云事業(yè)部總裁曹鵬表示,京東供應鏈是大模型應用的超級孵化器,京東云持續(xù)將孵化成熟的大模型應用打磨、沉淀成產(chǎn)品,為客戶提供服務。

“產(chǎn)業(yè)窗口”里的京東大模型

京東云言犀大模型落地應用、“撞線”大規(guī)模商業(yè)化的標志,就是言犀數(shù)字人直播的618戰(zhàn)績:首秀1小時,“采銷東哥”AI數(shù)字人直播間觀看量超過2000萬人次,帶貨GMV超5000萬元。這改變了直播電商的范式,幾乎成了電商觀察必談的話題。

數(shù)字人,是京東言犀大模型被看見的第一個窗口。

不僅在采銷直播間實現(xiàn)了傲人戰(zhàn)績,言犀數(shù)字人也已經(jīng)開放給平臺商家,服務超5000家品牌,帶動GMV超過百億元。言犀數(shù)字人集成了京東言犀大模型、聲音處理和多模態(tài)交互等全方位能力,已經(jīng)轉化為平臺商家們實實在在的銷售業(yè)績。

在最廣為人知的言犀數(shù)字人直播之外,其他場景下,大模型應用也在遍地開花。

去年12月,京東健康就與溫州醫(yī)科大學附屬第一醫(yī)院達成戰(zhàn)略合作,雙方將共建“未來醫(yī)院智慧服務”。而雙方合作的底座之一正是“京醫(yī)千詢”大模型。

“京醫(yī)千詢”是基于言犀大模型訓練,面向醫(yī)療場景專項訓練的行業(yè)垂直大模型。其可以幫助醫(yī)院完成AI前置處方審核、醫(yī)生輔助診療,以及面向患者的前端AI智能診療等等。其中,“AI前置處方審核系統(tǒng)”就于今年在北京海淀區(qū)全面落地,有近百家基層醫(yī)療衛(wèi)生機構使用,日均審核處方超過2萬張。

服務于物流場景的“小哥智能終端助手”,則已經(jīng)裝進了超過35萬京東自有配送員的手持設備。無論是查詢物流規(guī)范,還是輸入攬件信息生成訂單、派送時給顧客發(fā)去短信,都能極大提高快遞小哥的效率。

在零售營銷場景,AIGC營銷工具“京點點”就能幫助商家一鍵生成商品圖片,能撰寫商品文案、短視頻腳本等。在金融營銷場景,則用上了言犀大模型與部分專有場景營銷模型的“組合拳”。原本需要14天準備的營銷活動,現(xiàn)在1天就能上線。

在技術研發(fā)場景,智能編碼助手JoyCoder也能幫助研發(fā)工程師自動完成過去需要手動調(diào)試的代碼轉換,對源代碼的識別率達到90%以上,轉換的代碼可用率達到80%,生成代碼采納率超過35%,研發(fā)整體提效30%。

從京東云峰會我們能清晰地觀察到:不同于其它大模型頻繁刷榜、在底層技術指標“鉆牛角尖”,京東言犀大模型則扎向了企業(yè)內(nèi)部場景,以及平臺伙伴的供應鏈流程上。

京東的大模型為何可以率先扎根產(chǎn)業(yè)場景,結出豐碩的果實?

二、產(chǎn)業(yè)為王:A I的第一性原則

大模型應該如何發(fā)展,不同企業(yè)有各自的思路。很多企業(yè)是卷技術研發(fā)、“拿著錘子找釘子”,希望強化通用大模型的能力,也能提升應用能力;而京東為代表的另一些企業(yè),則本身擁有產(chǎn)業(yè)場景,能讓大模型技術進步與產(chǎn)業(yè)應用互相促進、形成飛輪。

京東的言犀大模型,在底層訓練時就融入了30%的供應鏈原生數(shù)據(jù),這些數(shù)據(jù)來自于京東自營電商的商品SKU、5000萬工業(yè)品SKU、超800萬家活躍企業(yè)客戶以及全國超2000個產(chǎn)業(yè)帶的真實需求。這使得它能更好應對產(chǎn)業(yè)需求。

如果說言犀大模型是更適合產(chǎn)業(yè)應用的“大腦”,那么智能體就連接起靈活的四肢,讓人們構建大模型應用時更加低門檻和靈活。

這次京東云峰會發(fā)布的言犀智能體平臺就能幫助人們快速搭建智能體。和許多智能體平臺不同的是,在搭建環(huán)節(jié),言犀智能體平臺不僅能調(diào)用底層的產(chǎn)業(yè)能力模塊,還會給出細分領域的行業(yè)知識增項,每個智能體都相當于一個行業(yè)專家。

舉例來說,人力資源部門員工制作培訓課程,原本需要剪輯視頻,在反復觀看、頻繁溝通下,輔以專業(yè)知識,每周最多剪輯完2個。而利用言犀智能體平臺,員工在2天內(nèi)就能搭建起AI視頻剪輯應用,完成智能剪輯工作。

京東云表示,在言犀智能體平臺上,活躍的智能體已經(jīng)超過3300個,沉淀的行業(yè)解決方案則更是超過100個。

同樣還有健康和物流。在對應產(chǎn)業(yè)數(shù)據(jù)的訓練和微調(diào)下,不論是其基于底層京東言犀大模型進行MaaS模型層面的深度開發(fā)(蒸餾、剪枝、拉升等),還是基于RAG或者智能體層面的調(diào)試,都可以達到更好的實用效果。

此外,不論是對內(nèi)還是對外,基于不同的需求,京東往往基于“大模型+小模型”共用的靈活方式來解決最終產(chǎn)業(yè)問題,比如在健康場景,京東為客戶提供多款如2b、14b、22b以及80b等不同的模型來滿足AI處方、診療、患者服務等不同場景的需求,再比如在物流場景,在京東內(nèi)部,采取的也更是“NLP+傳統(tǒng)大模型”的方式進行產(chǎn)品設計。

也可以說,從產(chǎn)業(yè)數(shù)據(jù)底層、產(chǎn)業(yè)需求底層發(fā)散出來的優(yōu)勢也恰構成著如今京東交出具有靈活性、實戰(zhàn)性AI產(chǎn)業(yè)應用和服務模型的底層支撐。

三、京東云大模型的落地“啟示錄”

在京東這家既具備底層通用大模型能力,又涉足多元產(chǎn)業(yè)場景和復雜協(xié)同的企業(yè)里,AI已經(jīng)成為被廣泛使用的底層能力。

“最開始發(fā)布言犀智能體平臺的時候,我們還有點擔心,是不是會有人使用、能否滿足集團同事們的需求。”言犀智能體平臺負責人告訴我們。但業(yè)務人員利用智能體輔助自己工 作 的熱情,以及調(diào)用智能體、構建工作流的次數(shù),都大大超過預期。

16個月后,中國大模型的最佳實踐是什么?

這些智能體的數(shù)據(jù)來自真實的業(yè)務積累,應用在業(yè)務場景中磨練,工作流凝聚了業(yè)務人員的行業(yè)Know-How??梢哉f,智能體正將京東許多場景的產(chǎn)業(yè)知識汲取出來,固化到應用里,成為可以分享和組合的能力。

涌現(xiàn)的不僅是智能體層面的AI應用,在健康、物流、金融等場景之外的其它供應鏈細分節(jié)點,如今京東也建立了一套完備的AI模型應用體系。

“我們目前會根據(jù)業(yè)務的需求看是否要調(diào)整模型的權重,如果需要調(diào)整,我們就會采取MaaS的方式,對模型進行調(diào)整;如果不需要,我們就會用RAG等方式幫助業(yè)務滿足需求?!?/strong> 京東基礎大模型相關負責人告訴我們。

如果把視角放大,則更能清晰感知到的是,在如今的京東內(nèi)部,一系列包括C端Agent應用、B端模型產(chǎn)品和解決方案等近乎全部京東的業(yè)務模型和組織模型正在被AI重構。

而為這些提供支撐的則是京東如今以言犀大模型為底座的強AI平臺能力和云平臺能力。如今,在言犀AI開發(fā)計算平臺2.0內(nèi),已經(jīng)內(nèi)嵌了100多種優(yōu)化工具,只需一鍵部署即可釋放90%的推理成本。

此外,言犀AI開發(fā)計算平臺2.0支持全部主流國產(chǎn)化AI算力,支持vGPU;同時,全面升級的云海3.0也更是無限支持千億級參數(shù)AI大模型,基于融合超低延時RDMA網(wǎng)絡及軟件架構優(yōu)化,4K隨機寫IOPS達到1000萬級,平均延遲在100微秒級。

這些強底層能力在構成著如今京東在內(nèi)部的無數(shù)業(yè)務重構的同時,也更在成為著京東云將內(nèi)部的AI實踐產(chǎn)品向外部釋放的支撐和底氣。

如今,伴隨著越來越多的實踐,這些產(chǎn)品仍在進化。比如在這次峰會上京東云言犀數(shù)字人平臺3.0被重磅發(fā)布,在之前的AI數(shù)字人基礎上,引入直播中臺模式,同時上線多種行業(yè)專屬場景,幫助企業(yè)更好 地落地數(shù)字人。

16個月后,中國大模型的最佳實踐是什么?

可以說,京東作為同時具備實體企業(yè)屬性和數(shù)字技術能力的新型實體企業(yè),內(nèi)部的供應鏈場景成為大模型應用最好的“試驗田”。這些供應鏈場景,幫助大模型應用填補了從實驗室走向供應鏈的溝壑,讓大模型應用能夠扎實落地、持續(xù)進步。

這既是京東的大模型故事,對中國土壤上的無數(shù)正在探索大模型落地的企業(yè),同樣是一筆寶貴的范例財富。

本文來自投稿,不代表增長黑客立場,如若轉載,請注明出處:http://allfloridahomeinspectors.com/cgo/coo/121908.html

(0)
打賞 微信掃一掃 微信掃一掃 支付寶掃一掃 支付寶掃一掃
上一篇 2024-08-02
下一篇 2024-08-05

增長黑客Growthhk.cn薦讀更多>>

發(fā)表回復

登錄后才能評論
特別提示:登陸使用搜索/分類/最新內(nèi)容推送等功能?>>