智慧客服，不再智障？

“現在客戶上來就問能用大模型打電話嗎？如果沒有大模型能力，客戶就不跟你聊了”，雲蝠智慧CEO魏佳星告訴數智前線，市場對大模型客服的認知度在加速。

行業內也把智慧客服視作大模型率先落地的典型場景之一。大模型能更好地理解使用者問題，生成與使用者需求匹配的回覆，甚至預測使用者行為、提供個性化推薦。這極大提高了客服效率和質量，還為企業節省了大量人力和時間成本。

IDC中國研究經理程蔭告訴數智前線，這一領域，企業投資大模型預期是做到替代人，而不是輔助人。而很多客服以外的場景落地成熟度不高，一個極大原因在大模型只能輔助人，不能很好地測算ROI。

技術的快速進步和大模型推理成本急劇降低，無疑是大模型落地智慧客服的加速劑。“去年年初ChatGPT的一次呼叫成本還在幾美分，一通客服電話對客戶的報價1.2毛，當時商業模式根本跑不通。現在推理成本急劇下降，一次外呼呼叫大模型只需要0.2分”，商業應用一下子加速。魏佳星提到，目前這股技術升級和成本下降的趨勢還在持續。

熱潮下，市場上正呈現出兩種應用路徑，老牌的智慧客服企業積極疊加大模型能力，而大模型企業也快速切進智慧客服賽道。

但還處於發展初期的大模型智慧客服仍要攻克一系列難題。比如文字客服如何克服幻覺以及語音客服面臨的時延及擬人度的挑戰。一些企業正採取漸進策略，在一些要求不高的場景率先讓產品落地。

不再智障的智慧客服可能正在到來。

01

推理成本下降，大模型進智慧客服提速

魏佳星進入智慧客服市場已有七年，他看到，去年以來大模型技術快速演進，越來越多智慧客服領域的商機、需求與大模型相關。“就跟汽車的智駕功能一樣，不管客戶最後用不用，但是沒有它就不行。”

蓬勃的市場需求，從央國企的大模型招投標資料中也能窺見一些端倪。數智前線此前統計，今年Q3的大模型相關專案的招投標，僅專案名稱中與智慧客服相關的專案就有9個。雖然在總量超360的大盤裡佔比不算很高，但大模型智慧客服的需求已經浮出水面，並形成了一定規模。

一家關乎國計民生領域的央企相關人士此前也告訴數智前線，他們正為旗下某超級應用裡的大模型智慧客服尋找合作供應商，預計專案規模在千萬元級別。他們已經摸排了市面上包括阿里、訊飛等多個廠商的智慧客服產品能力，當下正在產品選型階段。

IDC今年八月的報告資料裡能看到市場空間正在加速開啟。2023年智慧客服解決方案整體市場規模達到了30.8億人民幣，較2022年增長了近36.9%。

業界觀察，蓬勃的需求，首先與過去近兩年，大模型技術快速進步，對智慧客服能力帶來了明顯的升級有關。

“大模型驅動的智慧客服，企業不需要非常多的NLP小模型，靠大模型能解決NLP的關鍵性任務，同時機器人的理解力、語言生成能力都有很大的躍遷。”百度智慧雲智慧客服與智慧內容產品部總經理張紅光在今年9月的一場媒體溝通會上說。

當下，大模型改善客服體驗，場景並不侷限在直接跟使用者溝通場景裡的語音機器人和文字機器人上。比如在智慧質檢和分析的場景裡，大模型可以用於確認人工客服或者機器人客服的服務是否符合企業定義的SOP，還能給對話打結構化標籤，去改善客服服務。

程蔭告訴數智前線，除了文字/語音機器人、智慧質檢、坐席輔助、數字人客服、影片客服、智慧分析、座席培訓等傳統智慧客服場景外，和客服強相關的其他領域，如營銷、培訓、運營、決策等存在使用者互動需求的裡，對大模型智慧客服的需求也在提升。

魏佳星觀察到，技術進步使得語音機器人在解鎖一些原來做不了的場景，比如雲蝠智慧就在開拓基於大模型的智慧體去做電話面試業務。這個新場景，對機器人的理解能力、語言表達自然程度都要有求，服務的報價也相比傳統場景有倍數級的提升。

智慧客服與大模型快速結合，還與模型的呼叫成本快速下降密切相關。

去年年初，GPT3.5的介面呼叫成本一次還在幾美分的水平，當時魏佳星判斷它只有單次呼叫成本下降到1分錢左右，行業裡的成本賬才能算得過來。現在，差不多18個月過後，語音機器人單次呼叫大模型介面的成本早已跌破了這個數字。

這不只發生在海外，國內的模型廠商們在今年上半年也開啟了激烈的降價行動。阿里CEO吳泳銘今年9月提到，模型推理成本指數級下降，已經遠遠超過摩爾定律。零一萬物CEO李開復幾天前參加活動時提到了一個很激進的數字，過去一年半的時間內，大模型推理成本的價格差了500倍，同時模型能力還有很大程度的提升。

其他大模型廠商也有各種降價動作。推理成本明顯的下降趨勢，使得今年智慧客服行業服務商們應用大模型的程序在提速。

02

可測算ROI VS仍待克服的障礙

去年以來，頭部企業都把智慧客服領域視作大模型落地的先行場景。

阿里雲在去年雲棲大會上首次釋出的8款基於通義打造的行業大模型裡就有智慧客服通義曉蜜，它能基於企業需求定製客服對話機器人。網易數智則在去年9月推出了面向客戶服務的商和大模型，用於智慧質檢、客服機器人、智慧外呼、精準洞察等客服場景。

今年百度智慧雲從3月開始對外推出，並持續在升級的三款標杆應用裡，就有基於大模型重構、升級的智慧客服產品客悅。

騰訊集團副總裁、政企業務總裁李強也在今年騰訊數字生態大會的媒體溝通環節提到，相比應用到生產研發等複雜場景，在容錯率相對高一些的場景，比如智慧客服領域，大模型的落地應用進展會更快。

基於客服領域去落地及探索大模型應用的企業還有很多，技術服務商們紛紛進場，與這一場景裡大模型帶來的降本增效效果比較明顯有關。

IDC程蔭介紹，他們透過很多深度訪談發現，引入智慧客服確實極大地提高了客戶服務的效率和質量，還為企業節省了大量的人力和時間成本，帶來的收益是能測算的。

百度集團執行副總裁、百度智慧雲總裁沈抖在雲智大會上提到，客悅在客服自助解決率上有大幅提升。這是客服服務領域裡的一個重要指標，“業界自助解決率普遍在80%左右，大模型重構升級後，客悅自助解決率突破了92%，客服變得更聰明、更擬人、更懂使用者。”

快遞物流資訊服務商快遞100，今年將大模型技術應用到客服場景。該公司CEO陳登坤告訴數智前線，“大模型與客戶反饋及系統規則的協同效應顯著增強，共同解決了高達90%的工單問題，僅10%的問題需人工干預，客訴一次性解決率高達99.4%。”

容聯雲大模型產品人士則提到，他們在保險服務場景裡，基於大模型，實現了對400電銷電話大量錄音內容的洞察和挖掘。應用後，降低潛在客訴量達到10%左右。

電銷電話以前只能圍繞電話數量和時長去分析，但實際上電話內容裡蘊含很多使用者的潛在需求。有了大模型後，大模型能提取到使用者的潛在需求，還能從電話內容裡挖掘出資深服務人員的優質回覆，為後續服務提供話術建議和參考。

這些都是大模型提升智慧客服體驗的進展。但硬幣的另一面，依然還有很多難題需要解決。

IDC告訴數智前線，從2023年以來，頭部的技術供應商還在進行一些產品化，商業化進展還不是很顯著，市場還是以AI傳統客服為主。大模型賦能的客服產品在行業的普遍應用中還存在與原有系統的耦合、理解能力有限、缺乏上下文感知、互動性和靈活性不足、個性化服務不足等挑戰，需要根據具體場景持續的訓練調優，投入資料、算力資源。

一位企服行業資深人士就感慨，在驚歎於技術的突破時，行業也切實需要去解決許多問題，比如真實溝通場景的幻覺控制，新技術融入到企業業務流程裡的改造和管理成本等。

以語音場景裡大模型驅動的智慧體為例，當下語音的擬人度不夠，客戶很容易能聽出來實時生成的聲音不是真人。同時由於電話場景對時延要求高，幻覺問題也很難解決。

一些大型的專案，還涉及到後續建設和運維的成本。前文提及的某央企千萬級智慧客服專案，相關人士提到他們產品選型十分慎重，原因在於專案的後續建設和運維成本高。因此，他們雖然對各家廠商的能力特點如數家珍，卻遲遲沒有敲定合作物件。

另外，一位智慧客服行業資深人士提到，除了技術層面的各種限制，她也看到一些場景並不鼓勵完全“去人化”的客服。“現在AI可能解語文題的能力提升了，可能也能解數學題。但是客服場景裡很多是客訴，它可能是法律題、心理題和社會題，很多時候使用者還是更願意接聽電話的是真人。”

03

漸進式路線：在能落地的場景裡先用起來

基於大模型去升級產品有一大特性，基礎模型能力的躍升，會帶來產品效能和體驗的提升。但在能力更強的模型到來之前，技術服務商們需要基於當下的技術侷限，找到產品化、商業化的合適節奏。

魏佳星提到，他們的策略是，在時延和擬人度問題沒有理想的解決方案前，先找對這些指標要求比較低的業務場景先用起來，“比如400電話，你能接受它的時延問題，可以接受它的擬人度不夠，聽起來像機器人，現在這些場景裡用起來。”

一家服務汽配行業的軟體服務商用智慧體來服務車廠及終端車主的特殊車型維修零配件報價，目前有80%的客服詢價由智慧體完成。

針對智慧體有一些幻覺等不可控因素，他們也採取了智慧體加上真人監管結合的服務模式，來更好服務客戶。“詢報價智慧體在客戶群裡溝通，但是這個裡面群裡還是有銷售在做一些監管的動作”，該服務商說。

容聯雲產業數字雲VP孔淼則提到，針對大模型全面替代帶來的算力成本及幻覺等問題，可以先用大模型解決區域性問題。

“比如用它解決前端的泛化問題，轉化成具體的任務後，再用高效的小模型來解決，採取大小模型結合的策略。”孔淼在幾個月前的一場產業論壇中提到。

正如IDC所說，大模型賦能的智慧客服發展還在初始階段，商業化仍有待推進。不過，一些企業也看到了當下市場偏好的一些特徵，並嘗試找到一些商業化的策略。

魏佳星發現，許多企業雖然對大模型功能有認知，但相比大模型原生的智慧體產品，他們更偏好上一代的具備可解釋性的產品，“短期裡大模型是一個銷售型功能”。

而大模型原生的Agent型別產品探索價值在於，一方面這是未來的發展方向，另外，它可以解耦出一部分能力，用於升級上一代產品，從而提升使用者體驗和留存，最終實現間接的商業轉化。

以電話面試場景為例，這裡面可能涉及到N個智慧體協同工作。比如第一個AI對非結構化簡歷進行讀取，讓簡歷變成標準的小欄位便於其後的AI閱讀。第二個AI要調取GPT級別的最高階模型，教打電話的AI去訓練它的快取體系。第三個AI負責打電話，發起呼叫。第四個AI把通話記錄抽取成標準的結論。

這個過程裡四個AI能力可以被解耦，其中的一部分技術方案賦能給上一代產品，“目前商業化收入裡很多來自技術方案複用給上一代之後帶來的收入增長。”魏佳星說。

當下，無論是AI傳統客服企業帶著場景接入大模型能力，還是大模型企業帶著錘子進入智慧客服賽道，這一領域的熱度正在提升。

“以雲服務為代表的平臺級公司在底層大模型、新一代智慧客服產品上有研發優勢，且有的雲廠商旗下有一部分業務和客服強相關。它們有一定的品牌知名度和使用者基數，需要加強的是中小企業的定製化服務。而較早進入市場的傳統客服企業也有市場認知度，積攢了一定量客戶，這些企業需要加強的則是大模型技術底層研發能力。”IDC程蔭說。

一位AI客服領域的創業企業則認為，它們和巨頭在定價能力及服務能力上有差異，小公司有靈活性，而大廠由於人力成本，涉及到交付團隊後它很難服務報價低於五十萬元的專案。

不管怎麼樣，競爭正變得激烈起來。不過市場也並非存量競爭。

上個月初，OpenAI的GPT-4o Realtime API公開測試版上線，魏佳星馬上在內部推進基於這一介面開發新一代智慧客服產品。

對語音場景的智慧客服而言，這是一次重要的模型能力升級，它能大大解決語音機器人的時延問題。之前的模型要將語音轉文字和文字轉語音功能拼接在一起，而Realtime API是端到端模型，在語音互動時，表現會更自然。

這也是大模型賦能的智慧客服產品的一大利好，長期來看，技術的進步和成本的下降，將會給產品帶來質的突破，而新的市場空間也將進一步開啟。