循環(huán)智能楊植麟：NLP如何助力企業(yè)銷售場景降本增效 | CCF-GAIR 2020

 雷鋒網(wǎng)按：2020 年 8 月 7 日，全球人工智能和機器人峰會（CCF-GAIR 2020）正式開幕。CCF-GAIR 2020 峰會由中國計算機學(xué)會（CCF）主辦，雷鋒網(wǎng)、香港中文大學(xué)（深圳）聯(lián)合承辦，鵬城實驗室、深圳市人工智能與機器人研究院協(xié)辦。

從 2016 年的學(xué)產(chǎn)結(jié)合，2017 年的產(chǎn)業(yè)落地，2018 年的垂直細分，2019 年的人工智能 40 周年，峰會一直致力于打造國內(nèi)人工智能和機器人領(lǐng)域規(guī)模最大、規(guī)格最高、跨界最廣的學(xué)術(shù)、工業(yè)和投資平臺。

在GAIR大會的第三天上午，企業(yè)服務(wù)專場迎來了循環(huán)智能聯(lián)合創(chuàng)始人楊植麟，為大家?guī)砹司始姵实难葜v。

楊植麟的演講主題為《NLP在企業(yè)銷售場景的應(yīng)用與挑戰(zhàn)》。他提到，目前NLP在企業(yè)銷售場景的應(yīng)用現(xiàn)狀是對話機器人落地最快，銷售輔助系統(tǒng)落地最難。要想解決銷售輔助系統(tǒng)落地難的問題，一是要提升技術(shù)基礎(chǔ)，即深度學(xué)習(xí)和自然語言處理技術(shù)；二要通過先進的工程技術(shù)和靈活的產(chǎn)品設(shè)計，降低部署成本；三要深入企業(yè)內(nèi)部銷售流程的業(yè)務(wù)實踐。

楊植麟表示，當前企業(yè)銷售場景的一大痛點是隨著銷售業(yè)務(wù)和產(chǎn)品的動態(tài)變化，語義標簽也需要頻繁調(diào)整，但語義點的標注成本居高不下。除了技術(shù)能力，突破坐席輔助系統(tǒng)的前提是洞悉銷售與客戶的溝通過程與結(jié)果之間的關(guān)系。通過分析溝通過程與結(jié)果之間的關(guān)系，就能知道某一場景下講到某部分內(nèi)容有助于成單。

他還提到了AI輔助銷售溝通和營收增長的全流程應(yīng)用，包括線索篩選、坐席輔助、執(zhí)行監(jiān)督、銷售對練。

以下為楊植麟的現(xiàn)場演講內(nèi)容，雷鋒網(wǎng)作了不改變原意的編輯及整理：

大家好，非常榮幸參加這個活動，先從一個故事講起。2018年的夏天我到谷歌實習(xí)，實習(xí)前，推薦我的學(xué)長跟我說，你到谷歌有一兩千個TPU可以用，你想想這個暑假要干什么。我整天輾轉(zhuǎn)反側(cè)，難以入眠，因為我在學(xué)校只能用10個GPU，那我能用這么多的TPU做什么。當時在NLP領(lǐng)域是沒有答案的，即使給你再多計算資源，也沒有人知道如何才能在NLP領(lǐng)域取得更大的突破。但是從2018年至今，NLP領(lǐng)域經(jīng)歷了一個非常大的變化，從Transformer、ELMO、BERT、XLNet、GPT-3等模型，完成了一系列突破性的轉(zhuǎn)變，解鎖了很多真實的應(yīng)用場景。我今天就想分享下在企業(yè)銷售場景的應(yīng)用，會發(fā)現(xiàn)以前做不到的場景、做不到的效果，現(xiàn)在可以完成和實現(xiàn)更好的效果和解鎖新的場景。

我先介紹一下循環(huán)智能這個公司，創(chuàng)始團隊來自于清華大學(xué)和CMU，之前在谷歌、Facebook、微軟等公司做過前沿的研究，獲得了紅杉資本等機構(gòu)的融資，主要業(yè)務(wù)是開展企業(yè)服務(wù)，通過幫助企業(yè)提升銷售過程中的效率，以此提升整體的業(yè)績和銷售轉(zhuǎn)化率，服務(wù)目標主要是中大型銷售/客服中心的客戶。

在這個場景的應(yīng)用主要分成兩類：

第一類是替代人的工作，就是現(xiàn)在落地比較好的對話機器人。對話機器人分為幾種，如外呼機器人、文本機器人等。這部分機器人做的事情，從附加值來說是比較低的，因為它相對來說是低重復(fù)、低社交的工作，比如回訪、收集信息等偏簡單的任務(wù)。

還有一類是在營銷鏈條里高社交、低重復(fù)的部分，稱為銷售輔助。在銷售全流程當中，你要做很艱難且非常重要的決策，包括篩選線索、給用戶推薦產(chǎn)品，要知道什么時候用什么話術(shù)，這在銷售流程里面具備極高的附加值。這部分的技術(shù)難度非常高，一直沒有被突破。我們看到新的預(yù)訓(xùn)練、語音識別的提升技術(shù)帶來突破后，可以在這些場景進行解鎖。

之前銷售輔助為什么沒有得到很好的應(yīng)用？主要是面臨以下幾個挑戰(zhàn)：一是如何得到高準確率的語音識別；二是語義理解如何做到高準確和高召回率；三是如何通過性能優(yōu)化做到低延時和高并發(fā)；四是通過降低運營成本，使得邊際成本降下來，并進行快速配置。

首先是語音識別。語音識別在很多場景得以落地，但在電話、在線的語音系統(tǒng)里，由于采樣率和各種延時要求的影響，目前還有很多問題尚待解決。

2019年，我們提出了Transformer-XL模型，一開始應(yīng)用于序列建模上，作為自然語言處理的任務(wù)，后來創(chuàng)新性地用到語音識別，這在行業(yè)里面是屬于首次。它跟傳統(tǒng)的語音識別模型不同之處在于，現(xiàn)在不再需要把聲學(xué)模型和語言模型拆分，就可以提升端到端優(yōu)化、快速部署的能力。 

這個是我們在真實的商業(yè)銀行的落地測試案例，可以發(fā)現(xiàn)對于領(lǐng)域數(shù)據(jù)的擬合能力會遠遠超過傳統(tǒng)RNN/CNN+CTC的效果，可以達到超過90%的準確率。這在低采樣率、低延時的實時呼叫中心的 語音識別問題上，是一個比較好的成績。

其次是語義理解。這個在輔助場景中更難落地，因為在人與人溝通過程當中涉及更高級的話術(shù)，更多用戶的意圖，而不僅僅是機器人場景中做一些簡單的回訪或問題采集。這時需要更準確的語義理解。

在語義理解方面使用了我們自研的XLNet模型，發(fā)表在2019年7月，在20項任務(wù)上的表現(xiàn)超過了BERT，在18項取得了SOTA第二的成績。發(fā)表了不到一年里引用量超過1000，是2019年NLP研究中全球引用量最高的paper。在實際落地時，我們對這個模型做了進一步的優(yōu)化和提升，就有了隨后XLNet-2的落地。

它結(jié)合了傳統(tǒng)兩大自然語言建模陣營的優(yōu)點：第一個陣營是自編碼，主要做的事情是對輸入加噪聲，試圖重現(xiàn)；第二種是自回歸，預(yù)測序列未來會發(fā)生什么事情。

這是真實的案例，XLNet在語義點上它有2-10倍的提升，一方面是召回率，另一方面是準確率，得到更多的樣本情況下，準確率是更高的，找到符合想要的語義的意思。

第三個方面是性能優(yōu)化。性能優(yōu)化是多維度的算法和工程相結(jié)合的問題，比如說在呼叫中心里面就要實時地識別客戶的意圖和話術(shù)推薦，需要對并發(fā)和延遲有非常高的要求。經(jīng)過優(yōu)化，現(xiàn)在可以做到在1萬塊錢的GPU上并發(fā)100路，單卡有8卡無CPU瓶頸，接近線性加速。這在兩年前是幾乎不可能的，當時我們評估下來的成本是有幾百萬，但經(jīng)過我們后來的一系列技術(shù)優(yōu)化，現(xiàn)在1萬塊錢可以支持100路，假設(shè)我是幾千人的呼叫中心，這個成本也是相當?shù)偷摹?/p>

另一方面，可以做到端到端極低的轉(zhuǎn)寫延遲。來自兩個層面：一是算法的優(yōu)化。可以重用在歷史的片斷和結(jié)果，使得實時語音轉(zhuǎn)寫時不需要重新計算，這個可以大幅度降低轉(zhuǎn)寫的成本。二是在工程上，不管從數(shù)據(jù)調(diào)度還是底層JIT Inference，都做了大量的優(yōu)化來降低速度，使得系統(tǒng)能夠在遠低于市場平均水平做到低延時、高并發(fā)的轉(zhuǎn)寫。

第四個方面，也是非常關(guān)鍵的問題，如何降低部署和運維的成本。

舉一個保險行業(yè)的例子，推出新業(yè)務(wù)時，就需要調(diào)整和配置新的話術(shù)，但此時都需要收集和生產(chǎn)標注成本，這個中間的成本非常高。我們看到交付客戶時，供應(yīng)商需要有10個人團隊在客戶那邊駐廠，客戶也需要有5個人全職配置這個東西。這就很難規(guī)模化，邊際成本非常高，就很難用SaaS的商業(yè)模式運行。為了滿足這個訴求，我們就必須去最大限度降低標注和生產(chǎn)的邊際成本。

為此，我們采用了一系列的技術(shù)優(yōu)化，包括Active Learning、Multi-Task Learning、預(yù)訓(xùn)練等技術(shù)降低標注成本、提升標注效率，我們現(xiàn)在能通過非常低的成本生產(chǎn)新的語音標簽。比如，使用Active Learning可以砍掉80%的標注，原來100個，現(xiàn)在只需要20個標注就能完成同樣的效果。以前是10個人，現(xiàn)在就砍成1-2個人，業(yè)務(wù)也不需要專門的團隊負責，就可以實時配置。

最近有一些新的模型出現(xiàn)，比如說大家關(guān)注的GPT-3，其中基于少樣本學(xué)習(xí)的能力，可以擴大模型和數(shù)據(jù)的量級，從而提升效果。

另外一個角度，從場景化方面，如何基于預(yù)訓(xùn)練模式，通過對場景化的算法優(yōu)化，在特定場景下用很少的標記數(shù)據(jù)也能做到。這是我們最近的新工作，通過在類的表征空間里優(yōu)化少樣本學(xué)習(xí)的效率，使得比世界級的研究機構(gòu)更好的水平。這個是我們僅僅標注樣本的情況下，就能做到80%的表現(xiàn)。

剛剛說的是技術(shù)能力，包括語言識別、語義理解、如何降低部署和運營成本。除此之外，還需要對這個場景有更深刻的理解，才能真正讓AI去賦能和提升銷售的轉(zhuǎn)化率，這就需要打通溝通的過程和溝通的結(jié)果。

溝通的過程，如何做信息的傳遞和價值的傳遞，傳統(tǒng)的做法是讓銷售運營去配置很多的策略、寫很多模板等。這里會有兩個問題：一是完全基于人工的先驗規(guī)則，從來沒有經(jīng)過數(shù)據(jù)驗證，也不知道這樣做到底好不好；二是也不知道銷售到底是不是這樣做的，所有的會話數(shù)據(jù)對于銷售主管來說，就是一個黑盒子，之前沒有任何技術(shù)手段可以洞察和了解這個過程當中到底發(fā)生了什么，到底是不是我想的這樣。

我們要做的事情是打通溝通過程和結(jié)果之間的橋梁，用數(shù)據(jù)驅(qū)動的方式尋找溝通過程中與溝通結(jié)果相結(jié)合的環(huán)節(jié)，以完成效率的提升。

比如在教育行業(yè)，我們通過數(shù)據(jù)驅(qū)動的方式找到最優(yōu)的流程，再結(jié)合業(yè)務(wù)的知識，連接過程的結(jié)果。比如了解說這里不同的話術(shù)之間，對于成單率的影響是多少。

具備了剛剛說的條件，第一個條件是頂尖的技術(shù)，足夠解鎖這些應(yīng)用的技術(shù)；第二個是要有行業(yè)的know-how，要知道過程和結(jié)果是如何連接，有了兩個之后就能打造營收-增長的閉環(huán)。閉環(huán)有三個節(jié)點：首先對銷售過程進行洞察和分析；然后通過分析的結(jié)果，提升銷售的能力；除了提升銷售能力之外，還給銷售進行輔助和指導(dǎo)。通過形成這樣的閉環(huán)，去整體來提升銷售的業(yè)績。

在這個閉環(huán)中可以打造很多不同的應(yīng)用，包括做線索的篩選、實時輔助的系統(tǒng)、執(zhí)行力監(jiān)督、銷售的培訓(xùn)。這些長在閉環(huán)上的應(yīng)用，就依托于以上提及核心的技術(shù)，以及對溝通過程和結(jié)果的連接。

第一個應(yīng)用是線索評分。

我們在銷售流程里會有兩種不同的線索：一是公函線索；二是私函線索。公函線索有一個特點，它是歷史上有跟進和溝通過程，但最后沒有轉(zhuǎn)化的線索。這些線索存在最大問題是跟進效率比較低，很多時候我們只是用人工簡單的策略找到想要跟進的線索。通過這樣的手工策略是很難判斷，需要精確篩選哪些是高意向線索，才能大幅度提升銷售效率。私函線索也是一樣的問題，私函有幾百個線索，由于人的精力是有限的，如何合理分配精力，把重點的精力和最高標準的流程用到最先優(yōu)先級的客戶，提升線索轉(zhuǎn)化率的關(guān)鍵節(jié)點。我們會結(jié)合客戶歷史的溝通數(shù)據(jù)、客戶歷史的行為、畫像，通過中間的AI模型的pipeline來預(yù)測意向度，做產(chǎn)品推薦和預(yù)測業(yè)務(wù)相關(guān)的指標，以此提升銷售的效率。

以保險行業(yè)為例，我們最終實現(xiàn)成單率提升2.68倍，每通通時提升1.62倍。將不同方法在不同行業(yè)、不同客戶進行驗證，最終驗證公函成單率提升2-3倍以上。這是通過剛剛一套技術(shù)方法論能顯著地提升銷售業(yè)績。

第二個是坐席輔助系統(tǒng)。

在我們了解到溝通過程對結(jié)果產(chǎn)生影響之后，機器就能在溝通過程當中對坐席進行實時的輔助，實時輔助也是基于剛剛說的低延時、高準確的核心AI能力來打造的。另外，過程和結(jié)果之間怎么打通？我們要基于數(shù)百萬小時的行業(yè)語音數(shù)據(jù)，從里面挖掘、提取和驗證中間有哪些話術(shù)和流程。有些需要擺脫模板的思維，不是人工專家定義了這樣的模板效果就會更好，而是通過數(shù)據(jù)驅(qū)動和生成模型相結(jié)合，去真正做到結(jié)果和過程的關(guān)聯(lián)。

實際的落地案例就有兩個主要效果：一是針對銷售的新人。銷售行業(yè)的新人流失率非常高，銷售新人的業(yè)績就會成為瓶頸。發(fā)現(xiàn)用了這個東西之后，新人業(yè)績可以增長更快。二是對全體的坐席。有的銷售坐席工作司齡有一定年限，但是實際上能力還是有很多可以提升的地方，跟公司的銷冠比起來有很多可以提升的內(nèi)容。這時我們把（支持給到）銷售行業(yè)里的銷冠，轉(zhuǎn)移到那些可能有很大提升空間的人身上，從而幫助整個團隊提升效率和團隊業(yè)績。

光做實時輔助還不夠，現(xiàn)在銷售管理非常大的痛點，就是只知道結(jié)果，而不知道過程，不知道到底團隊的問題在哪里。這時就需要通過AI的標簽和整套畫像體系來分析到底最需要關(guān)注哪些坐席和快速定位一些問題。借助執(zhí)行力監(jiān)督系統(tǒng)，我們把問題定位和管理效率提升到原來的800%以上。

總結(jié)一下，我們希望打造完整的解決方案，不光是在低附加值的場景替代人，不光是通過機器人節(jié)省成本，而是通過一整套的銷售決策、輔助系統(tǒng)，來全流程地用AI賦能，真正做到高附加值上提升業(yè)績。對于一個企業(yè)來說，大部分情況下，提升業(yè)績的價值會遠遠大于替代人力節(jié)省成本的價值。

這個是我們完整的架構(gòu)，從底層上會做很多技術(shù)優(yōu)化，包括少樣本學(xué)習(xí)、快速推理、可解釋的預(yù)測、主動的學(xué)習(xí)、話術(shù)的挖掘，以此支持上面全流程的銷售的決策的應(yīng)用，來達到提升銷售轉(zhuǎn)化率和銷售效率的結(jié)果。

我們目前服務(wù)的行業(yè)主要集中在金融、保險、教育等行業(yè)。

我今天的演講就到此，謝謝大家。

會后，楊植麟接受了雷鋒網(wǎng)的專訪，以下為Q&A環(huán)節(jié)。

問：從去年到現(xiàn)在的一年時間里，您主要做了哪些工作呢？無論是從研究上還是從產(chǎn)品的落地上，有沒有哪些徹底推翻的一些想法，或者說驗證過的正確的一些理論？

答：我覺得很重要的一個方向是去降低部署交付的成本。很多時候傳統(tǒng)SaaS模式為什么成立，是因為它的邊際成本非常低，基本上所有的客戶都在云上，用同一個軟件去交付不同的客戶。所以新來一個客戶，邊際成本特別低。但是AI在這個場景中不完全成立，因為一是很多大客戶需要私有化部署，二是對于新的公司，語義標簽是需要重新標注，它交付上的邊際成本會比較高，會導(dǎo)致整個行業(yè)的利潤率就沒有那么高。

我剛才說它的交付成本產(chǎn)生有兩個原因：一個是私有化部署，還有很多定制的需求，第二個是說去邊際的標注成本。為此我們分別從產(chǎn)品和技術(shù)兩方面去解決，一方面提供通用 API、智能模塊的封裝，更加微服務(wù)化，更加支持二次開發(fā)和靈活定制，這其實就相當于把標準產(chǎn)品和項目解決方案結(jié)合起來。

其次是降低AI的邊際成本，我們會去做預(yù)訓(xùn)練模型，包括像XLNet、主動學(xué)習(xí)、多任務(wù)學(xué)習(xí)、小樣本學(xué)習(xí)，其實都是為了去解決這樣的一個問題。

這兩個方面我覺得是我可能是最近很長一段時間比較最關(guān)注的問題。

問：行業(yè)場景上的落地是當下非常關(guān)注的這樣一個話題，循環(huán)智能也是致力于用自然語言處理技術(shù)為企業(yè)銷售提供服務(wù)，從落地的角度，在這一年你們最大的進展有哪些？或者是在哪些環(huán)節(jié)上取得了一個大幅度的提升，是否符合您的預(yù)期？

答：我覺得進展還是很大的，尤其是在打通銷售的過程和結(jié)果方面。因為以前其實對話過程完全是個黑盒子，沒有人有能力或者意識去分析這個數(shù)據(jù)，找到中間到底是哪些要素是跟結(jié)果是關(guān)聯(lián)的。NLP就是去做了這樣一件事情，比如可以把歷史上所有會話的記錄，不管是文本還是語音，通過結(jié)構(gòu)化處理，跟結(jié)果做映射，這樣就可以解鎖很多場景，包括實時輔助、對話機器人、執(zhí)行力監(jiān)督等。

問：教育金融互聯(lián)網(wǎng)行業(yè)目前是循環(huán)智能最主要的幾大落地的行業(yè)，從這些行業(yè)里你們發(fā)現(xiàn)了怎樣的用戶訴求的特征，這對于你們試圖利用NLP技術(shù)改善行業(yè)里面的銷售流程，或者是銷售人員溝通方面有怎樣的一個幫助？

答：我覺得最大的訴求就是不僅要做到降本，而且要做到增效。

從2017年至今，大部分的應(yīng)用主要還是在對話機器人，能做的事情主要就是替代人，降低人力成本，但它沒有辦法做到業(yè)績的提升。相比之下，人力成本的降低跟業(yè)績的提升，邊際利潤是非常少的。對于整個產(chǎn)業(yè)來講，提升也非常有限，只是讓更多的人失業(yè)了。

我覺得增效還是很重要，最后導(dǎo)致的結(jié)果就是會提升整體的業(yè)績，這也是當下企業(yè)最大的訴求。增效訴求怎么來的？是因為很多流量現(xiàn)在越來越貴，企業(yè)只能去增效，所有的資源都要去最大化地應(yīng)用。現(xiàn)在剛好出現(xiàn)了這一波技術(shù)新要素，能夠通過Transformer、預(yù)訓(xùn)練等真正做到績效的提升。

對我們來講，我們現(xiàn)在也很注重對價值的衡量。不管是去做線索的打分，還是去做實時輔助，我們現(xiàn)在都會去嚴格做很多ABtest，然后結(jié)果量化產(chǎn)品到底能帶來多少價值。我覺得這個是企業(yè)最關(guān)注的事情，而且是一個我們很大的實踐經(jīng)驗。

問：疫情給你們帶來了哪些機遇和挑戰(zhàn)呢？在新基建的推動下，循環(huán)智能又打算扮演一個怎樣的角色？

答：先說挑戰(zhàn)，挑戰(zhàn)就是我覺得影響可能是暫時的，之前會有一定影響，整個行業(yè)對外的IT采購沒有跑那么快，很多客戶的流程會受到影響，但我們現(xiàn)在方案都基本上已經(jīng)恢復(fù)了。

機遇的話，我覺得主要是很多數(shù)據(jù)采集會更加完善，我們其實是非常依賴于數(shù)據(jù)的采集，而所有行業(yè)轉(zhuǎn)型都要先經(jīng)過數(shù)字化，再去做智能化。

我們現(xiàn)在發(fā)現(xiàn)，很多行業(yè)其實沒有數(shù)字化這個過程，沒有數(shù)據(jù)，AI就基本上什么都做不了。我覺得疫情促使了很多事情去往線上走，線上化勢必會帶來一個結(jié)果就是，現(xiàn)在有更多數(shù)據(jù)能夠被采集起來，所以從長期來看，我覺得對我們是一個利好，當然它可能需要一定的周期。

注：自然語言處理（NLP）是計算機科學(xué)，人工智能，語言學(xué)關(guān)注計算機和人類（自然）語言之間的相互作用的領(lǐng)域。

雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。