過去的一年里，OpenAI開發(fā)的ChatGPT掀起了大模型的熱潮，使人工智能在多個(gè)領(lǐng)域取得了驚人的突破和變革。然而我們發(fā)現(xiàn)，市場上的通用大模型雖功能強(qiáng)大，但似乎并不能完全滿足不同企業(yè)的個(gè)性化需求。

十年來，云問科技在企業(yè)知識(shí)管理方面積累了豐富的經(jīng)驗(yàn)，深知企業(yè)對于知識(shí)管理的需求。因此我們提出了企業(yè)私有化知識(shí)大模型的概念，旨在為企業(yè)提供更貼近自身業(yè)務(wù)需求的人工智能解決方案。

我們深入研究了國內(nèi)外的基線大模型，結(jié)合企業(yè)業(yè)務(wù)數(shù)據(jù)進(jìn)行了大量的微調(diào)訓(xùn)練，推出了「云中問道」企業(yè)私有化知識(shí)大模型。解決了本地知識(shí)庫結(jié)合大模型可能出現(xiàn)的難點(diǎn)問題。

（歡迎關(guān)注公眾號(hào)：云問科技）

同時(shí)，針對生成式模型的合規(guī)與幻覺問題，進(jìn)行了大量的優(yōu)化，并在生成之前對輸入數(shù)據(jù)進(jìn)行過濾篩選，生成之后對輸出數(shù)據(jù)進(jìn)行合規(guī)與事實(shí)性的檢測，基本實(shí)現(xiàn)了全流程的可控生成。

同時(shí)在大模型國產(chǎn)化方面，云問科技與華為西安未來人工智能計(jì)算中心一起，在基于華為NPU的LLaMA適配開源項(xiàng)目中實(shí)現(xiàn)了從模型到應(yīng)用，從軟件到硬件全方案國產(chǎn)化，讓企業(yè)用起來更加安心。

如何讓大模型真正在企業(yè)中落地？是我們一直深刻思考的問題。所以很長時(shí)間以來，云問都在研究如何將大模型與企業(yè)現(xiàn)有的產(chǎn)品結(jié)合，為企業(yè)提供更高效、智能的知識(shí)管理和服務(wù)解決方案。

我們設(shè)計(jì)了一整套大模型產(chǎn)品矩陣——Y-ASK（云問），包括ChatYun-云中問道企業(yè)私有化知識(shí)大模型、AIgalaxy-AIGC應(yīng)用、ServiceAI-智慧營服以及Know+-知識(shí)智能。

01

智慧源于專屬

璀璨始于便捷

我們希望能夠帶給用戶像天上的繁星一般多樣化的應(yīng)用，可供用戶在有需求時(shí)，及時(shí)選用這些根據(jù)其企業(yè)自身場景設(shè)計(jì)的應(yīng)用，并且諸多應(yīng)用之間有鏈接和呼應(yīng)，能夠最大限度在企業(yè)各類場景中發(fā)揮價(jià)值。

但傳統(tǒng)大模型坐落地應(yīng)用，需要的開發(fā)和部署都涉及十分復(fù)雜的技術(shù)要求，需要對深度學(xué)習(xí)、自然語言處理等領(lǐng)域有深入的專業(yè)知識(shí)。普通用戶或非技術(shù)背景的用戶難以玩轉(zhuǎn)，從數(shù)據(jù)預(yù)處理、模型訓(xùn)練到部署等環(huán)節(jié)都是非常耗時(shí)的過程，需要耗費(fèi)大量的時(shí)間和人力。

另外，傳統(tǒng)通用模型往往無法滿足用戶在不同應(yīng)用場景上的特定需求和靈活性。

針對這個(gè)情況，云問將專屬的行業(yè)數(shù)據(jù)微調(diào)大模型和針對性的AIGC應(yīng)用融合提供。基于這套系統(tǒng)，每個(gè)人可分分鐘手搓一個(gè)大模型快速應(yīng)用，不需任何開發(fā)過程和繁瑣的配置，通過簡單的配置即可上線使用，大大節(jié)省了應(yīng)用創(chuàng)建的時(shí)間，快速實(shí)現(xiàn)落地。

我們將AIGC應(yīng)用平臺(tái)的應(yīng)用分為簡單應(yīng)用與綜合應(yīng)用。簡單應(yīng)用主要面向不依賴大模型以外的數(shù)據(jù)即可完成的單任務(wù)應(yīng)用，綜合應(yīng)用面向需要綜合多個(gè)外部系統(tǒng)或者應(yīng)用的復(fù)雜類任務(wù)。

目前該平臺(tái)已經(jīng)提前在多個(gè)客戶落地試運(yùn)行。如某客服中心可利用該平臺(tái)，根據(jù)管理者表達(dá)的重點(diǎn)訴求，直接調(diào)用多個(gè)客服中心系統(tǒng)數(shù)據(jù)，自動(dòng)生成綜合運(yùn)營報(bào)告。

02

智慧源于專屬

服務(wù)創(chuàng)造未來

Part.1 問答效果upupup！

基于大模型發(fā)布，本次問答系統(tǒng)在許多方面都有升級(jí)改進(jìn)。云問利用私有化知識(shí)大模型對原來的客服機(jī)器人進(jìn)行系統(tǒng)升級(jí)，引入改寫式問答、文檔生成式問答功能，這將極大地提升問答體驗(yàn)。

改寫式問答能夠?qū)⒂脩?span id="hzpqbde" class="keyword">提出的復(fù)雜問題拆分成多個(gè)知識(shí)點(diǎn)，然后從已有的知識(shí)庫中匯總相關(guān)信息，通過大模型進(jìn)行融合，以簡潔明了的方式回答用戶。這種問答方式不僅適用于場景問題，還可以根據(jù)用戶的不同需求提供多種角色選擇，使回答更加貼切和易于接受。同時(shí)，還優(yōu)化了上下文理解能力，支持更豐富的獲取方式。

針對沒有 FAQ 庫的企業(yè)，云問提供了基于私有化知識(shí)大模型的文檔生成式問答，用戶提問后，可從提供的產(chǎn)品或政策文檔中定位相關(guān)內(nèi)容，并通過大模型加工，找到合適的回答。這種方法不僅可以從單篇文檔中找到答案，還能支持跨文檔的知識(shí)點(diǎn)。

此外，還可以實(shí)現(xiàn)雙語問答以及多模態(tài)問答，無論是圖片還是表格，都可以從文檔中找到相關(guān)內(nèi)容，并為用戶提供豐富多樣的問答體驗(yàn)。

Part.2 客服知識(shí)構(gòu)建，輔助人工提升服務(wù)客戶滿意度！

如果一個(gè)企業(yè)能夠把知識(shí)加工得更加精細(xì)，那么其消費(fèi)者的問答體驗(yàn)肯定會(huì)更好。

因此在ServiceAI智慧營服這塊，我們也有知識(shí)的構(gòu)建功能，通過FAQ抽取、相似問的生成及場景的搭建三大方式構(gòu)建客服的話術(shù)庫。例如在FAQ抽取方面，大模型自動(dòng)生成問題答案，隨后人工審核入庫，提高話術(shù)庫的準(zhǔn)確度。

構(gòu)建好的知識(shí)能夠?yàn)榭头墓ぷ鲙碓S多方面的提升。

首先是畫像抽取，通過大模型實(shí)時(shí)從用戶以往的服務(wù)記錄中提取出用戶關(guān)注的重點(diǎn)，為客服提供巨大的幫助。此外，我們發(fā)現(xiàn)在客服和銷售中心中常常存在類似專家角色的人員，他們的服務(wù)記錄和話術(shù)都是企業(yè)寶貴的資產(chǎn)。通過大模型分析，可以幫助生成這些優(yōu)秀話術(shù)，用于未來培訓(xùn)和其他人的話術(shù)輔助。

其次云問開發(fā)了流程話術(shù)抽取工具，能夠快速根據(jù)服務(wù)記錄生成企業(yè)的歷史服務(wù)記錄流程話術(shù)。在實(shí)踐中，我們對不同類型的客戶進(jìn)行了分析，包括技術(shù)工程和化妝品消費(fèi)，提取出不同領(lǐng)域的流程話術(shù)。這些流程話術(shù)可以引導(dǎo)不同角色用戶參加我們的活動(dòng)，顯著提高效果。

第三是工單抽取功能，可以通過大模型快速提取客服在服務(wù)過程中所需填寫的信息，比如用戶年齡、地址等，可以用于快速總結(jié)服務(wù)事件。

最后客服人員在提供服務(wù)后通常需要進(jìn)行總結(jié)。通過大模型快速生成服務(wù)小結(jié)，并抓取用戶關(guān)鍵信息節(jié)點(diǎn)，可以有效避免信息丟失或不專業(yè)的情況。這樣，客戶不再需要重復(fù)說明，提高了服務(wù)效率。

以上工具能夠大幅提高客服人員的服務(wù)效率，節(jié)省時(shí)間，讓一個(gè)人的服務(wù)量從100個(gè)增加到150個(gè)。同時(shí)每個(gè)服務(wù)的時(shí)長縮短，大大提升了整體服務(wù)量。

Part.3 一對N人機(jī)耦合，快速打造銷冠團(tuán)隊(duì)！

在與客服行業(yè)從業(yè)者交流時(shí)，我們發(fā)現(xiàn)他們希望機(jī)器人在客戶服務(wù)中起主導(dǎo)作用，當(dāng)機(jī)器人無法解決問題時(shí)，再轉(zhuǎn)接給人工客服。

每個(gè)客服代表或銷售代表都像團(tuán)隊(duì)主管，雇傭不同的機(jī)器人。在這種情況下，我們可以實(shí)時(shí)展示三通電話的進(jìn)程，并在判斷客戶有投訴、消費(fèi)或買單可能時(shí)接管服務(wù)。

然而，由于過去的問答和交互體驗(yàn)不夠流暢，實(shí)現(xiàn)人機(jī)耦合相當(dāng)困難。但現(xiàn)在，AI實(shí)時(shí)生產(chǎn)和實(shí)時(shí)問答體驗(yàn)已顯著提升，使得在不太復(fù)雜的場景下，客服人員可以實(shí)現(xiàn)真正的人機(jī)耦合。

通常情況下，由于不能讓新員工直接面對真實(shí)客戶，因此難以通過真實(shí)情景進(jìn)行客服培訓(xùn)。

現(xiàn)在可以使用大模型進(jìn)行對練，學(xué)習(xí)以前的服務(wù)記錄，快速構(gòu)建用戶真實(shí)場景，讓客服應(yīng)對各種難題和刁鉆問題。可能包括投訴處理、購買流程等。

在此過程中，我們可以實(shí)時(shí)提供質(zhì)檢，以便客服快速發(fā)現(xiàn)問題并做出總結(jié)。

此外，還可以進(jìn)行隨練隨評，在整通隊(duì)列完成后，機(jī)器會(huì)自動(dòng)完成畫像評分，評估崗位技能矩陣，幫助客戶了解自己的問題所在并針對性地解決。

03

智慧源于專屬

知識(shí)啟發(fā)創(chuàng)新

知識(shí)管理是企業(yè)數(shù)字化轉(zhuǎn)型的關(guān)鍵。知識(shí)是企業(yè)重要的智力資產(chǎn)，通過構(gòu)建知識(shí)中心，企業(yè)可以更好地賦能業(yè)務(wù)創(chuàng)新。而大模型的出現(xiàn)，為知識(shí)管理帶來了新的機(jī)遇。

云問知識(shí)工程通過對知識(shí)進(jìn)行分類、加工、消費(fèi)，助力企業(yè)實(shí)現(xiàn)知識(shí)體系的完善和科學(xué)化。十年來，我們在知識(shí)工程領(lǐng)域積累了豐富的經(jīng)驗(yàn)，提供了從自動(dòng)化知識(shí)構(gòu)建到統(tǒng)一知識(shí)體系的解決方案，適用于知識(shí)密集型行業(yè)，如研究院、飛機(jī)制造、汽車制造和建筑設(shè)計(jì)等。通過知識(shí)工程，企業(yè)可以在數(shù)字化轉(zhuǎn)型道路上走得更扎實(shí)，創(chuàng)新更有基礎(chǔ)。

云問知識(shí)工程涉及到不同類型的知識(shí)，包括FAQ、SPO、關(guān)系、流程等。對于不同的企業(yè)或場景，知識(shí)最終呈現(xiàn)的形式和方式也不同。因此，我們將知識(shí)區(qū)分為不同類型，以便在知識(shí)加工過程中明確不同對象的知識(shí)類比。

在知識(shí)工程的能力層，我們會(huì)進(jìn)行文件預(yù)處理、多模態(tài)識(shí)別或視覺定位等操作，以了解知識(shí)所在的位置。此外，由于企業(yè)可能已經(jīng)使用了許多不同的系統(tǒng)，此時(shí)需要進(jìn)行知識(shí)中間態(tài)接口和任務(wù)能力的開發(fā)。

我們的知識(shí)工程平臺(tái)集標(biāo)注、訓(xùn)練、審核和抽取于一體，使企業(yè)在一個(gè)平臺(tái)上完成所有工作，便于知識(shí)復(fù)用。在知識(shí)加工完成后，可以無縫對接到企業(yè)的知識(shí)中心，最后通過檢索、問答、決策、支撐和推薦等多種形式進(jìn)行知識(shí)消費(fèi)。

Part.1 大模型加持，最快速全面的知識(shí)構(gòu)建！

在大模型知識(shí)構(gòu)建方面，云問將知識(shí)構(gòu)建拆分為FAQ構(gòu)建、圖譜構(gòu)建、多模態(tài)構(gòu)建和關(guān)鍵信息構(gòu)建等環(huán)節(jié)。

首先，在FAQ構(gòu)建方面，我們從不同數(shù)據(jù)文檔中生成 QA 和問題相似問，然后生成答案相似問，接著進(jìn)行人工審核，最后供機(jī)器人消費(fèi)。

在圖譜構(gòu)建方面，我們堅(jiān)持將大模型與知識(shí)圖譜相結(jié)合，使用知識(shí)圖譜讓大模型在生成時(shí)更具可控性和精準(zhǔn)性。同時(shí)，我們也利用大模型來構(gòu)建圖譜能力，例如標(biāo)簽標(biāo)注提取、摘要生成、文檔分類等。此外，我們還可以進(jìn)行主題抽取、屬性抽取和關(guān)聯(lián)關(guān)系抽取，從而實(shí)現(xiàn)文檔的多維度調(diào)用。

在多模態(tài)知識(shí)構(gòu)建方面，云問實(shí)現(xiàn)了文檔段落抽取、圖片抽取和公式提取等功能。用戶可以通過圖片識(shí)別定位、標(biāo)題判斷、人工審核標(biāo)注等操作，將圖片數(shù)據(jù)轉(zhuǎn)化為可編輯的公式類型知識(shí)。對于復(fù)雜的公式，用戶只需提供數(shù)據(jù)，機(jī)器即可給出結(jié)果。

Part.2 搜得更快，答案直給！

-聚合搜索-

知識(shí)消費(fèi)場景的重要部分就是搜索。我們提出了聚合搜索的概念，認(rèn)為不能單純依賴大模型來定位知識(shí)，而是需要保留原有的搜索形式，但通過優(yōu)化語義適配和推薦算法來提高搜索的準(zhǔn)確性。

當(dāng)用戶提問時(shí)，系統(tǒng)會(huì)在后臺(tái)找到所有相關(guān)的知識(shí)點(diǎn)，并根據(jù)優(yōu)先級(jí)和訪問熱度進(jìn)行排序。對于能夠通過MRC（機(jī)器閱讀理解）找到答案的問題，系統(tǒng)會(huì)直接給出答案，并標(biāo)明知識(shí)來源。同時(shí)，系統(tǒng)還會(huì)通過圖譜推薦相關(guān)的知識(shí)，幫助用戶更好地理解知識(shí)體系。

-文內(nèi)問答-

除了聚合搜索，當(dāng)用戶已經(jīng)定位到某一篇文檔時(shí)，系統(tǒng)還提供了文內(nèi)問答功能。對于篇幅較長的文檔，用戶可以通過提問來獲取文檔中的關(guān)鍵信息。系統(tǒng)通過長文檔拆解技術(shù)對文檔進(jìn)行預(yù)處理，然后根據(jù)用戶的問題在文檔中找到相應(yīng)的答案。此外，系統(tǒng)還會(huì)采用證據(jù)定位技術(shù)，標(biāo)明回答內(nèi)容的來源，方便用戶追溯。

-處置分析-

除了能夠主動(dòng)搜索知識(shí)，在應(yīng)急災(zāi)害發(fā)生后，通過結(jié)合處置圖譜和大模型，系統(tǒng)還可以針對不同情況為用戶提供處置分析。

例如，當(dāng)用戶提問如何處理機(jī)動(dòng)車在道路上撞人后逃逸的事故后，系統(tǒng)會(huì)分析事發(fā)情況、區(qū)域政策、傷亡情況等因素，給出處置建議和相關(guān)知識(shí)點(diǎn)。整個(gè)處置分析過程實(shí)際上是大模型和知識(shí)圖譜相結(jié)合的結(jié)果。

Part.3 幫你寫最貼合業(yè)務(wù)的報(bào)告！

在知識(shí)消費(fèi)領(lǐng)域，除了前面提到的對于知識(shí)的搜索、處置建議的生成，云中問道大模型還可以進(jìn)行智能撰寫。

在撰寫過程中，根據(jù)以往同類型的文檔進(jìn)行強(qiáng)化訓(xùn)練，例如設(shè)計(jì)一些類型、樣式變更、續(xù)寫或流程干預(yù)等。這些操作都可以在整套知識(shí)編輯輔助平臺(tái)上實(shí)現(xiàn)，我們已經(jīng)在右側(cè)插入了一些插件，如WPS等，以便在撰寫文檔時(shí)提供輔助。同時(shí)能夠判斷文檔是否符合當(dāng)前的流程和規(guī)范，并且從某個(gè)地方找到一些信息來支撐和輔助撰寫。

對于事件報(bào)告，可以通過事件立方來完成對事件的分析、篩選和預(yù)測。通過對大模型的事件閱讀，我們可以發(fā)現(xiàn)每一類事件都有一個(gè)可梳理的發(fā)展路線，以及接下來的可能趨勢。

由于人類受限于對知識(shí)的閱讀量，無法在短時(shí)間內(nèi)快速獲取大量信息。因此，大模型的優(yōu)勢就體現(xiàn)出來了，如果將人工經(jīng)驗(yàn)與大模型相結(jié)合，可以快速產(chǎn)出高質(zhì)量的事件報(bào)告，幫助我們對事件進(jìn)行預(yù)測。

Part.4 智能培訓(xùn)，讓新員工更快上崗！

云問能夠通過圖像識(shí)別的技術(shù)、關(guān)鍵詞生成技術(shù)以及字幕生成技術(shù)來自動(dòng)生成培訓(xùn)視頻和課件，同時(shí)還能自動(dòng)生成考題，當(dāng)考試完成后，機(jī)器能夠自動(dòng)判卷，并根據(jù)考試成績定制推送新的學(xué)習(xí)內(nèi)容和考卷。

這將大大提升培訓(xùn)效率，同時(shí)降低培訓(xùn)投資成本。

04

落地場景

最后，我們認(rèn)為大模型在企業(yè)落地時(shí)，必須結(jié)合不同行業(yè)的場景。例如，在方志的數(shù)字宣傳平臺(tái)上，云問匯總了傳統(tǒng)的地方志內(nèi)容，方便用戶在搜索和撰寫時(shí)使用大模型能力。在出版社的知識(shí)管理中，我們將不同類型的知識(shí)匯總，利用大模型進(jìn)行學(xué)習(xí)。這使得搜索推薦和快速問答功能在平臺(tái)上得以實(shí)現(xiàn)，甚至可以指導(dǎo)工程領(lǐng)域的工作。

在政務(wù)應(yīng)用中，云問快速學(xué)習(xí)了政務(wù)服務(wù)事項(xiàng)，形成了政務(wù)知識(shí)中心。用戶可以在這里獲取服務(wù)辦理幫助，甚至可以在聊天過程中完成事件辦理。在工業(yè)領(lǐng)域，我們管理設(shè)備的全生命周期知識(shí)，包括故障定位、預(yù)測、案例生成和檢修單智能填寫等功能。這大大提高了設(shè)備管理的效率。

此外，云問還實(shí)現(xiàn)了技術(shù)標(biāo)準(zhǔn)的消費(fèi)和應(yīng)用，提高了研發(fā)效率。在汽車經(jīng)銷體系中，能夠讓銷售人員快速掌握汽車知識(shí)，維修人員能夠定位并解決故障。這些應(yīng)用都需要一個(gè)知識(shí)中心來驅(qū)動(dòng)。

除了上述案例，云問還在公共服務(wù)體系、智能黨建、消費(fèi)服務(wù)等場景中實(shí)現(xiàn)了大模型的行業(yè)落地。大模型在多個(gè)行業(yè)和場景中發(fā)揮著重要作用，為企業(yè)提供了強(qiáng)大的支持賦能。

在未來，云問將繼續(xù)推動(dòng)技術(shù)創(chuàng)新，不斷拓展AI對各領(lǐng)域的智能化升級(jí)。我們堅(jiān)信，智慧源于專屬，讓每家企業(yè)都能擁有個(gè)性化的智能化解決方案，讓每個(gè)人的生活都因智慧而更加美好！

欲了解或者獲得更多信息，請關(guān)注公眾號(hào)：云問科技。

免責(zé)聲明：市場有風(fēng)險(xiǎn)，選擇需謹(jǐn)慎！此文僅供參考，不作買賣依據(jù)。

關(guān)鍵詞：