哈工大劉挺：從知識圖譜到事理圖譜 | CNCC 2017

雷鋒網(wǎng)AI科技評論按：由中國計算機學(xué)會（CCF）主辦，福州市人民政府、福州大學(xué)承辦，福建師范大學(xué)、福建工程學(xué)院協(xié)辦的 2017 中國計算機大會（CNCC 2017）于 10.26—10.28 日在福州?海峽國際會展中心舉辦。大會除了14場特邀報告，還有2場大會主題論壇、40余場學(xué)術(shù)論壇、30余場特色活動以及3個頒獎大會，同期還將有80余家企業(yè)舉辦科技成果展。雷鋒網(wǎng)作為獨家戰(zhàn)略合作媒體對大會內(nèi)容進行了全程覆蓋和報道。

在“知識圖譜預(yù)見社交媒體”的技術(shù)分論壇上，哈爾濱工業(yè)大學(xué)劉挺教授做了題為“從知識圖譜到事理圖譜”的精彩報告。會后雷鋒網(wǎng)征得劉挺教授的同意，回顧和整理了本次報告的精彩內(nèi)容。

劉挺教授

劉挺教授的報告內(nèi)容分為四部分：知識圖譜與《大詞林》；事理圖譜概念的提出；事理圖譜國內(nèi)外相關(guān)工作；哈工大在事理圖譜方面的探索。

知識圖譜與《大詞林》

知識圖譜最早是通過人工搜集數(shù)據(jù)和標注數(shù)據(jù)來構(gòu)建的，隨著需求的多樣化和精細化（例如，需要獲得“XX疾病是否可以被XX藥物治療”，“XX人和XX人之間是否是敵人/朋友”等信息），人工構(gòu)建的知識圖譜越發(fā)難以滿足用戶多種多樣的需求。基于此，如何由機器去自動構(gòu)建大規(guī)模的知識圖譜已經(jīng)發(fā)展成為熱門的研究點。

知識圖譜，是基于二元關(guān)系的知識庫，用以描述現(xiàn)實世界中的實體(或概念，概念是實體的抽象，例如“水果”即為“蘋果”的概念)及其相互關(guān)系，其基本組成單位是『實體-關(guān)系-實體』三元組（triplet），實體之間通過關(guān)系相互聯(lián)結(jié)，構(gòu)成網(wǎng)狀結(jié)構(gòu)。通過知識圖譜，可以支持用戶按主題而不是按字符串檢索，從而真正地實現(xiàn)在語義層面上進行信息檢索。基于知識圖譜的搜索引擎，能夠直接向用戶反饋結(jié)構(gòu)化的知識，用戶不必瀏覽大量網(wǎng)頁，就可以找到自己想要獲得的知識。

封閉域知識圖譜和開放域知識圖譜各有優(yōu)劣

2014年年末，哈工大正式發(fā)布《大詞林》。現(xiàn)在只需在瀏覽器中鍵入www.bigcilin.com，即可訪問《大詞林》。《大詞林》是一種自動從網(wǎng)絡(luò)中爬取實體及實體的概念以形成基于上下位關(guān)系的通用知識圖譜。這意味著，如果用戶輸入的詞語不被《大詞林》所包含，《大詞林》即會實時地到互聯(lián)網(wǎng)上去搜索，以自動挖掘該詞語的上位概念詞，并將這些上位概念詞整理為層次結(jié)構(gòu)。比如輸入“林肯”，《大詞林》就會根據(jù)“林肯”在網(wǎng)絡(luò)中出現(xiàn)的語義信息，自動挖掘出“林肯”所具有的多個概念，例如“汽車”、“總統(tǒng)”、“交通工具”、“領(lǐng)袖”等，然后再根據(jù)這些概念的抽象程度，將這些概念刻畫為層次結(jié)構(gòu)。例如“領(lǐng)袖”相對于“總統(tǒng)”更加抽象，在圖中“領(lǐng)袖”的層次就比“總統(tǒng)”更高。

上圖左側(cè)為《大詞林》層次目錄的一部分，其骨架是《同義詞詞林（擴展版）》。《大詞林》選擇《同義詞詞林（擴展版）》作為骨架的原因在于：經(jīng)過反復(fù)的探討，劉挺教授帶領(lǐng)的團隊認為詞匯應(yīng)具有兩種類型，一種是“實體”與真實的事物相對應(yīng)，比如具體的人名、地名、機構(gòu)名；另一種是“概念”，是“實體”的抽象含義，比如“植物”、“水果”等。實體之間具有明顯的橫向關(guān)系，而“實體”和“概念”、“概念”和“概念”之間具有明顯的層次關(guān)系，因此詞匯之間應(yīng)具有由橫向關(guān)系和縱向關(guān)系所形成的網(wǎng)狀結(jié)構(gòu)。基于此，劉挺教授帶領(lǐng)的團隊將《同義詞詞林（擴展版）》作為《大詞林》層次（縱向）關(guān)系構(gòu)建的骨架。

這里簡單介紹一下作為《大詞林》的骨架-《同義詞詞林（擴展版）》存在的問題。《同義詞詞林》的第一個問題是僅具有固定的5層結(jié)構(gòu)，但面對千萬級乃至億萬級規(guī)模多領(lǐng)域、多樣性的詞匯，固定的結(jié)構(gòu)顯然無法對其進行有效描述；第二個問題是《同義詞詞林（擴展版）》包含的詞語數(shù)目非常有限，且大部分為抽象的概念，其規(guī)模不到十萬詞，顯然不適合實際應(yīng)用。基于此，劉挺教授帶領(lǐng)的團隊決心打破《同義詞詞林（擴展版）》的上述限制，從而形成了現(xiàn)在的《大詞林》。首先，《大詞林》的層數(shù)是不固定的，其根據(jù)詞語的抽象程度自動進行層次化；其次，《大詞林》中包含了很多具體的實體（例如人名、地名、機構(gòu)名），其規(guī)模是《同義詞詞林（擴展版）》的數(shù)百倍，并且還在不斷的擴充。

《大詞林》的特點在于能夠從多種信息源中自動地構(gòu)造詞匯和詞匯的上下位關(guān)系。這是劉挺教授帶領(lǐng)的團隊中一名博士生發(fā)表的一篇ACL會議論文（該會議是自然語言處理領(lǐng)域的頂級會議，被計算機學(xué)會評定為Rank A），這篇論文詳細地展示了如何自動的從多信息源里獲取實體概念詞的技術(shù)框架。

簡單來說，獲取概念詞的來源主要有三個，1）搜索引擎中檢索得到的高概率的同現(xiàn)詞，2）在線百科的類別標簽3）詞語的構(gòu)詞法，對于很多詞，其后綴即為該詞的概念詞，例如像微軟公司的公司就是微軟公司這個實體的概念詞。之后，采用排序算法對獲取得到的這些候選概念詞進行打分，然后截取超過一定閾值的候選概念詞保留到《大詞林》中。

上面的方法僅僅獲取了針對某個詞語的概念詞，如左圖所示。但是，概念詞之間是有明顯的層次關(guān)系的，如右圖所示，而《大詞林》的特殊之處就在于能夠自動形成概念詞之間的層次結(jié)構(gòu)。基于上述的處理方案，從《同義詞詞林（擴展版）》的十萬詞出發(fā)，現(xiàn)在的《大詞林》已經(jīng)成為一個具有千萬級詞匯量級的知識圖譜，并且其規(guī)模每天都在不斷的增長。

由于《大詞林》是自動構(gòu)建的，因此需要對其質(zhì)量做一個評估，以判別《大詞林》中是不是包含了很多的錯誤，到底可不可以實用。劉挺教授帶領(lǐng)的團隊對《大詞林》做過抽樣評估。結(jié)果顯示，針對某個詞語，找到其概念詞的準確率為85%，詞語之間的上下位關(guān)系識別的準確率為90%。

相比于其他知識圖譜，《大詞林》主要專注于語言學(xué)中詞匯的上下位關(guān)系的自動構(gòu)建，是一種語言的知識圖譜。當然，目前劉挺教授帶領(lǐng)的團隊也著手在《大詞林》中引入橫向關(guān)系，相信不久的將來就能看見更加全面的《大詞林》。

事理圖譜概念的提出

關(guān)于事理圖譜。現(xiàn)有的知識庫普遍是以“概念及概念間的關(guān)系”為核心的，缺乏對“事理邏輯”知識的挖掘。劉挺教授團隊認為在實際應(yīng)用中，事理邏輯（事件之間的演化規(guī)律與模式）是一種非常有價值的常識知識，挖掘這種知識對我們認識人類行為和社會發(fā)展變化規(guī)律非常有意義。舉個經(jīng)典例子，北京人買房子，買完房子下一步就是裝修，裝修完了就會買家具，如果在網(wǎng)上發(fā)現(xiàn)有人發(fā)微博說他買房子了，裝修公司就可以跟上去做廣告，這就是一種預(yù)測。事理圖譜并不是以名詞為核心節(jié)點的知識庫，而是以事件而且是抽象類事件為核心的事理邏輯知識庫。舉個例子，國家領(lǐng)導(dǎo)人訪問另一個國家，這就是一個抽象事件。劉挺教授的團隊三年前就提出了事理圖譜的概念。

事理圖譜只定義兩種事件間關(guān)系：一種順承，一種因果，這兩種關(guān)系都有時間順序。本質(zhì)上事理圖譜是一個事理邏輯知識庫，描述了事件之間的演化規(guī)律和模式，可以應(yīng)用在生活中的很多方面，比如事件預(yù)測 ，常識推理，消費意圖挖掘，對話生成等等。

事理圖譜與知識圖譜的區(qū)別，知識圖譜研究對象為名詞性實體及其關(guān)系，事理圖譜研究對象是謂詞性事件及其關(guān)系。知識圖譜主要知識形式是實體屬性和關(guān)系，事理圖譜則是事理邏輯關(guān)系以及概率轉(zhuǎn)移信息。事件間的演化關(guān)系多數(shù)是不確定的，而實體之間的關(guān)系基本是穩(wěn)定的。

事理圖譜中的事件定義。事理圖譜中的事件是一個泛化的抽象的事件，比如吃火鍋，去機場 ，看電影都可以，但要是說非常的具體，某年某月干了什么，這就不是事理圖譜中存儲的知識。但也不能太抽象，比如，去地方，做事情，也不是事理圖譜中存儲的知識。事件間的關(guān)系就兩種，一種順承關(guān)系，吃飯，買單，離開餐館，這就是很常見的事件順承關(guān)系。還有就是因果關(guān)系，我們認為因果關(guān)系是非常重要的，只有因果關(guān)系建立了，才能通過控制因變量去影響結(jié)果。

事理圖譜有3種典型的拓撲結(jié)構(gòu)， 第一種是鏈狀，順承關(guān)系為典型代表。第二種是樹狀，這其中有一種事件是心理事件，打算去做某事，并不是真做了；第三種是環(huán)狀，以打架報復(fù)住院為例，循環(huán)往復(fù)。

事理圖譜國內(nèi)外相關(guān)工作

與事理圖譜最相關(guān)的兩個研究方向是統(tǒng)計腳本學(xué)習(xí)和事件關(guān)系識別。統(tǒng)計腳本學(xué)習(xí)是與事理圖譜非常接近的一個研究領(lǐng)域。1975年，美國學(xué)者Schank提出腳本概念；2003年，日本學(xué)者提出自動獲取腳本的方法；2008年，Dan Jurafsky利用無監(jiān)督的方法構(gòu)建事件鏈，成為該方向一個具有代表性的先驅(qū)工作。2014至今，統(tǒng)計腳本相關(guān)研究工作進入了復(fù)蘇和發(fā)展階段。

除此之外，還有一條技術(shù)路線是事件間關(guān)系（時序和因果）識別。

哈工大在事理圖譜的研究

哈工大主要在兩個領(lǐng)域進行了事理圖譜探索性的工作，一方面是出行領(lǐng)域事理圖譜的構(gòu)建和應(yīng)用；另一方面是金融領(lǐng)域事理圖譜的構(gòu)建和應(yīng)用。

出行事理圖譜的潛在應(yīng)用

出行領(lǐng)域更多是順承關(guān)系，其構(gòu)建過程包括數(shù)據(jù)清洗、NLP預(yù)處理、事件抽取和泛化、生成候選事件對、順承關(guān)系識別、順承方向識別。

第二個是金融領(lǐng)域事理圖譜。

可將金融領(lǐng)域事理圖譜應(yīng)用于股市預(yù)測當中。

從知識圖譜到事理圖譜的總結(jié)

劉挺教授的總結(jié)：知識圖譜在各個領(lǐng)域精耕細作，逐漸顯露價值，但知識表示形式有待突破，推理能力有待提高。統(tǒng)計腳本學(xué)習(xí)和事件關(guān)系識別等事理圖譜相關(guān)研究越來越吸引研究者的關(guān)注。以“謂詞性短語”為節(jié)點，以事件演化（順承、因果）為邊的事理圖譜方興未艾。事理圖譜必將在預(yù)測、對話等領(lǐng)域發(fā)揮重要作用，有力地提升人工智能系統(tǒng)的可解釋性。

最后劉挺教授向他的合作者，哈工大社會計算與信息檢索研究中心的秦兵教授、劉銘副教授、丁效老師，以及博士生趙森棟、李忠陽、姜天文表示感謝。

以上內(nèi)容為劉挺教授在CNCC 2017 [ 知識圖譜遇見社交媒體 ] 論壇上的精彩報告，雷鋒網(wǎng)獲其獨家授權(quán)整理。

雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。