• <track id="oztn4"></track>
    <sup id="oztn4"><form id="oztn4"></form></sup>
    
    
    <mark id="oztn4"></mark>
  • <dfn id="oztn4"><samp id="oztn4"></samp></dfn>
      《地爆天星小姐》电影 ,麦子交换2免费观看2023年上映时间表 ,莫妮卡《爱我几何》,大牛影库战狼6欧式少女全部视频,三年大片国语版在线看,日本空姐电视剧,电影魔镜号中文字幕,和部长一起去出差旅是第几集
      全球「AI學(xué)術(shù)頂會(huì)」精華匯聚地
      您正在使用IE低版瀏覽器,為了您的雷峰網(wǎng)賬號(hào)安全和更好的產(chǎn)品體驗(yàn),強(qiáng)烈建議使用更快更安全的瀏覽器
      此為臨時(shí)鏈接,僅用于文章預(yù)覽,將在時(shí)失效
      人工智能 正文
      發(fā)私信給高秀松
      發(fā)送

      0

      IEEE Fellow黃建偉:「網(wǎng)絡(luò)經(jīng)濟(jì)、群體智能」跨界融合,智慧城市的新風(fēng)暴

      本文作者: 高秀松 2022-05-30 14:13
      導(dǎo)語(yǔ):聯(lián)邦學(xué)習(xí)、碳中和等熱門研究方向均與群體智能相關(guān)。

      自然界中,「螞蟻覓食」是一種尋常但奇特的現(xiàn)象。

      成群結(jié)隊(duì)的螞蟻,總是能夠在食物與蟻巢之間尋找到最佳路徑,快速地將食物搬運(yùn)至蟻巢中。這引起了生物學(xué)家的廣泛注意,在經(jīng)過(guò)多次研究實(shí)驗(yàn)之后,他們發(fā)現(xiàn):

      螞蟻在尋找食物過(guò)程時(shí)具備隨機(jī)性,沒(méi)有固定的方向和目標(biāo),但只要有一只螞蟻發(fā)現(xiàn)食物,這只螞蟻在搬運(yùn)食物回巢時(shí),就會(huì)留下一種微弱的氣味,即一種叫做「信息素」的物質(zhì)。其它螞蟻會(huì)沿著該氣味尋找到食物,然后再次留下氣味蹤跡。最終,越來(lái)越多的螞蟻加入其中,形成了一條最優(yōu)化的路徑。

      這種特性讓螞蟻在覓食行動(dòng)中,群體的效率遠(yuǎn)高于個(gè)體,不需要浪費(fèi)更多的時(shí)間與精力。換句話說(shuō),單只螞蟻覓食低效而低智,而當(dāng)螞蟻成群,就能爆發(fā)出一種隱形的群體智能,通過(guò)協(xié)作達(dá)到「整體最優(yōu)」

      類似的現(xiàn)象在自然界中比比皆是:大雁在遷徙時(shí)會(huì)排成陣列,在「人」和「一」中來(lái)回切換;鯡魚(yú)在面臨捕獵者時(shí)會(huì)相互「預(yù)警」;蜜蜂則擁有高效的「決策系統(tǒng)」。

      就連人類本身,也存在類似的「群體智能」:「世上本是沒(méi)有路的,走的人多了,也便有了路。」

      人們從A點(diǎn)走到B點(diǎn),起初會(huì)有無(wú)數(shù)條路徑,但最終會(huì)出現(xiàn)一條最優(yōu)的路徑,這正是人們?cè)趯?shí)踐中進(jìn)行無(wú)數(shù)次「探索」和不知覺(jué)中協(xié)作的結(jié)果。

      因此,不論是處于食物鏈頂端的人,還是諸如螞蟻、蜜蜂等低等動(dòng)物,在形成群體之后,都能爆發(fā)出一種群體智慧。這種智慧來(lái)源于群體各成員之間的「默契」與「配合」,進(jìn)而給群體帶來(lái)整體利益的「最優(yōu)解」。

      當(dāng)這些現(xiàn)象被觀察、解析之后,其內(nèi)在的群體智慧邏輯被借鑒至多個(gè)學(xué)科,例如社會(huì)學(xué)、組織行為學(xué)、經(jīng)濟(jì)學(xué)等等。

      也有不少學(xué)者將其應(yīng)用到人工智能領(lǐng)域,做了一系列研究,成果涵蓋從最初的「蟻群優(yōu)化算法」、「粒子群優(yōu)化算法」到后來(lái)的群體智能、眾包、群體計(jì)算等概念,并產(chǎn)生了比較多的應(yīng)用,如無(wú)人機(jī)協(xié)作、智能電網(wǎng)等等。

      其中,「群體智能」作為未來(lái)人工智能的5個(gè)重大方向之一(《新一代人工智能發(fā)展規(guī)劃》,國(guó)務(wù)院,2017),在學(xué)術(shù)界已經(jīng)引起廣泛關(guān)注,不少學(xué)者紛紛將「群體智能」與自身研究方向相結(jié)合,試圖以「群體智能」的視角來(lái)重新探索各種涉及到組織協(xié)作、參與者人數(shù)較多的問(wèn)題的解決之道。

      黃建偉正是其中之一。

      作為IEEE通信學(xué)會(huì)杰出講師,他于2016年當(dāng)選IEEE Fellow,當(dāng)選時(shí)年僅37歲,是當(dāng)年全球最年輕的幾個(gè)Fellow之一。官方給出的原因是,表彰其「在無(wú)線通訊網(wǎng)絡(luò)的資源管理及分配機(jī)制上的重大貢獻(xiàn)」。

      在具體研究方向上,黃建偉長(zhǎng)期專注于網(wǎng)絡(luò)優(yōu)化、群體智能和經(jīng)濟(jì)學(xué)交叉領(lǐng)域的開(kāi)創(chuàng)性研究,總共發(fā)表了7本英文學(xué)術(shù)專著,300多篇國(guó)際一流期刊和會(huì)議論文,谷歌學(xué)術(shù)總引用超過(guò)14400次。

      他的論文九次獲得國(guó)際會(huì)議和期刊的最佳論文獎(jiǎng),包含2011年「IEEE馬可尼無(wú)線通信論文獎(jiǎng)」(無(wú)線通信領(lǐng)域最重要的獎(jiǎng)項(xiàng)之一)。此外,他還曾獲得2009年IEEE通信協(xié)會(huì)亞太杰出青年研究學(xué)者獎(jiǎng)、2014年香港中文大學(xué)青年研究學(xué)者獎(jiǎng)。

      過(guò)去5到6年的時(shí)間里,黃建偉在「網(wǎng)絡(luò)+經(jīng)濟(jì)」的基礎(chǔ)上,拓展出群體智能的方向,著重探索解決群體智能領(lǐng)域一個(gè)長(zhǎng)期的公開(kāi)問(wèn)題:群智決策中如何驗(yàn)證事實(shí)正誤。

      而在群體智能這個(gè)領(lǐng)域,他的研究也深入到了聯(lián)邦學(xué)習(xí)、群智決策等細(xì)分方向,并且將成果應(yīng)用到了碳中和、交通、智慧城市等多個(gè)場(chǎng)景之中。

      近日,雷峰網(wǎng)-AI科技評(píng)論與黃建偉博士就「群體智能」這一話題進(jìn)行了對(duì)話,后者從「群體智能」的定義、研究?jī)?nèi)容、應(yīng)用、未來(lái)研究方向等多個(gè)方面進(jìn)行了深入淺出的講解。雷峰網(wǎng)-AI科技評(píng)論將其整理成文,以饗讀者。

      讓我們先來(lái)看看,什么是「群體智能」。

      1、從個(gè)體到團(tuán)隊(duì):不同研究對(duì)象的群體智能

      1992年,意大利學(xué)者M(jìn)arco Dorigo 受螞蟻覓食的靈感,在其博士論文里提出了「一種用來(lái)在圖中尋找優(yōu)化路徑的概率型算法」,即「螞蟻優(yōu)化算法」(ACO);三年后,社會(huì)心理學(xué)家James Kennedy和電氣工程師 Russell Eberhart 通過(guò)模擬鳥(niǎo)群覓食行為,提出了「粒子群優(yōu)化算法」(PSO)。

      這兩種算法出現(xiàn)之后,關(guān)于「群體智能」的研究開(kāi)始涌現(xiàn),相關(guān)論文逐年增加。

      由于這兩種算法都是受動(dòng)物覓食啟發(fā),研究的是幾乎沒(méi)有智能的昆蟲(chóng)(螞蟻、蜜蜂等)在形成整體之后,涌現(xiàn)出很強(qiáng)的智能性。因此,群體智能最早的含義,在英語(yǔ)語(yǔ)境下,被稱為“Swarm Intelligence”。

      根據(jù)Marco Dorigo的闡述,從廣義的角度看,「群體智能」指的是群居性生物通過(guò)協(xié)作而表現(xiàn)出的集體智能行為;而從學(xué)科研究的角度看,「群體智能」則指受自然界中群體協(xié)作行為啟發(fā),研究問(wèn)題求解算法或分布式系統(tǒng)理論與方法的學(xué)科。

      后來(lái),不少學(xué)者將「群體智能」與各類學(xué)科融合在一起,如社會(huì)學(xué)、組織行為學(xué)、人工智能等,來(lái)研究社區(qū)、團(tuán)體內(nèi),成員之間進(jìn)行互動(dòng),來(lái)實(shí)現(xiàn)整體收益的最優(yōu)。從這個(gè)角度看,群體智能又被稱為「Collective Intelligence」。

      「兩種說(shuō)法很多時(shí)候沒(méi)什么區(qū)別,大家也都是混用,只是從不同的角度出發(fā)而已。」

      黃建偉告訴雷峰網(wǎng)-AI科技評(píng)論,實(shí)際上,如果按照研究對(duì)象分,「群體智能」在業(yè)內(nèi)還有另一種叫法——Crowd Intelligence。與前兩種相比,Crowd Intelligence 以人為主,旨在研究大量的人如何實(shí)現(xiàn)智能決策的問(wèn)題。因而,Crowd Intelligence主要關(guān)注兩方面:

      • 組織問(wèn)題的計(jì)算化;

      • 計(jì)算問(wèn)題的組織化。

      所謂組織問(wèn)題的計(jì)算化,即將某個(gè)整體組織協(xié)調(diào)的問(wèn)題的計(jì)算變成分布式計(jì)算。

      比如,在一些網(wǎng)約車平臺(tái)上,每個(gè)司機(jī)都是獨(dú)立的個(gè)體,如何把這些司機(jī)有效地組織起來(lái),來(lái)實(shí)現(xiàn)整體資源的最優(yōu)分配,就需要將整個(gè)問(wèn)題通過(guò)去中心化的分布式計(jì)算來(lái)實(shí)現(xiàn)供需平衡。

      計(jì)算問(wèn)題的組織化,即將復(fù)雜問(wèn)題拆解為多個(gè)模塊,每個(gè)模塊由不同的單元負(fù)責(zé),最終將問(wèn)題消解掉。用比較通俗的話講,就是「大事化小、小事化了」

      引用國(guó)內(nèi)北航的兩位學(xué)者,李偉和吳文峻對(duì)于 Crowd Intelligence 的相關(guān)研究,其與 Collective Intelligence 的關(guān)系如圖所示:


      IEEE Fellow黃建偉:「網(wǎng)絡(luò)經(jīng)濟(jì)、群體智能」跨界融合,智慧城市的新風(fēng)暴

      從圖1不難看出, Crowd Intelligence 在數(shù)學(xué)意義上屬于Collective Intelligence 的子集,Crowd sourcing(眾包,一種分解任務(wù)的方法)和 Human computation(人類計(jì)算,一種計(jì)算方式) 的交集。

      因此,Crowd Intelligence 屬于群體智能(Collective Intelligence) 的一種,這也是黃建偉的研究方向之一,后續(xù)文章提到的「群體智能」,如無(wú)特別指出,皆指代Crowd Intelligence。

      Crowd Intelligence 的研究對(duì)象以 Crowd(人群)為主,旨在通過(guò)借鑒簡(jiǎn)單類群居生物表現(xiàn)出的群體智能,來(lái)解決人類生活中面臨的實(shí)際問(wèn)題,其與各學(xué)科的交融,尤其是與AI的融合,可在多個(gè)領(lǐng)域應(yīng)用。

      聯(lián)邦學(xué)習(xí)為例:

      傳統(tǒng)生產(chǎn)人工智能模型依賴大量數(shù)據(jù),在進(jìn)行數(shù)據(jù)預(yù)處理、標(biāo)注等環(huán)節(jié)之后,在大算力的服務(wù)器上進(jìn)行訓(xùn)練,然后調(diào)參、優(yōu)化等,最終產(chǎn)生模型。

      然而在實(shí)際應(yīng)用中,數(shù)據(jù)量并不一定足夠,因?yàn)樵S多用戶出于隱私的考慮,不愿貢獻(xiàn)數(shù)據(jù)。那么該怎樣去生產(chǎn)一個(gè)復(fù)雜有效的模型呢?

      聯(lián)邦學(xué)習(xí)就是一個(gè)「群體智能」的應(yīng)用案例:用戶通過(guò)本地?cái)?shù)據(jù)做計(jì)算,然后將計(jì)算模型貢獻(xiàn)給中央服務(wù)器,進(jìn)行相互交流、調(diào)優(yōu);通過(guò)這種不接觸本地?cái)?shù)據(jù)的方法,也可以產(chǎn)生有效的人工智能模型,且規(guī)避了數(shù)據(jù)泄露的風(fēng)險(xiǎn)。

      在具體應(yīng)用方面,「群體智能」已經(jīng)被廣泛運(yùn)用到智慧城市的各個(gè)場(chǎng)景,例如智慧交通、智慧物流、智能電網(wǎng)、碳中和等等。

      2、黃建偉與「群體智能」的因與果

      2015年年底,黃建偉當(dāng)選IEEE Fellow,年僅37歲,當(dāng)年全球40歲以下獲此殊榮的人只有6人。

      IEEE Fellow黃建偉:「網(wǎng)絡(luò)經(jīng)濟(jì)、群體智能」跨界融合,智慧城市的新風(fēng)暴

      前面已經(jīng)提及,其當(dāng)選理由是:對(duì)無(wú)線系統(tǒng)資源分配的貢獻(xiàn)。但更為具體的表述,應(yīng)是「從經(jīng)濟(jì)學(xué)和博弈論的角度去分配無(wú)線網(wǎng)絡(luò)資源」。

      很難想象,本科學(xué)習(xí)無(wú)線通訊的黃建偉,后來(lái)會(huì)與經(jīng)濟(jì)學(xué)、博弈論產(chǎn)生聯(lián)系,并因此而獲獎(jiǎng)。

      據(jù)黃建偉介紹,他與經(jīng)濟(jì)學(xué)、博弈論的「相遇」是從東南大學(xué)無(wú)線電工程系本科畢業(yè)之后,本世紀(jì)初在美國(guó)西北大學(xué)攻讀碩博的時(shí)候。當(dāng)時(shí)他師從 Michael Honig 教授和 Randall Berry 教授,在兩位導(dǎo)師的指導(dǎo)下開(kāi)始搞跨學(xué)科研究。

      IEEE Fellow黃建偉:「網(wǎng)絡(luò)經(jīng)濟(jì)、群體智能」跨界融合,智慧城市的新風(fēng)暴

      Michael Honig 是最早研究無(wú)線網(wǎng)絡(luò)經(jīng)濟(jì)學(xué)的學(xué)者之一,曾在貝爾實(shí)驗(yàn)室工作過(guò)很長(zhǎng)時(shí)間,后于1994年前往西北大學(xué)擔(dān)任講席教授,開(kāi)創(chuàng)了在網(wǎng)絡(luò)中引入經(jīng)濟(jì)學(xué)的先河,黃建偉后來(lái)做網(wǎng)絡(luò)經(jīng)濟(jì)學(xué),尤其是無(wú)線網(wǎng)絡(luò)經(jīng)濟(jì)學(xué),就是受其影響。

      IEEE Fellow黃建偉:「網(wǎng)絡(luò)經(jīng)濟(jì)、群體智能」跨界融合,智慧城市的新風(fēng)暴

      Randall Berry與黃建偉則更接近于「亦師亦友」的關(guān)系:黃建偉攻讀博士學(xué)位時(shí),Randall Berry剛從麻省理工畢業(yè)滿一年,兩個(gè)人同樣沒(méi)有經(jīng)濟(jì)學(xué)基礎(chǔ),便一起去西北大學(xué)經(jīng)濟(jì)系上博弈論的課程,討論博弈論與無(wú)線頻譜之間的關(guān)系。時(shí)至今日,Randall Berry已經(jīng)是西北大學(xué) ECE 系主任。

      從兩位導(dǎo)師那里,黃建偉除了在無(wú)線通訊領(lǐng)域獲得指導(dǎo)以外,還跨學(xué)科學(xué)習(xí)了經(jīng)濟(jì)學(xué),以及博弈論的相關(guān)課程。并且,這種跨學(xué)科研究給他后來(lái)的執(zhí)教也帶來(lái)了深刻影響。

      在帶學(xué)生時(shí),他總會(huì)強(qiáng)調(diào)一點(diǎn):要有open mind(開(kāi)放的思維),一定要對(duì)很多學(xué)科的知識(shí)感興趣,并且善于學(xué)習(xí),「如果遇到不懂的知識(shí),大家可以一起學(xué)習(xí),學(xué)生反過(guò)來(lái)教他,也是很正常的」。

      2005年,黃建偉獲西北大學(xué)電子與計(jì)算機(jī)工程系博士學(xué)位,旋即進(jìn)入普林斯頓大學(xué)從事博士后研究,研究方向?yàn)榫W(wǎng)絡(luò)優(yōu)化。2007年,黃建偉從海外歸國(guó),在香港中文大學(xué)信息工程系擔(dān)任助理教授,創(chuàng)立了網(wǎng)絡(luò)通訊與經(jīng)濟(jì)學(xué)實(shí)驗(yàn)室(Network Communications & Economics Lab,NCEL),歷任副教授,教授,現(xiàn)任香港中文大學(xué)(深圳)校長(zhǎng)講座教授、理工學(xué)院副院長(zhǎng),深圳市人工智能與機(jī)器人研究院(AIRS)副院長(zhǎng),培養(yǎng)出了多位優(yōu)秀學(xué)者。

      他與「群體智能」的第一次直接接觸是在2011-2012年。當(dāng)時(shí),黃建偉率領(lǐng)團(tuán)隊(duì)研究的一個(gè)如何在電動(dòng)車充電高峰期調(diào)節(jié)電網(wǎng)負(fù)載的課題,目的是使電網(wǎng)在滿足電動(dòng)車大規(guī)模充電需求的同時(shí),能夠進(jìn)行有效調(diào)節(jié)。在該項(xiàng)目中,采用了「群體智能」相關(guān)的激勵(lì)機(jī)制,但在那時(shí)「并沒(méi)有想到『群體智能』這個(gè)概念」。

      2015-2016年,黃建偉開(kāi)始系統(tǒng)研究「群體智能」,主要做了兩方面的工作:群體決策;數(shù)據(jù)的隱私保護(hù)。而在具體研究方向上,則涵蓋分布式機(jī)器學(xué)習(xí)、聯(lián)邦學(xué)習(xí)、小樣本學(xué)習(xí)等。

      2017年,黃建偉團(tuán)隊(duì)在研究網(wǎng)絡(luò)定價(jià)方面的工作獲當(dāng)年IEEE 通訊協(xié)會(huì)最佳青年論文獎(jiǎng),論文的內(nèi)容便是「通過(guò)經(jīng)濟(jì)學(xué)的方法去研究如何進(jìn)行最佳數(shù)據(jù)采集,同時(shí)保護(hù)用戶的隱私」。

      同年,國(guó)家發(fā)布了《規(guī)劃》,將「群體智能」列為人工智能的5大方向之一。當(dāng)時(shí),人工智能浪潮正激流勇進(jìn),但與「群體智能」的聯(lián)系并不緊密,許多用到「群體智能」的場(chǎng)景,并沒(méi)有用到人工智能,而利用人工智能來(lái)解決問(wèn)題已成大勢(shì)所趨。

      因而,在國(guó)家政策引導(dǎo)與AI的發(fā)展趨勢(shì)下,黃建偉開(kāi)始把研究重心放在「群體智能」上。


      3、激發(fā)「群體智能」的路徑之一:建立有效的激勵(lì)機(jī)制

      學(xué)術(shù)界研究「群體智能」已不是新鮮事,但在2010年,《Science》的一篇文章引起了廣泛注意,這篇文章提出一個(gè)命題:假設(shè)一群人聚在一起,那么這群人體現(xiàn)出來(lái)的智力水平,受哪些因素影響?


      IEEE Fellow黃建偉:「網(wǎng)絡(luò)經(jīng)濟(jì)、群體智能」跨界融合,智慧城市的新風(fēng)暴

      該研究發(fā)現(xiàn),影響群智力水平最主要有三個(gè)因素:

      • 人群的社會(huì)敏感度,即群體成員之間能否進(jìn)行有效互動(dòng);

      • 群體中個(gè)體平等發(fā)言的機(jī)會(huì);

      • 女性占比。

      也就是說(shuō),在人群之間能夠有效互動(dòng),并且每個(gè)個(gè)體都能具備平等發(fā)言機(jī)會(huì),而女性處于合適占比的情況下,這群人體現(xiàn)出來(lái)的智力水平將高于其它情況。其中,群體成員之間的有效互動(dòng),是最主要的因素。

      該研究進(jìn)一步發(fā)現(xiàn),要實(shí)現(xiàn)群體成員之間的有效互動(dòng),必須設(shè)立相應(yīng)的「激勵(lì)機(jī)制」,來(lái)保證成員的積極性。這恰是黃建偉的研究?jī)?nèi)容之一。

      前面曾有提及,在「群體智能」方面,黃建偉做了兩方面的工作,群智決策和數(shù)據(jù)隱私保護(hù)。而在群智決策方面,黃建偉率團(tuán)隊(duì)解決了一個(gè)問(wèn)題:群智決策中如何驗(yàn)證事實(shí)正誤。

      「過(guò)去五六年時(shí)間里,我們想要解決群智決策的問(wèn)題,這實(shí)際上是一個(gè)很難的問(wèn)題,因?yàn)楫?dāng)一個(gè)復(fù)雜問(wèn)題通過(guò)眾包的方式分發(fā)給個(gè)體,個(gè)體在解決問(wèn)題之后,無(wú)法驗(yàn)證其解決問(wèn)題答案的對(duì)錯(cuò),也就是事實(shí)無(wú)法驗(yàn)證情況下的群體決策。」

      舉個(gè)例子:美國(guó)大選前有調(diào)查機(jī)構(gòu)做預(yù)測(cè),但預(yù)測(cè)結(jié)果會(huì)因各種條件發(fā)生變化,結(jié)果各不相同,但當(dāng)大選結(jié)束,會(huì)有一個(gè)正確答案,該問(wèn)題的結(jié)果是可以驗(yàn)證的。而如果要鑒定達(dá)芬奇畫的一幅圖,不同的專家、學(xué)生、畫家等人都可以通過(guò)自身的認(rèn)知來(lái)進(jìn)行判斷,把大家的結(jié)果綜合在一起,最后可以產(chǎn)生一個(gè)群體結(jié)果,但這個(gè)結(jié)果的答案是不可驗(yàn)證的,除非達(dá)芬奇死而復(fù)生,指明這幅圖是他的真跡,否則這幅圖的真假將永遠(yuǎn)成謎。

      黃建偉對(duì)此問(wèn)題的解法是,通過(guò)設(shè)計(jì)合理有效的激勵(lì)機(jī)制,一方面鼓勵(lì)參與者努力投入,使得整體答案接近于事實(shí);另一方面,通過(guò)多數(shù)人投票機(jī)制,根據(jù)多數(shù)人的答案來(lái)決定事實(shí)的正誤。

      具體來(lái)看,在群體決策中,由于個(gè)體之間的能力差異,以及利益動(dòng)機(jī),要實(shí)現(xiàn)決策最優(yōu)是非常困難的。因此,通過(guò)激勵(lì)機(jī)制來(lái)鼓勵(lì)有能力的個(gè)體投入更多的時(shí)間和精力來(lái)做決策,配合以多數(shù)投票規(guī)則來(lái)篩選出高質(zhì)量的眾包工人,以此提高整體決策力量,是一種可行的方法。

      引用判定達(dá)芬奇畫的真假這一案例,通過(guò)設(shè)置對(duì)應(yīng)的激勵(lì),激發(fā)所有參與者的投入,將所有答案綜合起來(lái),那么這個(gè)答案接近真實(shí)結(jié)果的概率,理論上在提高;而最終結(jié)果遵從多人投票機(jī)制,即該答案的真假根據(jù)多數(shù)人的答案決定,比如在10個(gè)人中,有7個(gè)及以上的人,認(rèn)為此畫是達(dá)芬奇的真跡,那么該結(jié)果就遵從多數(shù)人的判斷,認(rèn)為這幅畫的確出自達(dá)芬奇的手筆。

      在「群智決策」之外,類似的激勵(lì)機(jī)制還被應(yīng)用在「聯(lián)邦學(xué)習(xí)」中。

      聯(lián)邦學(xué)習(xí)的原理是,用戶在本地?cái)?shù)據(jù)進(jìn)行訓(xùn)練之后,將訓(xùn)練結(jié)果傳送到中央服務(wù)器,再次進(jìn)行訓(xùn)練。但這個(gè)本地學(xué)習(xí)過(guò)程,對(duì)于中央服務(wù)器是不透明的,用戶有無(wú)認(rèn)真進(jìn)行模型訓(xùn)練,對(duì)中央服務(wù)器而言是一個(gè)黑匣子。

      這個(gè)問(wèn)題可以通過(guò)挺入激勵(lì)機(jī)制來(lái)解決:設(shè)計(jì)有效的激勵(lì)機(jī)制,鼓勵(lì)那些學(xué)習(xí)成本較低、數(shù)據(jù)較多的用戶,積極參與聯(lián)邦學(xué)習(xí),從而提高聯(lián)邦學(xué)習(xí)的整體效果。

      黃建偉團(tuán)隊(duì)發(fā)現(xiàn),聯(lián)邦學(xué)習(xí)產(chǎn)生的模型可以作為商品交易,其稱之為「機(jī)器學(xué)習(xí)模型的交易」。

      所謂「機(jī)器學(xué)習(xí)模型的交易」,指的是在聯(lián)邦學(xué)習(xí)過(guò)程中,一些擁有數(shù)據(jù)、能做聯(lián)邦學(xué)習(xí)的參與者,訓(xùn)練出來(lái)的模型,可以作為商品,與那些沒(méi)有數(shù)據(jù)、無(wú)法做訓(xùn)練,但又需要用到模型的參與者進(jìn)行「價(jià)值交換」。

      舉個(gè)例子:出租車司機(jī)基于其日積月累的經(jīng)驗(yàn),對(duì)路況的了解比普通人更多,不過(guò)出于隱私原因,司機(jī)并不打算把自己掌握的數(shù)據(jù)告訴別人。但是這些數(shù)據(jù)在本地訓(xùn)練之后,可以將訓(xùn)練結(jié)果傳送至中央服務(wù)器,從而訓(xùn)練出對(duì)應(yīng)的模型,而這個(gè)模型可以作為商品進(jìn)行交易 。因此,對(duì)應(yīng)的平臺(tái)需要設(shè)立對(duì)應(yīng)的「激勵(lì)機(jī)制」,來(lái)鼓勵(lì)這些有數(shù)據(jù)的司機(jī),參與到聯(lián)邦學(xué)習(xí)過(guò)程中,以提高模型精度。

      「機(jī)器學(xué)習(xí)模型的交易,是一個(gè)非常新的方向,目前做的人比較少,但非常有意思。」

      總而言之,不論是群智決策,還是聯(lián)邦學(xué)習(xí),都不可避免需要用到「激勵(lì)機(jī)制」,才能使決策、模型達(dá)到更好的效果。這正如黃建偉所言:

      「把激勵(lì)機(jī)制的問(wèn)題解決好,才實(shí)現(xiàn)『群體智能』的效率最優(yōu)。」

      4、群體智能與人工智能的聯(lián)系

      如今,提起「智能」二字,必然離不開(kāi)人工智能(AI),「群體智能」似乎也離不開(kāi)AI。

      實(shí)際上,「群體智能」最早與人工智能沒(méi)有聯(lián)系,其研究的是螞蟻蜜蜂等簡(jiǎn)單生命體在群體中涌現(xiàn)的智能;而AI則是讓機(jī)器像人一樣思考,研究對(duì)象并不相同。

      但現(xiàn)在「群體智能」已經(jīng)成為人工智能的5個(gè)重點(diǎn)方向之一,該如何理解群體智能與AI的關(guān)系?

      在黃建偉看來(lái),過(guò)去幾十年關(guān)于AI的研究,主要集中在數(shù)據(jù)、算力、算法三個(gè)方面,讓機(jī)器形成類人智慧的能力。但人們發(fā)現(xiàn),這條路不一定走得通。

      數(shù)據(jù)方面,數(shù)據(jù)在不斷增加,但許多都是分布式數(shù)據(jù),而非集中式數(shù)據(jù),并且出于隱私原因,人們不愿意進(jìn)行數(shù)據(jù)共享。

      算力方面,過(guò)去十幾年,算力飛速增長(zhǎng),但算力本身不能無(wú)限擴(kuò)張,而在很多普通場(chǎng)景,并不能獲得大量算力。因此,對(duì)高算力的依賴,已經(jīng)成為許多深度學(xué)習(xí)算法在實(shí)際應(yīng)用中的瓶頸,在此趨勢(shì)下,分布式算力成為主流。

      也就是說(shuō),人工智能本身要進(jìn)一步發(fā)展,必然要利用好這些分布式算力和分布式數(shù)據(jù),而這與群體智能的關(guān)系非常緊密。因?yàn)椤溉后w智能」本身,就是依托群內(nèi)「?jìng)€(gè)體」之間的協(xié)作配合,來(lái)解決問(wèn)題。

      這也是為何「群體智能」在人工智能的討論中越來(lái)越重要的原因:如果不能有效聚合、調(diào)動(dòng)成千上萬(wàn)的智能體來(lái)解決問(wèn)題,那么人工智能就喪失了形成巨大智能的途徑。

      以無(wú)人機(jī)群體作業(yè)為例,每一架無(wú)人機(jī)能夠存儲(chǔ)的數(shù)據(jù)量并不大,計(jì)算處理能力很弱,靠單架無(wú)人機(jī)很難做一些計(jì)算較為復(fù)雜的問(wèn)題,如火災(zāi)預(yù)警、道路檢測(cè)等。然而一旦實(shí)現(xiàn)群體作業(yè),無(wú)人機(jī)之間能夠?qū)崿F(xiàn)數(shù)據(jù)傳輸,只要有一臺(tái)無(wú)人機(jī)做過(guò)對(duì)應(yīng)的模式識(shí)別,那么就能檢測(cè)出問(wèn)題,把信息傳輸出去。

      「多個(gè)智能體在有限的數(shù)據(jù)、計(jì)算條件下,實(shí)現(xiàn)互相協(xié)作,來(lái)解決問(wèn)題,在現(xiàn)實(shí)生活中,遠(yuǎn)比大數(shù)據(jù)計(jì)算的應(yīng)用面更廣。」

      所以,從人工智能本身發(fā)展的角度,借鑒「群體智能」的邏輯,也自然而然在情理之中。而當(dāng)政府出臺(tái)《規(guī)劃》之后,「群體智能與人工智能的聯(lián)系就更為緊密了」。

      5、「群體智能」新風(fēng)向

      在「群體智能」方面,國(guó)內(nèi)已有不少學(xué)者展開(kāi)了深入研究。

      中科院梅宏院士提出了「探索融合反饋模型」,該模型把個(gè)體搜索融合起來(lái),將結(jié)果反饋給群體,使其能夠更好地決策;鵬程實(shí)驗(yàn)室的于全院士,做了基于蜂群的群體決策;清華大學(xué)劉云浩教授則發(fā)力群體感知......

      與上述學(xué)者不同的是,黃建偉擅長(zhǎng)通過(guò)「網(wǎng)絡(luò)博弈」來(lái)研究「群體智能」。具體來(lái)看,就是用「網(wǎng)絡(luò)博弈」來(lái)連接其「網(wǎng)絡(luò)經(jīng)濟(jì)學(xué)」,即用經(jīng)濟(jì)學(xué)的方法研究了大量的網(wǎng)絡(luò)資源分配的優(yōu)化問(wèn)題。這也是黃建偉團(tuán)隊(duì)的鮮明研究特色之一。

      「如果把網(wǎng)絡(luò)看作市場(chǎng),那么網(wǎng)絡(luò)資源本身是有限的,用戶會(huì)在線性約束條件下?tīng)?zhēng)奪資源,這實(shí)際上是一種非合作博弈 ,那么該如何滿足用戶對(duì)網(wǎng)絡(luò)的增長(zhǎng)需求?」

      國(guó)內(nèi)做的比較多的研究,多以技術(shù)為導(dǎo)向,即把網(wǎng)絡(luò)做得更快、傳輸速度更高、延遲更短;但除了技術(shù)之外,網(wǎng)絡(luò)資源也可以通過(guò)分配來(lái)滿足市場(chǎng)需求、實(shí)現(xiàn)社會(huì)效益的最大化。

      比如,不同用戶對(duì)于網(wǎng)絡(luò)資源的需求差異(時(shí)間、延遲)較大,容易造成資源的閑置、浪費(fèi),那么就可以通過(guò)設(shè)計(jì)對(duì)應(yīng)的市場(chǎng)機(jī)制,實(shí)現(xiàn)有效分配。

      「在『群體智能』里面,個(gè)體的決策與他人決策密切相關(guān),每一個(gè)決策者的收益將取決于個(gè)體行為與他人之間的交互,才能達(dá)到整體最優(yōu) ,這實(shí)際上就是一種網(wǎng)絡(luò)博弈。」

      目前,國(guó)內(nèi)做技術(shù)研究的更多,而研究分配、激勵(lì)用戶參與,通過(guò)分配機(jī)制來(lái)解決問(wèn)題的學(xué)者相對(duì)較少。因而,在黃建偉看來(lái),分配與激勵(lì),應(yīng)該是未來(lái)「群體智能」的發(fā)展發(fā)向之一,能推動(dòng)「群體智能」算法實(shí)現(xiàn)廣泛應(yīng)用。

      除此之外,對(duì)于「群體智能」,黃建偉認(rèn)為,還有三個(gè)方向值得關(guān)注:

      一是多智能體的強(qiáng)化學(xué)習(xí)。

      一般的人工智能算法嚴(yán)重依賴數(shù)據(jù),但強(qiáng)化學(xué)習(xí)的出發(fā)點(diǎn)是「數(shù)據(jù)很少甚至沒(méi)有」,是通過(guò)與環(huán)境的不斷交互,獲得反饋之后進(jìn)行學(xué)習(xí),目前對(duì)于強(qiáng)化學(xué)習(xí)的研究也主要集中在單智能體上。

      「群體智能」本身依賴多個(gè)智能體的協(xié)作配合,因而多智能體的強(qiáng)化學(xué)習(xí)變得很重要。即多個(gè)智能體之間實(shí)現(xiàn)交互,通過(guò)分布式個(gè)體與環(huán)境之間的交互學(xué)習(xí)來(lái)解決問(wèn)題,比如車路協(xié)同。

      二是模型交易。

      「群體智能」的最終結(jié)果,可能體現(xiàn)在一個(gè)具體的機(jī)器學(xué)習(xí)模型上,而這些模型實(shí)際上可以通過(guò)交易,來(lái)惠及他人。目前,業(yè)界模型交易市場(chǎng)已初具雛形,但非常有限,相關(guān)的理論分析幾乎沒(méi)有。

      三是隱私保護(hù)。

      在實(shí)現(xiàn)「群體智能」的過(guò)程中,不可避免要涉及數(shù)據(jù)隱私問(wèn)題,參與者越多,數(shù)據(jù)泄露的風(fēng)險(xiǎn)也就越大,因此必然要有一系列的算法設(shè)計(jì),把隱私保護(hù)融入進(jìn)去。

      「『群體智能』里面有很多問(wèn)題,我們研究的是通過(guò)網(wǎng)絡(luò)博弈,通過(guò)經(jīng)濟(jì)學(xué)設(shè)計(jì)好的激勵(lì)機(jī)制,然后與算法相結(jié)合,來(lái)解決問(wèn)題,這是一個(gè)研究相對(duì)較少但重要的方向。我們希望通過(guò)長(zhǎng)期積累的核心理論基礎(chǔ)與實(shí)踐結(jié)合,來(lái)實(shí)現(xiàn)突破。」黃建偉說(shuō)道。雷峰網(wǎng)(公眾號(hào):雷峰網(wǎng))雷峰網(wǎng)

      雷峰網(wǎng)原創(chuàng)文章,未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見(jiàn)轉(zhuǎn)載須知

      IEEE Fellow黃建偉:「網(wǎng)絡(luò)經(jīng)濟(jì)、群體智能」跨界融合,智慧城市的新風(fēng)暴

      分享:
      相關(guān)文章

      編輯

      緊跟科技最前沿
      當(dāng)月熱門文章
      最新文章
      請(qǐng)?zhí)顚懮暾?qǐng)人資料
      姓名
      電話
      郵箱
      微信號(hào)
      作品鏈接
      個(gè)人簡(jiǎn)介
      為了您的賬戶安全,請(qǐng)驗(yàn)證郵箱
      您的郵箱還未驗(yàn)證,完成可獲20積分喲!
      請(qǐng)驗(yàn)證您的郵箱
      立即驗(yàn)證
      完善賬號(hào)信息
      您的賬號(hào)已經(jīng)綁定,現(xiàn)在您可以設(shè)置密碼以方便用郵箱登錄
      立即設(shè)置 以后再說(shuō)
      主站蜘蛛池模板: 我与黑帮大佬的365日| 美国禁忌结局- 3| 《侏罗纪4:重生》免费播放| 终极格斗| 教室欲爱| 还是很爱她短剧全集免费观看| 命定之人| 曰批视频免费40分钟试看| 姜敏宇《游泳池的工作2》| 热带雨电影完整版| 破地狱粤语| 白宝山电视剧| 需要爸爸的种子在线免费观看| 佳木斯快乐舞步完整版第一套| 电影大刀王五| 海盗战队豪快者| 战狼6大牛电影免费观看高清完整版| 暴劫倾情| 借种在线观看| 保罗莉娜黑白配电影免费观看| 秘密办公室2| 善良的小姨子之禁止的爱| 人工少女3通关存档| 控方证人在线观看完整版免费| 长公主不可以| 广场舞洗衣歌| 尔滨启动收复失地计划!| 再向虎山行国语40集| 玉女心经阴阳| 卿卿日常更新| 某科学的超电磁炮动漫| 美人依旧电影| 美姊妹 赤板栗 完整版| 《决战中途岛》完整版| 回来的女儿更新时间| 在线播放需要爸爸播种| 台湾版《棘手狂情》演员| 奇妙的朋友 综艺| 德国电影朱莉第一次免费看 | 战狼7免费播放观看在线视频| 神奇的玩偶 控制女上司在线观看| 白峰电影在线播放免费版最新章节| 高清《沈家嫡女》短剧全集| 法国空姐4在线观看| 时间停止器韩国电影| 《奇迹梦之队》| 扫黑风暴28集免费看| 千山暮雪在线观看| 销售的秘密2在线观看完整版| 电影湄公河行动| 色女仆网站| 酷优电影| 吗吗吗朋33| 真破血全集免费看完整版| 我在北京挺好的剧情分集介绍 | 以家人之名电视剧免费观看全集| 意大利八尺夫人满天星美版| 王牌部队在线观看| 金牌师姐| 偷情水电工伦理片| 任丘市| 电影婚礼2008| 二人转短剧不孝儿女| 牙医姊妹在线免费观看| 聚会的目的未删减| 时光与他 恰是正好| 国王的演讲下载| 不良义姐在线观看| 萌宝下凡短剧免费观看| 东北往事之黑道风云20年2部| 女版超人满天星| 朴海镇李泰兰| 七号差馆| 《我的游泳女教练》在线| 泰国评选十大最美中国女演员| 欢乐家长群2电视剧观看| 电工的艳遇在线观看| 法国空姐免费高清原声高烧可以吃雪糕吗 | 金钱之味在线观看| 爸爸的种子免费全集电视剧| 屌丝男士第4季全集爱奇艺 | 韩国 外卖员的特殊待遇| 做aj的电视剧大全免费观古代 | 棘手狂情电影在线观看| 美女搜查官| 大人物免费观看完整版| 爱情公寓2 下载| 三年大片大全国语免费观| 父辈爱情故事短剧免费观看| 行尸走肉第三季09| 花与蛇牙医夫妇| 行尸走肉1| 花与蛇4下载| 麦子交换3在线播放| 红杏免费在线观看| 沧元图第二季番外篇| 你是我的荣耀电视剧全集免费观看| 美国版《健美》| 沧元图动漫免费全集| 太阳的后裔 迅雷下载| 暴躁老妈46集免费观看| 坏蛋联盟免费观看| 钢筋规范| 高压监狱完整版在线观看完整免费高清原声满天星感恩 y | 善良的妻子4| 高海拔之恋2| 战狼6高清在线下载资源| 小学生高清电影免费观看| 青梅竹马是消防员未增删E站| 《部长来我家》日剧中文字幕| 平凡的荣耀全集| 良医第一季在线观看免费完整版| 成熟的女儿免费观看电视剧全集| 《妻子被下春药在线》| 蜡笔小新第6季动漫| 瞒天过海演员表| 我的女游泳教练| 蜜桃成熟时1996| 让子弹飞电影完整| 日本伦理片女律师的多落| 恋之罪在线观看| 电视剧强者风范| 3v1三人一次性体检在线观看| 加勒比海盗4在线| 美景之屋1在线未删减| 高压监狱2019| 清风醉红颜| 伦敦奥运会男子篮球决赛| 贝多芬启蒙3电影在线观看免费版| 鬼五虐电影完整版在线观看| 乡村爱情9在线观看| 丰满的继牳3小早川怜子-高清完整无删 | 黑白配国语高清在线观看免费| 先结婚后恋爱电视剧| 金瓶梅高清迅雷下载| 大牛荷尔蒙美国版6| 120天索多玛电影在线观看| 摩天轮dj| 360天大佬爱上二免费全集| 短剧《出鞘》全集播放| 包青天93版全集| 《美容院的特殊待遇》| 《斗罗大陆》免费观看在线观看高清| tek-081| 耿马| 乘风2023第四季在线观看免费| 发誓英语| 山河明月全集在线播放| 电视剧理想之城在线观看| 妈妈的职业2韩剧中文翻译| 男媒婆全集在线观看| 《扫黑风暴》免费观看完整版电视剧| 《牝教师4~被玷污的教坛~》完整版免费在线观看_手机看牝教师4~被玷污的教 | 风风风韩剧原版| 青青河边草免费看第一集高清| 《原始的女儿国部落》| 横冲直撞的游泳教练在线观看| 异形夺命| 试爱房奴《高潮》4| 丈夫的朋友仓多真央| 黑帮枪战| 新闻女王国语电视剧在线观看免费| 《莫莉特别的酒店》在线观看| 生化危机5惩罚| 高清《钟表馆事件》电视剧| 《倔强退魔师》1-4集在线观看免费里| 一号档案守护者| 谍战剧《追捕者》| 《麦乐迪女超人》在线观看| 海市蜃楼的形成| 美丽的谎言| 天堂马帮电视剧| 正宗泡菜制作方法教程| 罗丽星克莱尔不卡中文字幕| 黑岩射手ova高清| 马永贞争霸上海滩国语| 三位大学位按摩记在线观看| 《不良一族寻爱记》未删减| 赵丽颖眼睛发炎| 坎贝尔三部曲云品味人生在线观看 | 隐身蓝帽子| 欢乐岁月电影| 萌学园3| 岗巴县| 《唐砖》电视剧| 徐少强金银瓶| 红龙电影| 莫妮卡版《爱我几何》在线观看| 三级片爸爸帮我播种子| 猫和老鼠四川版全集| 我本千金电视剧免费观看| 美丽的小樱桃意大利| 陶笛宗次郎| 色先锋影音| 以爱为营在线观看免费全集电视剧| 面具安七炫| 国产兽皇在线观看| 制服的诱惑地下法庭| 女子护卫队1973电影在线观看| 一片冰心在玉壶电视剧| 动漫裸体无遮挡屁股| 森奈奈子电影在线观看| 王向阳书法| 小炫解说csol| 西西里的美丽传说电影| 快乐到家好看吗| 酒店激战3| 杰克逊 地球之歌| 杀死伊芙| 暴躁少女在线观看免费版英文| 高清《裂口女》大结局| 夸家乡的日记| 娱乐前线| 地狱解剖 在线观看| 回春医疗保健66下载| 丑女无敌完美季下载| 酋长之女2:狂飙2| 战争与回忆| 识汝不识丁 电视剧| 暴躁46集全集免费观看 | 朋友的的妈妈| 八仙全传之八仙过海 | 未来之星电影免费观看完整版高清 | 金银悔1-5免费观看高清| 潇洒走一回曲谱| 不正当军事行为2017| 霍元甲李连杰高清电影在线观看| 王心凌晒药单| 德川幕府刑法三部曲| 名侦探柯南:独眼的残像| 流浪地球高清在线播放| 待嫁老爸 电视剧| 哈利波特与死亡圣器电影| 《双乳丰满的女学生》电影| 月光下的凤尾竹 葫芦丝| 伦理《私人护士》| 妈妈的男朋友完整版| 扫毒2之天地对决| 罗丽星克莱尔电影观看| 监狱不设防百度影音| 银瓶梅电视剧第5集电视剧在线观看泰国版| 猫鼠游戏电影| 闪婚谁怕谁| 大胸的丰年经的继拇| 犯了规短剧| 爱我几何免费完整观看电影 | 哇嘎高清电影在线播放| 仲文你好vlog最新| 气球编织| 鲜花朵朵电视剧| 开放的家庭| 德国空姐2019满天星法版主演是谁| 盲女七十二小时| 男男少年乖H调教跪趴SM主人| 天机富春山居图在线观看| 聊斋艳谭五通神| 牙医姐妹在线免费观看视频| 唐朝诡事录4奇谭在线观看| 我的战鹰绕着宝岛飞原唱| 春雨电影大全免费观看动漫版视频| 向往的生活第2季| 坎贝尔三部曲云品味人生在线观看| 斗罗大陆免费完整观看197| 三年中国国语免费观看中文版下载-百度电影高清电影在线-B032AV | 泰国鬼片《黑煞女》在线观看免费 | SSIS-338《最高の爱人沼》在哪看 | 岳飞传刘兰芳| 《女生规则:禁爱游戏》| 女邻居请邻居修灯泡修灯是什么剧| 斗破苍穹167在线观看| x迷宫罗丽星克莱尔| 灵魂之音| 厚颜无耻韩国动漫免费阅读观看| 四十分钟插曲视频在线观看 | 致青春电影| 神探伽利略第二季01| 宣武区| 我是歌手 流浪记| 沙漠公主满天星| 火线出击电视剧| 黑白配1080p高清| 胜女的代价3| 《武则天风流艳史》在线播放| 《越南暴行》完整版免费观看| 暖暖的味道| 美景之屋2销售的秘密| 不闻女学堂| 七龙珠af| 妻子与校长开房| 海外行动| 3对1四人一次性体检什么电影| 花样少年少女全集观看| 《新金莲外传》在线观看| 拜访者q| 高清《搜神传》电视剧| 台渔民偶遇辽宁舰| 冲出亚马逊高清电影| 我们的绝地反击电视剧免费观看| 朋友的母亲9在完整有限中字第5| 母亲5集全集免费观看完整版| 人猿泰山真人版1995年| 整蛊专家3| 特警力量 电视剧| しぼっちゃうぞ中文在线观看| 襄阳轴承| 星克莱尔总统夫人电影在线观看| 视频观看完整版高清| 按摩三少妇| 高清《芭比之美人鱼》| 法国极右翼领导人勒庞被查| 幻影现実| 央视纪录片《高三》| 落魄贵族琉璃川在线免费看全集| 爸爸去哪儿第四季| 嫦娥六号在台湾火了| 天堂资源在线官网| 花枪电视剧全集| 禁忌3年转一代中文字母| 妖精的尾巴45| 《义子侵犯》电影| 教父2免费| 农村夫妻大白天免费观看电视剧| 秦岭神树在线观看| 野兽女孩电影完整版在线观看| 妻子的肉体偿还| 祈今朝 电视剧| 美容院的特殊待遇是4| 杨门虎将电视剧| 离婚女人请好好爱自己| 永州市| 厨艺大师第三季| 沙龙美容服务| 篠田あゆみ| 木下凛凛摄影电影| 天时地利人和英文| 兄弟的妈妈4免费观看电视剧全集| 西游记11版全集| 八佰 电影| 张云熙无码a| 九河龙蛇| 学生的妈妈5字| 善良的嫂子在线视频| 撕裂记忆体| 蝴蝶效应2电影完整版观看| 哆啦a梦电影大全免费中文版| 超感警探第四季| 日剧《轮到你了》第二季在线观看 | 淫间道| 他是谁电视剧免费观看完整版国语| 赛车手张岩| 果盘先生| 2046电影| 特邀外卖员电影免费观看整板| 猎场大结局| 八戒八戒八戒8免费观看电视剧大全八| 爱是你我 刀郎| 向风而行免费电视剧| 泰囧在线观看| 电视剧抗战奇侠| 图书馆的女朋友在线观看完整免费版第五集 | 新醉打金枝优酷| 白峰美羽电影在线| 步步倾心电视剧免费观看| 需要爸爸种子 - 在线追剧美国式禁忌 | 《蓝帽子》电影免费观看| 小羊没烦恼3000一晚| 金刚葫芦娃动漫| 鸭王2免费观看完整版普通话| 与敌同行国语下载| 一个好女儿5中字头强华驿| 父辈的荣耀电视剧| 祥仔更多大片访问| 牙医姐妹郝板栗1986| 石台县| 心灵捕手 电影| 漂亮妈妈7巴字开头叔叔| 二十大观后感| 男人和女人一起愁愁愁电视剧免费韩 | 艾薇儿girl friend| 维多利亚的秘密内衣| 风火战纪| 人民的名义优酷| 娃娃脸4美国版| 奇异博士3电影免费观看| 维修工的艳遇2| 古惑仔4国语高清| 渔夫荒淫史记在线完整版免费观看 | 卧底达子| 《我的私人游戏教练》| 追你而来电影完整版免费观看| 地球最末日| 棋逢对手剧情| 男女免费观看电视剧在线高清| 法国空姐3免费高清原声满天星奔跑吧 | 68威士忌在线观看| 美貌的社长夫人第三季剧情简介 | 烈火英雄电影| 兄弟换麦子6国语版1080P| 困惑的浪漫百度影音| 《【中文字幕】老公出差不在的三天 榨取深爱的儿子精液的人母 水野优香》- 红 | 你和我的倾城时光| 保姆的日常工作3| 姐妹4在线观看完整版中文| 女兵酷刑性暴行电影| 李凤山最新30分钟甩手视频| 被可怕的科长欺负| 武林外传电视剧| 我的漂亮的瘦子5HD中字_午夜电影全集_完整版免费在线观看-天天影院 | 难哄白敬亭电视剧在线免费观看| 我陪部长出差电影在线观看| 印度电影 天生一对| 妲己np从小被c到大| 实习医生格蕾 字幕| 晚秋影评| 铁血战士3| 爷们儿电视剧免费完整版| 古惑仔5下载| 日剧恋爱补给品| 高清《我的僵尸女儿》电影| 金瓶梅完整版百度影音| 荒野之行1986满天星| 电视剧我是传奇在线观看| overflowers全集免费第一季| 陈子豪的个人空间| 《驯服小子韩剧丽卡结局》| 赶尸谭艳| 越南暴行免费观看网站| 《偷吃的已婚女人》主演名单| 《小舍得》大结局| 双镜第二季| 全职猎人 99| 先婚后爱:总裁慢慢宠短剧全集| 妖兽都市动漫| 今夜无人入睡免费观看韩国| 师傅电视剧| 酒店1-80集全集免费,高清 | 关上最后的门未增删樱花| 蕾tsubomi| 杨幂大瓜| 终末的女武神樱花动漫在线观看| 东方红歌曲| 《施魔法》满天星| 《淑女出招》电影| 将错就错电影完整版| 神雕侠侣大结局| 《堕落的女律师》电视剧在线观看| 高清《狼人游戏》歌曲原唱| 中文字Dl幕岳 和女胥影视| 斗罗大陆162| 杨紫埃菲尔铁塔下跳舞| 局内人2在线观看| 娘心计电视剧全集| 复仇催眠动漫| 哈利波特6免费观看在线完整版| 被义子侵犯BD中文字幕| 爱情心心相印电视剧免费观看 | 人民万岁电影| xl司令第二季第八集免费观看| 超级乐8点| 京香在线| 普法栏目剧日出| 爸爸接种2| jiqingwang| 倔强的驱魔师1-4集免费观看 | 沈樵第二部闺蜜20分钟| 沙龙美容服务| 用身体偿还给客户社长的妻子完整版在线观看 | 不死者之王在线观看| 《需要爸爸播种子》观看| 可是我永远记得| 花样姐姐中国版| 回复术士的重启人生动漫| 张庭夫妇买下黄浦江边整栋楼| 日本电影免费入室打工者强奸女主人在线播放| 狂飙风云短剧免费观看| 坎贝奇无憾无删减版资源| 天涯浴血 电视剧| 灭火宝贝2美版罗丽莎的启蒙| 初婚电视剧全集免费观看| 芈月传高清免费观看全视频| 八角笼中免费观看在线| 插曲的痛第60集全集免费播放 | 三基培训网| 扫黑风暴在线观看| 江南style动画版| 空中的梦想家| 三基培训网| 踢坏18万巨幕后续| 斗破苍穹第| 男生女生在线高清观看免费观看| 莫斯科行动电影免费观看| 梁祝艳谭| 伊能静和秦昊对唱的歌| 国王的演讲下载| 敢死队全集| 英雄祭电视剧| 万茜被曝遭遇婚姻危机| 借爸爸的种子电影| 海贼王969| 特殊保险公司推销员8中文 | 星克莱尔(啄木鸟)第一夫人| 三大队电影完整版免费观看| 妈妈的职业5完整版结局在线看免费视频网站 | 一生一世电视剧免费播放| 善意的谎言电视剧全集免费观看| 隐形帽子韩国| 向往的生活第7季| 维修工艳遇无码免费观看视频| 无所畏惧电视剧免费观看| 《越南暴行2》免| 理想之城全集| 花蝴蝶4免费版大全多少集天气| 女朋友的扇贝好粉| 八戒,八戒免费在线观看8| 善良的岳母免费观看| 爸爸打电话叫叔叔来吃饭| 渔夫荒野正版免费观看 | 让子弹飞完整版电影| 欢乐颂第三季| 美女在线观看完整版全集| 危情在线播放| 木下檀檀子影片免费观看| 小蜜桃在线| 陈雅伦《为卿痴狂》| 绝世弃少逆袭:成传奇全集免费| omoflow第一集真人版| 美丽小蜜桃7免费播放全集电视剧| 情趣酒店激战1至5集 | 与部长一起出去差旅日本| 嫉妒的化身电视剧全集免费观看| 特殊外卖员在线观看| 韩版花样男子国语版| 最近妹妹有点怪真人电影原声| rerese| 加勒比海盗女版电影完整版| 走火电视剧40集免费完整版| 坠落女律师k82经典台词免费阅读 斯巴达第四免费观看全集高清 | 汉末皇叔| 今夜无人入睡大牛电影高清手机免费| 长月无烬免费观看完整版| 姑娘荷尔蒙6| 长空之王在线观看高清免费| 美国队长1免费高清完整版观看 | 大考电视剧在线观看| 粉红大白菜在线免费观看| 姑娘看电影免费观看| 韩剧妈妈的三级片| 大秦赋全集在线观看免费| 4少妇按摩| 英雄虎胆免费完整版| 傻婿觉醒短剧全集| 野兽们的战争在线观看完整版| 日剧《和讨厌的前任》中字| 忠诚电视剧高长河大结局| 法国空乘5免费高清原声满天星美版百度 | 肥胖女人免费观看连续剧| 插曲的痛30集| 天海翼匪名侦探完整版 | 冠军勋章怎么用| 夺回千亿家产:私生女逆袭短剧全集| 理发师剧情介绍| 急速绯闻| 《部长出差的日子》电影中文字幕| 瑞奇宝宝中文版1一52集| 爸爸的种子bd| 妻子的谎言 电视剧剧情免费观看| 插曲的痛第60集| 至尊红颜贾静雯版| 斗破苍穹176免费播放| 我为卿 狂| 九叔在线观看免费| 《学生》完整版观看| 马斯顿教授与神奇女侠| 电吉他solo教学| 跟着部长出差免费观看| 安塔芮丝迅雷下载| 做aj的电视剧大全免费观看导演金| 世界上水最多的B| 要妈妈播种的1983年电影 | 刻晴被盗宝团C的不能自理| 妈妈的职业完整版结局在线看免费高清| 加勒比女海盗完整版在线观看| 金蝉脱壳高清完整版| 十二生肖电视剧全集| 本色电视剧免费版观看| 19岁大学生免费观看电视剧| 阿甘正传 电影| 她在丈夫面前被搬运工耍了| 海贼王1042| 大四喜电影| 乱理片 最新乱理片2018| 横行霸盗| 电影《爱上女闺蜜》播放| 大连晓芹海参| 蓝色隐形帽子完整版| 太极2 百度影音| 头脑特工队2电影免费观看| 龚玥菲新金甁梅剧照| 女超人满天星无删减麦乐迪| 朋友的姑姑2016| 浪潮电影| 我的初恋是暗恋电视剧免费观看| 会说话的安娜| 爱我几何无减版在线看| 因为想你泰剧在线观看完整版免费| 《卖房子的女销售》美国| 电影热辣滚烫今日上映| 田姐辣妹电视剧全集免费播放| 大肚孕妇2在线观看免费版高清| 情色小游戏| 售楼女王在线观看| 《野花》电影| 《瓜达卢佩的玫瑰》完整版| 欲魔电影完整版在线观看免费| 糙汉文11H婚孕| 渴望城市第一部| 平凡的世界电影| 斯巴达女版在线播放| 企业强人国语在线观看| 《漂亮男孩》动漫在线观看全集| 二战中的指挥官| 侏罗纪世界2| 白峰美羽女教师无删减在线播放| 欢天喜地七仙女38集| 湘潭市| 幽灵射手电影免费观看完整版| 达拉斯蜂蜜1982美国原版| 法国国空姐4| 七号房的礼物在线观看| 女员工的待遇中文| 红罂粟2生死之间| 电影 血恋| 心悸mv| 甜蜜谎言国语版| 加勒比海盗成人版| 苍井空电影全集快播| 高清《人生导师》电影在线观看免费| 只属于我的女神电视剧| 东方侠客免费观看全集| 女保险推销员5中字| 妈妈电影免费观看高清电视剧| 《肉蔻之香》法国| 情爱游戏 韩国| 密室大逃脱第4季| 法国电影《塔日酒店》高清在线观看| 《大明王朝1566》电视剧| 法国空姐3高清完整满天星奔跑吧ep| 我弟弟的女朋友 电影| 李连杰的全部电影| 电影《魔女3》免费观看国语| 电影灯草和尚高清免费普通话版 | 新三国三英战吕布| 《急诊护士》法国版电影在线播放完| 甄嬛传电视剧免费版全集在线| 法国空乘5免费高清原声满天星美版百度| 垂涎15| 北京达内教育官网| 坎贝奇的电影在线观看 1080P| 青梅竹马是消防员第2季在线观看| 美丽的小蜜蜂4美丽人生| 饱满的离婚女人在线观看| 一进一出下面喷白浆九瑶视频| 巨茎挺进李淑芬的体| 八兄弟电视剧全集在线观看免费| 全世界最好的你在线观看| 我怒了电影免费播放| 安徽泗县地图| 3对1在线观看中文字幕 | 男生女生愁愁愁电视剧在线观看网站 | 芭比时尚童话| 日本天字号监狱电影叫什么名字 | 高品格单恋 电视剧| 办公室初级瑜伽教练| 风语者高清| 疯狂家族史(1-6)完整版| 高清《新三国》| 很想很想你电视剧在线观看| 需要爸爸播种在线免费观看| 暮光之城4快播| 九重紫电视剧在线观看全集免费播放| 《私人家教》哪里能看| 伊甸园韩国综艺| 陈宝莲《满天星绝版》免费看| 电视剧五妹| 《初中小女孩》完整版| 《村枝》雨晴版| 承欢记免费观看完整版电视剧高清| 斗罗大陆165集| 陪部长出差的日子电影完整版 | 煎饼侠电影完整版| 战狼9加拿大版高清版 | 西游记插曲大全| 手机在线观看高清完整版电影| 伦理电影爸爸我要你的种孑在线播放| 泰剧爱的宣言| 成全动漫完整版免费高清| 北京地震最新消息1分钟前| 周生如故电视剧| 祝英台与梁山伯的电视剧| 阿ben 长发妹| 麦乐迪 女超人| 黄沙战神| 吕布戏貂蝉| omoflow第一季真人| 青谷子电视剧免费全集观看| 嗜血法医第一季| 叶罗丽精灵梦第八季第四集| 家教韩国| 麦乐迪 在线| 学校2013韩剧全集在线观看| 日本无尺码小浪花| 电影《热辣披萨女孩》免费观看| 激战百度影音| 搞笑一家人第三部| overflow第一季免费观看全| 灭火宝贝电影| 杀戮都市在线观看完整高清免费| 隐形帽| 王君安越剧名段欣赏| 单身即地狱综艺在线观看第四期| 义姐是不是良喂养1-3集动漫| 电影《塔蒂亚娜2》在线| 总裁的秘书妻| 按摩男技师电影| 《趣塔德庄园》| 大嫁风尚电视剧| 《再见莫妮卡》| 人体蜈蚣3 电影| 三十而嫁全集在线观看| 哪吒2魔童闹海| 大哥的宝库免费观看全集高清| 电影《私人航空》法国电影在线观看 | 售楼小姐的秘密在线播放| 记忆传授人| 三生三世枕上书在线观看全集| 修理人员的培训-正在播放-免费在线观看-窝窝影院 | 轮换2HD中字_午夜电影全集_完整版免费在线观看-天天影院 | 新金瓶梅 高清下载| 月升沧海免费观看| 美国式家庭忌讳1-| 紫钗奇缘26| 我和黑道老大| 《星克莱尔总统夫人》电影观看 | 《需要爸爸播种美国》演员表| 韩剧亲爱的X| 一夜激情| 黑白配免费高清完整版| 马苏比拉米| 高清《她唇之下》电影| 美容院·特珠待遇2| 仙尊的掌心宠全集免费| 少女动漫免费观看全集| 21世纪爱情性格指南全| 唐朝好男人下载| 印度人看中国高铁| 娃娃脸4在线观看免费| 电视剧只是结婚的关系在线观看| 人形少女 快播| 满天星版《超女麦乐迪》1001满天星版 | 肉蒲团 在线观看| 女超人麦乐迪满天星| 庆余年免费观看网站| 731部队电影高清免费播放 | 四十九日祭| 电影《军中乐园》| 特殊保险公司推销员4| 门当户对相亲节目| 八月的棒球甜心动漫免费观看| 留坝县| 夏日重现动画在线观看| 黑帮大佬和我的365天在线观看| 团地妻98| 《和讨厌的部长出差》电影| 仙逆全集免费观看完整版| 欲之中的女人无删减版| 雪莉与保罗第二季| 大药坊剧情介绍| 《朋友夫妇:交换》2电影| jizz分类| 房间里的二人世界原声中文版| 少儿拉丁舞教学| 女子私人监狱完整版免费观看| 再战江湖国语高清| 亲爱的热爱的第二季| 战狼999加特林| 全红婵又又又误入巨人国了| 大兵日记全集| 中文字Dl幕岳 和女电影| 免费观看以爱为营的电视剧| 麦迪时刻35秒13分高清| 荣耀法则满天星在线观看| 杨思敏电影| 少林寺传奇4| 妈妈打女儿原图| 斗罗大陆第171集免费观看| 夺粮剿匪记全集| 老阿姨才是最有V味的直播| 《卖房子的女销售| 爱情美剧盛典爱情公寓完整版| 精英律师全集| 《驯服小峓子3》完整版| 我和我们一起电视剧免费观看剧情| gary西北军2022的成就| 女佐罗在线看| 寰球地理| 绝地枪王| 满天星禁忌5| 光荣时代电视剧免费观看完整版| 铁血使命第2部全集| 麦乐迪女超人免费在线观看| 神探狄仁杰四部全集免费| 乱点鸳鸯谱| 克罗斯凯登全部电影| 上锁的房间在线观看免费高清| 妖仆x狐ss| 王牌大保镖 电影| 皇城根儿| 生活中的玛丽在线伦理| 姑父lvl温软是什么类型的小说| 猎毒者电影| 《花子vs倔强驱魔师》动漫第4集在线| 高中生补习班| 悲伤比更悲伤的故事| 我本女王| Overflower在线观看第一季 | 五十度黑128分未删减版| 图书馆女友2季动漫观看| 女帝后宫:美男争风吃醋全集免费 | 兔子先生第一季第6期24k高清无打码| 交换温度4| 凌云志电视剧在线观看| 姐姐的朋友16| 公之浮之手中字5HD中字怎么读 | 综合笔记视频图片《韩剧办公室蓝色隐身帽子》 - 全集免费观看 - 永时影院印度 | 意大利电影免费看| 法航空姐11季最新更新内容| 《趣塔德庄园》| 火星西路7号| xl司令全集在线观看完整版高清| 黑袍纠察队 第五季全集观看| 豪斯医生第一季01| 我是mt第三季| 老婆6完整版国语电视剧| 勇敢的心电视剧免费观看完整版| 少女潘金莲下载地址| yellow高清免费视频| 麻婆豆腐天美传媒| 日本空姐2019满天星法版:星辉照耀下的职业光芒| 扎职粤语高清完整版| 九九电视剧全集免费| 亲爱的麻洋街电视剧免费观看|