• <track id="oztn4"></track>
    <sup id="oztn4"><form id="oztn4"></form></sup>
    
    
    <mark id="oztn4"></mark>
  • <dfn id="oztn4"><samp id="oztn4"></samp></dfn>
      《地爆天星小姐》电影 ,麦子交换2免费观看2023年上映时间表 ,莫妮卡《爱我几何》,大牛影库战狼6欧式少女全部视频,三年大片国语版在线看,日本空姐电视剧,电影魔镜号中文字幕,和部长一起去出差旅是第几集
      全球「AI學(xué)術(shù)頂會」精華匯聚地
      您正在使用IE低版瀏覽器,為了您的雷峰網(wǎng)賬號安全和更好的產(chǎn)品體驗(yàn),強(qiáng)烈建議使用更快更安全的瀏覽器
      此為臨時鏈接,僅用于文章預(yù)覽,將在時失效
      人工智能學(xué)術(shù) 正文
      發(fā)私信給陳彩嫻
      發(fā)送

      0

      一份來自賈揚(yáng)清的AI青年修煉指南:不存在算法工程師、調(diào)參俠沒有市場

      本文作者: 陳彩嫻 2020-09-01 17:06
      導(dǎo)語:在討論中,賈揚(yáng)清認(rèn)為:沒有算法工程師這個角色,只有兩個角色,一個是算法的研究人員,一個是應(yīng)用的工程師,而“調(diào)參俠”沒有市場。

      一份來自賈揚(yáng)清的AI青年修煉指南:不存在算法工程師、調(diào)參俠沒有市場

      算法工程師不僅需要具備牛逼的算法能力,還要精通業(yè)務(wù)、善于溝通?(小本子趕緊記下來!)

      8月23日晚,知乎直播“AI時代聽大咖聊”邀請到AI領(lǐng)域的兩個大神,分別是阿里云智能高級研究員賈揚(yáng)清,以及知乎CTO李大海。

      在直播中,賈揚(yáng)清與李大海就國內(nèi)外AI研究區(qū)別、在校生/職場新人如何培養(yǎng)自己的AI才能、AI應(yīng)用落地,以及AI在未來的發(fā)展趨勢展開討論。

      在討論中,賈揚(yáng)清認(rèn)為:沒有算法工程師這個角色,只有兩個角色,一個是算法的研究人員,一個是應(yīng)用的工程師,而“調(diào)參俠”沒有市場。

      另外,作為Caffe、PyTorch和Tensorflow曾經(jīng)的核心開發(fā)者,他還提到,深度學(xué)習(xí)框架并不會出現(xiàn)大一統(tǒng)的局面,因?yàn)楝F(xiàn)實(shí)中需求很多,并沒有一家機(jī)器學(xué)習(xí)框架能夠囊括所有的需求。

      一份來自賈揚(yáng)清的AI青年修煉指南:不存在算法工程師、調(diào)參俠沒有市場視頻鏈接:https://www.zhihu.com/zvideo/1280989974280634368

      AI科技評論對本次分享作了不改變原意的整理與編輯:


      1

      “專業(yè)”除草,沒想到賣了3億美元

      Q1:能否請兩位聊一下國內(nèi)外做AI領(lǐng)域的研究有什么區(qū)別?

      賈揚(yáng)清:首先,國內(nèi)外的工程師都很用功,而且都追求最新的技術(shù)。個人認(rèn)為國內(nèi)的工程師更關(guān)注如何把方法與業(yè)務(wù)結(jié)合起來,而國外在AI方面有一些很好玩的事情。

      舉兩個例子:一個是,如今很多農(nóng)產(chǎn)品(比如黃瓜)在運(yùn)去超市前需要篩選出大小、質(zhì)量等許多方面合格的產(chǎn)品。以前都是用手分揀的,很麻煩,但自從有了深度學(xué)習(xí)的框架TensorFlow之后,有精通工程的年輕農(nóng)民就結(jié)合算法,使用機(jī)器學(xué)習(xí)自動對黃瓜進(jìn)行分類,實(shí)現(xiàn)了:大一點(diǎn)的黃瓜送超市,小一點(diǎn)的拿去做零售。

      第二個是,我有一個研究生同學(xué)把Raspberry Pi放在后院,后院里有一個喂鳥的地方,松鼠經(jīng)常過來,他就拿那個Raspberry Pi識別松鼠,松鼠一來就把它趕走。這些技術(shù)看著好像沒有什么用處,但后來產(chǎn)生了非常多應(yīng)用。硅谷有一個公司叫Blue River Technology,他們做的事情是運(yùn)用技術(shù)在田間地頭找雜草、除雜草,有點(diǎn)類似篩黃瓜、找松鼠。這個公司后來被美國最大的農(nóng)機(jī)制造商約翰迪爾公司以3億美元收購了。他們很多時候是出于純粹的技術(shù)好奇心,但后來創(chuàng)造了一個產(chǎn)業(yè)。我覺得這是國外蠻有意思的一點(diǎn)。

      一份來自賈揚(yáng)清的AI青年修煉指南:不存在算法工程師、調(diào)參俠沒有市場直播截圖 

      李大海:揚(yáng)清講的這個公司我有印象,他們通過識別雜草、然后定點(diǎn)噴灑除草劑,雜草率可以降低到原來的10%。硅谷的公司一直有這個文化。當(dāng)時我在谷歌的時候,Eric(谷歌執(zhí)行董事長)曾經(jīng)講過一個很好玩的故事:當(dāng)時在谷歌有一個柜子專門放T恤。在谷歌,無論發(fā)生什么,他們都會把事件印在T恤上,不定期往柜子里塞,然后大家去搶。當(dāng)時柜子附近有一個攝像頭,Eric就基于攝像頭寫了一些代碼去監(jiān)控這個柜子。一旦識別出這個柜子附近有人,攝像頭就會發(fā)出“警報”來通知Eric,然后Eric一看到有人往柜子里面塞T恤就去搶。在美國,這些工程師會自發(fā)地去做這種(技術(shù)應(yīng)用的)微創(chuàng)新。

      國內(nèi)工程師在創(chuàng)新方面與國外可能有一些差別。目前國內(nèi)的AI應(yīng)用場景已經(jīng)很廣。比如說,在知乎的工程團(tuán)隊(duì)里,大概1/6的人都是算法工程師。在工業(yè)界,算法確實(shí)已經(jīng)滲透到應(yīng)用場景的方方面面。第二點(diǎn)是,AI應(yīng)用從互聯(lián)網(wǎng)開始逐漸推向越來越多的傳統(tǒng)企業(yè)和傳統(tǒng)行業(yè)。但在個人層面,與國外相比,國內(nèi)的工程師可能較少會自發(fā)去發(fā)現(xiàn)一些微小的創(chuàng)新機(jī)會,并實(shí)現(xiàn)它。


      2

      如何優(yōu)雅入“AI”這個坑

      Q2:作為一個在校生,我要如何將學(xué)習(xí)與業(yè)務(wù)結(jié)合,如何培養(yǎng)自己的AI能力、才能進(jìn)入比較好的互聯(lián)網(wǎng)公司呢?

      李大海:我們一般稱掌握了AI知識的同學(xué)為“算法工程師”。算法工程師在本質(zhì)上首先是一個工程師,所以一個工程師所具備的能力,算法工程師也應(yīng)該具備,例如說:1)代碼能力,能夠通過代碼實(shí)現(xiàn)自己的想法;2)數(shù)據(jù)能力,即能夠?qū)?shù)據(jù)進(jìn)行分析,并發(fā)現(xiàn)數(shù)據(jù)所包含的重點(diǎn),同時對數(shù)據(jù)進(jìn)行處理;3)與人溝通的能力,因?yàn)樗惴üこ處煻际窃趫F(tuán)隊(duì)里面工作,不是單打獨(dú)斗,所以需要能夠與同組的其他工程師、產(chǎn)品經(jīng)理、測試和其他同事進(jìn)行溝通。

      第二點(diǎn)是算法工程師需要培養(yǎng)業(yè)務(wù)能力,即對業(yè)務(wù)的理解。工程師首先要掌握業(yè)務(wù)應(yīng)用的知識。業(yè)務(wù)場景非常多,但每個場景所面臨的問題是不一樣的,所以算法工程師一定要理解業(yè)務(wù)到底是需要解決什么問題,具備定位問題、發(fā)現(xiàn)問題、拆解問題和解決問題的能力。

      綜上,對于在校生來說,擁有對算法的理解能力是非常重要的特質(zhì)。雖然算法工程師都喜歡自黑,稱自己是“調(diào)參俠”,但除了調(diào)參之外,還需要知道算法背后的原理。我們現(xiàn)在處于深度學(xué)習(xí)時代,但是在“前深度學(xué)習(xí)時代”有很多淺層模型,這些模型因?yàn)闆]有深度學(xué)習(xí)碾壓式的表達(dá)能力,所以在淺層模型上做了很多思考。

      個人認(rèn)為:“當(dāng)年”那些模型所用到的技巧對于培養(yǎng)機(jī)器學(xué)習(xí)的能力和解決現(xiàn)實(shí)問題是非常重要。

      一份來自賈揚(yáng)清的AI青年修煉指南:不存在算法工程師、調(diào)參俠沒有市場       直播截圖

      賈揚(yáng)清:同意大海的觀點(diǎn):分析問題,定義問題,然后解決問題的整個邏輯非常重要。在校生得到的訓(xùn)練更多是:如何解決問題的能力。但其實(shí)如果問題定義清楚了,解決問題的方法就會出現(xiàn)很多。

      另外,從工程的角度補(bǔ)充兩點(diǎn):第一,如何獲取最新的技術(shù)和算法?現(xiàn)在整個開源領(lǐng)域進(jìn)展迅速。其實(shí),不光是開源,也有很多開發(fā)支持平臺。所以,大家可以保持好奇心,然后多帶著玩的心態(tài)進(jìn)行嘗試。例如三年前,名為叫Neural Style Transfer的AI應(yīng)用,將拍的照片上傳之后,就可以轉(zhuǎn)換成一張類似梵高風(fēng)格的藝術(shù)照。

      一份來自賈揚(yáng)清的AI青年修煉指南:不存在算法工程師、調(diào)參俠沒有市場

      第二是,“摸透”應(yīng)用的實(shí)現(xiàn)流程。落地應(yīng)用是“曇花一現(xiàn)”,但應(yīng)用背后所涉及的工程步驟,例如把算法快速地迭代出來、如何做算法優(yōu)化、如何把算法放到手機(jī)上,如何上線,等等。這種實(shí)際操作的流程和只看論文和demo是不一樣的。今天,我們有GitHub這類的開源社區(qū),很多實(shí)際操作都比以前更加容易。

      李大海:我想補(bǔ)充一點(diǎn)。有段時間我訂閱過arXiv上面的 topic,但我發(fā)現(xiàn)這是個坑。arXiv最近在機(jī)器學(xué)習(xí)領(lǐng)域非常火熱,每天都大量的論文發(fā)布出來,其中包含很多不同領(lǐng)域的或大或小的突破,這其實(shí)會讓人眼花繚亂。所以在這種情況下,我給學(xué)生們的建議是:自己先抓住一個重點(diǎn)(領(lǐng)域),至于其他領(lǐng)域,簡單了解那些技術(shù)和突破是什么就好。

      Q3:假設(shè)一個同學(xué)已經(jīng)入職了,已經(jīng)成為算法工程師,他可能會經(jīng)歷初級、中級、高級三個階段。所以,關(guān)于初級算法工程師怎么晉升到中級算法工程師,以及中級算法工程師怎么晉升到高級算法工程師,兩位有何看法?

      賈揚(yáng)清:我覺得挺重要的一點(diǎn)是學(xué)習(xí)是所謂的engineering practice(工程實(shí)踐)。很多時候,我們在寫研究代碼時,跟研究本質(zhì)是一樣的,因?yàn)檠芯渴强焖俚恍枰龉こ虒?shí)現(xiàn)。假如,今天要上線一個功能,不僅要保證它的整個foundation(基礎(chǔ))是solid(堅固)的。這時候,我們怎么做代碼的管理、協(xié)同、review(審查)、測試、CD和上線?怎么做 performance(性能)的benchmark(基準(zhǔn))跟profiling ?這一系列的工程流程也挺重要。

      第二點(diǎn)是保持好奇心。其實(shí)任何一個公司的平臺都是挺大的。拿阿里大數(shù)據(jù)和AI平臺來舉例子,像ODPS(Open Data Processing Service)大數(shù)據(jù)平臺是10年前開始建造的,今天平臺非常復(fù)雜,包括上層的C語言庫、中間的 Query Optimization(查詢優(yōu)化)和底層的執(zhí)行調(diào)度,肯定不能完全把握。在這個時候,算法工程師就要與他人保持交流,多提問、多討論。就像T型,對系統(tǒng)的某一點(diǎn)了解特別深,對系統(tǒng)的其他部分就觸類旁通。逐漸成為一個高級算法工程師之后呢,成為一個架構(gòu)師所擁有的能力,其實(shí)也能使得我們在更看得更寬、看得更大的同時,有一個更加全局的系統(tǒng)架構(gòu)的視野。

      Q4:揚(yáng)清有沒有一些具體的建議?比如說你在學(xué)生時代是怎么學(xué)習(xí)的?用什么途徑獲取到新的 AI資訊,遇到問題怎么解決?

      賈揚(yáng)清:在我學(xué)生時代,當(dāng)時大家了解深度學(xué)習(xí)的算法是通過看論文,看完論文后大概就知道怎么做架構(gòu)設(shè)計。在看論文的過程中會有非常多的輸入,比如我們學(xué)到,人們最開始寫深度學(xué)習(xí)框架的時候(Torch是2000年左右出來的,Theano是2008年出來的),它們的架構(gòu)設(shè)計怎么做神經(jīng)網(wǎng)絡(luò)、怎么做layer(層數(shù))等等,這對我們后來設(shè)計其他的框架,像Caffe、MXNet、PyTorch等等,是非常有幫助的。再比如說,我們怎么樣做模型civilization的格式化等等,這時候谷歌的ProtoBuf又是一個很好的測試框架,如G test。這些現(xiàn)有的工程實(shí)踐以及設(shè)計有現(xiàn)成的代碼、文檔和應(yīng)用,看這些其實(shí)能夠在實(shí)際中提升自己的能力。

      李大海:我非常贊同揚(yáng)清的觀點(diǎn),就是在學(xué)校的時候我們會更關(guān)注代碼的算法上是否足夠精妙,但是對架構(gòu)和工程的關(guān)注度是不夠的。我自己在早年的時候也犯過這樣的錯誤,像我們數(shù)學(xué)系畢業(yè)的,在工程上接受到的培訓(xùn)是偏少的,但進(jìn)入公司以后,工程實(shí)踐卻變得很重要。揚(yáng)清之前在一次線下分享中曾提到的一句話我也很贊同,就是:AI是一個系統(tǒng)工程,90%的時間里所做的事情都跟算法無關(guān)。在現(xiàn)實(shí)中也確實(shí)是這樣。

      那么,作為剛?cè)肼毜耐瑢W(xué),其實(shí)首先我認(rèn)為入職已經(jīng)晚了,在入職前就應(yīng)該挑選一個在工程上相對規(guī)范的公司去入職。如果是一個小公司,自己又沒有工程上的 sense(意識),那么你進(jìn)入的是一個工程規(guī)范很亂的一家公司,這對于個人的職業(yè)發(fā)展和工程能力的培養(yǎng)是很有問題的。

      Q5:想請問兩位 AI從業(yè)者,你們覺得跟其他AI從業(yè)者比,你們最大的優(yōu)勢是什么?

      賈揚(yáng)清:在AI領(lǐng)域里,在業(yè)界做得非常成功的人或團(tuán)隊(duì)都有一個特點(diǎn),就是業(yè)務(wù)化。他們不光懂算法,而且懂得怎么用算法。因?yàn)樵诮裉欤惴ㄒ呀?jīng)迅速普及,找一個研究生,兩分鐘就能搞出ResNet。

      另外,AI算法的創(chuàng)新在逐漸變慢。比如說,Bert在NLP領(lǐng)域,ResNet在CV領(lǐng)域都已經(jīng)比較成熟。雖然算法創(chuàng)新還可以稍微提升一下,但算法已經(jīng)不是一個核心的differentiate(區(qū)別點(diǎn))。在這種情況下,怎么樣找到實(shí)際應(yīng)用場景,如何把算法和應(yīng)用結(jié)合起來,我覺得這是最能體現(xiàn)出價值的地方。所以,如今AI的突破可能不是在算法上,而是“算法+系統(tǒng)+應(yīng)用”,而且應(yīng)用可能會變得越來越重要。

      李大海:我們還處于AI的應(yīng)用層。AI現(xiàn)在已經(jīng)是一個非常大的框,里面可以放非常多東西,領(lǐng)域也非常廣。我覺得我們更像是AI行業(yè)的從業(yè)者,是把AI當(dāng)成一個功能強(qiáng)大的工具去使用。

      我們的團(tuán)隊(duì)內(nèi)部曾經(jīng)很喜歡一個國外經(jīng)濟(jì)學(xué)家寫的一本書,叫《與運(yùn)氣競爭》。

             一份來自賈揚(yáng)清的AI青年修煉指南:不存在算法工程師、調(diào)參俠沒有市場       

      里面講到,當(dāng)我們手上有一把鉆子的時候,很容易想到的是我拿著鉆子可以干嘛?但其實(shí)很多時候,用戶可能只需要鉆一個孔來掛衣服。所以,如果你想的總是“如何提高鉆頭的合金程度”、“讓它變得更好看”,這可能根本就不是用戶想要的。

      總的來說,工具非常重要,我們對于 AI的理解和AI前沿技術(shù)的跟蹤也很重要,但更重要的事情是:用戶的需求到底在哪里,我們能解決什么問題。


      3

      感知大神VS決策白癡

      Q6:現(xiàn)在人工智能處于什么發(fā)展階段?它未來會給我們帶來哪些改變?它的長期規(guī)劃可能是什么樣的?

      李大海:如果要判斷AI目前處于什么階段,我們得先知道AI的全景是什么樣子,但這個很難預(yù)測。這時又會涉及到:人工智能最后到底能走到什么階段?它能不能達(dá)到強(qiáng)人工智能的狀態(tài)?我的觀點(diǎn)是偏悲觀的,我覺得強(qiáng)人工智能可能永遠(yuǎn)都達(dá)不到。

      但說到應(yīng)用,我們可以看到,人工智能在許多領(lǐng)域里已經(jīng)打敗人了,比如說圖片分類。所以在應(yīng)用層面上我是很樂觀的。人工智能的歷史始于20世紀(jì)初,后來經(jīng)歷了一些起起伏伏。

      到今天,AI可能有一些泡沫,但這個泡沫其實(shí)是AI公司在商業(yè)模式上遇到的問題。但從技術(shù)層面上講,AI這個工具越來越強(qiáng)大,數(shù)據(jù)量越來越大,這些都是毋庸置疑的事情,所以在應(yīng)用層面上我是很看好的。

      賈揚(yáng)清:從歷史的角度來看,計算機(jī)誕生的目的是為了更加智能化地處理人與世界交互的問題。在人工智能最早的時候,大家都在處理決策的問題。等決策系統(tǒng)做了一堆工作后,我們發(fā)現(xiàn),其實(shí)我們首先都還不知道這個世界是如何從一個像素、語音“導(dǎo)入”到計算機(jī)邏輯的系統(tǒng)里。所以在前面這幾年,深度學(xué)習(xí)其實(shí)是在從決策層面轉(zhuǎn)到感知層面,從而來解決感知的問題。

      從感知的角度來說,今天已經(jīng)相對較成熟。例如2014年,圖像識別的正確率在一個限定的范圍內(nèi)已經(jīng)超過人類。

      回過頭來看決策,人工智能的決策發(fā)展還不行。比如說,在自動駕駛里,我能感知這里有一輛車、那里有一個人,但是知道后如何做決策?邏輯是什么?甚至在一些更復(fù)雜的場景,例如限速25,但前面的車都超速往前開了,這時候我又怎么辦呢?這些事情都是要在決策層面上解決的。人工智能很有可能會先解決感知/認(rèn)知問題,然后在感知的基礎(chǔ)上做決策。

      綜上,分領(lǐng)域來看,人工智能在認(rèn)知領(lǐng)域已經(jīng)到達(dá)非常成熟的階段,但在決策領(lǐng)域可能還處于初期的探索。


      4

      AI離不開云

      Q7:有一句話叫“AI是云的內(nèi)核,云是AI的必然形態(tài)。”如何看AI和云的關(guān)系,以及AI在云里面扮演的角色。

      賈揚(yáng)清:為什么今天我們說云和AI是一個強(qiáng)結(jié)合的狀態(tài)呢?我覺得原因可能有兩點(diǎn):一是算力,二是數(shù)據(jù)。從算力的角度來說,以前我們在學(xué)校做實(shí)驗(yàn)或自己創(chuàng)業(yè)的時候都搭過機(jī)器。搭機(jī)器很痛苦,而且運(yùn)維機(jī)器在一定程度上不產(chǎn)生價值,然后AI又對GPU有非常強(qiáng)烈的需求。GPU又是一個很惡心的事,有時候運(yùn)行不錯,有時候又會過熱,有時候又需要我們做資源的調(diào)度等等。任何一個實(shí)驗(yàn)室都會遇到資源調(diào)度問題:一個是科研人員在那找GPU的時候發(fā)現(xiàn)找不著,然后系統(tǒng)工程師跑去一看,說:“哇天啊!利用率好低!”一邊是starvation(饑餓),一邊是satiation(飽和)。

      如今,云可以很好地解決算力問題。30年前,所有的單位都有一個發(fā)電機(jī),但今天沒有人用發(fā)電機(jī)了,因?yàn)榈讓拥幕A(chǔ)設(shè)施已經(jīng)非常成熟,可以低成本、大規(guī)模地給社會提供電力。在今天,云的計算力就像水電煤一般的基礎(chǔ)設(shè)施,我們不需要擔(dān)心哪天機(jī)器哪里出了問題。比如說,今天我突然要拉起一個大量的應(yīng)用,這個時候云可以“soo”一聲彈上來,不要了就放掉。這是算力方面。

      第二個是數(shù)據(jù)。前段時間,許多人關(guān)注深度學(xué)習(xí)領(lǐng)域,如圖像、語音等等。但許多AI應(yīng)用其實(shí)是跟結(jié)構(gòu)化數(shù)據(jù)綁在一塊的。咱們舉個例子。比如說像知乎有大量的用戶內(nèi)容,這涉及到兩方面:一方面是自然語言的處理,另一方面是用戶和內(nèi)容的匹配。這時候,其實(shí)是在一個大數(shù)據(jù)底座(像Hadoop和MaxComput)上面做結(jié)構(gòu)化數(shù)據(jù)的人工智能。

      這和一個大規(guī)模分布式系統(tǒng)是分不開的,因?yàn)槲也豢赡芙裉煺f把這些數(shù)據(jù)放到一個GPU機(jī)器上面,拿三個SSD把它給接起來。所以這時候就需要一套比較完整的系統(tǒng),從數(shù)據(jù)的存儲、處理、分析到計算,到上層去進(jìn)行任務(wù)的編排、模型的開發(fā)、模型的上線,以及數(shù)據(jù)的回流。無論用戶是自己搭一個系統(tǒng)(我們叫“私有云”),還是在公有云上面進(jìn)行,云都是AI不可或缺的一個環(huán)境。

      今天的AI,越來越多會關(guān)注到系統(tǒng)、云。這也標(biāo)志著AI未來發(fā)展的必然形態(tài)。目前,算法能夠“單機(jī)”開發(fā),但是如何運(yùn)用算法,則需要算力和數(shù)據(jù)的支持,因此也會需要云和云相關(guān)的技術(shù)。

      我現(xiàn)在在做的工作是把AI和大數(shù)據(jù)進(jìn)行結(jié)合。例如,前段時間我們發(fā)現(xiàn):深度學(xué)習(xí)的工程師會發(fā)現(xiàn)目前的大數(shù)據(jù)平臺不能滿足需求。因?yàn)檫^去需要數(shù)據(jù)庫管理結(jié)構(gòu)化數(shù)據(jù),而如今需要大數(shù)據(jù)逐漸向這種深度學(xué)習(xí)的應(yīng)用領(lǐng)域進(jìn)行改變。

      另一方面,對于結(jié)構(gòu)化的應(yīng)用工程師來說,當(dāng)存在推薦系統(tǒng)的需求時,所需要的并不是把所有的代碼寫出來,而是通過更加靈活的“拖拉拽”等方式。因此,過去是從大數(shù)據(jù)的角度進(jìn)行AI落地,而未來一到兩年內(nèi)需要從系統(tǒng)的層面,推動非結(jié)構(gòu)化深度學(xué)習(xí)場景和結(jié)構(gòu)化“傳統(tǒng)經(jīng)濟(jì)學(xué)產(chǎn)品”進(jìn)步。


      5

      算法工程師的未來“兇多吉少”

      Q8:AI工程師和AI算法工程師之間有何不同?各自的發(fā)展趨勢是怎樣的?兩者會不會融合?

      李大海:在谷歌內(nèi)部,AI的工作是普通的工程師在進(jìn)行,只要把問題描述清楚,然后放到“系統(tǒng)”上,系統(tǒng)就能夠給出一個大概的解決方案。在未來,隨著技術(shù)的發(fā)展,AI和AI工程的門檻會越來越低。這就意味著AI工程師的從業(yè)門檻也會越來越低。

      但是有許多缺口需要AI工程師補(bǔ)充,所以,AI工程師也需要積累算法。因此,從這個角度來看,AI工程師既需要懂架構(gòu),又需要懂算法。對于學(xué)生或者剛進(jìn)入工作的職場新人而言,需要好好塑造自己的方法論,快速補(bǔ)充自己,根據(jù)自己的業(yè)務(wù)需求讓自己的能力變強(qiáng)。

      其實(shí),無論是在谷歌還是在知乎,我們招聘工程師都有一個標(biāo)準(zhǔn),即希望工程師足夠聰明,能夠快速學(xué)習(xí),可以根據(jù)自己的業(yè)務(wù)補(bǔ)充“技能樹”。

      綜上,無論是算法還是工程,其基礎(chǔ)能力和學(xué)習(xí)能力非常重要。

      賈揚(yáng)清:我來討論可能相對比較有爭議性的話題:個人認(rèn)為沒有算法工程師這個角色,只有兩個角色,一個是算法的研究人員,一個是應(yīng)用的工程師,而“調(diào)參俠”沒有市場。因?yàn)椋械恼{(diào)參工作只需要寫for 循環(huán)語句即可。

      算法的科研人員更多是攻堅“更好的算法”,例如在計算機(jī)視覺領(lǐng)域,可能要把模型做得更大、更準(zhǔn),在某些問題上需要把模型做得更小。當(dāng)然,在具體量化的過程中,需要在兩者之間進(jìn)行平衡。也就是說,科研人員更多是思考如何在一些“普遍”的場景下對算法進(jìn)行創(chuàng)新。

      在具體的應(yīng)用過程中,調(diào)參只是一個手段。例如,在無人駕駛領(lǐng)域,其場景和機(jī)場的云點(diǎn)識別的場景非常類似,但是其數(shù)據(jù)的分布不一樣,所要做的事情不一樣。應(yīng)用工程師更多的是了解其背后的業(yè)務(wù)場景差距和限制,例如傳統(tǒng)的約束滿足問題(CSP)。所以,應(yīng)用工程師更多的是對端到端進(jìn)行整合,找到最優(yōu)的方向進(jìn)行調(diào)參,也就是說,調(diào)參只是一個手段。綜上,調(diào)參俠沒有市場,現(xiàn)實(shí)中只存在算法科研人員和應(yīng)用工程師。


      6

      小板凳蹲阿里、知乎的AI展望

      Q9:AI的發(fā)展情況如何?在知乎和阿里有哪些技術(shù)沉淀?未來的應(yīng)用情況、重點(diǎn)投入的AI方向是什么?

      李大海:目前的AI工作和場景結(jié)合緊密。抽象來看,(知乎)有三大方向:一是內(nèi)容生產(chǎn),如何利用AI讓內(nèi)容生產(chǎn)進(jìn)行更有效率,例如創(chuàng)作者匹配、激活創(chuàng)作者;二是內(nèi)容理解,建立內(nèi)容概述,對內(nèi)容質(zhì)量有初步把握,例如內(nèi)容底線內(nèi)容在哪里?內(nèi)容是不是帶有辱罵性質(zhì)?是不是有極端(仇恨)情緒;三是內(nèi)容分發(fā),這個方向建立在第二個方向基礎(chǔ)之上,但不再僅僅局限在內(nèi)容的理解上,還需要對用戶進(jìn)行理解。具體而言有兩種情況,一是用戶主動搜索,將AI算法賦能到搜索引擎里;二是,被動推薦,將高質(zhì)量內(nèi)容推薦給合適用戶。

      那知乎在文本方面(NLP)有哪些工作呢?主要有兩個方面,一是分詞,例如最近的一次迭代結(jié)果是:F1的值從91%上漲到93.5%。二是詞性的判斷,這類工作包括命名實(shí)體識別、消歧等等。

      賈揚(yáng)清:阿里有很多團(tuán)隊(duì)在研究AI,例如阿里的PAI團(tuán)隊(duì)致力于AI的開發(fā)和治理的平臺,基本上阿里的所有工程師都會在上面做開發(fā),達(dá)摩院的同學(xué)就會在上面構(gòu)建很多應(yīng)用和落地的算法,包含圖片、語音等等。

      具體而言,阿里在開發(fā)和工程平臺上基本上有三方面的應(yīng)用,首先是AI和大數(shù)據(jù)的結(jié)合,目的是在傳統(tǒng)機(jī)器學(xué)習(xí)領(lǐng)域里,如何讓應(yīng)用工程師、或者數(shù)據(jù)科學(xué)家更加容易使用數(shù)據(jù)和算法。換句話說,更加豐富、更加成熟、更加高效的算法的結(jié)合,目的是為公司提供需要的場景化的解決方案。最典型的例子有兩個,一個是搜索推薦,另外一個是金融風(fēng)控。這兩個領(lǐng)域?qū)I存在強(qiáng)需求。如果存在場景化的解決方案,那么就能讓其更容易將領(lǐng)域數(shù)據(jù)和AI相結(jié)合。

      第二是更加云原生、順暢的AI的深度學(xué)習(xí)的體驗(yàn)。以往的大數(shù)據(jù)、深度學(xué)習(xí)平臺其結(jié)構(gòu)往往比較重,使用云原生“容器化”的能力可以構(gòu)建出一個和“自己”的開發(fā)環(huán)境相符合的“產(chǎn)品”。例如在無人駕駛場景中,可以實(shí)現(xiàn)非常靈活的深度學(xué)習(xí)開發(fā),構(gòu)建靈活的深度學(xué)習(xí)應(yīng)用。

      第三是更加成熟的工程化的AI算法的部署,旨在解決模型的穩(wěn)定程度和彈性以及檢測模型的性能。再者,如果有新的模型上線,如何進(jìn)行A/B 測試?如何回流模型的用戶反饋?等等都是需要考慮的問題。

      在阿里我們還進(jìn)行了一些“隱形”的工程能力。例如,針對系統(tǒng)利用率低,我們做了資源調(diào)度、資源的編排管理等工作。具體而言,我們在OSDI這一會議發(fā)布了異構(gòu)相關(guān)文章,還發(fā)布了在推理的框架里如何自動生成代碼等論文。這些工作在產(chǎn)品中顯現(xiàn)不清楚,但是確確實(shí)實(shí)能夠幫助平臺降成本,增效率。

      Q10:有何展望?阿里云會不會有自己的深度學(xué)習(xí)框架?接下來有哪些新的產(chǎn)品形態(tài)?

      賈揚(yáng)清:接下來在產(chǎn)品形態(tài)上會把產(chǎn)品做得更加成熟,更加模塊化。目的是讓大家根據(jù)自己的需求進(jìn)行靈活選擇,模塊化的靈活組合。

      另外,也會著重強(qiáng)調(diào)穩(wěn)定性和用戶體驗(yàn)。關(guān)于深度學(xué)習(xí)框架,個人邏輯是:從需求出發(fā)。TensorFlow和Pytorch其出現(xiàn)的原因也是這個邏輯,例如TensorFlow能夠迎合“在一個大規(guī)模的彈性系統(tǒng)上面,靈活構(gòu)建高性能AI的需求”。

      但是TensorFlow也有學(xué)習(xí)難度比較大的弱點(diǎn)。所以針對學(xué)習(xí)難度問題,出現(xiàn)了Pytorch。目前,這兩者也在相互借鑒,例如TensorFlow在增強(qiáng)用戶體驗(yàn),Pytorch在增強(qiáng)系統(tǒng)能力。所以,從需求的角度來看,這兩者在一定程度上很好的解決了用戶體驗(yàn)問題。

      設(shè)計深度學(xué)習(xí)框架切記不要 meet to product,即和TensorFlow和PyTorch在結(jié)構(gòu)上不一樣,但是所能夠滿足的需求,能夠做的事情是一樣的。(賈揚(yáng)清意思是:這種框架不值得)

      其實(shí),個人認(rèn)為,當(dāng)前最重要的價值是如何更好的對接軟硬件的協(xié)同設(shè)計,不光是大規(guī)模的系統(tǒng),如何將眾多的芯片(例如平頭哥芯片、AMD芯片、蘋果芯片)和框架進(jìn)行對接,也是一個非常現(xiàn)實(shí)的工程問題。

      所以,軟硬件系統(tǒng)的設(shè)計才是核心問題,能否出現(xiàn)新的深度學(xué)習(xí)框架,這個框架將會解決什么問題,也都會圍繞這個核心問題。


      7

      精挑細(xì)選的問答

      問答1:作為CTO,管理著上百人的技術(shù)團(tuán)隊(duì),你們一天的工作內(nèi)容是什么?

      李大海:技術(shù)體系的工作分為兩種,第一種是建體制,即從機(jī)制層面思考創(chuàng)造讓團(tuán)隊(duì)認(rèn)真工作的環(huán)境。讓大家覺得工作更愉悅,工作目標(biāo)更明確。如果這個問題解決不好,直接會影響工程團(tuán)隊(duì)的組織能力,會影響到團(tuán)隊(duì)的文化氛圍。

      第二種是對重點(diǎn)的工作領(lǐng)域進(jìn)行分類,在幾百人的團(tuán)隊(duì)里,我們的工作覆蓋面非常廣,所以我會關(guān)注到哪些領(lǐng)域的重要程度最高,然后判斷現(xiàn)狀和重要程度之間的差距如何。雷鋒網(wǎng)

      最后,我作為全局領(lǐng)導(dǎo)者,擁有的信息比較全面。也會關(guān)注擁有部分信息的員工所作出的決策,如果他出現(xiàn)錯誤,我會進(jìn)行糾正。雷鋒網(wǎng)

      賈揚(yáng)清:有四個方面,第一做事情,即如何搭建平臺,如何進(jìn)行業(yè)務(wù),這里涉及到和阿里云的其他團(tuán)隊(duì)進(jìn)行對接,討論需求,商量決策。雷鋒網(wǎng)

      第二是如何通過團(tuán)隊(duì)之間的良好溝通,確保團(tuán)隊(duì)的戰(zhàn)斗力。這需要考慮人的喜怒哀樂,需要考慮組織溫度。

      第三,如何構(gòu)建機(jī)制,我們的做法是通過“戰(zhàn)役”進(jìn)行確定重點(diǎn)方向,例如針對用戶體驗(yàn),用戰(zhàn)役的機(jī)制進(jìn)行討論、執(zhí)行,確保能夠做出用戶需要的產(chǎn)品。

      第四,自我學(xué)習(xí)。在做管理的時候,感覺自身有很多不足的地方。并且,我的知識儲備和團(tuán)隊(duì)相比并不會雄厚。所以,需要自我學(xué)習(xí),提升能力,從而更好的管理團(tuán)隊(duì)。

      總結(jié)一下,我在阿里云做管理,涉及到的工作是:人、機(jī)制、自我學(xué)習(xí)。

      問答2:會不用有一個大一統(tǒng)深度學(xué)習(xí)框架?

      賈揚(yáng)清:我覺得不會, 例如可口可樂和百事可樂;安卓和ios ,mac和windows。曾經(jīng)看到過這么一個經(jīng)濟(jì)學(xué)觀點(diǎn),我們的現(xiàn)實(shí)需求很多,并沒有一家能夠囊括所有的需求。例如在最好的語言評選中,數(shù)據(jù)科學(xué)家更傾向于Python,系統(tǒng)工程師會選擇C++。因此,不會有一個一統(tǒng)江湖的框架,也不會存在一成不變的框架。(編者注:賈揚(yáng)清說的可能是政治經(jīng)濟(jì)學(xué)里面的“壟斷并不會消除競爭”~)

      李大海:同意賈揚(yáng)清的觀點(diǎn),但是我想從另一個角度討論這個問題。例如微信只有一個,但是其他產(chǎn)品可能會出現(xiàn)并存。是否形成一家獨(dú)大的判斷標(biāo)準(zhǔn),我認(rèn)為是是否有網(wǎng)絡(luò)效益。機(jī)器學(xué)習(xí)平臺并沒有那么強(qiáng)的網(wǎng)絡(luò)效益,需求的點(diǎn)有很多,不同的需求可能存在不同的平臺。所以,Tensorflow和Pytorch這兩大主流平臺可能會長期存在,而在某些垂直領(lǐng)域還可能出現(xiàn)某些“小而美”的平臺。

      問題3:有哪些好的學(xué)習(xí)方法,最近在看的書可以分享?

      賈揚(yáng)清:學(xué)習(xí)方法在于好的知識輸入渠道,推薦四個:1、知乎;2、Hacker News;3、TechCrunch;4、Reddit machine learning group。關(guān)于書籍,最近在看一些管理方面的書籍,例如《公司的進(jìn)化》。

      雷峰網(wǎng)原創(chuàng)文章,未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知

      一份來自賈揚(yáng)清的AI青年修煉指南:不存在算法工程師、調(diào)參俠沒有市場

      分享:
      相關(guān)文章
      當(dāng)月熱門文章
      最新文章
      請?zhí)顚懮暾埲速Y料
      姓名
      電話
      郵箱
      微信號
      作品鏈接
      個人簡介
      為了您的賬戶安全,請驗(yàn)證郵箱
      您的郵箱還未驗(yàn)證,完成可獲20積分喲!
      請驗(yàn)證您的郵箱
      立即驗(yàn)證
      完善賬號信息
      您的賬號已經(jīng)綁定,現(xiàn)在您可以設(shè)置密碼以方便用郵箱登錄
      立即設(shè)置 以后再說
      主站蜘蛛池模板: 灭火宝贝电影在线看完整版高清 | 哈尔滨着火| 正中下怀是什么意思| 邓丽君歌曲演唱会| 碟中谍1未删减版资源| SSIS-338《最高の爱人沼》在哪看 | 夺帅国语高清| 牙医姐妹完整版高清版| 高清《监狱女囚》13集观看 | 女儿复仇满天星版| 《私人助理2》韩剧| 电视剧今生有你全集免费观看| 小丑电影2019在线观看| 风味人间第五季全集免费观看| 爱神电影| 沉香如屑在线电视剧免费观看| 渔夫荒野全集| 都挺好 电视剧在线看| 隋唐英雄75| 伦理《法国空乘4观看| 好妈妈高清在线播放| 巨鳄风暴完整版电影免费观看| 婴儿王妃| 姊妹牙医电影完整版| 魔乳秘剑帖全集| 瓜达卢佩的玫瑰无删版| 兔子帮图片| 弱杀 电影| 四个贵妇精油按摩电影免费播放 | 军事不当行为| 大江大河2部免费观看| 壹号皇庭 电视剧| abo动画成结模拟免费观看| 宇宙好声音| 傲斗凌天v20| 兰德里的挽歌| 狂乱家族| 天海翼在线播放| 汤方大胆人体艺术| 少年天子剧情| 战狼9欧式少女电影| 功夫小蝇| 《分娩特写》电影免费观看| 史诗电影| 需要爸爸播的种子免费观看| 电影情事2014| 小爸爸全集在线观看| 讲的笔顺| 鹰眼黑寡妇| 总统夫人的夜晚高清完整版在线观看| 苍井空演的电影| 王牌贱谍| 贤妻良母免费观看完整版韩剧| 名创优品指甲油致癌物超标 | 私人航空在线观看免费完整版| 斗破苍穹59在线观看| 七龙珠af| 重紫电视剧免费观看| 小小姑娘电影免费播放高清下载| 优越的一天电视剧全集完整版| 战狼6欧美版免费观看完整版BD英语| 夫妻生活日记| 玉女心经之官人我要| 韩国三级《偷妻》3p| 一笑随歌40集全免费播放| 肥婆奶奶扭计媳| 父女乱之小芳的快乐生活| 韩“慰安妇”想见佩洛西被警卫推倒| 需要爸爸播种子在线免费看| 人间中毒未删减 在线高清| 钢壳都市| 军事不当| 刻薄新娘完整| 终极一班2大结局| 人马配速90分钟电视剧| 儿女传奇之闹婚记| 三年大片在线观看免费国语版动电话 | 日本jiZZ视频| 进击的巨人大结局| 巜商务旅行戴绿色帽的三个主演是谁| 冰天雪地| 平安365| 《淫行瑜伽室》在线观看| 流量女王热搜:常驻选手全集免费| 小姑娘1中汉字| 上海皇帝之岁月风云| cekc每1| 郡守与里长| 生化危机5电影| 黑太阳南京| 需要爸爸播种子2美国电影第二部| 神州侠侣全集| 宫瀬里子| 美国一级伦理巜生殖按摩| 不扣纽扣的女孩| 和讨厌的部长一起去出差旅行电影叫| 浴血黑帮:不朽传奇全集观看| 《血恋3之血河重生》| 王妃和离:王爷追妻短剧全集| 女超人麦乐迪A片未删减版免费观看| 完美妈妈| 思春期诱惑下载| 我的美女房东免费观看| 小妻太水嫩陆教授花式宠免费观看 | 爱唯侦察2024年最新合集| 一只跳蚤的自传1976年版| 星空影视论语《部长出差的日子》| 茶啊二中| 帝皇侠大电影| 错点鸳鸯电视剧全集爱奇艺| 电视剧金大班| 最后的武林| 波多野结衣加嘞比在线观看| 幸福耙耳朵全集| 后宫甄嬛传4| 韩剧《下属的妻子》主演名单表| 女生亲嘴| 魔形女满天星| 秘密的爱电影免费观看剧情解析| 渔夫在线观看免费| 愤怒的孙子们下载| 酒店|至100集兔费| 叶玉卿卿本佳人| 八仙饭店伊波拉病毒| 浴血黑帮:不朽传奇未删减| 黑暗阴影在线观看| 旧版包青天| 私人女性监狱电影| 黑衣人3国语高清| 杰西.简壮志凌云| 怡红院怡春院| 班长殿下电视剧免费| 韩国三级片有求必应| 轻轻告诉你简谱| 牝教师在教室被淫辱| 鬼吹灯 黄皮子坟| eeUsS| 礼物电影完整版在线看| 美景之屋6无删减电影| 《疯狂动物城2》中文版| 尺井芽衣| 野花高清在线电影观看免费视频| 妈妈的职业在线观看免费| 事物的秘密在水池一段是多少比喻| 罗密欧与朱丽叶电影| 女保险公司推销员8| 一帘幽梦 陶虹| 朋友的妻子.| 超市监控4天拍下上百次盗窃| 北大荒电视剧| 怨妇2电影免费中文字幕看完整版| 女版战狼6免费观看高清下载| 不惑之旅电视剧在线观看免费完整版 | 电影太极2英雄崛起| 修理师傅的艳遇无删减| 宦海奇官| XL上司令第一季02集免费观看最新一期 | 三国演义评书mp3| 缉毒英雄电视剧| 麦乐迪《家庭矛盾》| 《合租房的激情》在线观看| 在线维修工的艳遇| 聊斋艳谭之欲焰三娘| 男和女一起愁愁愁电视剧在线观看动漫| 天地无伦迅雷下载| 特别的酒店1993年美国| 于无声处免费观看全集| 侯湘婷 暧昧| 清风阁我爱干视频| 柳传志被选入小学教材引争议| 法国巜监狱伦理3| 不完美的她免费观看| 军事不当啄木鸟满天星法版| 电影小字辈完整版免费观看| 跟部长出差的日子在线观看| 杨玉环的故事| 男女一起愁愁愁电视剧| 多人运动网站无限观看| 韩剧拜托了机长| 女加勒比海盗h版免费观看| 爱情公寓 第3季| 侠探杰克2迅雷下载| 高清《完美证据》电视剧| 如东县| 各位游客请注意| 战狼6免费高清999加拿大版在线观看 | 僵尸100| 错位的遗憾歌曲原唱赵洋| 护士姐姐高清完整版在线观看| 儿媳的味道| 唯美电影完整版免费观看| 公的浮之手在线观看完整版| 肉苁蓉多少钱一斤| 壮志凌云美版满天星| 中国百强名镇| 入室强插电影在线播放| 昔有琉璃瓦电视剧免费观看全集| 日剧和讨厌的部长出差| 阳光之下在线观看| 游泳湿润无删减版在线观看| 情深深雨蒙蒙35| 吾家有姐满天星电影叫什么名字| 天使心 徐若瑄| 唐砖电视剧| 巨塔之后TVB粤语| 美女没有穿内衣| 南茜的情史电视剧免费观看全集| 林凡短剧免费观看全集| 乌云之上全集在线观看| 没有玫瑰的花店下载| 黑帮大佬和我的的356日| 电影亢奋第一季完整版| 韩剧《蓝色生死恋》高清在线观看| 猛兽侠1| 斯巴达A片成人版| 大头儿子小头爸爸2全集| 除却巫山邓家佳片段| 牵牛的夏天片尾曲| 韩国小电影男子获得遥控器控制女领导| 爱玛夫人第一季完整视频| 吉星高照2015粤语| 特殊的治疗室1-6| 最终幻想动漫| 乳房按摩的电影在线观看| 蜜桃成熟时33d国语下载| 《少女农场》电影在线| 教授与学生H1V1| 韩国伦理片售楼小姐的秘密免费在线观看| 电视剧亲爱的仇敌免费观看| 美丽小蜜桃4:美丽人生| 花样男子大结局| 《社长夫人》天使萌演员表| 夺命鹰爪功电影| 战狼6妈| 亲爱的热爱的免费全集观看| 私人女子监狱视频中文字幕版| 电竞冠军:少女带队全集免费| 大熔炉之热血青春电视剧全集免费| 三级小说| 父亲动漫在线观看完整版| 羽月希在线观看| 草原歌曲| 大地3资源在线高清免费| cocoasoft| 小蜜蜂电影| 俏媳妇致富经:重生八零短剧全集| 电影双胞胎在线观看| 善良的保姆在线观看| 上海爱情故事| 熟女泻火| 非常突然| 莉娜安德森作品在线观看完整版免费| 大掌门电视剧全集| 法国空姐四电影| 烂滚夫斗烂滚妻国语| 战狼6在线观看高清版免费完整版| 《大军阀》| 大学生女学生HD| 《枪侠》电视剧| 铁石心肠 电视剧| 性解密| 强制窃贼电视剧| 血溅大浴堂| 你的婚礼资源| 漂亮的保姆中文免费观看完整版| 新白娘子传奇全集50全集| 《买下我》电影| 高清《天国与地狱》电影| 藏海花在线| 电影贝拉1980在线观看| 电影《封神2》高清版| 《部长来我家》在线观看| 女人的抉择在线观看| 混血儿的摇篮曲。| 心宅猎人电视剧在线观看免费高清| 妈妈的职业8结局原声在线看视频免费 | 奥美迦奥特曼免费播放| 女子跳水10米台决赛| 妻子为了保住丈夫工作| 《老金两个儿媳》大结局| 面包网在线观看| 陆贞传奇百度影音| 须要爸爸播种电影在线播放| 武汉十七中事件| 私人女性监狱日韩高清版| 刘易斯vs霍利菲尔德| 善良的女销售| 好男人好资源好电影TV| 贪吃的猫女| 全职高手第三季免费观看动漫 | 那年冬天风在吹全集| 黑帮领地| 父子 电影| 交谊舞慢四步教学| 刘思齐照片| 《高压监狱2》完整版| 30插曲免费高清在线观看完整版国语 | 双宝联盟之妈咪快来| 危险第三情| 肥田喜事全集| 高清《我们的父辈》免费观看| 古田美穗| 爱在空气中第9集| 第36部分夫妇交换系列| 爱唯侦察电影免费观看| 秦时丽人明月心百度云| 掌中之物未删减完整版| 刘浩存新剧七根心简 | 广场舞爱本无罪| 我的如意狼君国语| 肉蒲团完整版高清| 中美物价| 高城ゆい| 漯河市| 秘密爱在线观看| 禁忌之爱| 军人使命电视剧| 硬汉1女主角| 塔日酒店在线观看完| 玉女心经qvod| 韩剧《拜托了妈妈》| 蜜桃成熟时3d| 法国空姐2019满天星法版:星辉照耀| 郭德纲 九尾狐| 我要爸爸的种子电影完整版| 白峰美羽电影免费播放在线| 任丘市| 王野微博| 潘展乐全红婵聊天好萌| 茶啊二中电影免费观看完整版高清| 落跑甜心全集电视剧大结局| 原始战争全集观看| 单身地狱第四季免费观看| 电影《无憾》免费观看| 快递员的特殊待遇| 斯巴达(大人版)满天星| 金瓶梅下| 危情杜鹃| 床下有人3 电影| 强伦轩办公室女教师| 电影《姐妹花》免费观看国语| 沁水县| 洪金宝儿子儿媳被曝双双出轨| 隔壁的女孩2| 扒鸭屁股| 旅行到宇宙边缘| 许我耀眼32集免费观看| 瓜达卢佩的玫瑰完整版| 电视剧母亲的战争| 《渔夫的荒野史记》在线观看免费 | 高压监狱在线观看完整免费高清原声满天星2019| 高清《黑道家族》| 幼幼资源网| 韩剧婚礼国语版全集| 品味人生无憾| 火影疾风传| 女搜查官穿皮衣天海翼| 他在星河之州免费观看全集| 凯登克洛罗斯全部电影| 陪读妈妈的交换在线观看| 插曲的痛30集全集免费中文字| 电影韩国太太的告白| 《驯服小峓子2》丽卡| 炼气十万年短剧免费观看 | 香瓜七兄弟全集爱奇艺| 鬼父动漫全集| 冰雪奇缘百度影音| 朋友的母亲9有限中字 | 一次邂逅| 兔子先生第一季第6期 | 历任国防部部长| 间谍过家家第三季免费观看中文版| 名侦探柯南:百万美元的五棱星| 佳恩别哭国语版全集| 超级监控| 特殊使命全集| 跳水男孩| 姐妹在线看免费观看| 坎贝奇成人影片免费播放| 轩辕剑之天之痕26| 爱的涟漪国语版全集| 七情六欲韩国版| 扮猪吃虎:隐藏大佬不好惹短剧全集| 闭嘴花美男乐队下载| 酒店1—20集全集免费高清| 女子推理社第二季| omoflow第一季真人版| 美国电影免费观看平台| 三级片替夫还债| 索多玛的120天在线观看| 战狼6免费999加拿大版在线观看 | 情迷假期| 亲爱的姐姐1在线观看完整版| 北京爱情故事39| 影音先锋中文字幕资源| 深情眼在线观看电视剧| 美国A片巜禁忌5》偷欢 | 邪恶力量第四季| 四大名妓k8经典影院需要爸爸播种| 一个女被3个男人轮流打耳光| 女超人1979在线观看完整版| 姐姐9免费完整高清电视剧在线看| 《粉红大白菜》法国| 高清《裂口女》大结局| 《奇怪的美容院2》| 免费视频电影免费完整版观看| 电视剧追日| 青春没有彩排| 谢谢你温暖我演员表| 你和我的倾城时光歌曲| 如沐爱河| 电视剧刺杀玫瑰| 韩国电影丰满的少妇| 杏林春暖在线观看| 青春须早为电视剧免费观看| 凌云壮志(欧美)满天星法国夸克 | 黄色仓库免费看| 凯登克劳斯主演电影在线观看 | 游龙惊凤电视剧| 插曲的痛60全集免费观看无马赛克| 乡村爱情13部全集免费刘能| 电影《塔日酒店》在线观看| 缺宅男女大结局| 《新上任的秘书》| 变节之潜罪犯下载| 财经聪哥| 两人电影免费完整观看| 花谢花飞花满天免费观看完整版| 重逢丈夫的下属是初恋在线观看| 新金瓶玉梅玥菲完整版| 掌中之物西班牙完整版 | 《需要爸爸播种子》| 赘婿 电视剧| 明里柚《和部长一起去出差旅》中文| 欢天喜地七公主| 传闻中的陈芊芊在线观看| 银魂261| 吸血鬼女孩| 新电影2013上映| 向涟苍骑士献上纯洁| 美乃雀 在线观看播放| 剃须然后捡到女高中生女主| 爱丫爱丫免费高清全集| 神医传奇电视剧免费观看| 太阳的后裔15| 维修师傅的艳遇2007金山丽林华华 | 利刃出鞘3| 《义姐不是贤妻良母》动漫全集樱花| 牌坊下的女人剧情介绍| 3d玉蒲团完整版| 欲把老师变舅妈| 无尽的无尽全集在线观看免费高清 | 明星大侦探6| 八零弃少:重生搞钱宠媳妇全集免费| 横冲直撞的游泳教练在线观看| 新还珠格格53集| 天美影院免费观看电视剧下载| 白日梦2在线观看| 赤子板《姐妹牙医》百度云| 高清《奔跑吧第5季》综艺| 月见草油的作用| 莲花楼电视剧在线观看| 电影《之后》第一部| 房奴试爱激情戏做爱| 少年派1电视剧全集免费观看| 毒王肥尸| 斗罗大陆2绝世唐门39集免费观看| 蟒蛇电影国语| 一起来看流星雨6| 美国派1电影| 见龙卸甲电影| 12周岁女洗澡免费观看| 吕不韦传奇| 施瓦辛格最新电影| c字裤内衣秀全透明| 坎贝奇在线观看完整| 突围37集在线观看| 三级片替夫还债| 交换温柔韩国完整版| 漂流欲室 在线观看| 兰陵王电视剧大结局| 《学生》完整版观看| 博视频微博《韩剧《隐形的| 金瓶梅电影在线完整版观看| 《超女麦乐迪》完整视频在线观看 | 明明不喜欢在线免费观看| 大连晓芹海参| 二阶堂梦作品在线观看| 锦衣卫:女扮男装当缇骑短剧全集| 西峡县| 郭洋子个人资料| 传闻中的七公主中文版| 阳阳电影| 热血时代电视剧免费播放全集| 《侏罗纪世界:重生》| 巴黎夜未眠| 哇嘎在线观看视频| 央视网评全面禁止老头乐| 满天星麦乐迪电影在线观看| 电影《野兽爱人》完整版免费观看| 渔夫荒淫史电影在线| 黑衣人全球追缉免费观看完整版| 哇嘎嘎在线电影观看| 美人鱼战队高清完整免费观看| 韩剧《隐身蓝帽子》朴亚珍 | 酒店激战2免费观看国语版| 荒岛生存| 最终列车醉汉动漫第三集免费观看| 电影《越南女兵》免费观看| 哪吒2在线观看免费版高清动画 | 灵契动漫无删减第一季| 间之楔旧版| 特朗普称美国正从内部死亡| 啄木鸟版壮志凌云电影在线观看完整版 | 胡慧中电影| 《犯罪现场 Zero》| 禁止的爱善良的小姨在线播放免费 | 《金牌销售》全集| 白万新娘之爱无悔| 木法沙传奇免费观看完整版| 乌贼娘第一季| 新奥特曼在线观看免费| 激战丛林电影免费观看| 《无法抗拒的温柔》大结局| 战狼6妈妈版免费资源| 替身演员全集免费| 子曰卜学亮| 法国版古墓丽影在线观看| 人民万岁电影| 张警官第三部免费播放第23集| 少女与动物高清免费观看| 高清《法国空乘2019》播放| 香瓜七兄弟| 边城破晓| 台剧浪漫女家教免费观看第14集 | 新干线惊爆倒数| 重启之蛇骨佛蜕| 爱情公寓3下载mp4| 爸爸给我播种子免费观看| 马永贞争霸上海滩国语| ed2k 学生| 我是静宝呀vlog| 野兽电影完整版| 小李飞刀在线观看| 中国直销论坛| 妻子的肉体偿还| 李茂扮太子电影在线观看| 徽州女人电视剧全集在线观看| 薰衣草高清观看在线观看| 带领村民奔小康:返乡创业全集免费 | 巨鳄风暴完整版电影免费观看| 花花公子电子杂志| 电影种马猎人完整版免费观看 | 超级喜欢你| 要爸爸的种子美国电视剧| 流光之下电视剧在线观看| 月之晴天满天星完整版| 潜伏土豆网在线观看| 51vv视频社区福| 迷人的小婊子| 一夜新娘第二季全集免费观看| 异形夺命| 蜜桃视频17| 鹰眼黑寡妇| 战狼8欧式少女全部| 海军陆战队员| 《狂飙》免费策驰影院| 理论片《最高の爱人诏》 | 二阶堂完整版在线观看| 刃牙皮可篇在线观看| 爱的魔力转圈圈泰剧| 两个好媳妇中文在线观看| 朦胧的欲望在线观看| 美国需要爸爸播种电影| 逃学英雄| 苹果电视剧免费观看全集横屏| 希望爸爸播种在线观看| 千古风流萧皇后| 门第爱奇艺| 匹夫百度影音| 薄荷之夏电视剧在线观看| 私人航空电影法国在线观看 | 绝对权力电视剧全集完整版观看| 木下凛凛子邻居电影完整版在线观看 | 电竞女王短剧全集| 城口县| 韩国队提前庆祝被中国台北绝杀| 212喷奶视频| 《以爱为营》电视剧| 电视剧银婚| 女战狼6免费高清版 | 水手服饲养1小时40分钟视频| 流浪汉电影| 金粉世家电视剧免费观看| 白魔女学园| 彭佳慧残酷的温柔| 白峰美羽伦理片| 无限日本电影免费观看完整版| 迷你世界星球版本| 追爱家族大结局| 亲爱的热爱的高清免费看全集| 香醇的绣感在线观看完整版| 五号特工组1免费观看完整版高清| 《危险动物》| 美国式禁忌3高潮喷涌| 山西被害男孩在生父村庄下葬 | 飞刀问情电视剧免费观看| 电视剧战狼战狼在线观看免费| 最后的绝地武士| 悬崖电视剧免费观看全集在线观看| 《女超人-麦乐迪版》在线播放| 姐姐6免费完整高清电视剧| 国产人妻与上司午后出轨 | 挣扎吧亚当第二集| ed2k 美女| 香烟爱上火柴广场舞| 韩国电影修理工艳遇| 小学生在线观看完整免费| 鸟居美雪| 《落魄贵族琉璃川》免费观看| 小娘惹电视剧免费全集看剧情| 福尔摩斯 基本演绎法| 孤舟电视剧36集全免费播放| 我是乡巴佬| 三年中国在线观看免费观看高清电视| 皇后进宫| 《女销售的销售秘密2》 | 厚颜无耻韩国动漫观看免费| 灵魂战车2在线观看| 电视剧好好说话| 姐妹牙医电影观看免费高清| 《正义联盟2》电影| 8毫米2| 大兵的寝室线观看兵的寝室| 教授与学生H1V1| 宜丰县| 韩剧《哭声》在线观看| 武则天在线观看| 安姨《房屋售楼员》电影完整在线观| 知源中医| 一拳超人 迅雷下载| 咸蛋超人全集| 未来罪行| 部长来家里喝酒在线观看免费| 兽皇影片及图片| 豆腐西施杨七巧电视剧全集| 禁忌满天星帕克| 少年包青天2土豆| 黎明之前 电视剧| 王多鱼打扑克视频在线观看 | 生死决断秋瓷炫几分出场 | 《xl司令》第一季| 林妹妹的红楼梦| 电视剧《雪迷宫》32集播放| 需要哥哥的种子| 鬼吹灯之精绝古城2| 僵尸大嘴| 埃博拉病毒2| 来自星星的你在线| 电视剧我的后半生全集在线观看| 四名少妇按摩记电影| 辛巴狮子王第二部| 五号特工组第二部全集| 茅山道士3| 肉蒲团电影下载| 东莞市| 《唐朝诡事录之西行》电视剧| 铁嘴银牙| 女儿国3在线观看电视剧| 《繁花》免费播放在线观看全集| 顺流逆流粤语| 肯德桑德兰满天星主演是谁| 小唐璜感情史完整版电影| 木下檀檀子视频高清播放| 电视剧新结婚时代| 住在我家的男人电视剧| 污污污双人调情按摩术免费在线播放| 高清《传说》电视剧| 进击的巨人第二季第三集| 生殖按摩TV| 祷告良辰歌| 非分熟女 电影| 浮之公手3| 电影热辣滚烫今日正式上映| 钢铁巨人| 一起愁愁在线观看全部免费播放 | 《高压监狱成人版| 致命愿望在线观看免费全集电视剧| 法国空乘2中字| 家属动漫1~6全集在线播放| 世界第一等刘德华| 女子跳水10米台决赛| 巨茎挺进李淑芬体内视频| 索爱邻居| 广场舞无理取闹| 新人类之1《毒医肥尸》| 地铁笨蛋4视频| 高清《探子阿坚:无头奇案》电影| 秘密女搜查官在线观看| 摆渡人免费观看完整版高清| 龙门镖局11| 美乃雀电影免费观看| 哈利波特6免费观看在线完整版| 雷欧奥特曼国语| 公之浮之手电影免费观看2023年上映的| 美妙人生| 爱的代价电视剧| 《花子vs倔强驱魔师》在线观看| 射雕英雄传EAGLET| 他揉捏她两乳不停呻吟动漫视频 | 粉嫩小女生| 爱情的牙齿在线观看| 酒店1-5集免费观看| 瑞克和莫蒂第一季免费观看 | 电影混血儿的摇篮曲| 停用人造反式脂肪| 邪恶力量第四季| 台剧浪漫女家教1免费观看| 动物的尾巴都有什么作用用处 | 哇嘎电影在线看免费| 山西电视台科教频道| 安倍中枪瞬间曝光:捂胸口跪地倒下| 男人与女人在一起愁愁愁愁的电视剧| 反击第二季| 螺丝女孩要出嫁| JUL-945瞒着丈夫在短时间内| 哪吒2在线观看| 我们的爱情不正常| 荷尔蒙6欧美版哪里看| 长歌行在线播放| 《神奇女侠》免费观看| 娃娃脸少女美国| 《神秘博士》第一季首播时间| 电影《影》| 梦幻军事地区| 善良的儿媳按摩店按摩电影| 西厢记电影| 《美容院2特殊待遇》| 我喜欢你电视剧免费观看全集 | 唐山大兄演员表| 独孤天下电视剧免费观看完整版| 《插曲的痛免费观看》中文版 | 特殊的酒店客房2| 强奸女护士| 陈静仪喜爱夜蒲2| 小凤新婚全部免费观看| 哥布林的窑洞第一季| 永生3之气壮山河在线观看| 雨宫真贵| 变形金刚真人版电影| 一起来看流星雨4| 虏之锁| 一生一世在线观看免费版| 《恋爱》大结局| ujizz在线播放| 我的爷爷和奶奶的故事| 几度夕阳红剧情| 凯登版《交易》啄木鸟英文| 灰姑娘2015电影下载| 敢死队 qvod| 黑帮大佬和我的360天免费观看| 无名卫士电视剧全集免费播放| 精灵宝可梦bw| 圣天门口| 淫乱加班维修工电影| 头师傅一体2| 公主把奶尖放入侍卫口中| 电影《需要爸爸播种子》2| 锦鲤少女:好运连连旺全家短剧全集| 撒娇女人最好命| 《美姐妹很努力》| 恩佐全集观看| 英雄救美3下载| 盛唐风流在线观看免费版 | 韩国爸爸b的种子| 校园诡异事件在线观看| 天乩之白蛇传| 盛唐风流在线观看免费版| 夏色のコワレモノ| 白蛇传说之法海| 美式忌讳4| 牙医妹妹 电影在线观看| 非常静距离夏家三千金| 天地争霸美猴王国语| 美国的忌讳1–7| 欢乐家长群免费观看| 专家建议对50万以上存款收税| 爱我几何完整版在线观看| 漂亮的保姆第四集在线观看中文| 光环2电影| 《水电维修工的艳遇》| 爱可以重来电视剧| 多大的雪才算暴雪| 名侦探柯南在线观看免费国语版| 台湾成人| 荆棘之恋泰剧免费播放| 程多闻副教授离世| 修理工艳遇在线观看| 父子 电影| 花宫亚美| 国产伦孑沙发午休精品| 儿媳妇的味道伦理片| 点燃我温暖你电视剧在线| 卿卿日常更新| 电影《牙医姐妹 》电影完整版| 速度与激情10免费国语完整版| 代号叫麻雀| 男女在一起愁愁愁免费观看电视剧动 | 爱没那么简单 黄小琥| 韩国电影理发店特殊待遇演员表| 雍正王朝电视连续剧| 忘川彼岸| 女皇之刃ova| 正在播放 青楼名妓之桃花扇HD - 免费在线观看 | 鲨鱼影视 | 儿媳的滋味在线观看| 世上最不得安人3完整版在线观看| 学生的朋友3| xl司令在线免费观看 | 警察与劫匪| 布里奇顿 第四季全集观看| 《渔夫的老婆》赛仑| 判处勇者刑电视剧| 暴躁46集正版在线观看| 生死兄弟情剧情介绍| 天机富春山居图| 朝国年轻继拇6免费版| 忘羡第一次肉草地| 白日焰火免费完整版| 法国空姐2大结局| 《圣特罗佩斯姑娘们》 | 施金驰灭蚊灯| 《美容院的特殊待遇》| 终结者创世纪西瓜| 天天碰天天摸| 归路电视剧免费观看完整版| 国风按摩院在线视频| 为有暗香来免费观看全集| 神奇的老皮| 风语电视剧在线观看免费完整版| 台湾版《棘手狂情》电影在线免费观看 | 三个少妇按摩记在线播放| 小森林冬春篇电影| 淑蓉又痒了办公室献身| 金银瓶1-5手机| 交换上司的秘书电影在线观看| 女帝夺江山:拥美男入怀短剧全集| 断背山 高清| 法国版《古墓丽影》免费观看| 港片在线观看免费完整版影院| 曲剧清风亭全场| 灵魂重生泰剧在线观看双男主|