• <track id="oztn4"></track>
    <sup id="oztn4"><form id="oztn4"></form></sup>
    
    
    <mark id="oztn4"></mark>
  • <dfn id="oztn4"><samp id="oztn4"></samp></dfn>
      《地爆天星小姐》电影 ,麦子交换2免费观看2023年上映时间表 ,莫妮卡《爱我几何》,大牛影库战狼6欧式少女全部视频,三年大片国语版在线看,日本空姐电视剧,电影魔镜号中文字幕,和部长一起去出差旅是第几集
      全球「AI學術頂會」精華匯聚地
      您正在使用IE低版瀏覽器,為了您的雷峰網賬號安全和更好的產品體驗,強烈建議使用更快更安全的瀏覽器
      此為臨時鏈接,僅用于文章預覽,將在時失效
      人工智能 正文
      發私信給叢末
      發送

      0

      地平線:面向低功耗 AI 芯片上視覺任務的神經網絡設計 | AI 研習社職播間第 2 期

      本文作者: 叢末 2018-09-13 15:08
      導語:附地平線2019年招聘解讀!

      隨著這幾年神經網絡和硬件(GPU)的迅猛發展,深度學習在包括互聯網,金融,駕駛,安防等很多行業都得到了廣泛的應用。然而在實際部署的時候,許多場景例如無人駕駛,安防等對設備在功耗,成本,散熱性等方面都有額外的限制,導致了無法大規模應用深度學習解決方案。

      近日,在雷鋒網 (公眾號:雷鋒網) AI 研習社第 2 期職播間上,地平線初創人員黃李超就介紹了 AI 芯片的背景以及怎么從算法角度去設計適合嵌入式平臺高效的神經網絡模型,并應用于視覺任務中。之后地平線的 HR 也進行了招聘宣講,并為大家進行了招聘解讀。公開課回放視頻網址:http://www.mooc.ai/course/537/thread?page=3?=aitechtalkhuanglichaokhuanglichao

      黃李超:本科畢業于中山大學,在帝國理工碩士畢業之后于 2014 年加入了百度深度學習研究院,期間研發了最早的基于全卷積網絡的目標檢測算法——DenseBox,并在 KITTI、FDDB 等特定物體檢測數據集上長期保持第一名。 2015 年,他作為初創人員加入地平線,現研究方向包括深度學習系統研發,以及計算機視覺中物體檢測,語義分割等方向。

      分享主題:面向低功耗 AI 芯片上視覺任務的神經網絡設計

      分享提綱:

      1. 介紹當前 AI 芯片概況,包括現有的深度學習硬件發展情況,以及為何要為神經網絡去設計專用芯片。

      2. 從算法角度,講解如何設計高性能的神經網絡結構,使其既滿足嵌入式設備的低功耗要求,又滿足應用場景下的性能要求。

      3. 分享高性價比的神經網絡,在計算機視覺領域的應用,包括實時的物體檢測,語義分割等。

      4. 地平線 2019 年最全的校招政策解讀。

      雷鋒網 AI 研習社將其分享內容整理如下:

      今天,我將從以下三個方面來進行分享:

      第一,當前 AI 芯片發展的現狀。這里的 AI 芯片并不是單指狹義的 AI 專用芯片,而是指廣義上包括 GPU 在內所有可以承載 AI 運算的硬件平臺。

      第二,在嵌入式設備的環境下如何設計高效的神經網絡。這里我使用的案例都選自業界中比較重要的一些工作——也有一部分來自我們的地平線。同時這一節大部分的工作都已經落地到實際應用場景。

      第三,算法+硬件在計算機應用上的一些成果。

      介紹 AI 芯片之前,先介紹 AI 的大環境。大家都知道現在是機器學習時代,其中最具代表性的是深度學習,它大大促進圖像、語音、自然語言處理方面的發展,同時也給很多行業帶來了社會級的影響。例如在社交網絡的推薦系統、自動駕駛、醫療圖像等領域,都用到了神經圖像技術,其中,在圖像醫療,機器的準確率甚至大大超過了人類。

      地平線:面向低功耗 AI 芯片上視覺任務的神經網絡設計 | AI 研習社職播間第 2 期

      從整個互聯網發展的情況來看,我們先后經歷了 PC 互聯網、移動互聯網時代,而接下來我們最有可能進入一個智能萬物互聯的時代。PC 時代主要解決信息的聯通問題,移動互聯網時代則讓通訊設備小型化,讓信息聯通變得觸手可及。我相信在未來,所有的設備除了能夠互聯之外,還能擁有智能:即設備能夠自主感知環節,并且能根據環境做出判斷和控制。現在我們其實看到了很多未來的雛形,比如無人車、無人機、人臉開卡支付等等。不過,要讓所有設備都擁有智能,自然會對人工智能這一方向提出更多要求,迎接更多的挑戰,包括算法、硬件等方面。

      大規模運用深度學習需要去應對很多挑戰。首先從算法和軟件上看,如果把 AI 和深度學習用在某個行業中,需要對這個行業的場景有深入的理解。場景中也有很多痛點需要去解決,但是是否一定要用深度學習去解決呢?在特定場景下,往往需要具備能耗比、性價比的解決方案,而不是一個僅僅能夠刷數據集的算法。隨著這幾年算法的快速發展,人們對 AI 的期望也在不斷提高,算法的發展是否能跟上大家的期望,這也是一個問題。

      從硬件上看,當前硬件的發展已經難以匹配當前深度學習對于計算資源的需求,特別是在一些應用場景中,成本和功耗都是受限的,缺少低成本、低功耗、高性能的硬件平臺直接制約了 AI 技術和深度學習方案的大規模應用,這也是我們地平線致力于解決的行業難題。

      當前 AI 芯片發展的現狀

      接下來我們介紹一下 AI 硬件的一些情況。大家都知道,最早神經網絡是運行在 CPU 上的。但是 CPU 并不能非常高效地去運行神經網絡,因為 CPU 是為通用計算而設計的,而且其計算方式以串行為主——雖然一些運行指令可以同時處理較多數據。除此之外,CPU 在設計上也花了很多精力去優化多級緩存,使得程序能夠相對高效地讀寫數據,但是這種緩存設計對神經網絡來講并沒有太大的必要。另外,CPU 上也做了很多其他優化,如分支預測等,這些都是讓通用的運算更加高效,但是對神經網絡來說都是額外的開銷。所以神經網絡適合用什么樣的硬件結構呢?

      地平線:面向低功耗 AI 芯片上視覺任務的神經網絡設計 | AI 研習社職播間第 2 期

      在講這個問題之前,我們先從神經網絡的特性說起:

      第一,神經網絡的運算具有大規模的并行性,要求每個神經元都可以獨立并行計算;

      第二,神經網絡運算的基本單元主要還是相乘累加,這就要求硬件必須有足夠多的運算單元;

      第三,神經元每一次運算都會產生很多中間結果,這些中間結果最后并不會復用,這就要求設備有足夠的帶寬。一個理想的設備,它應該有就比較大的片上存儲,并且帶寬也要足夠,這樣才能放下網絡的權重和網絡的輸入;

      第四,由于神經網絡對計算的精度并沒有那么敏感,所以在硬件設計的時候可以使用更簡單的數據類型,比如整型或者 16bit 的浮點數。因此,這幾年大家使用的神經網絡解決方案,都是 CPU+比較適合于神經網絡運算的硬件(可以是 GPU、DSP、FPGA、TPU、ASIC 等)組成異構的計算平臺。

      最常用的方案是 CPU+GPU,這個是深度學習訓練的一個標配,好處是算力和吞吐量大,而且編程比較容易,但是它存在的問題是,GPU 的功耗比較高,延遲比較大,特別是在應用部署領域的場景下,幾乎沒有人會用服務器級別的 GPU。

      應用場景下用的更多的方案是 FPGA 或者 DSP,它們功耗比 GPU 低很多,但是相對的開發成本較大。DSP 依賴專用的指令集,它也會隨著 DSP 的型號變化有所差異。FPGA 則是用硬件語言去開發,開發難度會更大。其實也有一起企業會用 CPU+FPGA 去搭建訓練平臺,來緩解 GPU 訓練部署的功耗問題。

      雖然剛剛提了很多神經網絡加速的解決方案,但是最合適的還是 CPU+專用芯片。我們需要專用 AI 芯片的主要原因是: 雖然現在的硬件工藝不斷在發展,但是發展的速度很難滿足深度學習對計算力的需求。其中,最重要有兩點:

      第一,過去人們認為晶體管的尺寸變小,功耗也會變小,所以在相同面積下,它的功耗能保持基本不變,但其實這條定律在 2006 年的時候就已經終結了

      第二點,我們熟悉的摩爾定律其實在這幾年也已經終結了。

      我們可以看到芯片在這幾年工藝的發展變得越來越慢,因此我們需要依靠專門的芯片架構去提升神經網絡對計算平臺的需求。

      地平線:面向低功耗 AI 芯片上視覺任務的神經網絡設計 | AI 研習社職播間第 2 期

      最著名的的一個例子就是 Google 的 TPU,第一版在 2013 年開始開發,歷時大約 15 個月。TPU 里面使用了大量乘法單元,有 256*256 個 8 位的乘法器;片上有 28MB 的緩存,能夠存儲網絡的參數和輸入。同時,TPU 上的數據和指令經過 PCN 總線一起發過來,然后經過片上內存重新排布,最后計算完放回緩沖區,最后直接輸出。第一版 TPU 有 92TOPS 的運算能力,但是只針對于神經網絡的前向預測,支持的網絡類型也很有限,主要以多層感知器為主。

      而在第二版的 TPU 里面,已經能夠支持訓練、預測,也能夠使用浮點數進行訓練,單個 TPU 就有 45TFLOPS 的算力,比 GPU 要大得多。

      地平線:面向低功耗 AI 芯片上視覺任務的神經網絡設計 | AI 研習社職播間第 2 期

      其實我們地平線也研發了專用的 AI 芯片,叫做 BPU,第一代從 2015 年開始設計,到 2017 年最終流片回來,有兩個系列——旭日和征程系列,都針對圖像和視頻任務的計算,包括圖像分類、物體檢測、在線跟蹤等,作為一個神經網絡協處理器,側重于嵌入式的高性能、低功耗、低成本的方案。

      地平線:面向低功耗 AI 芯片上視覺任務的神經網絡設計 | AI 研習社職播間第 2 期

      比較值得一提的是,我們在我們的 BPU 架構上設計了彈性的 Tensor Core,它能夠把圖像計算所需要的基本單元,常用操作例如卷積、Pooling 等硬件化,非常高效地去執行這些操作。中間通過數據路由橋(Data Routing Bridge)從片上讀取數據,并負責數據的傳輸和調度,同時,整個數據存儲資源和計算資源都可以通過編輯器輸出的指令來執行調度,從而實現更靈活地算法,包括各種類型的模型結構以及不同的任務。

      總的來說,CPU+專用硬件是當前神經網絡加速的一個較好的解決方案。針對專用硬件,我們可以根據功耗、開發容易度和靈活性進行排序,其能耗跟其他兩者(開發容易度和靈活性)是相互矛盾的——芯片的能效比非常高,但是它的開發難度和靈活度最低。

      如何設計高效的神經網絡

      說了這么多硬件知識,接下來我們討論怎么樣從算法角度,也就是從神經網絡設計的角度去談怎么加速神經網絡。相信這個也是大家比較關心的問題。

      我們先看 AI 解決方案,它從數據處理的方式可以分為云端 AI 和前端 AI。云端 AI 是說我們把計算放在遠程服務器上去執行,然后把結果傳到本地,這個就要求設備能夠時刻連接網絡。前端 AI 是指設備本身就能夠進行計算,不需要聯網,其在安全性、實時性、適用性都會比云端 AI 更有優勢,而有一些場景下,也只能使用嵌入式的前端 AI 去解決。

      嵌入式前端的場景落地難點在于功耗、成本和算力都是有限的。以網絡攝像頭即 IP Camera 為例,它通過網線供電,所以功耗只有 12.5 瓦,而常用的嵌入式 GPU——Nvidia TX2,為 10-15 瓦。另外這個 TX2 雖然在計算資源、算力方面都比較強,能達到 1.5T,但它的價格是 400 美元,對于很多嵌入式方案來說都是不可接受的。因此要做好前端嵌入式方案,我們需要在給定的功耗、算力下,最大限度地去優化算法和神經網絡模型,達到符合場景落地的需求。

      地平線:面向低功耗 AI 芯片上視覺任務的神經網絡設計 | AI 研習社職播間第 2 期

      我們加速神經網絡的最終目標是:讓網絡在保持不錯的性能下,盡量去降低計算代價和帶寬需求。常用的一些方法有:網絡量化、網絡減支和參數共享、知識蒸餾以及模型結構優化,其中,量化和模型結構優化是目前看來最有效的方式,在業界也得到比較廣泛的應用。接下來會重點講一下這幾個方法。

      第一個是量化,它是指將連續的變量通過近似從而離散化。其實在計算機中,所有的數值表示都是離散化的,包括浮點數等,但是神經網絡中的量化,是指用更低 bit 的數字去運行神經網絡,而是不是直接使用 32bit 的浮點數(去運行神經網絡)。近幾年的一些研究發現,其實數值表達的精度對神經網絡并沒有太大的影響,所以常用的做法是使用 16bit 的浮點數去代替 32bit 的浮點數來進行計算,包括訓練和前項預測。這個在 GPU 以及 Google 的 TPU 第二代中已經被廣泛采用。此外,我們甚至發現,用半精度浮點數去訓練數據,有時候還能得到更好的識別性能。實際上,量化本身就是對數據集正則化的一種方式,可以增加模型的泛化能力。

      地平線:面向低功耗 AI 芯片上視覺任務的神經網絡設計 | AI 研習社職播間第 2 期

      此外,我們還可以將數據精度進行進一步壓縮使用,將 8 bit 的整數作為計算的計算單元,包括訓練和前項預測,這樣帶寬就只有 32bit 浮點數的四分之一,這類方法近年來也有不少工作,且已被業界所采用,比如 Tensorflow Lite 已經支持訓練時模擬 8bit 整數的運算,部署時真正采用 8 bit 整數去代替,其在浮點和圖像分類的性能上相當。我們地平線也有類似的工作,訓練工具也是用 Int 8 bit 去訓練、預測,并且我們的芯片支持 MXNet 和 TensorFlow 框架訓練出來的模型。

      能不能把精度壓得更低呢,4 bit、2bit 甚至 1 bit?也是有的,但是會帶來精度的極大損失,所以沒被采用。

      量化神經網絡模型分為神經網絡的權重量化、神經網絡特征的量化。權重量化對于結果輸出的損失比較小,特征量化其實對模型的輸出損失會比較大,另外,大模型和小模型的量化造成的損失也不一樣,大模型如 VGG16、AlexNet 這種網絡模型,量化后幾乎沒有損失;而小模型則會有一些損失。現在 8bit 參數和特征量化可以說是一個比較成熟的方案,基本上可以做到跟浮點一樣好,并且對硬件也更加友好。下面這個表,是在 Image Net 數據集上的進行的量化結果的評測,也是 Google Tensorflow Lite 的量化方案與我們地平線內部的量化方案的一個對比。

      地平線:面向低功耗 AI 芯片上視覺任務的神經網絡設計 | AI 研習社職播間第 2 期

      我們可以看到,無論是哪一家的方案,損失其實都非常小,其中,小模型 MobileNet 0.25 在 Image Net 的損失方面,Google 在 1.6% 左右,而我們的量化方案能夠維持在 0.5% 以內。同時我們這個量化方案在 2016 年就已經成熟了,而 Google 的去年才放出來,從這個角度上講,我們這方面在業界內是領先的。

      除了量化,模型加速還可以通過模型剪枝和參數共享實現。一個典型的案例就是韓松博士的代表性工作——Deep Compression。減支可以是對整個卷積核、卷積核中的某些通道以及卷積核內部任意權重的剪枝,這里就不多說,大家有興趣可以去看一下原論文。

      地平線:面向低功耗 AI 芯片上視覺任務的神經網絡設計 | AI 研習社職播間第 2 期

      與網絡量化相比,剪枝和參數共享從應用角度上來看,并非一個好的解決方案。因為關于剪枝方面的研究,現在這些論文在大模型上做的比較多,所以在大模型上效果比較好,但是在小模型上的損失比較大,當然我們這里說的小模型是比 MobileNet 等模型更小的一些模型。另外,剪枝所帶來的數據稀疏(任意結構稀疏),通常需要一個明顯的稀疏比例才能帶來一個實質性的的加速。結構化的稀疏加速比相對更容易達到,但是結構化的稀疏比較難訓練。同時從硬件角度上講,如果要高效地運行稀疏化的網絡結構或者帶共享的網絡,就要專門設計硬件去支持它,而這個開發成本也比較高。

      知識蒸餾也是很常用的壓縮模型方法,它的思想很想簡單,用一個小模型去學習一個大模型,從而讓小模型也能實現大模型的效果,大模型在這里一般叫 Teacher net,小模型叫 Student net,學習的目標包括最終輸出層,網絡中間的特征結果,以及網絡的連接方式等。知識蒸餾本質上是一種遷移學習,只能起到錦上添花的作用,比直接用數據去訓練小模型的效果要好。

      地平線:面向低功耗 AI 芯片上視覺任務的神經網絡設計 | AI 研習社職播間第 2 期

      最后講一講模型結構優化,它是對模型加速最有效的方式。下圖可以看到從最初的 AlexNet 到今年的 MobileNetV2,參數已經從原來的 240MB 縮小到 35MB,模型的計算量也有了一定的減少,但是在圖像分類的準確率上,從 57% 提到到了 75%,模型結構優化最直接的方式就是,有經驗的工程師去探索小模型結構,而這些年來也有通過機器去進行搜索模型結構的工作。

      地平線:面向低功耗 AI 芯片上視覺任務的神經網絡設計 | AI 研習社職播間第 2 期

      接下來講一下在模型結構優化中,怎么去設計一個高效的神經網絡結構,它需要遵循的一些基本原則。

      地平線:面向低功耗 AI 芯片上視覺任務的神經網絡設計 | AI 研習社職播間第 2 期

      首先,要糾正幾個誤區:第一,是不是小模型跑得比大模型快?這個顯然是不成立,我們可以看下圖中 Google Net 和 AlexNet 箭頭指向的方向,AlexNet 顯然大一些,但它比 Google Net 跑得快一些,計算量更小一些。第二,網絡計算量小是不是就跑得更快呢?其實也不是,因為最終的運行速度取決于計算量和帶寬,計算量只是決定運行速度的一個因素。

      地平線:面向低功耗 AI 芯片上視覺任務的神經網絡設計 | AI 研習社職播間第 2 期

      所以說,一個好的、跑起來比較快的神經網絡結構,必須要平衡計算量和帶寬的需求,這里我們跟隨 ShuffleNetV2 論文的一些觀點——雖然這個并不是我們的工作,但是文章寫得很好,其中有不少觀點也和我們在模型結構優化過程中得到的一些結論是一樣的。在分析的時候,我們以 1x1 的卷積為例,假設所有的參數和輸入輸出特征都可以被放到緩存當中,我們需要特別關注的是卷積的計算量——用 FLOPs(Float-Point Operations) 即浮點數的操作次數去表述,帶寬用 MAC(Memorry Access Cost) 即內存訪問的次數去表示。同時,我們需要額外關注的是帶寬和計算量的比。對于嵌入式的設備來講,帶寬往往是瓶頸。拿 Nvidia 的嵌入式平臺 TX2 為例,它的帶寬比上計算力大概是 1:26。

      地平線:面向低功耗 AI 芯片上視覺任務的神經網絡設計 | AI 研習社職播間第 2 期

      第一,要分析一下輸入通道數、輸出通道數以及輸入大小對帶寬和計算量的影響,ShuffleNetV2 提出的準則第一條是,在同等的計算量下、輸入通道數和輸出通道數下,帶寬是最節省的,公式為:地平線:面向低功耗 AI 芯片上視覺任務的神經網絡設計 | AI 研習社職播間第 2 期。其實輸入通道、輸出通道和輸入大小任意一個過小的話,對帶寬都會產生不友好的影響,并且會花很多時間去讀取參數而不是真正去計算。

      地平線:面向低功耗 AI 芯片上視覺任務的神經網絡設計 | AI 研習社職播間第 2 期

      第二,卷積中 Group 的個數又對性能有什么影響呢?ShuffleNetV2 這篇文章指出,過多的 Group 個數會增加單位計算量的帶寬,我們可以看到計算量的帶寬和 Group 的個數近似為正比。從這一點上來看,MobileNet 里頭的 Depthwise Convolution 實際上是一個帶寬需求量非常大的操作,因為帶寬和計算量的比值接近于 2。而實際運用的時候,只要帶寬允許,我們還是可以適當增加 GROUP 個數來節省計算量,因為很多時候,帶寬實際上是沒有跑滿的。

      地平線:面向低功耗 AI 芯片上視覺任務的神經網絡設計 | AI 研習社職播間第 2 期

      第三,ShuffleNetV2 說到的第三條準則是,過度的網絡碎片化會降低硬件的并行度,這就是說,我們需要思考 operator 的個數對于最后運行速度的影響。其實 ShuffleNetV2 這種觀點不夠嚴謹,準確來說,我們需要把 operator 分為兩類:一類是可以并行的(如左圖),兩個框可以并行計算,concat 的內存也可以提前分配好;另一類是必須串行去進行計算,沒有辦法并行的 operator 則會降低硬件的并行度。對于硬件來說,可以并行的 operator 可以通過指令調度來充分利用硬件的并行能力。從這條準測上看,DenseNet 這種網絡結構在應用實際上非常不友好。它每次的卷積操作計算量很小,而且每次計算需要依賴先前所有的結果,操作之間不能并行化,跑起來很慢。另外,太深的網絡跑起來也比較慢。

      最后,ShuffleNetV2 也指出,Element-wise 對于速度的影響也是不可忽視的——一定程度上可以這么說。因為 Element-wise 雖然計算量很小,但是它的帶寬需求比較大。其實如果把 Element-wise 的操作和卷積結合在一起,那么 Element-wise 的操作對最后帶寬帶來的影響幾乎為 0。常用的例子是,我們可以把卷積、激活函數和 BN 放在一起,這樣的話,數據可以只讀一次。

      講到這里,我們做一下總結,設計高效的神經網絡,我們需要盡可能讓 operator 做并行化計算,同時去減少帶寬的需求,因為最后的速度由帶寬和計算量共同決定的,所以這兩者哪個存在瓶頸,都會制約運行速度。

      過去優化神經網絡結構往往依靠非常有經驗的工程師去調參,我們能不能直接讓機器去自動搜尋網絡結構呢?

      地平線:面向低功耗 AI 芯片上視覺任務的神經網絡設計 | AI 研習社職播間第 2 期

      其實也是可以的,比如說 Google 前段時間進行一項工作叫 NASNet,就是通過強化學習,把圖像分類的準確率和網絡本身的計算量作為反饋,去訓練網絡結構生成器,讓網絡結構生成器去生成比較好的網絡結構。

      地平線:面向低功耗 AI 芯片上視覺任務的神經網絡設計 | AI 研習社職播間第 2 期

      Google 的這項工作大概用了 450 GPUs 和 4 天,搜索出了性能和計算量都還不錯的網絡結構,這兩個圖是網絡結構的基本單元。然而,通過我們之前的分析,它這兩個基本單元肯定是跑不快的,因為操作太零碎,而且很多操作沒有辦法并行。所以對于搜索網絡結構,考慮真實的運行速度是一個更合適的選擇。所以就有了后續的工作,叫做 MnasNet。

      地平線:面向低功耗 AI 芯片上視覺任務的神經網絡設計 | AI 研習社職播間第 2 期



      Google 這次直接把手機上的運行速度作為強化網絡的反饋。我們可以看到用這種方法搜索出來的網絡結構合理很多,同時性能也比之前稍微好一些。

      地平線:面向低功耗 AI 芯片上視覺任務的神經網絡設計 | AI 研習社職播間第 2 期


      在同時期,我們也有進行了類似的工作——RENAS,它實際上借鑒了 NASNet,但我們側重于去解決搜索效率低下的問題。和 NASNet 不同,我們采用進化算法搜索網絡結構,同時用強化學習去學習進化的策略。工作方式的鏈接放在上面,大家感興趣也可以去看一下。

      地平線:面向低功耗 AI 芯片上視覺任務的神經網絡設計 | AI 研習社職播間第 2 期

      RENAS 的一個優點是,它的網絡搜索的效率要高得多:我們用了 4GPU 和 1.5 天就搜出比 NASNet 更好的結構。不過它的缺點也跟 NASNet 一樣,都用了計算量作為一個衡量指標,因此它搜索出來的所有結果只是計算量低,但是運行速度并不一定特別快。

      算法+硬件在計算機應用上的一些成果

      講了這么多,最后我們可以展示一下,經過優化后的網絡在主流視覺任務上的應用效果:

      最常見的圖像級別的感知任務比如圖像分類、人臉識別等,由于它們輸入比較小,所以整體計算量并不大,對于網路的效率要求也沒有那么苛刻。而在圖像分類以外的工作比如物體檢測 語義分割等等,它們的輸入比圖像分類大得多,往往在 1280x720 這種分辨率或者更大的分辨率。MobileNet 或者 ShuffleNet 在這個分辨率下的計算量,還是挺高的。另外在物體檢測、語義分割的問題當中,尺度是一個要考慮的因素,所以我們在設計網絡的時候,要針對尺度問題做一些額外的配置,包括并引入更多分支,調整合適的感受野等等。

      地平線:面向低功耗 AI 芯片上視覺任務的神經網絡設計 | AI 研習社職播間第 2 期

      對于物體檢測、語義分割任務,我們專門設置了一個網絡結構,它的大概樣子如上圖中的右圖所示,特點是我們使用了很多跨尺度的特征融合模塊,使網絡能夠處理不同尺度的物體,另外,我們這個網絡的基本單元都遵循了簡單、高效的原則,用硬件最友好、最容易實現的操作去組建基本模塊。

      地平線:面向低功耗 AI 芯片上視覺任務的神經網絡設計 | AI 研習社職播間第 2 期

      我們在一些公開數據集上測試了這個模型的性能,主要有兩個數據集,一個是 Cityscapes,它是語義分割數據集,圖像分辨率很大,原始圖像分辨率為 2048x1024,標注有 19 類。在這些數據集上,我們的網絡跟曠世最新的一篇論文 BiSeNet 做比較——BiSeNet 是目前能夠找到的在語義分割領域中速度最快的一個方法,它的計算在右邊的表格中,其中的計算模型*Xception39 在 640x320 的分辨率,大概需要 2.9G 的計算量,而我們的一個小模型在同等規模的輸入下,達到幾乎一樣的效果,只需要 0.55G 的計算量。

      同時,在性能上,——語義分割里面我們用 mIoU 作為指標,在 2048x1 024 的分辨率下,我們稍微大一點點的網絡跟 Xception39 非常接近。我們的網絡還在 KITTI 數據集上做了一個測試,它的分辨率大概為 1300x300 多,特別是車和人的檢測任務上所表現出來的性能,和 Faster RCNN,SSD,YOLO 等常見的方法的模型相比,具有非常高的性價比。

      下面展示一下我們算法在 FPGA 平臺上實施的一個 Demo。

      我們這個網絡同時去做物體檢測和語義分割,以及人體姿態估計。FPGA 也是我們第二代芯片的一個原型,第二代芯片年底會流片回來,單塊芯片性能會是 FPGA 這個平臺的 2-4 倍。這個數據是在美國的拉斯維加斯采集的,除了人體姿態的檢測,我們還做了車載三維關鍵點定位,它的運行速度可以達到實時,也作為我們重要的產品在車廠中使用。Demo 只是我們工作的冰山一角,我們還有很多其他的方向的工作,比如智能攝像頭、商業場景下的應用,目標是為萬物賦予智能,從而讓我們的生活更美好。這是我們的宣傳片,相信大家在進職播間的時候都已經看過了。

      最后回歸本次做直播的一項非常重要的目的——校招。我們今年的校招馬上要開始了,接下來由 HR 姐姐來介紹一下地平線招聘的情況。

      地平線 2019 年最全的校招政策解讀

      大家好,我是地平線負責招聘的 HR 趙紅娟,接下來我來整體介紹一下公司的情況以及校招流程。

      地平線(「公司」)是國際領先的嵌入式人工智能(「AI」)平臺的提供商。公司基于自主研發人工智能芯片和算法軟件,以智能駕駛,智慧城市和智慧零售為主要應用場景,提供給客戶開放的軟硬件平臺和應用解決方案。經過三年的發展,地平線現在有 700-800 的正式員工,加上實習生,大概有 900 人左右。同時,公司 70% 多的員工都是研發人員,我們的平均工業界經驗為 7 年左右。

      我們公司的技術團隊實力雄厚,除了國內的各大廠之外,同時也有來自如 Facebook、華為、高通等國際知名企業的成員。目前,我們的業務橫跨「軟+硬,端+云」領域,后續會持續深耕嵌入式人工智能。

      目前,我們也對已經確立的業務方向內部做了一個總結歸類,叫「一核三翼」,「核」是指我們的芯片,應用到智能駕駛、智慧城市和智慧零售三個領域。其中,智慧城市主要是泛安防領域——這是一個非常有潛力的市場,而我們的智慧零售的具體方向是基于我們嵌入式人工智能芯片技術,將線下零售數據線上化、數據化,為零售管理者提供多層次解決方案。

      下面進入關鍵點,即我們希望什么樣的同學加入?用幾個詞來概括就是:Dedicated、 Hands-on、 Team working。

      我們能夠提供給大家什么呢?這也是大家比較感興趣的點。我將從職位、工作地點和福利三個方向講一下。

      職位方向有算法、軟件、芯片、硬件、產品五大方向。

      工作地點,總部在北京,同時在、南京、上海、廈門、深圳、杭州、硅谷都有 office,大家可以選擇自己喜歡的城市。

      福利則包括:

      1.    拿到校招 Offer 的同學,畢業前能來地平線實習,可以享受到跟畢業以后正式員工相同的薪酬標準;

      2.    試用期結束以后,所有畢業生統一組織轉正答辯,根據轉正答辯成績有推薦大家去參加各種國際頂級會議,或者前往硅谷工作或參觀等諸多開眼界的機會。

       3.    針對大家從學生到職場人的轉型,我們會提供升級版地平線大學,助力職業生涯發展。地平線大學分為必修課和選修課,同時會有常用的禮儀方面的培訓

      4.    其他福利其他公司可能都有,但是我們公司會更貼心,比如電競椅、升降桌,補充醫療、入職&年度體檢、全天零食供應、餐補、交通補、租房補貼、帶薪年假 10 天、產假 6 個月、陪產假 15 天、多彩 offsite、各種興趣社團等等。

      最后,我們附上校招通關秘籍:

      地平線:面向低功耗 AI 芯片上視覺任務的神經網絡設計 | AI 研習社職播間第 2 期

      宣講學校:東南大學、哈爾濱工業大學、華中科技大學、南京大學、清華大學、上海交通大學、西安交通大學、浙江大學、中國科學技術大學和 中國科學院大學等十所學校。

      校招流程:宣講會當天筆試,當晚出筆試成績,隔天進行面試,面試通過就會發錄用意向書,十一后發正式 Offer。

      簡歷投遞方式:包括網申和宣講會現場投簡歷。

      總之,地平線非常重視校招生及其培養,希望給大家更好的發展空間,培養一代又一代的地平線人,為公司創造更大的價值,為科技進步貢獻自己的力量!

      下面是中科院站的宣講群二維碼,歡迎同學們前來圍觀。

      地平線:面向低功耗 AI 芯片上視覺任務的神經網絡設計 | AI 研習社職播間第 2 期

      分享結束后,兩位嘉賓還對同學們提出的問題進行了回答,大家可以移步社區(http://www.gair.link/page/blogDetail/8437)進行詳細了解。

      以上就是本期嘉賓的全部分享內容。更多公開課視頻請到雷鋒網 AI 研習社社區觀看。關注微信公眾號:AI 研習社(okweiwu),可獲取最新公開課直播時間預告。


      附:問答環節

      技術類問題:

      1.地平線之前應該基于 FPGA 做過一些駕駛輔助相關的產品吧?實時性大概可以做到多少?第二代芯片在此基礎上能夠提升 2~4 倍嗎?

      做過,能做到 20 幀每秒以上。是的。

      2.地平線在車道檢測上有沒有比較好的方案?

      如果你感興趣的話,可以來地平線參觀參觀,一起聊一聊。

      3.輕量級網絡模型有哪些?

      有一些專門討論輕量級網絡的文章,比如 MobileNet 和 ShuffleNet 這類文章,都會提供計算量和性能的指標,直接拿來用就可以了。文章也會提供一些物體檢測和語義分割的 baseline,你可以把輕量級網絡稍微改造一下,就可以用在這些任務上。

      4.地平線有相關 Paper 發表嗎?

      地平線內部工作可以分為兩類,一類是探索性的工作,這部分工作我們會有實習生發表一些論文;另一類是優化的工作,并沒有發表論文。

      5.貴公司現在都是專用芯片?以后有可能有通用芯片賣給用戶跑自己的模型嗎?

      自己訓練的網絡當然能在我們自己的芯片上跑,在芯片上跑是我們訓練網絡最重要的一個目的。但是,我們以后也會公開,兼容去跑一些其他的模型。

      6.Tensorflow 和騰訊的嵌入式優化有什么區別?

      Tensorflow 的系統和社區很龐大,相關知識文檔和模型也比較完善,騰訊的這個嵌入式設備上優化得很好,可能比 Tensorflow 好一些,輕量級一些,看大家的取舍吧。

      7.產品落地需要考慮小目標檢測嗎?

      小目標檢測這個問題在產品落地的時候肯定是需要考慮的,因為很多時候車輛檢測任務,客戶對你的算法需求是檢測到 100 米甚至 150 米的車,而在常規的廣角攝像頭下,檢測的圖像大概只有十幾的像素了。

      校招相關問題:

      1.招 2020 屆應屆生嗎?

      當然可以,非常歡迎。2020 屆同學可以先申請實習,以后可以參加 2020 屆的校招。我們明年會在夏天安排招聘會,專門針對 2020 屆畢業生。并且,我們長期招聘實習生。

      2.社招有嗎?社招有筆試嗎?

      也有,大家可以通過網申投遞。一般情況下,社招沒有筆試,但是針對工程專業的同學,我們會考察你們的代碼功底。

      3.杭州有什么崗位?是新開的分部嗎?

      明年在杭州開設 office,大部分職位都是開放的,目前我們沒有職位的限制

      4.工程院和研究院有崗位嗎?

      工程院在北京和南京都有職位,南京研究院也在招實習生。

      5.具體職位要求是什么?

      具體職位要求大家可以去我們發布的職位招聘網站上看一下。

      附上校招網申地址:http://hobot.zhiye.com/Campus

      6.非 985 學校的學術要嗎?有學歷要求嗎?

      我們對所有學校的學生都開放,不限大家是本科生、研究生以及是否 985 院校畢業生,關鍵看大家的實力,我們有筆試和面試的環節對大家進行考察。

      7.廈門招算法工程師嗎?

      廈門有招算法工程師,但是會跟北京的算法工程師有一些區別,深度學習的算法工程師集中在北京。

      9.是否有面試機會?

      是否有機會面試要取決于大家的筆試成績。

      10.什么時候到華科進行校招?

      我們會在公眾號(HorizonRobotics)上同步行程。

      11.校招安排在什么時間?

      最早的一場是在號 2018 年 9 月 12 日 18:00,國科大中關村校區教學樓 S101 報告廳 (數學所西側 經管學院教學樓內)。后續站次安排會在微信公眾號(HorizonRobotics)及時更新。

      12.中科院畢業生去得多嗎?

      我們公司中科院來的工程師應該是最多的。


      雷峰網原創文章,未經授權禁止轉載。詳情見轉載須知

      地平線:面向低功耗 AI 芯片上視覺任務的神經網絡設計 | AI 研習社職播間第 2 期

      分享:
      相關文章
      最新文章
      請填寫申請人資料
      姓名
      電話
      郵箱
      微信號
      作品鏈接
      個人簡介
      為了您的賬戶安全,請驗證郵箱
      您的郵箱還未驗證,完成可獲20積分喲!
      請驗證您的郵箱
      立即驗證
      完善賬號信息
      您的賬號已經綁定,現在您可以設置密碼以方便用郵箱登錄
      立即設置 以后再說
      主站蜘蛛池模板: 爱上包养我的女人| 娃娃脸经典版5| 公公的浮之手| 鸡毛飞上天观看免费全集| 三年大片免费观看| 这4种面包真的建议少吃| 女人公敌第四季| 歼灭天际线1-24全集| 相亲遇见美女| 年级的妈妈4电视剧| 19岁大学生真人电视剧百度云| 美国男人大鸟| 和部长出差三天电影观看| 都市激情在线| 唐顿庄园3未删减| 陈宝莲《满天星》免费观看| 意大利电影短情欲在线播放| 《农场保卫战》满天星法国在线观看 | 半身死灵2| 和朋友换娶妻野外夫妇3| 环太平洋 迅雷| 性生活全集| 寻回真爱:失忆娇妻短剧全集| 丰臣兄弟!电视剧| 战狼6欧式少女全全部视频| 看春晚迎新春| 电视剧妻子免费观看| 伊波拉病毒国语高清| 白日焰火在线| 禁忌5在线观看| 艋胛 电影| 周二谋杀定律全集观看| 正播:巴黎奥运会开幕式| 《法国空少》| sdde-403| 女友的新妈妈双字| 广西一村庄被淹4个月水位仍在涨| 争霸传奇电视剧| 娃娃脸4在线观看免费观看电视剧| 女友成双| 校花的贴身高手2 电视剧| 巜人妻初次按摩忍不住| 白蛇:缘起电影| 电影《姐妹牙医》赤子板栗| 神武天尊在线观看| 电影《秘密花园》免费观看| 一国两制的核心| 爱我几何,免费| 需要爸爸的种子播种| 致命弯道5完整版在线观看视频| 倔强的驱魔师1-4集免费观看| 一个人的江湖| 沙漠战争| MSD-005 欧妮 维修工的心跳艳遇(下) 疼痛凌辱高潮快感-在线观看-338TV | 《致命游戏》免费观看| 两只手一个舌头让你快乐| 侏罗纪公园3 电影| 生化危机4 战神再生| 大威虎看世界| 生而为狗我很幸福动画在线观看| 1—45集电视剧免费播放| 你是我的荣耀免费看全集| 被义子糟蹋| 张子健大漠枪神| 回复术士真人视频| 墓穴迷城迅雷下载| 《新人类毒医肥尸》免费观看 | 动感之星小玲108集全集免费观看 我的健身锻炼3完整版 | 动真格了!渤海打响“第一枪”| 我的好妈妈5高清在线观看| 17岁国语版| 《你好 李焕英》电影| 酒店激战| 血腥的夜晚| 落魄贵族琉璃川在线观看动漫免费| 《狙击精英:巅峰对决》| 朋友的妈妈2020中字| 秀婷程仪公欲息肉婷五部曲| 米奇妙妙屋之大搜寻| 龙巡天下第三部全集| 谢娜康辉| 武媚娘秘史| 火烧天堂镇未删减| 丁丁历险记电影| 禁忌女孩第1季| 楚门的世界免费观看完整版| 贝拉1980在线观看| 帝王之妾韩剧在线观看免费全集| 诱人的女学生3| 青面修罗电影| 日本电影厨房激情2| 《通往你的地图》| 唐人街探案3正片枪版| 银魂248| 花样年华在线观看| 丹东市| 国模私拍合集| 喜爱夜蒲粤语完整版| 非诚勿扰20120714| 还珠格格天上人间| 金瓶梅bmp3视频| 罗马帝国2(女版)| 多鹤电视剧全集免费| tube8| 电影花与蛇| 朋友家的麦子2中文版配音| 后窗免费| 公的浮之手中字电影完整版| 电视剧《雪豹》全集免费| 善意的竞争电视剧免费观看| 《查莉成长日记第一季》电视剧| 情迷夜中环| 熊出没之逆转时空观看完整版| 《执法者们》国语版| 《Melody女超人》在线播放| 电影黄河绝恋| 维修工的颜遇 在线| 锦衣之下电视剧在线观看| 沙漠求生电影免费观看| 就爱江湖| 樱兰男公关部| 凌云壮志满天星在线观看| 跑男第七季| 日本战狼六免费| 美国爱情片真爱禁区片段| 21世纪爱指南8集在线| 生死线电视剧全集免费观看完整版 | 小敏家电视剧全集在线播放| 爱我就别想太多免费| 箭在弦上电视剧全集百度影音| 大力神3d| 狂野式到轮式的转换技巧| 法国满天星《致命娇妻》的剧情简介| 新水浒传28| 女超人麦乐迪在线完整版2013| 野花视频在线观看免费完整版1| 在暴雨时分电视剧免费观看| 戒不掉的温柔| 电影《庄园女仆》免费观看| 电影巜商务旅行戴绿色帽的演员表 | 酒店第1-100集免费观看下载| 视频在线观看免费高清| 要爸爸的种子bd| 女友的妈妈在线| 妻子丰胸按摩电影在线观看| 亲爱的妈妈在线观看| 恋爱结婚| 美容院的待遇服务免费| 生化危机终章在线观看| 陪睡美人| 碧蓝之海在线观看| 曼谷保镖喜剧国语免费观看| 海派甜心舞蹈| 大生意人40集免费播放最新章节 | 变态的情人| 魔镜号巴士街头中文字幕在线 | 阿郎的故事电影| 最终列车醉汉第一季| 黑帮少爷爱上我在线看泰国| 爱我几何电影在线观看| 教授和他的女大学生| 九一麻花传剧mv在线看看第一集 | 《暗战1》电影在线观看| 女儿的朋友7在观完整有限中字| 高清特权未删减| 平舆县| 欧阳德怪侠全集| 爱我几何高清下载| 盲女72小时完整版| 酒店1-90集在线观看| 换乐无穷国语| 美景之屋6在线观看高清完整版| 圣杯之战游戏| 新还珠格格第二集| 97在线观看免费高清电视剧网站 | 姐姐真漂亮免费观看| 公公的浮之手电| 张大仙全球首吐| 圣德罗佩的姑娘们| 广场舞尕撒拉| 绝对权利| 游客在瓦屋山被落石砸中身亡| 三d肉蒲完整版| 致命诱惑电影| 我是机器人 电视剧| 豫剧程英救孤| 双龙出手百度影音| 国庆六十周年阅兵式| 情逆三世缘粤语| 电影玩物| 男子全程痴笑看王心凌唱《爱你》| 《合租》2024菲律宾主演是谁| 夜魔侠第二季| 渔家三个姑娘1| 小姐韩国免费观看完整版电影| 《法国空乘4》免费播放| 踏血寻梅电影完整观看| 黄色仓库视频| 高清《为你遗憾》电影| 酒店激战第1-5集在线观看人生第一次| 我的女婿太逆天电视剧| 《金牌销售》法国电影| 儿子的妻子在线| 人猿泰山电影1995版在线播放| 电影野兰花| 插曲的痛60全集免费观看高清版校园青春 | 达日县| 我家有个日本女人| V酒店在线观看| 老电影庐山恋| 小小影院《法国少女农埸| 绅士的品格在线观看免费完整版| 牙医姐妹86日版免费看| 局长趴在雪白的身上耸动| 法国女超人在线观看完整免费| 碟中谍在线观看| 别墅互换| 电视剧楚留香传奇| 《女律师替夫还债》韩剧| 大香交伊人| 《内衣销售秘诀》电影| 赖猫的狮子倒影大结局| 买百科全书的女人在线| 诺亚方舟:创世之旅| 《乳头按摩》免费观看视频| 《功夫熊猫2》| 荷尔蒙6美国| 海上嫁女记剧情| 睫毛膏3美国1983| 瓦尼塔斯的手记动漫全集免费| 战狼6双人版免费观看正版影视大全 | 杨紫琼最新电影| 《好喜欢好喜欢同学》动漫| 赚他一千万| 唐顿庄园2| 瓜达卢佩的玫瑰HD版在哪里可以看| 华人城小说| 《over flow》真人版| 韩世雅《大度》在线观看| 《女兵突击》满天星| 西藏锅庄| 直到黎明未删减| 与岳母的那些年| 侦探语录免费观看完整版| 木下檀檩子免费看全集| 性感海滩3丝袜补丁| 理发店里的特殊待遇4伦理片| 《聊斋之鬼狐》完整版| 水润女人全免费高清电视剧在线观看完整版| 蜜桃成熟时2在线看| 法国空姐中文免费高清原声高烧可以吃雪糕吗| 法政先锋第三部粤语| 酒店激战2第5集在线播放| 张学良新传| 下属的妻子去社长家吃饭在线 | 哇嘎嘎高清在线观看| 精英律师电视剧全集免费观看完整版| 疯魔神丐苏乞儿| 要过好日子全集| 梅花红桃电视剧免费观看完整版 | 神奇农场| 扫黑风暴21集在线观看| 尸家重地 国语| 达科塔-范宁| 国语韩剧媳妇当家| 高清《大秦帝国》| 狂飙手机免费看| 锦月如歌电视剧免费观看在线观看| 扫毒3电影在线观看免费完整版| 九层妖塔西瓜| 赵丽颖小城大事免费播放| 束缚游戏免费全集在线看| 两个妈妈韩剧电视剧免费观看全集| 秋瓷炫生死决断被删掉的5分钟| 生化危机5惩罚完整版| 熊出没之伴我熊芯电影| 重生之龙在异界| 男男在洗澡时互添gay| 夺面双雄电影| 黄山市| 职员到老板:打工人全集免费| 空姐妻子的秘密第三季| 《年轻的女仆》韩国电影在线观看| 陪讨厌部长千金去出差旅| 最后一刻| 酒店1-100集免费观看电视剧剧情介绍| 开门红扇子舞| 法国空姐2019| 澳门风云在线观看| 《水润女人》刘智贤韩剧| 沸腾的群山| 埃及艳后ii成版| 辣妈正传快播| 女特警电视剧全集| 罗曼蒂克消亡史豆瓣| 世界杯主题曲mv| 维修工的艳遇无删减| 高清《谋杀的滋味》电视剧| 铿锵免费观看| 亲爱的孩子们电视剧免费观看| 隐形帽| 上位完整版在线观看| 电影需要爸爸播种子屠夫电影网| 哈利波特与魔法石百度影音| 歼灭天际线高清免费观看完整版 | 同桌的你在线观看| 睫毛膏2美国1| 急速飞车电影| 气球逃生| 请用你的指尖扰乱我第一季| 历任国防部部长| 婚庆摄像教程| 电影《雨夜天魔》完整版| 古剑奇谭免费全集观看| 公交车上的那些事免费看中文| 上瘾第二季| 菲律宾一级色情电影需要爸爸播种子| 代号九耳犬电视剧全集免费观看| 天海翼女检察官无删减版| 中国香港vs朝鲜| 美国伦理电影需要爸爸播种| 巴尔干边界完整免费观看| 《渔女实战》完结无弹窗免费观看 -家庭剧短剧全集 -爱看电影网 | 海棠红电影完整版免费观看 | 高清谋杀的滋味| 渔夫荒野史记1988版电影在线观看 | 至尊食王电视剧免费观看| 最新情色| jizzm日本| 高清未婚男女的效率恋爱| 日本h在线| 从结婚到恋爱电视剧免费观看全集| 一起愁愁愁30分钟电视剧免费观看电视 | xl司令真人版,无马赛克在线观看| 《鸣龙少年》电视剧| 修理工艳遇日本| 青岛一酒店疑闪爆| 商务旅行戴绿帽在线观看| 太平公主秘史 电视剧| 神探亨特| 战狼6免费完整电影在线观看高清视频软件下载 | 朝鲜今天发生兵变| 爱我几何意大利电影完整版播放| 无忧渡电视剧在线观看全集| 广东十虎全集| 终末的女武神 樱花| 离婚前规则多少集| 项城市| 梁小菊的春天| 老公是全球大佬:闪婚首富短剧全集 | 泰国电视剧美梦成真| 见龙卸甲电影| 灰姑娘动画片| 朋友的妈妈2在完整有限中字第5| 韦小宝玩女大王| 理智与情感电影| 禁果的滋味| 回复术士的重启人生4集在线观看| 白嫩光屁股BBBBBBBBB| 法国空姐3在线观看完整免费高| 远方快递原型| 无极天尊全集免费观看| 21世纪爱情指南完整在线观看| 天下足球 歌曲| 以和为贵国语| 伊波拉病毒无删减版在线观看完整版| 电视剧丐侠传奇| 韩国4瘦子| 极限追捕| 姐妹牙医无删减版| 我的公主国语| 性感的老师在线播放| 胸肌撕裂者| 酒店1-100集免费看全集下载| 小屁孩日记2| 美辰之屋6| 毒爱泰剧| 粉红大白菜在线观看 | 《替夫还债妻子》大结局在线观看| 国产动漫| 我要爸爸种子美国电影完整版| 斗破苍穹特别篇3在线观看免费版| 我同学的妈妈双字ID全集免费| 老师受学生攻办公室| 暖暖 在线 观看 免费 高清| 欢天喜地七仙女1| 私人航空免费观看完整版在线播放| 社长的妻子2电视剧免费| 变形金刚1迅雷下载| 新安家族电视剧| 莫陌百度影音| 男按摩师电影在线观看| 万里归途电影抢先看| 星级狂魔后妈(法国版)| 年少有为不自卑| 美人依旧电影| 时光就像一把杀猪刀| 法国空姐2完整版免费播放| 华政韩剧| 八仙饭店伊波拉病毒| 中国家庭第二部全集| OV义姐是不是良妈妈授的动漫完整版| 奥运高手国语| 夏洛特烦恼完整版| 私人女性监狱完整版观看| 大掌门电视剧全集| 蛇姬恋电影高清完整版| 电视剧孔雀翎| 俗女养成记| 少女按摩记| 电视剧后宫甄嬛传| 监狱风云2国语| 小凤新婚下集免费观看视频播放大全 | 美容室待遇5HD| 还珠格格第1部| 人生路在线观看完整版| 热辣披萨女孩高清观看视频大全| 在续意难忘| 和僧侣的交行之夜樱花| 动画片巴拉拉小魔仙| 过气明星:复出即顶流全集免费 | 秘笈追踪| 终极蜘蛛侠毒液| 《伊波拉病毒》2| 高清禁忌女孩:重置| 吸血鬼日记第四季字幕| 三年免费高清第一集在线看| 请叫我中路杀神| 海竿组装图解| 点燃你温暖我| 爱之亡灵| HD版泰山《激战丛林》中文完| 超短时空大山| 独具匠心的意思| 维修师傅的艳遇中字| 抓紧我放弃我电视剧| 老炮儿在线观看| 女子户卫队,满天星| 王牌部队在线观看| 爸爸的种子高清免费版电视剧需要爸 | 精灵幻想记| 汨罗市| 浮生六记南康| 降世神通第四季| 波多野吉衣电影| 凹凸曼解说| 斯卡布罗集市吉他| 罗丽.星克莱尔《乡情》| 制服诱惑免费观看| 恋爱支招| 电影《血肉之花》完整版在线观看| 幸福媳妇成长记电视剧全集| 金银悔1一5普通话| 《江山为聘》免费观看| 侏罗纪公园 2013 电影| 喝醉被义子侵犯在线| 爱唱歌的大姐姐也想第三季| 放学后的优等生 | 超级无敌追女仔| 我的漂亮的小瘦子3| 哪吒二在线观看完整免费高清电影| 舞出我人生电影| 千面女郎| 老湿电影院体检区| 李大霄:今天A股行情不太正常| 《机长空姐的秘密》在线观看| 华豫之门鉴宝| HD版泰山《激战丛林》完整版免费兵王影视 | 田蕴章每日一字| xl司令第一季全集在线观看完整版免费 | 马晓晴和薄| 烈火男儿之队长的故事| 新扎师妹2粤语| 西班牙情事| 金银悔5一1手机版最新版本更新内容 | 回家顺子| 再见艳阳天粤语| 《和部长一起去出差旅》遇到暴雨| 南海战事今天最新消息| 大夏龙帝短剧免费观看| 媚眼激情夜4| 战狼6免费播放观看完整版 | 豚鼠系列1:恶魔实验完整版| 《健美》在线观看免费| 千金归来全集免费| 李洛夫奇案| 97在线观看免费播放电视剧的更新时间| 电视剧外姓兄弟| 激战丛林电影在线观看| 云菲菲邂逅伴奏| 唯一的听众教学设计| 铿锵锵锵锵免费看| 有匪电视剧在线观看全集| 我妻子的新妈妈双字ID| 鲜花盛开的村庄| 谁是真凶| 电视剧上海一家人| 东京塔之越南俘虏营| 鉴证实录2| 幸福到万家电视剧免费观看完整版| 我的游泳女教| 海达电影| 法国女超人麦乐迪在线播放免费观看| 全红婵又又又误入巨人国了| 心理罪为什么看不了| 又见一帘幽梦优酷| 广场舞西海情歌| 义姐不是不良妈妈免费看| 妻子的秘密49| 我知道我爱你电视剧| 五月天回应假唱质疑| 青岛DJ小可| 麻花无痕传剧mv免费观看高清| 土地志 电影| 侠岚第二季| 电视剧猎狼十二钗| 小凤新婚下集免费观看全集| 免费视频电影免费完整版观看| 三十五度灰| 明里紬被义子侵犯在线观看| 火影剧场版7| 日本一卡二卡在线播放| 银河奥特曼免费观看全集| 重庆最美女孩原视频| 海豚寄宿学园在线观看完整版| 缉魂电影无删减完整版| 金瓶梅2 电影| 爱国让你想起什么| 《双乳丰满的女学生》电影| 跟部长一起出差电影在线观看| 黑白森林国语| 闺蜜的朋友中字ID| 寂静之地3免费完整国语版| 不说谎恋人免费观看全集| 南海归墟16集在线播放免费| 1986版乌龙山剿匪记免费观看| 白石茉莉奈 番号| 时来运转国语高清| 一起愁愁第40集免费看| 前任攻略4| 皇家奶娘免费观看全部| 小马宝莉第二季| 卧底48天| 妖艳女忍者传紫雨篇| 父子未删版| 台版1987渔夫荒野史记下载| 流金岁月电视剧在线观看| 花样男子大结局| 碟血弧岛| 白峰美羽主演电影为了心爱的丈夫| 七月之后| 大话女儿国| 周弘| 文豪野犬第三季免费观看| 西瓜影院在线免费观看| 《屠宰呕吐娃娃》完整版免费 | 两只手一个舌头让你快乐| abo成结动画模拟观看| 烽火佳人2| 善良的女儿| 双世宠妃第一季| 播种完整版美国| 美剧《真探》免费观看| 轧戏在线观看| 火线警告第一季| 新有菜在线| 一夜残欢在线观看| 猫和老鼠东北方言版| 你莫走原唱| 电影《播种女儿》完整版视频在| sw274| 《悲惨遭遇》1980年法国| 美女总裁与特种兵电影| 魁拔4之梅零落| 女员工的付出 中文| 落翅女的黄昏| 美丽又紧致 凯帕克英文| 李宗盛演唱会下载| 南充属于几线城市| 美容院的特殊待遇是4| 白鹿原电视剧完整版| 花与蛇2之牙医姐妹| 福尔摩斯2高清| 收获之夜百度影音| 不忠诱惑| 《赶尸艳谈》无删减版| 3对1在线观看| 《破冰行动》电视剧| 冰堂伊吹| 渔夫荒野史完整版电影| 九界修神2| 满天星电影免费观看高清在线播放| 最终幻想动漫| 母亲爱上儿子同学电影| 太空堡垒国语| 欧美电影满天星女超人| 神秘人质电视剧全集优酷| 韩剧树大根深| 第一次竟然给了朋友的| 老公的家庭教师在线观看| 三年成全观看影视大全| 神圣使命2| 这般女子| 凯登克劳斯的全部电影| 杨思敏1996版电视剧全集| 只手遮天古惑仔完整版| 托梦一注6个号| 壮志凌云 满天星在线观看 | 电视剧铁在烧| 诗朗诵《致敬英雄》| 姐姐4韩国电影| 隐形帽子高清在线观看| 电视剧芈月传| 苏州cos| 战狼6电影免费播放西瓜视频| 失去的纯真| 梦想三国在线观看全集| 白峰美羽在线看| 我们都要好好的电影| 俘虏之锁~处女们的束缚| 赈灾晚会| 不当军事行为| 卡波特百度影音| 《艾拉妮丝》电影| 假面之夜| 世界十大巨兽排行榜| 《辞职欢送温泉之旅》| 少年班 电影| 神秘的旅伴电影| 背后运球| 李丽珍舒淇徐锦江一起演过的电影 | 活着真好 电视剧| 征途在线观看| 一路向西bt| 泰剧在线观看| 明亮星星电视剧| 《部长来我家》日剧中文字幕| 26种死法百度影音| 浙江一村庄突然涌现超多寻宝者| 花与蛇1全集| 地狱默示录| 洪金宝电影国语版| 睫毛膏4美版免费观看| 站着再来一次免费视频哆来咪影院 | 当家主母电视剧免费观看| 女教师地狱| 急诊护士完整版在线播放| 法国电影《Cleves》| 法证先锋2在线观看| 美国蜜桃在线| 新猛龙过江电视剧| 客户名单电影| 《混血儿摇篮曲》完整版| 解密大行动| 法国电影《颠覆》在线播放| 三级片美国男按摩师| 电视剧迷雾重重| 星际传奇2| 无敌三脚猫全集| 亢奋在线观看完整免费高清原声高烧可以吃雪糕吗 | 女心理师电视剧免费观看完整版| 甜蜜家园第二季在线观看| 你的房子值多少斤西瓜?| 农民伯伯下乡2国语版百度云电影| 小青扮演者陈美琪| 爱盛开电视剧| 需要爸爸的种子美国子弹电影在线观看| 濉溪县| 高清好运未删减| 白嫩光屁股BBBBBBBBB| 康熙谈靘谭1992年| 年轻的嫂子9| TOTAKKAHAYAKIRGUZUX| 黑蔷薇夫人| 年轻瘦子23| 青青草原影视| 沧元图60完整版最新免费看| 渔夫的荒淫史蒋玲玲版| 田震最新歌曲| 女儿的朋友2韩国电影| 上司交换夫妇木下凛凛子 | 《安塔芮丝》| 后宫露营第一季未增减 0.0| 武当道长谈马保国被ko| 章小蕙 桃色| 《诱人的护士》在线| 初体验5完整版在线观看| 线上需要爸爸的种子| 今夜有戏王宝强| 泰罗 奥特曼| 妖艳女忍者百度影音| 女超人(麦乐迪)版电影| 比特犬多少钱| 人生几度秋凉电视剧| 朋友的妈妈1| 新来的瑜伽老师完整版| 部长来我家日本电影| 降头电影国语| 火拼全集观看| 死亡笔记 下载| 韩剧《爷爷与媳妇》剧情介绍| 《炸天小姐》电影观看| 我要我们在一起电影免费观看| 《新入职的女员工》| 欢乐家长群电视剧1-40集完整版| 《乡情》罗丽·星克莱尔主演的 | 港汇跳楼| 孙颖莎早田希娜直播| 和喜玉兰免费观看全集播放| 《女医生4》免费观看全集完整版| 300勇士:帝国崛起未删减版| 电击小子第3季| 谁是凶手豆瓣| 勾引水电工电影网| 电影美容室的特殊待遇7 | 金银梅5普通话国语版| 哈尔滨斯卡拉小黄飞| 喋血街头在线观看| 上司的要求免费观看正版电视剧自由 | 《灭火宝贝》美国中文| 八兄弟电视剧全集在线观看免费| 小凤新婚上集免费播放电视剧| 雷神百度影音高清| 人肉豆腐汤| 法国版《女超人| 熊出没之伴我熊芯电影免费观看| 一寸一寸进入小姪女| 侵犯女教师白峰美羽HD| 命转情真| 美国摇滚女王蒂娜特纳去世| 成何体统| 布雷斯塔警长国语版| 女版战狼6全集高清免费看| 二人世界高清免费观看完整| 阿浅来了国语电视剧免费观看| 老卫和淑容船上第五季| 美国式保罗2原版电影在线观看| 麦乐迪女超人》| 上海路炒粉事件| 金银岛电影| 假面骑士geats| 聊斋奇谭之东宫美人| 插曲30分钟高清全集网站| 太空堡垒第一部国语版| 非亲兄弟电影| 危情杜鹃| 八戒八戒网剧9在线观看| 电影偷窥狂人| 开学第一课直播2021| 刁蛮婆婆俏媳妇| 三十而已免费观看| 站着再来一次17集全免费播放| 白鹿原电视剧免费全集在线播放| 陪读妈妈电视剧免费版全集播放| 爱情电影网 佐山爱| 意大利《妇产科》满天星播放| 下女 完整版| 韩国综艺节目runningman| 维修员的艳遇| 无盐之月动漫免费全| 超级鲨大战机器鲨| 名侦探柯南681| 陪读妈妈电视剧免费版全集播放| 恋爱禁区动漫| 波多野吉衣电影免费看| 我的父亲母亲大结局剧情介绍| 电影千金赤子板栗免费观看| 梦里水乡简谱| 摩登家庭6 电视剧| 《瓜达卢佩的玫瑰》在线播放免费墨 | 菠萝菠萝蜜在线观看一区| 高清《外出》免费观看完整| 驱魔师vs叫花子动漫在线观看| 猫和老鼠河南方言版全集高清| 《单恋》| 白峰电影高清免费观看平台| 天道电视剧36集完整版在线播放| 非常完美全集免费观看| 爱唯侦察2024年最新合集| 快乐水果之称的水果是什么| 外卖员的特殊待遇| 疯丫头第3季全集| 热恋2015| 幸福的黄手绢| 楼上的邻居在线| 志愿军雄兵出击免费观看| 致美丽的你第三集| 公的孚之手中文| 地心的纳粹| 随心所欲电影免费观看| 丈夫的朋友仓多真央| 离婚惊艳:全城羡慕短剧全集| 怪奇物语第一季4k资源免费观看| 女版特种兵满天星美版| 运钞大劫案免费观看| 电视剧智者无敌| 爆裂点电影免费观看完整普通话 | 邻居的老婆在线| 《姐妹牙医》在线观电影| 总统之夜1997满天星版| 高清《失窃的女孩》电视剧| 天官赐福第二季动漫免费观看| 法国酒店实生3完整版| 深圳倡导下周居家办公| 哆啦A梦:大雄的金银岛电影| 马兰花免费| 《牙医姊妹》无删减版观看在线观看| 上海电视台直播| 中国达人秀卓君稻草人 | 凯帕克康体水疗电影在线观看| 一马离了西凉关| 夫妻免费观看全集完整版| 法国空姐3| 男男同志王伦宝| 藏海花电视剧在线观看平台| 我的奇怪朋友在线观看 | 海豚寄宿学园在线观看完整版| 兄弟打印机官网| 性解密日韩女| 高清望向太阳未删减| 爱我几何免费完整观看高清| 情迷电影| 电视剧风影全集观看| 女超人满天星版麦乐迪马克斯在线观看 | 五福临门免费版在线播放| 再见再也不见| 巨乳女医生的特殊治疗电影| 《杀戮天使》免费观看| 夫妻成长日记二| 爸爸播种电影免费观看高清版下载| 怒放电视剧免费观看全集| 电影《牙医姐妹》完整版| 汪汪队立大功全集免费观看中文版 | 人猿泰山hr版1995| 动画片美猴王全集| 好姑娘4完整版在线观看| 拿下丈夫的下属| 星际宝贝史迪奇未删减| 昴宿七星| 宙斯之子赫拉克勒斯电影| 走过柳源电视连续剧全集播放| 卧鱼在线观看免费全集高清完整版| 超级拆解纪录片| 战狠6免费观看全集| 阴阳镇怪谈百度云| 韩剧学校2013| 麻豆mdx0020穷小子大翻身| 年轻的瘦子最新版免费观看| 爱情治疗师| 中餐厅5免费观看完整版| 航空特殊待遇在线完整版|