• <track id="oztn4"></track>
    <sup id="oztn4"><form id="oztn4"></form></sup>
    
    
    <mark id="oztn4"></mark>
  • <dfn id="oztn4"><samp id="oztn4"></samp></dfn>
      《地爆天星小姐》电影 ,麦子交换2免费观看2023年上映时间表 ,莫妮卡《爱我几何》,大牛影库战狼6欧式少女全部视频,三年大片国语版在线看,日本空姐电视剧,电影魔镜号中文字幕,和部长一起去出差旅是第几集
      全球「AI學術頂會」精華匯聚地
      您正在使用IE低版瀏覽器,為了您的雷峰網賬號安全和更好的產品體驗,強烈建議使用更快更安全的瀏覽器
      此為臨時鏈接,僅用于文章預覽,將在時失效
      人工智能學術 正文
      發私信給陳彩嫻
      發送

      0

      賓大蘇煒杰:從「匱乏」走向「豐富」

      本文作者: 陳彩嫻 2022-03-29 17:05
      導語:你當像鳥飛往你的山。

      初識蘇煒杰,他與許多青年學者一樣,外表溫文爾雅、略帶靦腆,但一談起學術和 AI 的未來發展,就充滿激情。

      看他的簡歷,成長經歷一帆風順:本科就讀于富有盛譽的北京大學數學科學學院,接著在美國斯坦福大學攻讀博士,師從美國國家科學院院士、麥克阿瑟天才獎得主 Emmanuel Candès 和美國國家科學院和工程院雙院院士 Cynthia Dwork。緊接著跳過博士后階段,執教于培養了埃隆·馬斯克和沃倫·巴菲特的沃頓商學院,并聯合指導常青藤名校賓夕法尼亞大學在機器學習領域的發展。

      他的團隊在機器學習優化算法、可信 AI 和高維數據分析等領域做出了許多原創甚至突破性的工作,部分成果已經應用于業界。但蘇煒杰謙虛地說,和同一階段的其他 AI 學者相比,他的論文數量算是少的。而事實是,他「相對較少」的工作已經讓他贏得了 NSF Career Award、斯隆研究獎和 SIAM 數據科學青年獎等眾多榮譽。能獲得其中一個獎項已經堪稱領域小牛,而蘇煒杰獲獎時的工作年限比平均還早兩三年。顯然,蘇煒杰是以「質量取勝」。

      他指導過的學生已經或即將執教于北京大學、羅切斯特大學和曼徹斯特大學等名校的計算機系,以及供職于 Google 和 Facebook 等硅谷大廠的研究部門。盡管離博士畢業只有 5 年多時間,但蘇煒杰已經向「桃李滿天下」的夢想邁進了一大步。

      在這些成績的背后,蘇煒杰的研究經歷是否一帆風順?又有哪些故事值得有志于 AI 的學生借鑒?


      1、田園的成長經歷

      盡管沒有相關統計數據,但在農村長大的知名 AI 青年學者比例想必是極少的。而蘇煒杰就是其中一員。

      他談起農村成長經歷的話語中充滿著快樂。蘇煒杰從小就幫父母干農活,在夏天和秋天播種和收割水稻期間學校會放「農忙假」,這時候摸田螺和抓黃鱔是他的最愛。平時放學回家路上,蘇煒杰要路過家里的兩畝地,打開水渠給水稻灌溉。小學期間他家沒有房子住,全家就暫住在村里廢棄了的供銷社老房子里。令他感到欣喜的是,這個老房子中間有塊空地,他每天回家都能花很多時間種些花花草草。

      在農村長大,幾乎沒有課業壓力,蘇煒杰有更多與自然親近的機會。但這無法掩蓋物質上匱乏的事實。相比于城區學校,蘇煒杰就讀的農村小學和初中教學資源要少很多,基礎設施比較差。比如,他的初中操場沒有400米跑道,體育課練跳遠時全校連個皮尺都沒有,更沒有機會接觸計算機,甚至初一開始學英語時都是用漢字注音。因此周圍的同學對讀書改變命運普遍信心不足、學習興趣也不大,經濟條件較好的同學經常中途轉學到城區學校。

      現在,蘇煒杰曾就讀的這兩所學校因為農村適齡人口減少等原因,都已經關閉。

      還有機會上的匱乏。他沒有讀過幼兒園,本應該開始讀小學時,因為教學資源不足,農村孩子必須晚一年上學,因此后來在高中和大學他一般都比同學年齡大一些。蘇煒杰笑著提到還出現過有人以為他是復讀生的誤會。

      在匱乏中的成長經歷,讓蘇煒杰從小認識到生活的艱辛,特別珍視機會,感恩他人的幫助。

      蘇煒杰所在的農村隸屬于寧波地區的余姚市,這是中國經濟最發達的縣級市之一,有著濃厚的經商創業氛圍。特別是在農村,大家覺得得早點做生意賺錢更好,讀書是一種性價比很低的人生選擇。這也是江浙籍中科院院士自建國初比例持續下降的原因之一。

      這些經歷,大概率會讓蘇煒杰走一條不一樣的道路。


      2、在追求知識中走向「豐富」

      改變蘇煒杰人生走向的第一個節點是在小學五年級。那一年,他的母親從村里培養出大專生的鄰居那借了兩本教科書,一本關于微積分,另一本關于線性代數。在強烈的好奇心趨勢下,經過一年時間,他在沒有人幫助的情況下讀懂了這兩本書。之后,初一時父親帶著他去寧波和杭州買了不少高等數學和熱力學、量子力學、狹義相對論等物理書。浸潤在遠超他年齡的知識海洋中,蘇煒杰當時真正看懂的不多,但對知識的渴求已經在他心中深深扎根。

      誠然,書籍是治愈匱乏最好的療法。蘇煒杰開始經常騎很久的自行車去市圖書館,借閱數學物理天文地理等各種書籍。通過閱讀《古今數學思想》和《為了人類心智的榮耀》等數學家傳記,蘇煒杰為高斯、歐拉、黎曼、龐加萊的事跡而激動,為拉馬努金和愛多士等近代數學家的故事而傾倒。有一次,他想買價格200多元的《中國大百科全書》精粹版,等了半年才向父母提出來。那次他把厚厚的一本書放在自行車后座,從新華書店回家,是他印象中最快樂的一次騎行。

      知識的豐富,很快帶來回報。從未接受過競賽訓練的蘇煒杰,初二那年參加初三組數學競賽獲獎,收到城區一所初中的邀請轉學。之后高中就讀于家鄉最好的余姚中學。從此雖然老家一直在農村,但蘇煒杰的求學生涯永遠告別了田園時光。

      更大的回報很快接踵而至。高一第一學期,蘇煒杰參加高三數學競賽,「劍一出鞘」,就獲得了省第六名,代表浙江省參加中國數學奧林匹克,這讓這個質樸的農村男生興奮得都不敢相信是真的。之后,蘇煒杰去了杭州、福州等地參加培訓,這也是他第一次真正意義上走出家鄉余姚。跟來自全國各地的優秀同學交流過程中,他感受到了差距,特別是在見識和談吐方面的不及,讓當時的他對自己失去信心。

      但最后蘇煒杰在決賽中發揮出色,獲得銀牌,名列浙江省第二名,保送清華大學數理基科班。這是他家鄉百萬人口縣級市第一次有高一學生保送清北,他還因此獲得了「寧波市十佳學子」的稱號,在家鄉引起了轟動。蘇煒杰至今在家鄉仍有很高的知名度。

      高三那年,蘇煒杰再次代表浙江省參加中國數學奧林匹克,獲得全國第二名,保送北京大學數學科學學院,并進入國家集訓隊。大多數集訓隊隊員所在高中之前就有學長學姐進過國家隊,而蘇煒杰是其高中進入數學國家集訓隊的第一人,至今也是唯一一個。

      因此,母校老師對他寄予厚望,希望他能成功進入 IMO 國家隊,為余姚中學帶來第一塊學科競賽國際金牌。但在集訓隊的最后兩次選拔賽中,蘇煒杰發揮不理想,一步之遙與國家隊失之交臂。十多年過去了,他還對此略感遺憾,但不是因為個人榮譽的得失,而是因為辜負了高中母校的期望。

      參加數學競賽讓這個農村男生獲得了不敢想象的豐富機會,盡管也有不少失利,但這更讓他珍視機會的來之不易。蘇煒杰感到自己很幸運,因為這一路他并沒有做任何規劃,只是單純地追隨他內心對數學之美的熱烈追求。


      3、從數學夢到與AI結緣

      在北大數院就讀的四年時光里,匱乏隨之遠去,取而代之的是豐富的數學知識海洋。蘇煒杰盡情地投入這場盛宴,不敢有一絲懈怠。他基本不玩游戲,每天就是跟在燕園第一周就在一起的女朋友、現在的妻子在圖書館自習中度過。

      生活方面,北大給蘇煒杰提供了助學金,加上他每年獲得的最高獎學金,就可以完全承擔學費和生活費。這份恩情他一直記在心里。

      身處北大數院,就是與全國最優秀的同齡人共處一個集體。這種感覺是美妙的,有什么問題,跟同學一交流,馬上就會豁然開朗,甚至意識到之前沒有注意到的問題,而且還會有一點壓力,這又會讓你更加努力。

      北大對蘇煒杰的改變是多方面的,對他的思維方式打下深深的烙印。數學的思維是向深處探索的,直面真正有難度的問題,力求揭開事物的本質。蘇煒杰日后的科研風格也正是如此,長期專注于若干重要且基本的問題,很少做推廣別人的工作。

      實現兒時數學夢近在咫尺,但隨著大四出國申請季的到來,蘇煒杰對未來產生了猶豫和陷入了抉擇的困難。數學無與倫比的純粹、簡潔和普適性深深地吸引著他,而申請純數學博士是成為一名數學家的必要條件,也是實現他數學夢的必經之路。同時,蘇煒杰在北大數院的方向也正是基礎數學,核心專業課平均分97分,名列年級第一,再加上他在丘成桐大學生數學競賽的出色成績,可以讓他申請到最好的基礎數學博士項目。

      但此時的蘇煒杰,隨著年齡和閱歷的增加,有了不一樣的思考。

      北大是綜合性大學,他有機會選修機器學習、計算數學和統計等課程和參加相關講座,還在林毅夫教授創辦的國家發展研究院獲得了經濟學雙學位。這些另一個維度的經歷讓蘇煒杰了解到數學在其他領域的作用,可以幫助解決重要的實際問題。

      另一個因素是蘇煒杰在大三那年(2010年)暑假得到了在微軟亞洲研究院實習的機會, 此時機器學習方興未艾,在微軟亞研,蘇煒杰了解到機器學習的前沿方向和應用,產生了濃厚的興趣。當時大家還不怎么使用 AI 這個詞,但回想起來,他對 AI 的初印象確是來自于這段實習經歷。這段經歷還讓蘇煒杰結交了很多計算機專業的同齡人,體會到了不同學科之間思考方式的差異。

      賓大蘇煒杰:從「匱乏」走向「豐富」

      圖注:2010年夏天,蘇煒杰(最左)在微軟亞洲研究院實習

      但讓蘇煒杰決心走一條不一樣的路的最終決定因素是他的成長經歷。農村的成長經歷,讓蘇煒杰希望未來事業能跟業界更緊密些, 有機會能改善父母的生活。經過一番思想斗爭,最后放棄了純數學作為個人事業。

      蘇煒杰后來選擇了斯坦福大學統計系繼續他的學術夢,就不再是狹義上的數學家。但他未來的學術風格、思考問題的方式以及學術情懷,從來沒有離開過數學。


      4、成熟于硅谷的 AI 學術風格

      懷揣著對未來的憧憬,2011 年蘇煒杰飛躍大洋來到硅谷,在斯坦福最高博士生獎學金(Stanford Graduate Fellowship)的支持下開啟攻讀博士之旅。蘇煒杰所在的統計系有二十位不到的教授,但卻有近十位是美國國家科學院院士,因此 「院士只是平均水平」。系里的老師普遍在電子工程系、醫學院、計算機系、數學系有正式職位,是名副其實的數據科學。

      此時的斯坦福和附近的谷歌等公司還處在 AI 即將快速發展的前夜。這種多元和動態完美結合的環境讓蘇煒杰能深入接觸機器學習和數據科學的前沿。

      在斯坦福眾多頂級學者中,他選擇了 Emmanuel Candès 教授作為他的博士導師。Emmanuel 是真正的天才,他曾獲得麥克阿瑟天才獎等大獎,研究的內容橫跨計算數學、機器學習、統計、信息論、信號處理和優化等眾多領域,在很年輕的時候就當選為美國國家科學院院士。2020年,他還與陶哲軒一起獲得了當年的「IEEE Jack S. Kilby Signal Processing Medal」(信號處理領域最高榮譽)。

      2014年,蘇煒杰在微軟研究院硅谷分部實習,導師是美國國家科學院和工程院雙院院士 Cynthia Dwork。她是一位初見就覺得是「我的朋友」的老太太,早年在密碼學和分布式計算做出了奠基性的工作,開啟了工作量證明這個研究方向,為后來的區塊鏈奠定了部分理論基礎。近幾年 Cynthia 領導了可信 AI(特別是隱私數據保護和算法公平性)這個朝氣蓬勃的領域,蘇煒杰也在她的指導下進入了這個領域。從此,她一直給予蘇煒杰學術上的指導和支持,是他實際意義上的導師。同時,Cynthia 還是早期的一代女性計算機科學家,早年作為女性學習計算機需要克服諸多困難,蘇煒杰聯系到自身從農村走來也多有坎坷,因此很有共鳴。

      賓大蘇煒杰:從「匱乏」走向「豐富」

      圖注:Cynthia Dwork

      這兩位教授領域不同,但有相似的學術觀點,共同塑造了蘇煒杰今天的學術風格。這并不是說蘇煒杰從 Emmanuel 和 Cynthia 處學到很多具體知識點,坦率地講,作為北大數院的頂尖畢業生,他的知識儲備在本科基本已經完成。但學術遠遠不止于知識的積累,更重要的是學術風格的建立,理解什么是好的學術。

      首先,以解決問題為導向,而不因學科限制自己。Emmanuel當年與陶哲軒一起發明壓縮感知(Compressed Sensing)的時候,就是為了加速磁共振成像這個實際問題。這個工作兼具數學之美與實際之美,是非常罕見的。而在研究的過程中,他用到了信號處理、信息論、優化和統計等多個學科的思想和方法。Cynthia 早年的領域是理論計算機,但近些年在開啟隱私數據保護和算法公平性這些領域的時候深入引進了統計技術和社會學思想。

      另一個很重要的一點是持久地做自己認為重要的課題。Emmanuel 告訴蘇煒杰,他基本不看 arXiv 上最新的論文,而是做自己認為重要的問題,且不輕易因為外界的聲音改變。如果過于緊跟潮流,總是在模仿,很容易迷失在浩如煙海的論文海洋之中,研究的內容很難有自己的特色,且無法產生深遠的影響力。Cynthia 十多年前剛開啟隱私數據保護這個領域時,領域內對此有不同聲音,但經過十多年的持續耕耘,現在已經在業界廣泛應用。

      此外,要重質量而不是數量。蘇煒杰回憶,Emmanuel 好幾次跟他說自己不應該寫某些論文,希望從簡歷里刪掉。當時蘇煒杰還挺驚訝,因為這些論文的引用量也有數百。獨立工作后他才明白,現在學術圈的問題是論文太多,但真正高質量的論文比例卻不高。Emmanuel 告誡他,一篇論文好不好,要看5年甚至10年以后是否還有參考價值。

      這些言傳身教讓蘇煒杰受益匪淺,體現在他做科研也不局限于某個具體學科,經常橫跨機器學習、優化和統計等多個領域,以及習慣于持續地研究問題,注重「種樹」而非「摘果」。「種樹」的成功率固然不高,但這類工作一旦成功,往往能給本領域提供新的問題和機會。

      因為帶學生有壓力,他也有一些純粹只是為了發表而發表的論文,但他每年要求自己至少寫一篇「5年以后還有人讀」的論文。現在蘇煒杰有40余篇論文,但他坦然說只有3、4篇是他真正喜歡的,具有長期價值。也正是這少量的幾篇高質量論文,讓蘇煒杰贏得了眾多榮譽,其成果已經在包括賓大、MIT、UC Berkeley、斯坦福、普林斯頓、耶魯、北大、UCSD、UIUC等眾多大學的數據科學和機器學習課程中講授。有朋友跟他說:「未來可以寫進教科書。」

      除了學術,兩位導師在生活上對蘇煒杰也很關心。Emmanuel 有著法國學者常見的高冷氣質,但內心卻很關心學生,每學期都會邀請學生去他家參加派對,有一次得知蘇煒杰遇到經濟困難后曾提出經濟上的幫助。Cynthia 則經常問蘇煒杰工作開不開心,2017年她入職哈佛大學后,曾提到如果蘇煒杰想來「波士頓的那兩個學校」,隨時跟她說。


      5、豐收篇

      2016年,蘇煒杰博士畢業,論文獲得了首屆「斯坦福 Theodore Anderson 獎」。在 Emmanuel 和 Cynthia 兩位導師的推薦下,入職常青藤名校賓夕法尼亞大學,開始了在東海岸的獨立工作。

      賓大蘇煒杰:從「匱乏」走向「豐富」

      圖注:蘇煒杰和他妻子與Emmanuel Candes的合影

      懷揣著對 AI 的熱情,以及深厚的數學情懷,蘇煒杰開始迎來學術上的豐收。

      蘇煒杰的一個主要課題是揭開深度學習背后的機制,理解為什么深度神經網絡有時候效果好、有時候不好。或許是因為數學背景出身,他除了重視提升效果,也強調「知其然,也要知其所以然」。

      他對 AI 科技評論談道:

      有人說深度學習是「煉金術」。這對于人臉識別、下圍棋甚至蛋白質折疊等也許沒有特別大的影響,但對于高風險的 AI 應用卻是至關重要的。最近 DeepMind 將深度強化學習應用到核聚變,結果令人興奮,但在沒有完全理解深度學習的機制之前,即使成功率達到99.99%,我們能承受最后變成一顆小型氫彈的0.01%的可能性嗎?

      這是一個重要且非常活躍的科研領域,但還沒有一個理論獲得學界廣泛認可。經過多年思考,蘇煒杰和他團隊提出了一個深度神經網絡的「局域彈性」(local elasticity)理論,給神經網絡泛化、優化等性質提供了一個簡單的唯象理論。

      這個理論可以用一個很簡單的例子來介紹:神經網絡看到一張波斯貓的圖片后更新了其參數,然后我們觀察神經網絡更新后在另一張圖片上預測的改變。實驗發現,改變的大小取決于新圖片跟波斯貓的相似度:變化在暹羅貓上最大,在老虎上其次,在汽車上最小。形象地說,深度神經網絡像橡皮泥一樣有局部的彈性。

      直覺上,蘇煒杰相信這個唯象理論是通向最終理論的必經之路,但現在還不完善,還需要大量后續工作來深入研究。

      相關論文:

      • The Local Elasticity of Neural Networks

      • Neurashed: A Phenomenological Model for Imitating Deep Learning Training

      蘇煒杰認為數學理論還可以指導實際的 AI 問題。「There is Nothing More Practical Than A Good Theory」,一個好的理論價值的最直接體現在于能不能指導實際,節約人力物力。流體力學和空氣動力學就是一個很好的例子,現在可以用仿真來替代真實的風洞試驗。但 AI 領域很多方向還需要耗費巨大的人力物力來收集數據和訓練模型,比如最近很熱門的預訓練大模型;另一個例子是自動駕駛,現在離實際的落地應用還有很長一段距離,需要逐個解決無數個"黑天鵝問題"。

      學界在這個方向上的工作都還很初步,但蘇煒杰團隊最近的一個工作算是邁了一小步。這個工作發表在《美國國家科學院院刊》(PNAS),對深度神經網絡進行了極大的簡化,著重分析了特征與后繼層參數在網絡訓練中的相互作用。

      賓大蘇煒杰:從「匱乏」走向「豐富」

      論文地址:https://www.pnas.org/doi/epdf/10.1073/pnas.2103091118

      運用這個框架,蘇煒杰發現了深度神經網絡在訓練數據不平衡時表現可能會非常差,特別是對數據量不夠的類別,其預測能力會非常隨機。這個發現完全是理論預測的,但通過實驗完美地確認有這個現象,然后針對性地提出了解決方案。這個工作說明,在一定程度上,數學是可以指導深度學習的實際應用的,但像這樣的工作目前在深度學習的研究中還是非常少見的。雷峰網

      此外,數學對 AI 知識的梳理和傳承也是有很大作用的。恩格斯曾說過:「任何一門科學的真正完善在于數學工具的廣泛應用」。這句話或許稍有片面,但也可以看出數學對一個學科發展的重要性。為什么埃及金字塔、瑪雅歷法、以及中國古代的很多技術會失傳?本質上是因為這些知識當時沒有被「數學化」,其傳承需要師徒手把手面對面教授繼承。相反,我們現在還可以很好地理解兩千年前的《幾何原本》,因為一個知識體系在被數學化后就是精準的,其傳承就可以超越時空。

      但 AI 領域的許多知識目前處于一個「煉金術」的狀態,知識是由大量的試錯、經驗總結起來的,缺乏體系,不完整,也存在相互矛盾的現象,這會造成年輕的學生很難掌握如此繁瑣的 AI 知識和經驗,很有可能再過幾十年這些花費巨大資源獲取的知識會被遺忘。

      蘇煒杰有一個工作對一類 AI 領域的現象作了梳理和簡化。添加動量(momentum)是優化機器學習模型時常用的一個技巧,Hinton的一個重要工作指出添加動量可以顯著地加快優化深度神經網絡,目前也有很多解釋的工作,但大家還是覺得這個現象很神秘。通過和美國國家工程院院士 Stephen Boyd 、以及導師 Emmanuel 合作,蘇煒杰的一個工作指出可以用動力系統的連續觀點很直觀地解釋復雜的加速現象。

      賓大蘇煒杰:從「匱乏」走向「豐富」

      論文地址:https://jmlr.org/papers/volume17/15-084/15-084.pdf

      這個工作因為明顯的幾何直觀性,在機器學習、優化和控制論等多個領域都有很大影響力,眾多學者用這個方法設計新的加速算法,并做了大量推廣工作。這其中就包括機器學習泰斗 Michael Jordan 和著名機器學習學者 Peter Bartlett。Michael Jordan 教授在 2018 年里約國際數學家大會的 1 小時報告中,以大篇幅介紹了這個工作。

      賓大蘇煒杰:從「匱乏」走向「豐富」

      圖注:Michael Jordan在2018年國際數學家大會1小時報告上詳細介紹蘇煒杰的工作

      蘇煒杰參加 NeurIPS 等機器學習會議時,經常碰到不認識的人看到他胸前的名牌后問「Are you the Su of the Su, Boyd, Candès?」雷峰網

      蘇煒杰本科期間曾選修過經濟學雙學位,經濟學的思想體現在他近期一個旨在提高論文同行評議質量的工作。在這個工作中,蘇煒杰把對于預測精度的追求和效用函數的最大化分離,因此在更廣的意義上可以將博弈論的觀點有機地引進到很多機器學習的問題。這個框架與Michael Jordan近幾年倡導的「ML + Economics」不謀而合。蘇煒杰對推廣這個框架充滿信心,歡迎感興趣的學者和學生聯系他。

      相關論文:

      • You Are the Best Reviewer of Your Own Papers: An Owner-Assisted Scoring Mechanism



      6、隱私數據保護


      蘇煒杰進入隱私數據保護領域的引路人是 Cynthia Dwork。這個領域是數據科學和機器學習的結合點,具有很多優美的性質。

      數據隱私的重要性在于,在這個大數據時代,如何妥善獲取和使用與真人相關的數據,漸漸成為亟需解決的問題。沒有人愿意生個病、上個網、買件衣服都會被人隨意知曉,更別提手機里沒有修過的自拍了。在數據日益成為AI核心組成部分的今天,保護數據隱私的重要性是基建性的。

      可能有種錯覺是相比于中國用戶,歐美用戶更注重隱私,但這其實是不對的。蘇煒杰曾和 Cynthia 討論過這個問題,Cynthia 的觀點是隱私的重要性是獨立于文化的。幾年前國內某 IT 大佬曾公開宣稱中國用戶不太注重數據隱私,第二天就導致其公司股票大降。隨著我國公民意識個人權益的不斷增強,數據隱私保護的重要性會越來越高。

      差分隱私由 Cynthia 和合作者于 2006 年提出。除了差分隱私,現在隱私數據保護有安全多方計算、同態加密、聯邦學習等技術。聯邦學習是從「物理」上形式地保護了隱私,讓數據實現在本地計算,從而讓「散戶心理上舒服」,但一般并不能在完全絕對意義上保護隱私,還需要和差分隱私結合。而差分隱私無論是理論還是實際應用,都是現在最成熟的的技術。硅谷眾多的旗艦大廠都已經使用差分隱私多年,Apple 的 iCloud 也用到了這項技術,2020 年美國人口統計也大規模地使用了差分隱私。

      簡單地說,差分隱私要求數據集的單個用戶的改變基本不影響算法輸出,從而嚴格保護每一個用戶的隱私。為了實現保護,需要給算法添加噪音,噪音加的越大,隱私就越安全,但是隨之性能也會越差。在有限的隱私預算下,很多時候隱私算法的性能表現會不如人意。

      關于這個問題,蘇煒杰曾跟學術圈研究隱私的人交流,他們一般認為隱私保護是第一位的;但工業界的從業人員認為算法的性能與隱私保護一樣重要,兩者需要取舍。蘇煒杰學經濟學時常聽到「everything has a price」(每一個物品都有一個價格),隱私也是。因此如果為了保護隱私而導致算法效率大幅下降,那么是不可取的。

      在保證隱私的前提下,為了提高算法精度,蘇煒杰和合作者提出的高斯差分隱私。

      相關工作:

      • Gaussian Differential Privacy

      • Deep Learning with Gaussian Differential Privacy

      這個工作的核心是從假設檢驗的角度來精準地刻畫隱私程度,從理論上嚴格證明了這個新框架具有多個最優性質。蘇煒杰的團隊還把高斯差分隱私應用到深度神經網絡的訓練,在同等隱私保護程度的條件下取得了比 Google Brain 更高的預測精度。

      這個新的隱私數據分析框架已經納入TensorFlow,最近也受到了 Facebook(Meta)的關注。他的團隊已經跟 Meta 合作,希望能將高斯差分隱私部署到他們的廣告推薦系統中。這個工作既有理論上的優美保證,又能應用到實際提高機器學習算法的效率,對此蘇煒杰感到非常興奮的。


      7、生活感悟

      蘇煒杰在 AI 學術上的探索歷程,是一個寒門子弟從早期匱乏逐漸走向「豐富」的成功例子。但這背后也需要他克服更多的困難。

      比如,博士第三年,蘇煒杰和妻子突然迎來了他們的第一個孩子,而他妻子不久前辭去了在國內本很有發展前景的工作。隨之而來的經濟壓力和科研時間的極大縮短,讓蘇煒杰只能迎頭而上。

      賓大蘇煒杰:從「匱乏」走向「豐富」

      圖注:蘇煒杰與他的大兒子

      這段時間是蘇煒杰人生中最努力的時候,既要兼顧學術與家庭,又要解決物質與精神壓力,就只能白天照顧小孩、晚上熬夜搞學術。當時腦海里就只剩下兩個字:努力。幸運的是,他堅持下來了,做出了讓 Emmanuel 和 Cynthia 非常欣賞的工作。

      回想起那段時間,蘇煒杰還有一種「一步走錯則滿盤皆輸」的后怕感。那時他的學術剛剛起步,如果在壓力下,做不出成果,就不可能找到好的教職工作,那之前一路堅守的學術夢想就沒有意義了。

      為了承擔生育與撫養小孩的費用,以及支付她妻子讀碩士的學費,蘇煒杰還通過做額外的助教來減輕經濟負擔。但即便如此,博士畢業時他的銀行存款已經是零,信用卡還透支了一萬五千美元。臨近畢業時導師建議他去做一年博士后,這對建立人脈和拓展研究方向都有幫助,但因為迫切需要一份正式工作的收入,蘇煒杰沒有考慮。雷峰網(公眾號:雷峰網)

      基于這段經歷,蘇煒杰有一些對寒門子弟人生規劃的建議。如果有志于學術,但來自農村或家庭經濟一般,可能選擇跟業界聯系緊密、就業相對容易的領域是個明智的選擇。除了個別領域,絕大多數領域的博士超過半數是無法在學術圈找到工作的,最終還是會在業界就業。而家庭經濟一般,往往很難承受學術工作找不到、業界工作也不匹配的風險。

      對于計劃在業界就業的同學,蘇煒杰的建議是擇業時更要多地考慮這個方向是不是在上升期,因為處于上升期的領域更看重個人能力和拼搏精神,對社會關系的要求較低。從這個角度看,如果家庭經濟一般的同學有機會從事AI方面的工作,是一個很好的選擇。本科報專業的時候可以多考慮計算機、數學、統計與數據科學、電氣工程等方向。黃國平博士是一個很好的成功例子,蘇煒杰讀過他的故事,深有共鳴。



      8、展望

      蘇煒杰懷著兒時就有的數學情懷,做出了兼具理論優美和實際價值的工作。這在日益壯大的青年 AI 學者群體中是很少見的。對于有志研究 AI 的同學,蘇煒杰建議可以多選一些數學基礎課程。此外,在「AI+Science」這個趨勢的背景下,也可以學一些生物、物理、化學等課程,增加知識維度。

      蘇煒杰在可信 AI、優化、統計與數據科學、深度學習等多個領域都有原創性貢獻,這每一個標簽加上他身上也都恰如其分。但蘇煒杰并不喜歡被標簽限制住,在 AI 被數據驅動的浪潮中,不同的領域其實是在解決同一類問題,只不過在前后端的側重點有所不同。這些本應該在一起的領域由于歷史的原因被不同的期刊、會議、基金項目和院系所分割。

      他特別欣賞斯坦福和 MIT 這兩所大學的模式。斯坦福通過正式的雙聘制度讓不同的學科交叉,而 MIT通過建立林肯實驗室、媒體實驗室等部門的方式打破學科壁壘,以解決具體實際問題為導向,這將是趨勢,蘇煒杰提到。

      最后他對 AI 科技評論說道:

      在這個激動人心的變革時代,每一位 AI 學者都在做同樣一件事情。這件事就是 2018 年 Michael Jordan 和張亞勤在烏鎮見面時說的同一句話:「我只是做數據分析的」。


      雷峰網原創文章,未經授權禁止轉載。詳情見轉載須知

      賓大蘇煒杰:從「匱乏」走向「豐富」

      分享:
      相關文章
      當月熱門文章
      最新文章
      請填寫申請人資料
      姓名
      電話
      郵箱
      微信號
      作品鏈接
      個人簡介
      為了您的賬戶安全,請驗證郵箱
      您的郵箱還未驗證,完成可獲20積分喲!
      請驗證您的郵箱
      立即驗證
      完善賬號信息
      您的賬號已經綁定,現在您可以設置密碼以方便用郵箱登錄
      立即設置 以后再說
      主站蜘蛛池模板: 爱我多深电影完整版| 女神闻异录| 掐曲30分钟的痛| 人间水蜜桃6免费观看电视剧| 爱的色放韩国电影| 木下檀子的电影| 姚明场边大喊:不要犯规| 四虎院影亚洲永久| 恋语轻唱动漫免费观看完整版| 山野女人香| 女邻居请邻居修灯泡修灯是什么电影| 刘青云电影| 惊声尖叫4百度影音| 爱你几何 在线| 你们一个一个来我好痛| 爱逝如星陨短剧免费观看 | 冷宫娘娘有喜啦| 苏菲的抉择| 勇往直前04春季篇| 这么多年电影在线观看| 《金牌销售》全集| 白色城堡电视剧在线观看免| 女版战狼6免费播放国语版| 年轻女保险销售员2| 特战荣耀电视剧全集免费观看策驰| 电影长城大决战| 狮子王动画片| 甲方乙方| 三只羊沫沫去年12月被拘留| 我老婆是80后| 美女脱去衣游戏| 牙医姐妹电影在线完整免费观看1986 | 尸奶俱乐部| 圣娼女| 重影电视剧免费观看全集完整版 | 央视前主持李小萌回应被家暴| 年轻的小瘦子20| 白银帝国剧情| 出伏后还要热多久| 驯服小峓子2韩国| 疾速追杀| 向风而行电视剧四十集| 安斋拉拉电影未删减版在线观看迅雷| 快闪之星图片| 银行家的妻子中语| 高清雷霆特攻队*| 战狼6欧式少女全部视频| 美发屋美容室待遇3| 为你我受冷风吹 胡彦斌| 潘多拉之镜1983满天星| 新蜀山奇侠传| 偷心俏佳人下载| 爸爸需要的种子| 蒲公英的吃法大全| 高清《建军大业》电影高清在线观看 | 零距离电视剧| 年轻的阿姨6有限公司中字974| 老公不在家上司韩国电影| 《超级保镖》全集观看| 美人下载| 鹿鼎记陈小春版免费观看国语| 百想艺术大赏名单| 赣州市| 家有一老电视剧全集| 韩剧巨人60集免费观看| 妈妈电话6| 妙女兵1978普通话版| 小沈阳不差钱| 我义姐是不是良义母电影名字| 举重妖精金福珠在线观看| 上一任国防部长| 《她被搬运工侵犯》中文| 央媒评2.2亿彩票事件| 长津湖手机免费高清| 玻钻之争国语版全集优酷| 红娘子大结局| 赚遍全京城:古代掌柜全集免费| 大内密探零零星星无删减版| 三体电视剧免费观看完整版| 三个女人爱上一个男人的电影| 王曼昱简介| 双人调情按摩术免费在线观看| 凡人修仙传动画40集| 东京复仇者真人版在线观看| 李崇霄的经典作品回顾| 日历女郎 韩国| 电视剧末路1997| 善良的女秘书视频| 赘婿全集免费观看| 日剧《穿睡衣下楼取快递》 | 水平线上的阴谋国语| 精油按摩和老公隔了一个帘子| 战狼2电影观看| 代替不孕的丈夫HD中字| 悬崖电视剧免费观看全集在线观看| 插曲的痛60全集免费观看高清版无马| 懵懂的女孩| 落魄贵族琉璃| 新监禁逃亡下载| 需要爸爸的种,在线观看| 鄂州父女瓜完整版| 特邀送餐员3| 电视剧咱们结婚吧全集| 《女的心愿》台湾原版| 只因我们天生一对泰剧| 美国小蜜桃4| 我是刑警38集| 檩木子电影在线播放免费版| 尸体派对2| 需要爸爸的种子免费观看| 酒店实生3美国满天星| 央视前主持李小萌回应被家暴| 哇嘎嘎电影高清观看| 雨果 百度影音| 俘虏之锁在线观看| 电影苹果在线观看| 《勇敢的老师》正版观看| 活死人之日| 西游记满天星| 建党伟业之践行者| 北京奥运会2008年开幕式| 《法国空乘2018法版》观看| 黑帮大佬的365天 完整版| 光着脚丫在树上唱歌| 黛比浪漫女家教免费播放 | 隋唐英雄43| 公与3个媳HD免费看| 余罪全56集| 郑秀文演唱会2010| 混血的摇篮曲| 人之初1-40集免费观看| 茶道少女樱花动漫| 我和继拇做爰6| 电影《坠落》在线观看| 越南丰满BBWBBW| 《医生:特殊的治疗》| 朝云暮雨免费观看完整版| 大水井风云| 韩国美容店的待遇5HD| 独步逍遥动漫樱花动漫高清| 爱情公寓3没有如果是第几集 | 欧美5一10普通话| 看了又看第三部| 余罪在哪个平台可以播放| rbd505| 冰湖重生| 阿部定完整版免费观看| 千王之王2000| 亲爱的设计师电视剧免费观看 | 铿锵锵锵锵在线观看完整版| 捉妖记电影在线观看| 纵情欲海3| 温泉艳遇| 高清《无赦之罪》免费观看全集高清| 土剧另一面的我免费看| 吴健的农民伯伯第二部| 《赘婿2》在线观看免费| 我是余欢水免费全集在线观看高清| 新西游降魔篇完整版| 望向太阳电影| 神话 电影| 《战争之暴行女囚》黄色电影| 医生手指滑进我的下身视频| 无尽的尽头电视剧免费全集| 超人麦乐迪电影满天星在线播放 | 法国空乘5免费高清原声满天星美版| 开心超人第一季| 开心女鬼国语| 《男按摩师做乳房按摩》在线观看视 | 美发美容按摩3| 孤胆特工高清完整版电影在线观看| 伟哥也疯狂| 《千金小姐》完整观看| 金手指在线观看| 解说小智| 姐妹牙医电影完整版赤子板栗日剧| 爱国者电影| 以法之名 电视剧| 致命弯道3百度影音| 侯玉洁牧师讲道大户人家4| 人与狗马猪p4| 圣斗士星矢冥王神话国语版| 男女生一起愁愁愁电影在线观看 | 《重逢在雪落之前》短剧| 美版假面骑士龙骑| 电视剧来电奇缘全集| 《美味快递员特殊待遇2 | 窃听风云3| 花与蛇4之牙医诊所| 红辣椒丁度| 豆豆笑笑| 金瓶梅在线观看免费完整视频国语| 女超人无删减版| 非你莫属2010| 哇嘎| 黄鼠狼迷人| 屠夫状元| 金瓶梅2 电影| 在线观看塔日酒店| 楚门的世界免费观看完整版| 逆袭弃少:从尘埃到巅峰短剧全集| 半夜影院村妓| 囧妈高清在线观看| 爱情睡醒了21| 海外版电影《爱很烂》剧情| 乡村爱情小夜曲在线观看| 电视剧雾都猎狐| 北风那个吹电视剧全部免费| 韩剧《夫妻的世界》| 小妈妈电影| 坏小子苏三风流记| 三年大片高清在线观看全集免费观看国语 | 四个姐姐瞧不起我短剧免费观看| 《推油》完整版免费观看| 《她被搬运工侵犯》电影观看| 囤货种田:空间农女短剧全集| 银娇在线| 男女一起愁愁愁免费观看| 食人鱼事件电视剧全集| 恋恋不忘的我们综艺免费观看| 烧包谷云南方言版| 公的浮之手2电影免费观看| 爱恋2015无减删高清| 哀乐大全| 诺言郭有才| 非洲和尚| 捕狼行动| 下属的妻子去社长家吃饭剧情| 逆世界百度影音| 斗罗大陆 免费完整版| 毒液:致命守护者免费完整版高清 《主妇与装修工》大结局一木百子 | 女儿的复仇的啄木鸟续集| 济宁二手车市场| 凶猛的办公室| 金银悔1-5手机版免费下载安装| 太九在线观看免费版电视剧| 蜡笔小新2010剧场版| 特别治疗| 塔日酒店在线观看完| 乐游原电视剧40集全免费观看| 电影《东邪西毒》| 爸爸的种子2| 神隐电视剧| 马永贞之英雄血国语| 人猿泰山主演1995版| 夺命网红2未删减| 电影《需要爸爸播种美国》女演员还| 情事2014| 老表你好嘢国语全集| 一闪一闪亮晶晶 电视剧 | 彼岸岛电影| 鲁豫有约周星驰| 韩剧和部长一起去出差的日子| 自由她们电影免费观看完整版| 杜拉拉升职记 电影| 恶作剧之吻第一部| 电影三人一次性体检| 丰胸按摩沙龙| 贺信精神| 公浮滔滔之手| 寒战2粤语| 风云之十里洋场| 旋风小子国语| 木下檀子的电影在线免费观看| 少妇的诱惑电影观看| 王贵与安娜电视剧| 法国女仆在线播放| 娜妲莉的情人| 玉蒲团之| 需要爸爸播种子电影完整版| 灭火宝贝电影| 世界乒联再次用错国旗| 三级片维修工的艳遇| 禁室培欲之爱的俘虏| 亲爱的妈妈3在线观看| 黄晓明和宋慧乔演过情侣| 情侣剧烈做运动的表情包| 工地上的女人免费观看电视剧| 终末的女武神在线观看动漫| 冰糖炖雪梨完整版| 酒店激战5| 我要再来一次| 莫莉特别酒店3| 曝李晨身家10亿| 花与蛇4下载| 八戒,八戒,八戒7| 我是特种兵之火凤凰27集| 釜山行2在线观看免费观看完整版| 梨花似雪| 杨敏思版1-5集在线播放电视连续剧| 黑执事第二季下载| 空姐郭玮| 妈妈爱上儿子同学完整版电影 | 立体文眉| 苏菲玛索 狂野的爱| 美乃雀赎罪电影哪里看| 强者风范在线观看| 女仆小姐的贪吃日常全集观看| 周香允《外卖奇遇》 | 南洋第一邪降下载| 1979版意大利女超人| 暗夜完整版在线观看| 怪兽训练营在线观看| 仙班校园| 浴火奔腾浴火红免费观看电视连续剧 | 微笑妈妈电视剧免费完整版| 咕咕藏族电影| 黛比浪漫女家教免费播放| 锄奸电视剧| 情深深雨蒙蒙全集| 欧美经典黑白配在线观看| 五十度黑电影完整版| 新战狼电视剧| 《新人类之毒医肥尸》| 师奶madam国语版| 绝世齐等闲180集免费版国语| 玄女心经2免费观看全集高清| 天龙八部24| 阿凡达2水之道普通话免费高清| 《部长出差的日子》在线观看。 | 暴躁太子爷| 0verflwer第一季无码| 最后的王爷电视剧免费观看| 监控人1到100集免费看| 房奴试爱电视剧原声开头| 决战猩球1973| 儿子的妻子 电影中文字| 火山口的两个人的电影| 美辰之屋6| 黑寡妇在线观看免费播放电影| 半熟恋人综艺第三期下在线观看| 凤山县| 同学的母亲中字id息子| 妖怪都市阴阳师完整版在线观看| 北京达内教育官网| 小蜜蜂3美丽人生| 三生有幸遇见你电视剧免费观看| 《功夫熊猫2》| 唐朝好男人在线观看全集免费播放| 淫间道| 四方馆 电视剧| 沉沦肉欲的娇妻第十一章| 社长夫人的美貌电影完整版在线观看 | 和老板在办公室BD 中文| 终极天将| 铿铿锵锵锵锵免费观看在线观看| 相反的你和我未删减| 侵犯女律师在线| 底线电视剧全集20集剧情| 女儿需要播种电影美国| 夏有乔木雅望天堂1| 女丞相全集免费| 水手服饰育1982年完整版| 乘风2024免费观看完整| 赵本山新电视剧鹊刀门传奇| 超级国王游戏中文版免费观看| 坎贝奇作品《品味人生》| 疯狂少妇在线观看| 脑电波扫描仪| melody在线播放高清观看女超人| 迷人的保姆 中文在线| 觉醒年代一共多少集| 金瓶梅在线观看免费完整视频国语| 《壮志凌云》A片版| 促醒者电视剧全集免费40集| 我漂亮的小瘦子3剧情| 千山暮雪在线观看| 超级经纪人 电影| 我的阿勒泰结局| 《荣誉之战》满天星版在线观看| 蓟县核桃| 课后战争活动| kyadenkloss无码HD| 背后的故事赵薇| 特别使命| 黑衣人国语高清| 兴宁市| 白蛇后传电视剧| 《原始的女儿国部落》| 人猿泰山1995免费观看完整版| 青春期一| 基辛格访华细节曝光| 老酒馆电视剧剧情介绍| 119纳粹号女子集中营完整片观看| 鼓楼外42集大结局| 兵团岁月电视剧| 孤独的美食家2024| 法国空乘2009版寒班| 放养的星星| 赵寅成霜花店| 美式1984保罗2| 杨紫埃菲尔铁塔下跳舞| 许我耀眼在线免费观看| 即刻上场全集免费观看| 日本2017《当着丈夫的面被耍了》| 特种部队2全面反击| 海贼战队豪快者剧场版| 二十一世纪爱情指南电影| kris 李宗瑞| 暗宅之迷| 感官之旅| 满天星《炸天小姐》完整版在线观看 | 新僵尸先生2| 大祠堂在线观看| 侯门嫡女:谋略定乾坤全集免费| 《爱我几何》电影免费| 我们在线观看免费BD视频| 慈禧秘密生活 国语| 兄妹高清完整版在线观看| 激战丛林百度云| 妖精的尾巴33| 我爱吃泡面| 王朝的女人·杨贵妃完整版 | 银牌就不掏出来了吧| 美女人体粉鲍艺朮| 需要爸爸的播种免费观看 | 乌鸦小姐和蜥蜴先生| 学生的妈妈| 五号特工组2| 素女真经电影剧情解析| 末班车后胶囊旅馆无遮挡| 年经继坶3大| 春梦伊人| 高清昨天| 坎贝奇《品味人生》播放电影完整版| 我们都是超能力者02| 满江红在线观看免费高清完整版| 北欧精灵麦乐迪女超人电影在线观看免费 | 探长欧光慈| 肢体绣感在线看完整版免费观看| 品味人生无憾在线观看| 血迷宫电视剧免费播放在线观看| 女武神驱动免费观看| 《私人航空》在线观看免费| 很想很想你电视剧免费 | 奇葩说第六季在线观看完整版免费| 影音先锋日韩| 无法忍受完整版| 咒术回战电影| 躺下把腿抬高腰就不疼了| 特殊治疗医护3| 花之蛇2| 恶作剧之吻1台湾版| 老女人免费观看高清电视剧大全| 房东3| 大侦探11| 法国少女农场电影观看方法| 我俩没有明天| 食物链12大尺寸| HD版泰山《激情丛林》中文完整版 | 《急诊护士》在线| 一点就到家免费观看| 电影郝蕾版《颐明园》有没有播出| 法医追凶| 一个好妈妈中字头强华驿| 一生一世电视剧完整版| 英语老师充足的奶水| 恶役千金| 《入室暴行3被蹂躏》在线| 漂亮的保姆6高清免费观看| 纯情房东俏房客| 微微一笑很倾城超清版免费观看| 种马猎人美国1982| 但丁的地狱| 快17电影网| 第一名英文| 郝板栗的电影| 假如第二季| 血仍未冷| 铁探粤语版在线观看| 姐姐的男友2字id| 最美时光电视剧| 罚罪电视剧免费观看全集在线播放| 2对1:三人一次性体检韩国伦理| 陈梦王曼昱神仙打架| 水润女人韩国电影在线观看| 歧路兄弟全集免费观看完整版| 麦子交换3普通话版本在线观看| 仿生人妻子无裁剪时长在线看| 家教培训满天星电影在线观看满天星| 渗透免费观看全集| 喜人奇妙夜综艺免费观看| 国模思思| 在线观看桃色凶器| 家庭在线| 上甘岭 电视剧| 小米理财| 命悬一枪全集观看| 隔壁的女孩3在线观看| 在姨母家的客厅免费看吧| 电影黑豹天下| 赖猫的狮子倒影在线看| 梁咏琪刘青云电影| 跟部长出差的日子在线观看| 逆天狂妃:邪王靠边站全集免费 | 八尺夫人意大利原声版免费看| 黑帮的老大和365天在线观看| 铁血娇娃| 火山口2人| 隔壁女孩电视剧免费观看| 落水狗qvod| 王祖贤潘金莲之前世今生| 战狼6欧美版免费观看完整版国语在线 | 村妓K8经典网| 岁岁青莲电视剧在线观看| 吉尺明步 110部全集| 莫妮卡经典电影全集| 女版战狼6免费| 沧元图动漫在线观看免费全集高清| 绝代双骄林志颖版| 潍坊科技学院女生| 女战狼6免费高清版 | 美国禁忌睫毛膏4完整版| 《美味快递员特殊待遇2| 情谜睡美人之欲望的姐妹| 国乒提前包揽混双冠亚军| 瓜达卢佩的玫瑰在线播放| 电影《雨夜天魔》完整版| 《魔法少女伊莉雅》| 第一个无产阶级政党| 美国式的家庭禁忌2大结局人与动物| 少女前线2023高清免费播放| 红尘情歌简谱| 电视剧高地| 张家港市| 麦乐迪马克斯满天星在线观看| 无人区电影免费完整观看| 夫妻免费看大片真人电视剧| 我的女神oad| 密挑免费版| 终极一班3全集40高清| 神话优酷| 舌尖上的粤语| 男生女生一愁愁愁电视剧在线观看大| 侃爷以为HK是香港结果是海口| 《卑劣的交易》| 大决战三部曲在线观看| 东乌珠穆沁旗| 《部长出差的日子》2| 神马电影达达免第九院| 借种在线观看| 野花电影手机免费观看| 《爱我几何》精彩片段| 五星红旗迎风飘扬MV| 灌篮高手国语版| 赤坂丽千金肉奴隶| 满天星HD版女超人| 妻子8免费完整版高清在线观看全集 | 孤注电影完整版在线看| 仙逆109最新一集| 北电22级表演系本科班合照| 别墅轮换5攻略全版| 法国外籍兵团谈论站| 仙帝奶爸:萌宝找妈全集免费| 理论片午午伦夜理片影院| 花儿与少年第5季| 金瓶梅电视剧全集电视剧在线看免费观| 云南恐怖袭击| 免费看安志杰盲战| 《天气之子》电影免费看| bf-597 丈夫不在的四天 中文字幕| 牙医郝板栗完整板永久删除掉的剧情介绍 | 血溅十三号警署| 女律师的堕落免费| 流淌的读音| 盖世帝尊动漫在线观看完整版免费 | 日本和讨厌的部长出差系列| 豪华列车3万元票价值吗| 华丽的诱惑| 激情从林| 3d柔铺团之极宝乐鉴宝鉴电影中文在线观看| 心花怒放免费高清观看| 我和我的祖国免费| 邻居也疯狂高清完整版| 勇者的故事| 希拉里演讲| 试驾问界m9| 爱在空气中第9集| 战狼6免费播放高清版在线观看| 我们的热恋电视剧| 星空在线观看免费| 倒霉熊第八部| 凯登克罗斯HD版高清播放电影| 女超人麦乐迪电影观看| 禽流感什么症状| 港剧反黑英雄免费观看| 我召唤出了诸天神魔漫画免费观看| 圣佩罗特斯的姑娘们| 最近免费观看的电影完整版| 新天师斗僵尸2| 莫妮爱我几何免费高清电影无删减| 湛江电视台| 朋友换娶妻1完整版中文| 战狼6高清免费播放观看| 村民在墓穴躺坐一排乘凉:人多不怕 | 92午夜神器1000| 警察故事3电影| 少年四大名捕 电视剧| 音乐老师水饺| 我和我们在一起电视剧免费观看| 野花社区最新免费观看| 25岁女高中生在线观看| 游击英雄| 换伴美国版高清免费版| 秘密飞行| 巴厘岛命案行凶动机公布| 成龙历险记第四季| 外卖小哥刮刮乐中25万| 渔夫荒野淫记1988版电影在线观看| 千尸屋2百度影音| 张柏芝的不雅照片| 大胸的丰年经的继拇k杯6| 慈禧的秘密生活电影| 钢之炼金术师fa60| 交换温柔 快播| 人生特别档案| 战狼6大牛| 黑暗王子| 狂暴飞车完整未删减版| 小羊人台球| 国色天香十七区品质怎么样| 上甘岭40集电视剧| 小凤新婚台湾版哪里能免费看| 电影报道| 二龙湖爱情故事1| 电影《爱上女闺蜜》播放| 僵尸道长1高清全集| 斑马视频电影完整版在线观看| 高清维珍朋克:发条女孩未删减| 黑暗森林满天星版法国| 售楼小姐的秘密在线播放| 雅典娜女神全集| 《爱情回来了》电视剧| 龙帅归来全集免费| 战狼6欧式少女全集在哪看| 儿媳的味道 三级片| 新妹魔王的契约者在线观看| 爱情中毒| 双谍姐妹花| 初体验5免费观看全部电视剧 | 韩剧四十九天| 你并不懂我歌词| 恩施市| 私人女性监狱完整版观看| 澧州大鼓| 黎明前的黑暗免费观看| 女人的故事| 369你懂的电影永久入口| 善良的儿媳按摩店按摩电影| 私じゃなかったんだね谐音| 谢谢你温暖我演员表| 黔东| 需要爸爸的种子电影在线观看的| 走向共和在哪个平台能看| 朋友的妈妈在线观看完整版| 喜爱夜蒲免费在线观看| 聚会的目的中文字幕| 战狼四免费观看在线播放| 人人都爱雷蒙德第九季| 滨崎步演唱会高清| 僵尸伯伯国语版在线播放| 返老还童的电影| 红色假期黑色婚礼| 丁建华朗诵| 高清《幸福花园》| 霹雳奶娃满天星在线播放| 美丽的小蜜在线观看完整版| 《狙击手-斯莫希军官》| 扫黑风暴11集| 一秒钟电影| 高压监狱2线观看完整免费高清原声| 蜂鸟 电视剧| 受戒电影完整版在线观看| 离人心上电视剧| 海大鱼电影免费完整版| 朴亚珍《隐身帽》原版| 木府风云电视剧| 西瓜烂了是什么梗| 人到四十电视剧全集| 卖房子的女销售3电影| 17.3关于X电影完整版| 完美小歪| 老表发钱寒电影| 插曲的痛30集全集观看免费西瓜| 瓜达卢佩玫瑰在线播放| 包青天之孝子章洛| 青青草在9线观看| 少年赌圣| 善良的妈妈9中字开头7个字| 跟着部长出差免费观看| 只想和你睡(1v 1)| 清潭国际高中在哪看| 泰国屠宰娃娃观看| 英雄豪杰110220| 顺风妇产科国语| 斯巴达第四季完整版在线播放| 《角头:斗阵欸》| 女间谍满天星1996版叫什么名字| 最后的希望| 花儿与少年·好友记| 一起愁愁愁免费高清看| 向涟苍生士献上纯洁第一季| 赶尸艳谈在线看| 电影深喉在线观看| 凯特贝金赛尔满天星免费版| 华丽的外出电影完整版| 家和万事兴之兄弟姐妹 | 峡谷在线观看高清完整| 斗破苍窘| 同学聚会2免费完整版| 我和大佬的三百六十五天| 免费全集观看| 傲雷雷神2| 盛唐风流电影在线观看高清国语影视| 淫乱加班维修工电影| 说散就散 下载| 乡村小老板:致富带全村全集免费| 与父同行泰剧| 军事不当行为1985意大利| 出差 日本电影| 雷杰多奥特曼国语全集| 有朵云像你电影| 天地无伦 快播| 三级片替夫还债的家庖妇女| 幻影车神片尾曲| 我的丑娘剧情介绍| 善良的嫂子2韩国| 《私人航空》免费观看在线播放| 女子监狱德国满天星| 玫瑰骑士电视剧免费观看完整版| 在线观看神雕侠侣| 突击手蜜獾解说| 玫瑰旅馆| 维修工人的艳遇韩国电影| 炽道在线观看全集免费观看| 爱上北斗星男友| 乘龙怪婿粤语| 法国空姐5免费高清原声满天星美版百度| 白峰美羽免费在线观看| 韩国电影婚纱| 舒淇三圾片在线观看| 后院露营| 超级飞侠第十五季| 《妻子8》在线观看免费版电视剧| 奇怪的美容院2的完整| 侠盗高飞| 恋爱之瘾台湾剧免费播放在线观看| 比利·林恩的中场战事| 牧神记1—40集免费观看| 新金银悔1-5普通话免费| 红雨电影| 《黑寡妇》丹尼尔斯电影免费观看 | 《妻子6》在线观看免费版电视剧| 用手指扰乱我| 神探科蓝电视剧| 赛文21奥特曼全集| 血战上海滩电影| 长春市| overlower第一季在线观看完整版 罗丽星克莱尔在线观看免费全集 女版战狼10什么时候上映 | 以爱之名2025电视剧免费观看| 妈妈的职业5韩剧结局原声 | 选了戴蝴蝶面具的妈妈作者是谁| 人猿泰山电影1995意大利| 无眠之境电视剧免费观看| 男人和女人一愁愁愁电视剧 | 水润女人韩国电影在线观看| 援助交际网站| 夜销魂2国语版高清在线播放| 小小水蜜桃第6季上映时间| 电影 奋斗| 伊拉克战记| 棒子老虎机| 重蓬:丈夫的部下是初恋| 安徽卫视国剧盛典2016| 平凡职业造就世界最强第二季| 泉水叮咚响广场舞| 黑白配HD版大全免费观看| 苹果浴室3分钟视频| 诺亚方舟:创世之旅| 老婆的扇贝张开口了还能吃吗视频| 刘智贤《水润人生》免费看| 总统夫人在线观看完整版| 龙少爷粤语| 疯狂二人房间荷尔蒙爆发原声| 转生成蜘蛛又怎样24集| 《向日葵的绽放》动漫观看| 庄生梦蝶| 黑白配中文版高清在线观看| 白魔女学园| 文豪野犬第三季| 八星报喜下载| 流量女王全集免费| 牙医姐妹1986年| 寒门赘婿全集免费| 午夜出击| 大丑风流记第一部| 1980保罗一家免费观看| 迷宫克莱星尔| 免费怀旧短剧| 名侦探柯南16 第11个前锋| 高清魔法坏女巫2未删减| 电视剧抹布女的春天| 《医生特殊的治疗》5| 微微一笑很倾城资源| 再见艳阳天马景涛| 时寒冰经济大棋局| 电视剧回响免费观看完整版| 扫黑风暴在线观看免费完整版策驰 | 大内密探之灵灵性性| 公浮之手中2完整版中文| 爱我几何完整版在线观看免费高清| 东亚群星演唱会| 黑天鹅在线观看| av收藏之家| 孤堡惊情| 游泳女教练| 黑白配在线观看中文版| 猪猪侠第二季| 少数派报告电影| 陀地驱魔人结局| 中业岛地图| 《炸天小姐》在线观看美国| 正在播放:【夏晴子&温芮欣】国风按摩院_年节双飞俏佳丽 | 情欲在线| 高清《鸭王》| 女超人麦乐迪无删减在线| 小小水蜜桃6[电视剧]在线观看| 喊麦现场| 湖南黑山羊价格| 亲爱的设计师电视剧免费观看| 甄嬛传在线观看全集免费完整版| 混血儿摇篮曲无删减播放| 第一滴血6全集免费完整| 很高兴认识你泰剧免费观看完整版| 维修工的艳遇韩国| 大考电视剧免费观看完整版| 《炽道》电视剧| 替夫还债完整版电影| 站着再来一次17集全免费高清| 赛车手张岩| 种啥的啥| 龙月泰剧1集免费观看| 美国1985g点原版| 瓦嘎日韩三级片| 终极武器| 《罪恶权力》在线观看韩剧| 金婚50集完整版免费观看| 东坑新东泰事件尸骸图片| 电视剧小菊的春天| 妻子6免费完整版| 探吃的猫女完整版|