• <track id="oztn4"></track>
    <sup id="oztn4"><form id="oztn4"></form></sup>
    
    
    <mark id="oztn4"></mark>
  • <dfn id="oztn4"><samp id="oztn4"></samp></dfn>
      《地爆天星小姐》电影 ,麦子交换2免费观看2023年上映时间表 ,莫妮卡《爱我几何》,大牛影库战狼6欧式少女全部视频,三年大片国语版在线看,日本空姐电视剧,电影魔镜号中文字幕,和部长一起去出差旅是第几集
      全球「AI學術頂會」精華匯聚地
      您正在使用IE低版瀏覽器,為了您的雷峰網賬號安全和更好的產品體驗,強烈建議使用更快更安全的瀏覽器
      此為臨時鏈接,僅用于文章預覽,將在時失效
      金融科技 正文
      發私信給周舟
      發送

      0

      萬字長文丨微眾銀行嚴強:數字經濟時代,隱私保護的道與術

      本文作者: 周舟 2020-12-31 18:33
      導語:惡意數據對抗將成為常態,銀行業如何保護數據隱私安全?

      數字經濟時代,我們一邊享受著數據爆發式增長帶來的便利,一邊也困在數據安全中難以自拔。小到詐騙短信、快遞信息,大到財務狀況、健康狀況、網絡足跡,我們的個人隱私數據面臨著前所未有的挑戰。

      而對于銀行來說,數據安全更是一條“生命線”。一次事故的發生,可能造成億萬級的損失,數億家庭將受到影響。

      值此跨年之際,雷鋒網以「線上云峰會」的形式,邀請數字化風控、數字化營銷、數字化客服、數據平臺、數據中臺、數據安全、數據庫、銀行云、銀行RPA、銀行業務系統,十大銀行賽道里的科技專家,分享他們對于銀行科技的理解。

      在「數據安全」這一賽道,我們邀請到微眾銀行區塊鏈安全科學家嚴強博士,他將從技術、業務、合規等角度,分享他對于銀行「數據隱私」的理解。

      核心觀點:

      • 數據生產者與數據消費者之間不再是“買賣”關系

      • 隱私保護技術是打破數據價值融合“零和博弈”的關鍵

      • 我們需要尊重“數據孤島”作為數據產業的原生態

      • 發展健康的數據產業生態,我們需要打通隱私數據協同生產的“雙循環”

      • 區塊鏈是承載數據信任和價值的最佳技術,對于隱私計算和AI應用中常見的數據品質等難題,都可以通過區塊鏈進行互補或提升效果

      以下為嚴強博士的演講內容,雷鋒網AI金融評論作了不改變原意的編輯:

      大家好,我是來自微眾銀行區塊鏈的嚴強,今天很榮幸受到雷鋒網的邀請,在此和大家分享數字經濟中關于數據隱私的一些思考。

      數字經濟中最核心的要素就是數據,對于很多業務而言,要獲取高質量的數據是首要要務,近幾年的趨勢是,對于數據隱私的立法正在不斷的細化、完善。

      而此時傳統的數據業務,在這個過程中就可能不太適用。

      新數字經濟時代的數據之道,在新的數據隱私合規框架下勢必將發生顯著變化,這些變化對實際的行業有哪些影響、有哪些具體改變?以及為了應對這樣的改變,有哪些技術手段可以更好地調節自身?

      新數字經濟時代的數據之道

      首先,本次分享的第一部分——新的數據之道。

      萬字長文丨微眾銀行嚴強:數字經濟時代,隱私保護的道與術

      本次云峰會的主題是AI,眾所周知,AI在很大程度上依賴于數據,對于數據本身,根據業務形態的不同,歷史上也出現了多種提法,包括了大數據、小數據、暗數據、還有弱數據,現在還有另類數據,指的是像衛星地圖或者其他的一些傳感器的數據。

      顯而易見,作為我們在信息化、設計智能化的過程中必要的燃料,如果沒有數據,很多業務將無法得以開展。

      同時,我們也注意到,AI算法或者其他大數據算法發展至今,相對而言還是比較成熟的。所以,對于行業中的參與者來講,很多時候核心競爭力就體現在于掌控數據量的多寡。

      萬字長文丨微眾銀行嚴強:數字經濟時代,隱私保護的道與術

      也正因為如此,新的立法也對獲得數據和使用數據進行價值發掘的過程產生了顯著影響。數據不再是純粹的一種信息表達,因為新的立法框架引入了一個新的概念——數據權益。

      雖然目前數據安全法還只是處于草案的狀態,但是草案明確提出要關注數據本身的使用,需要在保護公民組織、相關權益的前提下,促進數據為關鍵要素的經濟發展,以此增進民眾福祉。

      同時,反觀國際社會的《GDPR》,它對數據的使用,尤其在數據在商用領域的使用提出了一個非常嚴格的要求,其中的一點,就是懲罰特別高,可能是4%的集團前一年的全球總收入,或者2000萬元兩者取其大,所以數據隱私的違規成本十分高昂。

      數據權益代表了數據的權利和利益,對傳統業務影響特別大的一點,就是這里的數據權益不僅僅是作用在數據的收集階段,還貫穿在數據流轉的整個生命周期,包括數據的使用、存儲、數據的遺忘。

      這些改變顯然會對現在的行業產生很大的影響,尤其是數據已成為一個不可或缺的生產要素,在大數據、人工智能算法都很成熟的條件下,是智能化進展的必不可缺的一個手段,但是如果缺乏數據應該怎么辦呢?

      萬字長文丨微眾銀行嚴強:數字經濟時代,隱私保護的道與術

      在回答這個問題之前,我們必須要厘清一個關系,在新的數據之道中,數據生產者跟數據消費者之間的合作關系發生了一個本質性的變化。

      在立法之前,二者之間很多時候是買賣關系,在獲得數據之后,就可以對其進行加工、利用,或者是提供服務,獲得完整的收益。

      對數據生產者或者是用戶以及其他的供數機構而言,在數據授權或者數據公布之后,它很多時候并沒有權利對后續的數據使用直接進行干涉,這個權利之前是不受法律保護的。

      而在新的立法框架中,兩者之間已經從買賣關系轉變成了租賃關系。

      這就意味著,作為數據生產者,從來沒有放棄對自己數據的權利,哪怕在對方的平臺上使用了對方的服務,在這部分產生的數據僅僅是以租賃的方式提供給對方。

      目前很多APP都完善了隱私政策,披露并承諾了數據的使用方式,這也是數據使用租賃關系的一種體現。

      平臺或服務方不再擁有數據的所有權,而是需要跟數據的生產方協定如何使用數據,包括收益權怎么進行分配。

      除了分配的問題之外,最重要的一點——作為數據生產方,它實際上有權干涉或禁止自己數據的使用方式,以控制自身的隱私風險、拒絕不公平的利益分配方式,這就是對業務或行業而言,一個最大的改變。

      萬字長文丨微眾銀行嚴強:數字經濟時代,隱私保護的道與術

      在新的法規下,具體要達到一個什么樣的要求?為什么這個要求很多時候會引起熱議?

      《個人金融信息保護技術規范》中,對隱私數據生命周期的6個階段進行了描述,從收集、傳輸、存儲、使用、刪除到銷毀,每個階段都會有不同的數據權益保護的要求,其中也會涉及到一些不同的技術規范。

      同時,換個角度,整個隱私合規范疇下的數據權益可以被分成兩類,除了對傳統目標——數據內容的保護,還增加了一類是對數據權利的保障。

      正是后者,可能會對于業務產生較大的影響,具體包括數據遺忘權、限制使用權等等。

      萬字長文丨微眾銀行嚴強:數字經濟時代,隱私保護的道與術

      由此就帶來一個焦點問題——業務創新和隱私保護如何兼顧,仔細分析之后,也許他倆之間并不是一對不可調和的矛盾。

      在新的法規生效之前,假定業務所用的數據是一個餅,在法規生效了之后,這張餅變小了,因為用戶本身已經不是原來的買賣關系,演變成為租賃關系,有些用戶可能行使了權利,或因數據收益和隱私風險不對等,不愿意再貢獻出數據。

      此時,對應業務的可用數據量變小了,數據價值隨之變小。這里就可能出現為保障數據權益,影響了業務規模的零和博弈困局。

      但是,如果我們提升一個層面,在行業的角度上來看,這里的零和博弈并不是絕對的。

      縱觀這個行業,在法律法規生效之前,實際上已經出現了數據區域化導致的“數據荒”。大量的數據可能已經在一些大機構中匯集,而對于中小企業來講,想要獲得數據是非常困難的。

      一個典型的例子,就是對網絡爬蟲的限制。

      在那些有利益沖突的大機構之間,他們開放數據訪問的意愿很低,而對于整個數字經濟而言,數據的流通本身就已經處于一定程度的受限狀態。

      如果能夠盤活所有的存量數據,打通在大機構或者在更大范圍里的數據源,讓其更好地流通起來,就能把餅做大,產生更大的價值。而實現這一目標的關鍵在于引入技術手段,有效保障隱私數據的權利。

      具體到AI和大數據,就需要從傳統的集中式算法系統升級到隱私計算,在新的數據之道中,打消數據協作參與者的隱私顧慮。

      數據隱私驅動的行業巨變

      隱私立法的完善和用戶隱私意識的覺醒造成了深遠的影響,不僅改變了原有的數據之道,對數據業務帶來不同層面的變化。

      萬字長文丨微眾銀行嚴強:數字經濟時代,隱私保護的道與術

      先說技術面,早期在談到隱私保護時,很多時候僅僅是加密,對數據進行脫敏,在數據處理階段做了一些工作,就被看成是對數據有非常強的隱私保護了,但是,放在AI或者隱私計算大的環境里來看,實際上是不完善的。所以,在技術層面上,我們如果真的要去落實,實際上需要引入更多的前沿技術。

      業務層面,現在越來越多的用戶意識到數據本身是有價值的。對于隱私而言,他對自己個人的風險的認識也越來越全面,這些因素勢必也會影響用戶的行為,對基于數據的AI的業務產生影響。

      合規層面,合規主要是指新的合規業務,尤其是全生命周期的合規要求,需要對現有業務模式進行一些改變,否則一旦涉足海外市場,難免會遇到合規風險。

      以下,在第二部分,將分技術、業務、合規三個層面進行具體展開。

      萬字長文丨微眾銀行嚴強:數字經濟時代,隱私保護的道與術

      先看技術層面,這里非常重要的一點就是信息化技術發展得很快,產生的數據會越來越多,尤其是現在大家都在談5G、物聯網。

      什么概念?目前,現在很多的數據都是以人為單位,每個人會產生很多數據,但是,在5G、物聯網普及的時候,很多時候數據產生的單位是以物品為概念的,不再受限于70億人口數量的限制,上萬億的各種智能設備,其中必然會產生海量的數據,并具有不同的權屬。

      對應地,便引出了“數據孤島”問題。一些看法認為,因為有合規要求,所以才會產生孤島。因為合規需要對這些數據進行保護,我們不能讓它互通,但實際上這個說法并不那么確切,既然承認數據有價值,也應該承認“數據孤島”是原生態。

      舉個例子,比如資產是有價值的,不會隨隨便便要求大家把自己的資產共享出來,雖然在學術論文中也有資產孤島的提法。所以很多時候我們需要尊重這些“孤島”的存在。

      從技術層面上需要怎么做呢?這里有幾個關鍵詞——多方、海量、高維、異構。

      對于后三者,大數據、傳統AI發展了這么多年,都有比較好的解決方案,但是,唯獨多方目前還有很多挑戰。

      為什么?不妨看看多方隱私大數據需要實現的效果。

      萬字長文丨微眾銀行嚴強:數字經濟時代,隱私保護的道與術

      最典型的效果之一,便是數據不出庫,這是一個非常形象的說法,但其本身并不確切,因為數據不出庫并不代表隱私信息不出庫,不代表敏感信息不出庫。

      打個比方,在一個發布會上答記者問,提問某某是否為敏感人群或敏感事件,主辦方回復“對此我方無法進行評價”,很多時候提問者可以依據回答的語氣和用詞可以做出一個主觀的判斷——大概率還是敏感。

      數據業務也是如此。

      數據不出庫,字面意義就是數據明文不出庫,傳統的幾個方案包括數據哈希出庫、數據加密出庫、數據脫敏出庫,在AI領域,模型梯度出庫,這些方式是否真的安全?

      更傳統的方式如內容打碼 、K匿名、差分隱私都可以用上。這里強調一點,每一種方法的能力都是有邊界的,實際上都需要一些配套的安全假設。

      舉個差分隱私的例子,在2013年和2018年計算理論頂會上,分別有一篇論文分析了差分隱私在處理高維大數據上的理論局限性。標題是如果我們要處理高維大數據,這是一個計算困難性問題,計算困難性問題意味著很多時候難以實現,所以差分隱私也是有能力邊界的,我們需要根據實際的業務場景選擇是否適用。

      萬字長文丨微眾銀行嚴強:數字經濟時代,隱私保護的道與術

      數據不出庫只是一類手段,我們最終的目標效果是什么?可用不可見?

      值得注意的是,“可用不可見”只是一個小目標,還有很多問題沒有得到妥善解答,比如誰可用誰不可見,限定用途的使用次數、使用方式有沒有限制,對于數據的主體,能不能對可用不可見的方式進行控制。

      很多時候在數據協作時,尤其是在AI的學習中,結果正確性如何驗證也是一個非常重要的考量點。現在很多智能化的業務也涉及到一些相對而言比較敏感的服務,會導致比較敏感的后果,如果誤判了怎么辦?如果進行多方協作的結果不正確,如何找出惡意的參與方?這些問題“可用不可見”都沒有直接回答,所以它只是一個小目標。

      萬字長文丨微眾銀行嚴強:數字經濟時代,隱私保護的道與術

      為了實現我們的大目標,剛才提到的哪些額外的數據隱私保護點:不僅僅是需要一類技術,還可能需要融合多類技術,并針對不同場景進行優化。

      三個主要的技術路線如下:

      TEE可信計算。TEE的優點是它本身是個硬件加速的隔離環境,在計算上沒有任何限制,什么業務都能跑,而且開發很友好。但是從設計上需要一個中心化的部署方,它只能有一個可信根。而且目前主流的云廠商并不支持TEE的云部署。

      所以大家在實際部署上會不可避免的回到物理部署的范疇,在實際的使用中會有一些阻礙。

      相對于可信計算而言,聯邦學習和安全多方計算對硬件的依賴則小很多,但同時也有一定的取舍。

      聯邦學習,擅長各類模型的聯合訓練跟推演,與現有數據業務協作模式十分貼合。

      安全多方計算,是一個相對歷史悠久的技術,近五六年來有很多比較成熟的工業方案出現,尤其在學術界,目前更關注的可用性問題也得到了很大的提升,同時支持各類通用計算和各類安全模型,比較獨特的優勢是它可以支持惡意模型。

      什么是惡意模型?如果有多個參與方一起去做模型訓練或聯合推演,只要有一個人做惡,就一定能在第一時間或者在最后結果產生之前終止運算,由此避免做惡方影響最后結果的正確性。

      在關鍵的業務場景中,這是非常有必要的,作為取舍,其性能相對會低一些。

      回到隱私大數據,海量、高維、異構、多方,如何很好的支持它們?如果出現爭議,尤其是在關鍵業務中出現爭議,怎么高效識別作惡的計算參與方,這些都是需要我們在技術上應對的挑戰。

      萬字長文丨微眾銀行嚴強:數字經濟時代,隱私保護的道與術

      下一個就是業務層面的挑戰,如果一個業務要采用機器學習,隱私計算,以及相對而言比較智能的數據驅動方案,這里有一些重要的考量點。

      如果是咨詢公司給的報告,一般有兩個維度,一個是商業價值,另外就是成熟度或者可信度。

      特別推薦大家關注的一個新維度,就是數據隱私相關風險。

      如果設計一個多方協作,在整個協作過程中會不會產生嚴重的隱私風險?或者不只是模型訓練,我們使用的模型推演或者其他的通過隱私計算產生報表類的一些功能。如果因為有一方作惡,產生了一些錯誤的結果,后果的嚴重性如何?

      這一新維度會直接影響用戶體驗,如果是應用在民生領域或者金融領域,有些服務非常敏感,如果機器誤判,后果對于當事人而言可能是相當嚴重的。

      這也帶來一個重要的關聯問題。如果用戶或合作機構有隱私顧慮,是否存在技術手段影響現有的業務系統,造成額外的隱私風險。

      這里具體列舉了幾類風險。

      如何利用一些攻擊的手段,針對現在一些聯合的學習的訓練或者推演,如果攻擊者在聯合模型訓練時,它是否能夠推測出合作方的隱私樣本數據,或者在訓練過程中是否能夠注入對己方有利的偏見。

      同時,不僅是針對訓練,我沒有參與的推演,訓練我能不能在推演的時候去提取出你相對訓練的隱私數據,或者推演我能否操作你推薦的結果。

      從數據安全角度而言,這些都是很關鍵的問題,普通人很多時候可能是難以實施的,因為機器學習也好,隱私就本身就是一個相對比較前沿復雜的技術,所以——對抗魔法需要使用魔法。

      萬字長文丨微眾銀行嚴強:數字經濟時代,隱私保護的道與術

      風險一:這是一篇 CCS發表于2017年的論文,這些攻擊本身可能是一個實驗性質的,但具有一定的借鑒意義。

      這篇論文的結論:只要是聯合訓練,如果能夠得到明文梯度,就一定能夠或者有一個極大的概率可以獲得合作方的隱私數據。

      原本可能認為通過聯合訓練出去的只是模型梯度,并不直接包含隱私數據,但是由于攻擊方也使用了機器學習的算法,用了一個生成對抗網絡的GAN的技術,從梯度信息還原出合作方的訓練樣本。這個實驗中主要針對深度神經網絡學習,實驗中展示的還原成功率還是相當高的。

      論文同時也指出,即便額外使用了全局差分隱私,對攻擊結果影響不大。

      從PPT截圖中,可以看到作者從梯度還原出了對方的訓練樣本照片,而且在使用差分隱私之后,還原出的照片跟原本的照片實際上差距也不是特別大。所以從業務層面來說,這還是一個比較顯著的風險,大家需要警惕。

      萬字長文丨微眾銀行嚴強:數字經濟時代,隱私保護的道與術

      風險二:如果共同參與一個聯合模型訓練,是不是有可能注入偏見?答案是肯定的,但是需要多大的代價?

      這是2018年一篇發表在S&P上的頂會論文,指出在某些線性回歸模型中,線性回歸模型在很多風控或者類似的一種預測模型中還是用得比較廣泛的,因為具備良好的解釋性。作者展示了,只需要12%的惡意樣本,就可以引起顯著的預測偏見。

      跟直覺上可能需要50~ 60%或者過半的樣本非常不一樣。

      這里采用的也是魔法對抗,但并不是隨機注入樣本,因為參與聯合訓練時,參與者對模型本身是有認知的,所以涉及到一個優化問題,通過優化盡量減少產生偏見所需要的樣本比例。

      因此,我們在做聯合訓練的時候,也要將其考慮進去。有沒有可能有一個參與方只貢獻12%或者更低的數據,但他試圖導致偏移整個模型的效果?在沒有動機時的風險比較低,但是如果有動機我們則需要加倍小心。

      萬字長文丨微眾銀行嚴強:數字經濟時代,隱私保護的道與術

      風險三:沒有參加模型訓練,只是使用API,能不能猜出對應的隱私數據?作者提出了一個很重要的點,答案是有可能。

      論文中的實驗展示了,在一個神經網絡中,只要拿到輸出的標簽,很多時候就能預測的結果,結合它的置信度和網絡的結構,就能夠推測還原出訓練對應標簽的樣本。

      比如得到的標簽是張三和置信度,很多置信度是有小數點的,例如0.837,然后我就通過它的一個類似的優化算法,做一個還原重建,最后能夠相對好的還原出這個樣本。

      跟之前相比,因為之前是直接拿到梯度的,而現在沒有拿到訓練的梯度,效果稍差一點,但是也可以很容易識別出左邊跟右邊的照片是屬于同一個人。

      作者做了兩組實驗,一組是對于神經網絡的,另外一組是對于決策樹的,決策樹在很多風控模型中也有。很有意思的一點,就是拿決策樹做風控模型會不會被別人反推出我們的訓練樣本?

      如果給出來的置信區間的精度足夠高,還是有很大的概率可以推測出來,決策樹在論文中甚至實現了一個黑盒的效果。

      什么是黑盒效果?我不知道你的決策樹的樣子,只知道你的最后的結果跟輸出的置信度。我通過不斷的查詢,最后反推出你實際的樣本。但我們也具體應對方式,對模型API進行安全加固。

      萬字長文丨微眾銀行嚴強:數字經濟時代,隱私保護的道與術

      風險四:不再是想推測出訓練樣本,但是想操縱最后的推演結果,可不可行?可行!

      這篇論文講的是,如果要在人臉識別系統中假扮另外一個人,最少需要什么?答案是需要這樣一副眼鏡,這副眼鏡不是隨便產生的,它是通過類似的機器學習算法,一個比較偏統計的黑盒優化算法得出來的。

      對于同一個人,查詢API 25次,通過其返回值,做一個黑盒的優化,逼近其特征值,在原有的臉部的圖像做一個修正,最后就產生了這副眼鏡上五彩斑斕的樣式,在作者的實驗中實現了100%的偽裝率,只要戴一副眼鏡,可能被識別成另外一個人。

      同時,只要戴一副眼鏡,基于機器學習的人臉檢測就可能失效。

      由此可見,這些風險是客觀存在的,所以我們不僅要考慮算法的智能性,很多時候還是要全面考量安全加固措施,否則就有可能引入意料之外的業務風險。

      萬字長文丨微眾銀行嚴強:數字經濟時代,隱私保護的道與術

      最后一個層面——合規面,合規面相對而言還是一個比較新的概念,一年前,大家還在爭論通訊錄、頭像數據的歸屬,現在明確都是屬于用戶的。

      不僅如此,用戶在使用的過程中有很多環節,有些特殊環境有特殊的合規要求。

      其中特別想談的兩點,就是限定數據用途跟數據被遺忘權,限定數據用途就是我給到你一個數據,只能用于廣告推薦,你如何保證只能用于廣告推薦,要在合規的框架下,不是用戶來自證,而是企業來自證,這對整個技術方案或者基礎設施是有要求的。

      因為企業沒法自證,在用到數據時要告訴用戶,具體算法和系統在設計上的用途。

      另外就是數據被遺忘權,現在分別來看二者的影響。

      萬字長文丨微眾銀行嚴強:數字經濟時代,隱私保護的道與術

      限定數據用途,是一個大改變。我們原來很多系統平臺都是明文學習的,現在很可能要轉向密文學習。這里有一些過渡方案:

      比如可信計算,相對而言改造成本比較低。因為它是一個容器化的隔離計算的方案,一個項目被稱作閱后即焚,90%以上就是可信計算。

      這里也有個問題,我們需要找到一個可信的第三方,因為這個容器本身的真實性、可靠性或者它的隱私性,需要一個中心化的可信機來保證,然而它是一個單點的,很難做到多點,如果我們多方協作中找不到可信的第三方,整個業務就會很難推進。

      所以,在多數情況下,我們會更傾向于聯邦學習和安全多方計算。

      萬字長文丨微眾銀行嚴強:數字經濟時代,隱私保護的道與術

      第二點,被遺忘權,這也是因為合規產生的一個新需求。什么是被遺忘權?

      很多時候用戶是流動的,例如用戶今天在平臺上注冊,但是過一段時間后因為種種原因而注銷了賬戶,這是一個非常關鍵的點。

      用戶一旦注銷,作為企業方,就需要刪除用戶數據對現有業務模型的影響。

      但很多時候這模型都是一個非常復雜的過程,一個用戶的數據可能會涉及到模型的很多方面,想完全的消除特定用戶數據的影響是很難的。

      目前非常確定的合規的解決手段就是重建,我們把原來的數據、原來模型推倒重來,這樣就會保證沒有用到被刪除用戶的數據,但是對業務的影響也很大。

      這里還有一些其它的思路,我們能否去將模型進行模塊化,每次盡量只更新用戶相關的一些數據,然后再引入遷移學習等手段來試圖減少模型重新訓練的成本。

      目前來講,這還是一個開放性的問題,需要大家獻計獻策。

      萬字長文丨微眾銀行嚴強:數字經濟時代,隱私保護的道與術

      合規方面最后一點,不得不提的就是監管審計,我們為了限制用途,很多時候會需要使用密文訓練,或者用密文進行推演或者進行一些計算。

      在強監管的要求下,這個過程也會對監管帶來一些新的需求。但是如果我們要實現跨域監管,比如跨境或者更大范圍內的數據互通,挑戰性還是存在的。

      以一帶一路為例,其中涉及到很多國家,比如意大利,就是一個歐盟國家。

      如何更好的支持監管,尤其是對隱私大數據,怎么更好的處理、實現,無需參與方配合,無需給到解密的密鑰,監管方怎么能夠自主查驗所需要的內容,同時,作為配合方,如何最小化信息的披露,實現分布式的信任,這里就需要用到區塊鏈相關技術了。

      微眾銀行在數據隱私領域的前沿探索

      談完了以上方面,在應對數據隱私驅動行業巨變的同時,我們需要一套完整的方案,在最后一部分,就不得不提“數據新基建”。

      萬字長文丨微眾銀行嚴強:數字經濟時代,隱私保護的道與術

      談到數據新基建,需要回歸到我們的原點——數據本身。

      數據要產生自己的價值。除了那幾個關鍵詞——多方、海量、高維、異構,實際上還有一些其他特性,比如易復制性、非排他性、非競爭性,既別人拿到數據后,用100遍可能跟自身用一遍,沒有什么差別。

      而分散性就是有很多孤島,我們要尊重這些孤島,如何將它們連接起來,以及多樣性、價值聚合性、價值認知多樣性。

      價值認知多樣性在國際社會上是一個比較重要的話題,對于一次隱私信息泄露,如果當事人覺得嚴重侵害了其隱私,可以要求巨額罰款。

      我們很多時候也會有一種觀點,認為數據只有聚合才有價值,聚合是對公司有價值,但是單個數據是對個人是有價值的。

      有些東西泄露后就會對個人的生活造成影響,比如醫療數據,這些都是切切實實的問題,但其認知性實際上是多樣性的,如何照顧好每一個個體,尤其是實現數據的生產要素化,需要提供一系列技術保障。

      萬字長文丨微眾銀行嚴強:數字經濟時代,隱私保護的道與術

      若要實現數據生產要素化,我們要構建一整套的方案以達成效果,我們要界定其產權,儲存和評估其價值,與最后的價值可流通。大方向都是圍繞價值而言,要確定數據的收益。

      萬字長文丨微眾銀行嚴強:數字經濟時代,隱私保護的道與術

      同時,我們也要控制數據的風險,風險來自隱私跟安全。為此,釋放數據要素生產力需要解決三大核心問題:安全存儲、可信傳輸以及協同生產。

      萬字長文丨微眾銀行嚴強:數字經濟時代,隱私保護的道與術

      最后,為了發展健康的數據產業生態,我們需要打通隱私數據協同生產的雙循環。

      第一個循環指個人數據應用,即個人跟企業之間的數據互通,他們之間實際上是一個反饋關系。數據也不僅僅是停留在單個企業的,還可以在企業之間相互流轉,于是便引入了第二個循環,這里會需要引入不同的技術能力來滿足、實現協同生產的效果。

      在理想的情況下,這兩個循環之間還會進一步互惠互補,產生正向反饋,構成多方隱私大數據價值融合的良性大循環,顯著提升用戶體驗和企業效能。

      為此,我們也做了一定的實踐并整理了一些案例,我們最近發布了一個白皮書,結合了多方面的技術以提升我們關鍵業務應用的隱私保障。

      萬字長文丨微眾銀行嚴強:數字經濟時代,隱私保護的道與術

      幾個比較典型的事例:

      第一,粵澳健康碼互轉互認,就是在跨境時,數據如何在隱私合規的情況下進行可信轉化,以及在后臺數據不連通的情況下如何實現互通。

      第二,醫療處方線上流轉,醫療處方本身涉及很多類別的隱私數據,而不僅僅是數字簽名和數據加密那么簡單。

      第三,綠色出行普惠平臺,這個項目結合了物聯網的能力,因為綠色普惠很多時候與跟車輛有關,如何將物聯網的數據以一種安全隱私的方式接入到平臺,完成對應的計算評分,也涉及到很多數據隱私的問題。

      第四,聯合營銷,效果非常明顯,相比傳統方式,可以提升20%以上的廣告轉化率。

      之前分享中,提到在使用聯合學習中可能存在的風險,但在實際部署中,我們會對方案進行一些隱私和安全的加強,值得一提的就是,我們不能夠簡單地相信一個方案所具有的能力而完全不提它的風險,還需要對其進行全方位的考量和評測。

      長遠來看,希望數據新基建能夠采用相對可以管控的底層技術,更安全可控。

      另外,可驗證的隱私性、安全性,而不只是貼上一個技術標簽,整體方案需要提供技術手段,允許用戶直接參與到數據授權和限定使用的過程中來。

      最后,就是高效率的計算能力,因為每類技術各有所長,很多時候特別安全的技術,其計算能力可能沒有那么強,所以我們需要做一些融合以找到一個最優的解決方案。

      萬字長文丨微眾銀行嚴強:數字經濟時代,隱私保護的道與術

      這里和大家分享一組數字,對于千萬級的大數據隱私求交,目前可以做到三分鐘以內完成,萬次聯合的多方乘法計算,可以做到三毫秒以內,對于同時參與隱私計算的機構數則沒有限制。

      回顧剛才的幾個關鍵詞,多方、海量、高維。

      多方,不少傳統的方案都是一個兩方或三方的架構,既如果有第4個和第5個參與方同時參與隱私計算,要么就是引入一個中心的協調方,中心協調方本身可能會泄密,這時的合作就很難進行了,但我們這邊沒有限制能夠在很安全的條件下實現這類需求。

      大數據也是同樣的,實際上現在的隱私數據,包括政務部門,無論是人口或者其他方面的數據,千萬級別都算是偏小的,實際上也有很多上億的數據。如果不能夠很好的處理存儲量,很多應用難以得到使用。

      最近央行頒發的一項相關技術標準,目前我們的所有的指標都是滿足這個標準,而且更有效。

      萬字長文丨微眾銀行嚴強:數字經濟時代,隱私保護的道與術

      這里展示了我們主要的一個開源矩陣,以此構建我們的“數據新基建”的解決方案。

      除了人工智能之外,區塊鏈是承載數據信任和價值的最佳技術,對于隱私計算和AI應用中常見的數據品質、作惡溯源等難題,都可以通過區塊鏈進行互補或提升效果。

      具體來看,區塊鏈板塊里涵蓋了微眾銀行牽頭金鏈盟開源工作組開源的底層平臺——FISCO BCOS,還有消息協作平臺——WeEvent,分布式數字身份——WeIdentity,這些都是可以跟機器學習做密切的結合的,包括可視化的中間件——WeBASE,將數據連起來的跨鏈協作平臺——WeCross,聚焦數據隱私保護的場景式解決方案集——WeDPR。

      萬字長文丨微眾銀行嚴強:數字經濟時代,隱私保護的道與術

      我們努力的終極目標只有一個,希望構建一個這樣的基礎設施,以化解大家在數據行業中的技術難點、業務痛點,然后更好地在上面去開發應用、發展生態、全面釋放數據生產力。

      這里的矩陣結合了各方面的能力,最后實現了這樣的一個效果。當然很多具體的技術領域也是在積極探索中,也誠邀合作伙伴,與我們攜手共創更好的未來。

      雷峰網原創文章,未經授權禁止轉載。詳情見轉載須知

      分享:
      相關文章

      編輯

      專注報道AI+金融(微信:18811172358)
      當月熱門文章
      最新文章
      請填寫申請人資料
      姓名
      電話
      郵箱
      微信號
      作品鏈接
      個人簡介
      為了您的賬戶安全,請驗證郵箱
      您的郵箱還未驗證,完成可獲20積分喲!
      請驗證您的郵箱
      立即驗證
      完善賬號信息
      您的賬號已經綁定,現在您可以設置密碼以方便用郵箱登錄
      立即設置 以后再說
      主站蜘蛛池模板: 天王状师| 电视剧白发魔女| 老婆6免费观看完整版电视剧| 魔角侦探| 美女热舞慢摇| 铜鼓县| 我的父亲风华绝代短剧免费观看| 第七套广播体操音乐| 亲爱的加油| 火烧云全集| 莱恩安德森《满天星》| 国家宝藏之觐天宝匣 电视剧| 宸汐缘电视剧免费观看全集| 做aj的免费视频大全电视玩具| 那年我们一起追过的女孩| 《姐姐真漂亮》中韩歌词| 孤单又灿烂的神-鬼怪 百度云| 二毛驴传奇免费观看全集完整版| 满天星《V家酒店第2季》在线播放| 鉴宝女王:古玩市场我称霸全集免费| 木乃伊3| 法国《荣誉守则》满天星高清在线观 | 来帮爸爸种苞谷影院| 三万英尺的暗恋免费观看完整版| 高清打工仔的拷问日常| 1996年杨敏思版电视剧第三集| 七夕潘甜甜牛郎织女资源| 我们的绝地反击电视剧免费观看| 任逍遥电影| 善良的姐夫| 俘虏之锁1| 新兵正传| 角斗士2完整版免费观看 | 高清《南相思》电视剧| 麻花MV在线看免费观看电视剧| 《黏糊糊的你正片》电影在线观看免费高清完整版剧情片-飞猪影视 健身房的特殊待遇 | 金瓶梅在线观看免费完整视频国语| 电视剧洪湖赤卫队| 少女前线2023高清免费播放| 桃花映江山免费观看完整版| 《美姐妹很努力》赤板栗子| 名侦探柯南普通话免费观看| 如果我爱你全集| 镖客奶奶高清免费观看| 海员记录在杜苏芮影响下航行遭遇 | 斗破苍窘| 好听的草原歌曲大全| 我们是兄弟电视剧| 美丽小蜜桃5美丽人生娃娃脸| abo成结模拟动画模拟| 韩国电影想要爸爸一颗种子在线播放| 古惑仔全集3| 三个傻boy| 四个男人要轮流练瑜伽是什么电影 | 血战滇缅印| 怀来至北京跨省公交停运| 台剧黛比女家教在线看| 台版1987渔夫荒淫史完整版| 《法国空乘11》伦理HD| 《水管维修工》完整版| 我不是潘金莲| 总统夫人罗丽星克莱尔| 十大奇冤 电视剧| 耙怎么读| 大香港电视剧国语30集大结局| 我叫刘跃进| LX司令| 魔帝归来:三界唯我独尊全集免费 | 天地争霸美猴王| 老二人转正戏| 甜密惩罚第一季免费观看完整版| 《激战丛林》电影在线观看意大利| 舞出我人生2高清下载| 神奇 电影| 国产精东剧天美传媒影视林凤娇| 血迷宫电视剧免费播放在线观看| 麦乐迪版安娜和父亲哪里看| 电视剧娘家的故事3| 谁说我纨绔不羁短剧| 《维修师傅的艳遇HD》日本| 掩耳盗邻 第二季| 我是造型师| 和讨厌的部长出差电影| 美景之屋电影完整版在线播放| 爱情而已在线观看| qvod 花与蛇| 韩版欺诈游戏| 冰河剧集法国空姐4| 瞳孔中的暗杀者普通话版免费| 阳光正好电视剧免费观看全集| 大梁第一纨绔短剧全集免费观看 | 空姐的秘密 百度影音| 芭比之森林公主| 村长巨大开嫩苞| 高压监狱2免费观看完整版 | 阎立品秦雪梅见夫灵悲声大放| 善良的妈妈中字开头9个字| 九品芝麻官| 黑衣人2高清完整版| 安娜女子监狱的电影| 正者无敌电视剧| 需要爸爸的种子2美国电影伦理片| 三年成全在线观看免费国语| 少年派百度影音| 朋友的妻子.| 今时之欲365天无删减在线观看| 《落翅女荒野》台湾版| 少女3完整版14岁| 我不可能爱你全集| 瓜达卢佩玫瑰在线播放| 爱情有烟火免费观看| 水浒传电视剧在线观看免费完整版 | 我可能不会爱你在线观看| 印度球迷撕碎C罗巨幅人像| 阁楼大象| 高庄监狱| 黑白潜行2 电影| 夏日福星 电影| 早川濑里奈47部作品在线播放| 金瓶梅完整版百度影音| HD版泰山《激战丛林》中文完| 纯真时代| 美国电影需要爸播种子观看| 欢乐颂3在线观看免费| 免费观看以爱为营的电视剧| 上位 微电影 | jizz日本16| 超级鉴定师| 龙帅归来:都市风云全集免费| 农村小杨要努力| 冰雪奇缘百度影音| 学生妈妈5字ID免费| 云画的月光免费完整版在线观看| 满天星电影无删减完整版| 驱魔人百度影音| 西施秘史吻戏| 巾帼枭雄义海豪情| 四项公投是哪四项| 《私人航空》法国电影| 黑雾电视剧免费观看完整版 | 末路天堂| 小欢喜电视剧| 《overflower》动漫第一季在线观看完整| 赛文21奥特曼全集| 罗克星克莱尔《护士日记》| 盛夏晚晴天有多少集| 大战莲花洞高清免费看| 奢香夫人原唱完整版| 疾风知劲草下一句| 俄罗斯版女儿国2| 高清《好好的时光》电视剧| 韩剧《绝对男友》观看| 黑暗荣耀第二季在线观看免费中文| 恋爱的味道观看| 痛爱当我遇上你| 即使是圣洁的修女也无法净化| 需要爸爸来播种的英文在线观看 | 电锯人动画第一季在线观看| 恶魔恋人| 17·3电影高清在线观看| 再见亚特兰蒂斯| 暴躁46集全剧情免费观看| 《忧郁少女1977》意大利| 花子vs倔强的驱魔| 流光之下电视剧免费播放全集| 国宝奇旅电视剧| 电视剧杨贵妃秘史| 他是谁免费观看| 叶问外传张天志电影免费观看国语 | 高清《乞救之噬,覆食殆尽》电视剧| 我年轻瘦子的9| 西班牙肉体之罪未删减版| 美式保罗2经典版在线观看| 电视剧迷雾重重| 刻晴大战史莱姆外服免费观看高清动漫| 大兵老婆的个人资料黄涓涓| 大闹广昌隆周海媚| 宗馥莉因爱生恨换了王力宏| 坂口美穗乃| 人猿泰山1995时长1小时34分意大利| 毒战1韩版免费完整观看| 姐妹牙医免费| 法国空姐2024满天星法版:星辉照耀下的职业光芒| 大话水浒什么职业好| 瑟瑟视频在线观看| 将夜第二季| 归晓路炎晨电视剧免费观看| 爱神救救我吧| 与狼共舞30| 大兵侮辱黄家驹| 金瓶梅3d国语完整版| 藏海传电视剧免费观看完整版高清| 暗线全集在线观看| 唐吉歌德| 上海风云2| 周香允《外卖奇遇》| 诈欺猎人| 墨西哥剧瓜达卢佩的玫瑰免费观看| 无人观看完整电视剧在线观看| 吾家有姐3满天星免费观看| 和嫂子同居的日子| 1—5普通话版免费观看| 微笑妈妈电视剧免费完整版| 白峰美羽大战黑人在线观看| 爱了散了全集| 化风行万里歌曲原唱| 三年电影在线观看免费| 斗罗大陆剧场版 剑道尘心全集观看| 1992意大利电影地爆天星| 龙日一 你死定了2| 女性3对1:两个人一次性| 眼泪知道 温岚| 站着再来一次第30集精彩片段回顾| 战火连天| 神奇布偶2控制女老板| 权利的诞生| 电视剧扫黑风暴免费观看| 妈妈的味道完整手机版| 相思令电视剧全集完整| 仙逆113| 师奶madam国语版| 活死人之日| 《图书馆的女朋友》第一季免费| 张志新子女| 大兵的寝室美剧电影完整版| 魁拔4之梅零落| 男女一起愁愁愁电视剧在线观看 | 老板强脱我的内裤| 《新人类毒医肥尸2》全集免费观看| 豪情3d字幕| 女拳霸2国语| 小辣椒3完整版免费资源| 爱上姐姐| 法国少女农场2中文版在线观看| 禁忌7年转一代| 罗百吉老婆| 热辣滚烫电影免费看| 核桃成熟时李丽珍| 我和岳交换夫妇交换系列| 超前看剧app网站| 成都警方通报天府二街伤害案 | 韩剧要帅气的生活| omoflow第一集真人| 缉毒精英全集| 战狼6免费高清版视频 | 朋友的妈妈韩国电影| 3对1是第1 吗| 沧元图第二季59集完整版| 韩国3j| 死亡同学会| 《overflower》第1季免费观看全集动漫| 我的山与海未删减| 骗骗喜欢你电影在线观看免费 | 浪漫女家教免费完整电视剧在线观看| 超级奶爸:带娃赚钱两不误全集免费| 资溪县| 那片花那片海电视剧| 国产精东剧天美传媒影视林凤娇| 黑豹2免费完整版观看| 《闪婚老伴是豪门》免费观看| 逗鸟外传萌宝满天飞| 恋爱先生大结局| 一闪一闪亮晶晶电视剧免费观看| 迈克杰克逊歌曲| 美味快递电影在线观看| 狂野时代电影| 爱情鸟在线论坛1在线观看| 熊出没之猎鹰熊岛完整版在线观看| 美神禁猎区| 樱桃红电视剧免费观看| 三义影视播放在线观看| 韩国男生女生愁愁愁电视剧在线观看| overflower第一季翻译动漫| 鉴证实录2粤语| 女律师的堕落日本电影| 韩国电影年轻的继母| 交换年长的麦子高清下载方法| 伦敦奥运会男子篮球决赛| 红衣美女| 同学的目的-导演版 电影| 小女花不弃剧情| 败犬女王| 扫黑风暴连续剧| 西城男孩最好听的歌| 肉体联欢| 《爱我几何》完整版在线观看| 熊出没之回家过年| 脸庞电影| 电视剧破密免费观看完整版高清| 法国版《女超人:麦乐迪》星辰影院| 与外婆同行| 法国空姐满天星法版| 《模特》电影完整版| 私人女性監獄電影| 美女食神优酷| 天天想你在线观看完整版电影视频 | 铁嘴银牙| 法国电影《农场保卫战》免费观看| 小姬无人宠| 火山两人没有打马赛| 完美世界dj| 流金岁月2020| 我们的热恋电视剧| 韩版泡沫之夏| 外国电影爸爸的种子在线看 | 妹汁全集在线观看国语| 了不起的挑战第五期| 哈尔滨花式宠爱南方小土豆| 高清《安居》电视剧| 粉红女郎2| 养女大结局| 洪武大案下载| 梦鸽原名| 硬汉1女主角| 插曲的痛120集在线观看免费下载| 日韩吃奶摸下AA片免费观看| 哥布林的窑洞免费观看| 有翡在线观看免费全集| 《驯服小峓子》中字板在线观看| 大汉王朝电视剧免费观看 | 杀生在线观看| 《高压2》法国版上线平台| 电视剧我是传奇在线观看| 本乡爱拍的电影| 藏不住偷偷喜欢你电视剧| 天海翼种子| 酒徒电影| 行政助理(2014)完整版观看 | 超凡蜘蛛侠2在线观看| 韩媒曝刘亚仁男友潜逃海外失败| 福星高照电影| 蛇姬恋》| 一眼万年泰剧免费观看| 1995版新金银悔1-5普通话| 陆贞传奇百度影音| 莫莉3特别酒店午夜| 张警官9分11秒| 香醇的绣感| 《外出》免费观看完整| 斯巴达成HR版| 国模私拍合集| 电影睡美人| 独步逍遥在线观看| 绝世狂萧短剧免费观看全集| 电视剧狂飙免费播放| 前列腺之家| 凯登 克罗斯护士| 健身小辣椒J3被草| 87版《女的心愿》李丽英免费观看 | 和讨厌的部长一起去出差旅的电影叫什么| 《你好 李焕英》电影| 美国兽人免费观看完整版电影 | 性解密之大妈| 家常菜电视剧全集在线观看| 战狼9女版免费高清| 铁道游击队| 市委书记晚上不打招呼调研被拦| 免费观看唐人街探案3电影完整版| 巴黎危机完整版高清免费观看| 蜜桃成熟时日韩| 意大利电影《青春期女孩》| 维修空调电影| 雪豹优酷| 站着再来一次17集全免费高清 | 新审死官 电视剧| 插曲的痛30集全集高清| 陈静哪部电影漏了3点| 黄秋生电影人肉叉烧包| 红玫瑰电视剧免费观看| 麦杰克小镇| 江南1970电影| 恩娇韩剧电影完整版免费观看| 金花瓶3之爱的供养| 我在他乡挺好的一共多少集| 黑白配高清国语免费视频| 成熟的女人免费观看电视剧| 日剧《和讨厌的前任》中字| 食客国语| 荒野求生21天无删减版什么时候出| 《夫妻的赞助商》中字版| 巴掌 红肿WRITE AS| 困惑的夏天| 马克达蒙| 伦理《法国护士长》2006在线| 《小小的肚子》樱花动漫| 电影《渔夫的妻子》赛纶| 美国禁忌之恋| 禁止的爱未删减版在线观看下载| 猎狐行动| 爱情麻辣烫免费| 公之孚| 电视剧甄嬛传| 《品味人生》完整版在线观看| 天美星空mv| 姐妹牙医在线看完整版高清电影| 不伦纯爱电影| 熊出没之年货大电影| 最近免费观看的电影完整版| 策驰影院电视剧策驰2023| 插曲的痛30集全集免费播| 瓦尼塔斯的手记动漫全集免费| 《美容院的特殊待遇| 再来一次第7集| 韩国女RAPPERDISS大战| 一半海水一半火焰百度影音 | 康体水疗看在线完整版| 国产未发育的学生洗澡电影| 中字HD丈夫的下属中字| 我的拿手好戏一一吃屎| 从指尖传出的认真的热情 第二季| 我的老公是卧底| 歌声飘过30年百首金曲演唱会下载| 哇嘎全集免费播放在线观看| 冷宫娘娘有喜啦| 激战酒店1-5集观看视频| 无神之地| 爸爸的种子| 十万个冷笑话2季| 轨道小火车34p| 桃花在线观看免费高清电视剧98| 邻家姐姐在线观看| 美丽小蜜桃9免费高清版电视剧| 明明不喜欢在线免费观看| 占有欲强母亲免费观看电视剧| 菠萝蜜菠萝蜜影视在线观看| 成龙电影全集粤语| 隐形的帽子韩剧| 不扣钮的女孩百度影音| 全城美女都要嫁给我短剧免费观看| 凌云壮志2(欧美)满天星| 我是你的男人| 麦乐迪女超人在线观看完整免费高清原声满天星百度网盘 | 宋湘波财经记者| 转身之后| 郭德纲于谦2012最新相声| 巜丰年经继拇中文3值得入手吗| 许我耀眼电视剧全集| 木下檀檩子在线观看免费完整版电影| 喜宝电影在线观看完整版| 男儿当自强 粤语| 警察故事2013粤语| 我叔叔的女人| 1980法国空乘在线播放| 最后勇士| 铿锵免费看在线观看| 锦衣之下全集免费高清| 为逆光而行电视剧在线观看免费 | 黑帮生意| 菲律宾遣返4万中国公民| 《小舍得》大结局| 三d肉浦团| 丁·度的《妇产科》| 建议取消强制自动续费| 英雄崛起百度影音| 高清《险恶》完整版在线观看| 隋唐英雄43| 死神来了8| 善良的女秘书免费| 三年中文免费观看国语| 香山叶正红电视剧| 邻居漂亮的妻子5在线观看| 美国的忌讳1-5| 火遮眼谢苗电影完整版| 街头霸王满天星女版| 梅花三弄之水云间| yellow在线免费观看 | 年轻丰满的继母3免费| 恋爱先生电视剧全集免费观看| 史诗电影| 电影《牙医姐妹》在线看| 海贼王480| 妻子8免费完整版在线看| 乡村首富短剧全集| 《大梦归离》| 《和讨厌部长一起去出差旅》播放 | 一路向西bt| 非常人贩3高清| 金银瓶1—5hd 普通话一级| 尤里西斯的生命之旅| 法国版女超人在线播放| 破烂男女在线观看电影全集免费| 电视剧免费杉杉来了| 日韩mmm| 《甄嬛传》免费看| 爱我几何在线观看完整版免费版| 姐姐真漂亮3高清在线播放| 庆余年2999影片库| 索多玛120 日韩电影免费| 向涟苍骑士献上纯洁| 女超人麦乐迪无删减在线观看| 我住在北方| 下一站婚姻免费完整版在线观看| 法国空乘5完整版免费看| 黄曼巴罗伊| 云安县| 猛鬼食人胎| 尖峰时刻2国语版| 八尺夫人意大利版原声满天星| 二龙湖爱情故事2免费看| 小乌酱黑白双丝脚足在线播放| 一起去吃拉面吗| 春潮烂漫海棠红下载| 《内衣销售秘诀》免费观看| 九龙壁十字绣| 龙王传说3第四季| 激战丛林在线观看洛克帝希佛| 风吹过的星星电视剧| 漂亮的母亲9中字开头6个字| 王宝钏和薛平贵| 朝香宫鸠彦王| 美国空姐3免费高清完整版观看 | 小凤新婚下集全集在线观看免费| 洛城特警| 原神旅行者插雷电将军的游戏| 《屈强退魔师》-国语自产影视大全视频-B032AV| 浪漫的办公室电影| 恋爱的夏天电视剧免费观看| 胖熊在线电影| 外卖曝光电影| 金银悔| 太极张三丰电影下载| 家庭秘密教学在线看| 牙医姐妹电影免费版在线看 | 农场主三姐妹2保罗| 天堂马帮电视剧全集| 失控的生物课堂TXT免费| 宫13集| 《黑暗森林》满天星| 两个人在线观看免费完整版| 与僧侣交合之夜| 黄色仓库日韩| 《无处藏身》电视剧| 无暇修女| 得闲炒饭在线观看| 我 伊蒂丝女皇免费观看完整版 | 女子上班被老板灌醉侵犯网站| 男人女人一起愁愁愁观看在线| 地下婴儿乐队| 租个女友回家过年12| 姜子牙在线| 圣山村谜局电影| 战狼6免费完整版| 沉香如屑全集在线观看| 松本若菜 下海| 韩剧妈妈爱上儿子| 之后电影| 恐怖游轮高清| 麦乐迪版女超人完整版免费看| 我是哪吒 电影| 白色城堡电视剧免费观看| 玉蒲团二之玉女心经| 电视剧麦香| 战狼6在线观看下载| 高清《天下烘焙》| 龙门飞甲电影| xl司令在线免费观看| 地铁笨蛋4视频| 三毛流浪记电视剧| 熟睡中被义子侵犯正在播放| 吵闹的邻居| 法警小队 第一季| 信仰电视剧免费观看完整版| 动物特工局| 肯兰德桑德兰满天星电影| 一见终情短剧免费观看全集高清版| 宝贝计划免费观看完整版| 维修工人的绝遇2中文版| 电视剧大唐女巡按全集| 大王别慌张免费观看全集| 法国空姐6大结局免费| 母亲5免费完整高清电视剧在| 朱莉安吉丽娜电影| 莫莉3特别酒店午夜| 厨房与公妇伦理| 星汉灿烂电视剧全集在线观看免费 | 此时此刻台剧| 仙逆123全集抢先看| 私人航空未删减版在线观看免费 | 混乱武林3谁与争锋| 斗罗大陆178| 雨宫真贵| 苍蝇之母| 收获之夜百度影音| 电视剧 红楼梦| 《王昭君》| 任逍遥电影| 哪吒在线| 我的水蜜桃好软水好多| 私人航空电影在线观看| 刻晴大战史莱姆资源| 世界机械舞王| 美国爸爸需要播种电影在线观看 | 郭有才爆火后菏泽南站网红扎堆直播| 文豪野犬第四季在线观看| 背叛丈夫的女社长中文版主演是谁| 唐朝浪漫英雄剧情介绍| 凪光主演的电影免费播放钱断情始| 灌篮高手第二部1| 丁小芹孙协志| 花房姑娘第三季免费播放电视剧 | 惊天激战2024完整版在线观看| 妈妈爱上了儿子| 乡间小路简谱| 我是你的眼 电视剧| 庆余年2在线播放免费高清视频| 印度19名官员被热死| 千金小姐赤子板栗| 变形金刚5:最后的骑士| 异形:夺命舰 电影| 黑白配高清国语免费观看教程 | 恩娇韩剧电影完整版免费观看| 金塔县| 浴火危城| 与敌同行国语下载| 古墓丽影满天星高压美版免费| 一出好戏电影完整版免费观看 | 火蓝刀锋30| 我的错误在线观看高清| 需要爸爸播种子-在线追剧| 施魔法韩剧免费观看| 天罡传免费观看全集高清| 歼灭天际线日韩版| 爱丫爱丫影院电视剧在线观看| 樱桃红电视剧免费全集在线播放 | 以你为名的青春电视剧免费观看| 鸭王2下载| 水电工艳遇电影免费看| 我独自升级第一季在线观看| 亨利和琼在线观看| 1995版《泰山和珍妮丛林》男女主角是 | 醉酒被爆菊花的美女| 金银岛电影| 新济公活佛电视剧| 棋手颜成龙再回应肛珠作弊传言| 雪中行第二部50集免费观看| 青春禁区视频在线观看直播免费| 《蜜桃成熟时2在线观看| 我的妻子妹妹3在线播放中文| 高压监狱观看完整免费高清原声满天星2019 | 蓝男色蓝摄GAY裸男CHINA| 黑白配中文版免费高清| 禁止的爱善良的小姨子免费观看| 寻找前世之旅电视剧| 男生和女生在一起愁愁愁在线观看 | 巨人的进击| 我的瘦子的4| 高清《为了皇帝》| 滑动门 电影| 年请的母亲4| 我的漂亮的小瘦子3完整版| 幻体:续命游戏 电影| 拥抱未来的你| 需要爸爸播种 - 在线追剧 | 法国空姐2大结局| 八尺夫人意大利免费观看完整版| 吸血鬼偶像 电视剧| 寻秦记高清| 369你懂的电影看片| 《恶犬》短剧全集| 《棋魂》电影免费播放| 澈情从林短剧免费观看全集| 那金花和她的女婿46| 岳母刺字| 送上司回家,看到上司老婆| 穿越医妃:医术惊世短剧全集| 浪漫风暴| 美国片睫毛膏| 相爱就爱| 摩登家庭剧照| 《金牌销售》法国电影| 爱能填满空白第二季| 霍尔的移动城堡国语| 乐麦迪在线| 教师日记| 老爸的爱情全集| 白峰电影在线观看免费版第| 当年明月负尽深雪全集| 钟表馆事件电视剧| 空中服务员免费高清原声满天星| 八仙全传下载| 第八种爱情| 重燃人生短剧免费观看| 战狼6欧式少女免费| 消失的十一层全集免费观看| 桥牌怎么玩| xl司令第二季全集免费观看 | 少年包青天1在线观看免费完整版| 壮云凌志在线观看满天星| 马永贞争霸上海滩国语| 小峰娱乐网| 《激战丛林》完整版免费观看中文字| 烟袋斜街10号| 天天偷窥网| 赛仑意大利版渔夫的老婆| 谈情说爱粤语| 电影花与蛇| 蓬安县| 司马南讲座| 因为有爱| 执笔在线观看| 外卖特派员电影免费观看| 泸州电视台直播| 拜托小姐国语| 《品味人生》在线观看免费 | 迟志强专辑| 锦衣风华电视剧免费观看完整版高清| 女大学生4第一季| 风向GO 第二季| 棋魂剧场版| 拿下丈夫的部下独家中字| 甄嬛传电视剧全集完整版| 小炸jackson| 美姊妹牙医在线完整播放电影| 天降女子动漫| 恋童电影全部免费播放| 金装的维尔动画免费观看| 电影《急诊护士》在线播放| 全职高手免费樱花动漫| 女教师3在线| 绝战桂林电视剧全集| 女售楼小姐的秘密| 私人定制在线观看| 一代皇后大玉儿| 酒店激2一8集什么时候播放| 《神话》| 唐朝好男人电视剧全集| 佳偶天成电视剧免费观看| 武陟一中网站| 需要爸爸的種子| 亲爱的我爱上别人了| 小奥尼尔厉害吗| 全南县| 一边亲一边下奶免费视频| 《大侦探 第十一季》未删减| 绝世红颜短剧免费观看| 和部长出差三天电影观看| 北方影院浴火之恋| 罗百吉的老婆| 换伴| 相反的你和我未删减| 灵域电视剧免费观看全集在线 | 韩国美女vip内部1101| id002韩国电影免费观看| 斗罗大陆第4部终极斗罗| 为时已是寿司!?| 秦皇岛市| 男生女生嗟磋嗟磋磋| 比悲伤更悲伤的事| 刀光枪影电视剧| 天海翼女教师无删减版| 生化危机:惩罚| 使徒行者3在线看免费| 法国空乘5免费高清原声满天星美陌版| 无双短剧完整版免费播放| 三年大片高清在线观看全集免费观看| 新撰组异闻录 铁| 怪医文三块高清全集| 吴邪的私家笔记电视剧| 塞伦意大利1997地爆天星| 仙武传在线免费观看| 继续宠爱十年音乐会| 女人的战争之肝脏的交易中字| 韩剧《哭声》在线观看 | 激战丛林在线播放| 《准儿媳》在线观看完整版免费| 青春荷尔蒙电影2| 黑配白在线观看| 爱情公寓1全集| 少林搭棚大师| 漂亮的瘦子 3| 黑帮少爷爱上我泰剧| adn-018| 骄阳似火| 私人女监狱| 陌路血地| 一起来看流星雨35| 《千金赤子板栗》完整版百度网盘 | 智取威虎山电影下载| 消失的她在线高清| 元气满满的哥哥| 斯巴达第四季39集剧情| 河南坠子呼延庆打擂| 消失的夫妻照片本人长得如何| 《初体验5》完整版| 战狼6大牛老黑免费观看| 冲锋战警| 中国女足今晚迎战海地| 黑白配高清大全免费| 六指琴魔| 牟氏庄园电视剧全集免费观看| 爱情交叉点电影| 卢旺达的玫瑰完整版在线观看 | 瓜达卢佩的玫瑰电影在线观看| 因父去世休假被辞| 江湖兄弟电视剧| 小小梦魇1通关攻略| 四位少妇按摩记在线| 孩子王电影| 借种无删减| 酒店1到100集| 翼 年代记| 神探狄仁杰第四部| 降央卓玛歌曲大全播放| 男女愁愁愁全集共多少集| 奔跑吧第九季免费观看完整版| 唐朝浪漫英雄剧情介绍| 哈利波特与凤凰社| 免费观看爱我几何| 特种兵之火凤凰45| 鼓楼外短剧全集免费视频播放| 万人之上短剧| 年经母年| 空姐前规则第二季| 以为宋小宝去举重了| 永清县| 俄罗斯伦理片需要爸爸的种子| 神秘岛国语版免费| 父母爱情电视剧在线观看| 我的大胸的继拇| 束缚游戏无码免费观看| 钢之炼金术师fa60| 直到世界末日| 倒数第二次恋爱| 韩剧《爷爷与媳妇》剧情介绍分集| 我是刑警免费全部剧集| 女明星们的按摩师免费观看| 公公的浮生手中字电影完整版 | 瓜达卢佩的玫瑰在线看完整版| 英明果断打一正确生肖| 黑暗荣耀第二季在线观看| 酒店第1-100集免费观看| 《维修师傅的艳遇HD》日本| 守活寡如饥似渴电视剧在线观看 | 《激战丛林》-罗莎·卡拉乔洛免费观| 《无憾》电影在线观看| 妈妈的女儿| 霹雳舞2| 凌云壮志满天星法版免费观看| 1dldss00361当我打电话叫应召女郎时,我发现了一个高傲的大胸秘书......在办公 | 电视剧樊梨花| 《美国灭火宝贝2》导演是谁| 恶童日记| 我的丑爹全集| 若你安好便是晴天 电视剧| 银瓶梅电视剧在线观看| 杨光的快乐生活5部| 老八吃粑粑| 铡美案免费| 白峰美羽在线| 瑞克与莫蒂第5季| 全球游戏:江铠动漫免费观看|