<mark id="oztn4"></mark>
0
作者 | 青 暮
編輯 | 蔣寶尚
經(jīng)歷了長(zhǎng)達(dá)兩周的「罵戰(zhàn)」，Yann LeCun不知是感覺失望還是心累，于今日宣布，將退出推特，不會(huì)再在該平臺(tái)上發(fā)表言論。
Yann LeCun 在推特上的最后發(fā)聲：
請(qǐng)社交網(wǎng)絡(luò)上的所有人不要再互相攻擊了，特別是對(duì) Timnit Gebru 的攻擊，以及對(duì)于我之前言論的攻擊。無論是口頭還是任何其他方式的沖突，都只會(huì)得到傷害和相反的結(jié)果。我反對(duì)一切形式的歧視。這將是我在推特上最后一篇帖子。
這場(chǎng)爭(zhēng)議起源于提出PULSE這一模型的論文，有人用作者在論文中開源的代碼進(jìn)行了模型推理：用奧巴馬的打碼圖像進(jìn)行了試驗(yàn)，結(jié)果發(fā)現(xiàn)奧巴馬被還原成了白人。
論文地址：https://arxiv.org/pdf/2003.03808.pdf
由于PULSE建立在StyleGAN的基礎(chǔ)上，而StyleGAN所用的數(shù)據(jù)集是FFHQ，這個(gè)數(shù)據(jù)集里包含了90%以上的白人人臉。PULSE的特點(diǎn)在于，可以將多個(gè)不同但相似的人臉圖像聚合為同一個(gè)低分辨率圖像。
許多算法都試圖從低分辨率恢復(fù)高分辨率圖像，這可能是錯(cuò)誤的方法，原始圖像實(shí)際上是信息稀疏的。因此，奧巴馬的打碼圖像還原后也不一定是奧巴馬，我們會(huì)堅(jiān)持認(rèn)為那張圖像的原型必然是奧巴馬，也是由于記憶先驗(yàn)導(dǎo)致的偏見。PULSE提供的不是錯(cuò)誤的答案，也不是故意的，但提供了有偏見的答案。
針對(duì)這張圖，Yann LeCun在推特上發(fā)表了這么一句話：“當(dāng)數(shù)據(jù)有偏見時(shí)，機(jī)器學(xué)習(xí)系統(tǒng)就變得有偏見。這個(gè)人臉上采樣系統(tǒng)讓每個(gè)人看起來都像白人，因?yàn)榫W(wǎng)絡(luò)是在FlickFaceHQ數(shù)據(jù)集上預(yù)訓(xùn)練的，而這個(gè)數(shù)據(jù)集主要包含白人圖像。”
這為L(zhǎng)eCun招來了不少的批評(píng)，很多專家認(rèn)為L(zhǎng)eCun在提出狹隘甚至錯(cuò)誤的觀點(diǎn)誤導(dǎo)人們，并紛紛提出了自己的質(zhì)疑。LeCun對(duì)這些質(zhì)疑一一回應(yīng)，但仍得不到理解。
一開始爭(zhēng)論的焦點(diǎn)在于：AI產(chǎn)生偏見的原因是否只是數(shù)據(jù)集導(dǎo)致？算法本身的缺陷能不能成為原因？盡管LeCun后來在一系列的推文中一條一條地解釋自己的觀點(diǎn)，指出自己同意各位專家的質(zhì)疑，只是自己的論點(diǎn)建立在特定的條件下，數(shù)據(jù)確實(shí)不是AI偏見的唯一來源。
然而，由于與LeCun辯論的專家中有一位是斯坦福 AI Lab 成員、Google AI 黑人女性科學(xué)家 Timnit Gebru（非洲裔美國(guó)人），“黑人”和“女性”這兩個(gè)敏感詞不知為何成為了眾人借題發(fā)揮攻擊LeCun的工具。
作為AI的公平性、問責(zé)制和透明性的領(lǐng)先研究者，Timnit Gebru首先在推文中對(duì) LeCun 的言論表示「失望」，并指出機(jī)器學(xué)習(xí)系統(tǒng)中的偏見僅來自數(shù)據(jù)的觀點(diǎn)是不正確的。她還建議Yann LeCun查看她之前做過的課程，因?yàn)樗攀菍＜摇?/p>
Yann LeCun后來在Timnit Gebru 的推特評(píng)論區(qū)連寫 17 條回復(fù)：表示自己同意她的觀點(diǎn)。
Timnit Gebru對(duì)此的回應(yīng)卻是：我出于自己的理智不再與您交流，因?yàn)檫@不值得我花費(fèi)時(shí)間。
Yann LeCun回應(yīng)：我很遺憾您不愿意討論實(shí)質(zhì)內(nèi)容。我曾希望從這種交流中學(xué)到一些東西。FB中有幾個(gè)小組完全專注于ML / AI的公平性，偏見和社會(huì)影響。
有人批評(píng)Yann LeCun，并稱其向Timnit Gebru講授她的專業(yè)知識(shí)，居高臨下，并涉及言論霸凌。
另外還有人說，Yann LeCun給該領(lǐng)域的專家提供了推文教程，沒有問任何問題，沒有進(jìn)行真正的討論，沒有尊重她的專家地位，也沒有要求澄清她的任何觀點(diǎn)，還要求她控制情緒，那么又希望她如何參與？其中還有人特別強(qiáng)調(diào)了Timnit Gebru的黑人女性身份，暗示Yann LeCun存在歧視行為。甚至還有人直接批評(píng)Yann LeCun在進(jìn)行對(duì)女性的“直男”說教。
也有很多人在為Yann LeCun辯護(hù)，表示他的行為是理性、冷靜和有耐心的，并且也稱得上是AI偏見方面的專家，他不應(yīng)該為自己沒做錯(cuò)的事情道歉。
Yann LeCun后來在推文中向Timnit Gebru表示贊賞她在AI道德、公平方面的工作，并對(duì)自己的交流方式道歉，希望她能和Facebook AI的研究員一起交流如何一起和偏見作斗爭(zhēng)。
不過事情并非如此簡(jiǎn)單，Yann LeCun又因?yàn)榱硪粋€(gè)言論被卷進(jìn)了漩渦。當(dāng)有人說，機(jī)器學(xué)習(xí)研究者應(yīng)該在選擇數(shù)據(jù)的時(shí)候更加小心，Yann LeCun回應(yīng)道，這主要是機(jī)器學(xué)習(xí)工程師而不是研究者的責(zé)任。人們又開始批評(píng)Yann LeCun在推卸責(zé)任，忽視學(xué)術(shù)研究對(duì)AI偏見的影響力。人們也提醒Yann LeCun，作為領(lǐng)域的領(lǐng)軍人物，發(fā)表言論應(yīng)該更加小心。其他人則指出，研究人員在一定程度上必須使用有缺陷的數(shù)據(jù)集來取得進(jìn)步。
盡管在這次漫長(zhǎng)的爭(zhēng)論中，還是有很多人為Yann LeCun辯護(hù)。但或許，對(duì)于Yann LeCun來說，這種爭(zhēng)論早就脫離了正軌，不應(yīng)該出現(xiàn)，這本身就是一種失敗，是將社交網(wǎng)絡(luò)應(yīng)用于AI社區(qū)交流的失敗。由于自己話語的分量，當(dāng)其中涉及了敏感話題，無論怎么辯解，都會(huì)陷入矛盾的中心被圍觀，最后卻得不到有意義的結(jié)果。一向直言不諱的Yann LeCun，這次也心累了。雷鋒網(wǎng)雷鋒網(wǎng)雷鋒網(wǎng)
雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。
