ICML 2016精選論文 | AI科技評論周刊

上一周，ICML 2016在紐約畫上了完美的句號。這個會議（International Conference on Machine Learning）已經逐漸發展為了由國際機器學習學會（IMLS）主辦的世界最頂級的機器學習領域會議之一。來自世界各地的機器學習領域的專家們都以論文投稿的方式向大會遞交了自己最新的研究成果，其中包括一篇來自百度硅谷實驗室的語音識別的論文。

大會主要采用演講和PPT展示的形式，輔以一定程度上的交流討論會來進行。整個會議議程已經于24日全部結束，最終評出了三篇最佳論文獎和一篇最具時間價值獎，其中Google的DeepMind獨攬了其中的兩個獎項，過去的一周里我們選取了大會中一些我們認為比較有意義的論文并進行過翻譯，在這里給大家回顧一下。

谷歌ICML獲獎論文 看像素遞歸神經網絡如何幫圖片“極致”建模 ？

這篇論文獲得了最佳論文獎。目前圖像識別領域的深度學習通常聚焦于某個特定領域的識別應用，因為概括出一個相對通用的模型不管對算法設計者建立規則和機器概括和學習圖像中的規則都是很難的。因此谷歌的這篇通過二維循環特性來進行有效的通用圖像識別建模的論文獲得今年ICML2016的最佳論文獎也不奇怪了。Google在論文中對自己的方法給出了詳細的推導和應用過程，這項進步意味著目前的深度學習算法能得到的訓練圖片的量得到了很大的擴展，甚至可以將任意圖片交給其用來訓練。

利用CNN來學習任意圖結構

這篇論文的選題同谷歌的那篇類似，也是研究一種通用化的圖像識別算法。由NEC歐洲海德堡實驗室的Mathias Niepert、Mohamed Ahmed、Konstantin Kutzkov完成。但是在結果上表現的沒有Google的算法好，因此沒能獲獎。

百度ICML論文：端對端中英文語音識別

這篇論文來自百度硅谷實驗室，吳恩達也參與了論文的研究和撰寫，在這篇論文中，百度使用神經網絡代替了傳統的語音識別的分析結構，使得算法的適應性得到了提高，表現的結果是算法可以同時識別普通話和英語兩種語言。并且可以“兼容”多種方言。百度表示，除了算法的設計，這項研究的進展還要歸功于對HPC（超級計算機）的恰當應用，這極大的增加了百度對算法迭代的速度。推進了研究的進程。

這違反直覺的“升噪”方法，反而能很好的解決激活函數梯度彌散的問題

這篇論文的最大亮點在于突破了傳統的思維方式，獨辟蹊徑的改善了梯度彌散的問題。梯度彌散指的是在神經網絡層數過多的時候，算法后向傳播的途中卷積核的輸入落入了函數的飽和區，因此得到的梯度很小，最終可能導致在算法正常發揮的情況下結果偏離正確值。通常來說，一般人的思路是盡可能增加每層的函數和初始值的精確性，但這篇論文反其道而行之，向函數中注入適當的噪音，反而起到了很好的抑制梯度彌散的作用。

阿爾法狗CTO講座： AI如何用新型強化學習玩轉圍棋撲克游戲

DeepMind的科學家、圍棋團隊主程序員David Silver分享了它在增強學習方面應用的論文。如果說深度學習是教機器“認知”，增強學習就是教會機器人“行動”。通過不斷的訓練、試錯來教會機器人或算法在各種情況下做出相應認知的一門科學。因此“下棋”其實也屬于增強學習的一種應用。在某種程度上來說。這篇以棋牌類游戲應用為主題的論文其實就是一篇AlphaGo的解密。你們難道不好奇嗎~

關注這些最前沿的學術會議能讓我們對AI最新的應用的可能性有足夠的了解，也是了解國內和國際科研實力對比的一個極好的途徑，我們會繼續保持關注大型的學術會議，為大家第一時間獻上其最新的亮點。

圖片來自unist.ac.kr

雷峰網原創文章，未經授權禁止轉載。詳情見轉載須知。