谷歌TPU3.0性能提升8倍，但優(yōu)勢(shì)遭微軟、Facebook軟硬“圍攻”

谷歌無(wú)論是在自動(dòng)駕駛還是AI領(lǐng)域都具備優(yōu)勢(shì)，2018谷歌I/O大會(huì)的重點(diǎn)之一也是AI技術(shù)的發(fā)展。在Goole I/O 2018上，谷歌首席執(zhí)行官Sundar Pichai宣布推出Tensor Processor Unit 3.0，并表示TPU3.0的計(jì)算性能相比去年提升了八倍，可達(dá) 100PFlops(每秒 1000 萬(wàn)億次浮點(diǎn)計(jì)算)。

谷歌TPU是專門是為機(jī)器學(xué)習(xí)定制的專用芯片(ASIC)，也是為谷歌深度學(xué)習(xí)框架TensorFlow而設(shè)計(jì)。據(jù)悉相比一般的GPU圖形處理器，TPU可以以8位低精度計(jì)算節(jié)省晶體管，對(duì)精度影響很小同時(shí)可以大幅降低功耗、加快速度，同時(shí)還有脈動(dòng)陣列設(shè)計(jì)，優(yōu)化矩陣乘法與卷積運(yùn)算，并使用更大的偏上內(nèi)存，減少對(duì)系統(tǒng)內(nèi)存的依賴。另外，它還第一次使用了液冷散熱，可以更高效地服務(wù)數(shù)據(jù)中心，便于定制硬件方案。

由于谷歌去年已經(jīng)發(fā)布了第二代產(chǎn)品，所以對(duì)于今年TPU3.0的發(fā)布我們并不感到意外，不過(guò)Sundar Pichai并沒(méi)有透露關(guān)于TPU3.0的更多細(xì)節(jié)，但可以看到谷歌希望以TPU為基礎(chǔ)讓Google Cloud像Amazon AWS一樣無(wú)處不在。

 

微軟Brainwave延遲比TPU低5倍

除了谷歌，其他科技巨頭也在自主研發(fā)AI芯片，雖然從公開信息中我們可以了解到Facebook和亞馬遜自主研發(fā)芯片還處于早期階段，自主研發(fā)定制AI芯片的目的也還不夠清楚，但可以看到的是當(dāng)數(shù)據(jù)量越來(lái)越大，且擁有最多和最好的數(shù)據(jù)成為公司重要競(jìng)爭(zhēng)力的時(shí)候，Nvidia的GPU可能不足以處理這些數(shù)據(jù)，需要超高效的定制芯片。當(dāng)然，Sundar Pichai還表示，對(duì)于通過(guò)自主研發(fā)定制芯片滿足深度學(xué)習(xí)需求而言，散熱成為越來(lái)越大的難題，這也是谷歌不得不第一次在數(shù)據(jù)中心使用冷卻液的原因。

所以，不僅科技巨頭的入局，AI芯片的創(chuàng)業(yè)公司也開始涌現(xiàn)并獲得資本青睞，像Cerebras Systems、SambaNova Systems和Mythic等初創(chuàng)公司大多數(shù)已經(jīng)籌集了超過(guò)3000萬(wàn)美元，它們希望在具體的應(yīng)用中通過(guò)其研發(fā)的AI芯片完成機(jī)器學(xué)習(xí)的任務(wù)，并且性價(jià)比能超越Nvidia。

當(dāng)然，有新入局者也有傳統(tǒng)芯片巨頭，英特爾使用FPGA參與AI芯片的競(jìng)爭(zhēng)，并且隨著機(jī)器學(xué)習(xí)的需求的變化，英特爾設(shè)計(jì)出更加靈活模塊化的FPGA，但FPGA的成本以及高門檻成為了FPGA應(yīng)用及推廣中的難度。不過(guò)，與谷歌的其他競(jìng)爭(zhēng)對(duì)手也押注定制芯片（ASIC）不同，微軟認(rèn)為FPGA比ASIC更靈活，并且標(biāo)準(zhǔn)Intel Stratix FPGA的性能至少可以與定制芯片相媲美。因此微軟選擇押寶FPGA，雷鋒網(wǎng)消息，在5月7日開幕的微軟Build2018大會(huì)上，微軟CEO  Satya Nadella發(fā)布了Project Brainwave預(yù)覽版，并稱延遲比TPU低5倍。微軟還稱利用Project Brainwave平臺(tái)的客戶可以使用標(biāo)準(zhǔn)的圖像識(shí)別模型處理100萬(wàn)張圖片，單個(gè)圖像在1.8毫秒內(nèi)就能處理，比現(xiàn)在的任何競(jìng)爭(zhēng)對(duì)手的云服務(wù)都要好。

不過(guò)，F(xiàn)PGA在云計(jì)算中并沒(méi)有被廣泛使用，而微軟正在將FPGA整合到其整個(gè)數(shù)據(jù)中心網(wǎng)絡(luò)，成為一種硬件微服務(wù)。微軟不可能不了解押寶FPGA面臨的成本以及高門檻高的困難，但由此可見其決心，同時(shí)也讓我們看到微軟正在用FPGA參與競(jìng)爭(zhēng)，這當(dāng)然是谷歌不可忽略的對(duì)手。

PyTorch新版本挑戰(zhàn)TensorFlow

前面已經(jīng)提到，自主研發(fā)芯片只是科技巨頭們?yōu)楦锰幚頂?shù)據(jù)，讓數(shù)據(jù)產(chǎn)生更大的價(jià)值，想要對(duì)對(duì)開發(fā)者產(chǎn)生更大的吸引力還需要配套的工具。因此看到谷歌TPU之上有TensorFlow，Brainwave也支持微軟CNTK和TensorFlow框架。

所以谷歌如果想要把開發(fā)人員留住，不僅需要更快的芯片，機(jī)器學(xué)習(xí)的工具也十分重要，讓開發(fā)人員進(jìn)入其GCP（Google Cloud Platform）和其他服務(wù)，并使用TensorFlow。這也是谷歌能否從目前核心的廣告業(yè)務(wù)中逐漸擴(kuò)展到新的領(lǐng)域并保持領(lǐng)先優(yōu)勢(shì)的關(guān)鍵。

但隨著Facebook越來(lái)越希望用像PyTorch這樣的框架來(lái)挑戰(zhàn)TensorFlow，谷歌想保持領(lǐng)先變得困難。雷鋒網(wǎng)消息，今年F8開發(fā)者大會(huì)的第二天，F(xiàn)acebook宣布PyTorch 1.0beta版將在今年夏天和用戶見面，并提前展示了這款新框架的特性。據(jù)Facebook介紹，PyTorch 1.0結(jié)合了Caffe2和ONNX模塊化、面向生產(chǎn)的特性，也結(jié)合了PyTorch靈活、面向研究的特性，為廣泛的AI項(xiàng)目提供從科研原型到生產(chǎn)部署的快速、無(wú)縫途徑，讓用戶可以快速實(shí)驗(yàn)，通過(guò)能在強(qiáng)制執(zhí)行模式和聲明執(zhí)行模式之間無(wú)縫切花的混合前端優(yōu)化性能。

需要了解的是，ONNX（開放神經(jīng)網(wǎng)絡(luò)交換）是Facebook去年聯(lián)合多家軟硬件公司發(fā)布的神經(jīng)網(wǎng)絡(luò)模型轉(zhuǎn)換協(xié)議，現(xiàn)在新增了對(duì)蘋果的Core ML、百度PaddlePaddle、高通SNPE的支持，再加上原本支持的MXNet、Caffe2、PyTorch、TensorFlow、CNTK等框架，實(shí)現(xiàn)了神經(jīng)網(wǎng)絡(luò)模型在各種主流框架之間的轉(zhuǎn)換。

因此，TPU3.0只是谷歌服務(wù)其生態(tài)保持領(lǐng)其先地位的第一步，硬件之上的TensorFlow同樣重要。微軟基于FPGA的Brainwave平臺(tái)以及Facebook的PyTorch 1.0軟件和硬件都與谷歌形成了競(jìng)爭(zhēng)關(guān)系，未來(lái)谷歌能否保持領(lǐng)先地位還需要看其是否能做出快速的回應(yīng)。

雷鋒網(wǎng)編譯，via techcrunch

---

現(xiàn)在關(guān)注“雷鋒網(wǎng)”微信公眾號(hào)（leiphone-sz），回復(fù)關(guān)鍵詞【2018】，隨機(jī)抽送價(jià)值 3999 元的參會(huì)門票 3 張

相關(guān)文章：

Build 大會(huì)中的 AI：微軟 AI 云服務(wù)全線更新

Google I/O 2018 : 這里是所有你不能錯(cuò)過(guò)的大新聞

谷歌AI大一統(tǒng)，Google Research 升級(jí)為 Google AI

【評(píng)測(cè)】谷歌TPU二代來(lái)了，英偉達(dá)Tesla V100尚能戰(zhàn)否？

雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。