為什么全棧式AI解決方案對AI落地至關(guān)重要？| CCF-GAIR 2019

編者按：7月12日-7月14日，2019第四屆全球人工智能與機器人峰會（CCF-GAIR 2019）于深圳正式召開。峰會由中國計算機學(xué)會（CCF）主辦，雷鋒網(wǎng)、香港中文大學(xué)（深圳）承辦，深圳市人工智能與機器人研究院協(xié)辦，得到了深圳市政府的大力指導(dǎo)，是國內(nèi)人工智能和機器人學(xué)術(shù)界、工業(yè)界及投資界三大領(lǐng)域的頂級交流博覽盛會，旨在打造國內(nèi)人工智能領(lǐng)域極具實力的跨界交流合作平臺。

未來，AI將變得無處無在。相信大部分人并不會反對這樣的觀點，但要實現(xiàn)AI無處不在的愿景除了需要解決算力、算法、數(shù)據(jù)的三大挑戰(zhàn)之外，還面臨著成本、復(fù)雜性、可擴展性、數(shù)據(jù)隱私等多重困難。既然AI大規(guī)模落地復(fù)雜程度如此之高挑戰(zhàn)如此之多，技術(shù)的創(chuàng)新有多重要？全棧式AI解決方案能否顯著加速AI技術(shù)的落地？

AI帶來了什么改變？

AI智能音箱、手機AI語音助手、AI拍照、AI美顏都是普通消費者已經(jīng)觸手可及的AI產(chǎn)品和功能。雖然這些AI產(chǎn)品還不能讓消費者感到十分滿意，但AI顯然是吸引消費者購買產(chǎn)品的一大賣點。

相比消費領(lǐng)域用AI作為產(chǎn)品的賣點，在金融、工業(yè)、物流等領(lǐng)域，AI正在改變這些行業(yè)。電網(wǎng)領(lǐng)域應(yīng)用了諸多的AI技術(shù)，比如，現(xiàn)在很多電線桿沿河架設(shè)，并且線路架不高，盡管有很多“禁止釣魚”的告示和巡邏人員，仍然有很多釣魚觸電的事件發(fā)生。賽特斯信息與電網(wǎng)公司合作開發(fā)了釣魚監(jiān)控系統(tǒng)，如果檢測到河邊電網(wǎng)線路下有人釣魚就進行廣播勸離。據(jù)介紹，釣魚監(jiān)控系統(tǒng)在2019年4月部署上線，到7月一共驅(qū)離了280余位電網(wǎng)線路下釣魚人員，并且自系統(tǒng)上線后釣魚監(jiān)控系統(tǒng)監(jiān)控范圍內(nèi)沒有新增的釣魚觸電事件。

基于AI技術(shù)的釣魚監(jiān)控系統(tǒng)顯著減少了安全事故，但AI的價值顯然不止于此。在快遞領(lǐng)域，如何降低交付運營成本，提高服務(wù)和運作效率是一大訴求。韻達快遞利用AI解決這些挑戰(zhàn)，最終有效提升了快遞物流系統(tǒng)的運作效率，大幅降低人工勞動的強度和人力成本，節(jié)省成本高達7000萬美元。

AI視覺技術(shù)在工業(yè)領(lǐng)域同樣成效顯著，在大規(guī)模產(chǎn)品的制造過程中，以往通過人眼識別對產(chǎn)品進行檢測并發(fā)現(xiàn)缺陷不僅效率低，準(zhǔn)確率也不高。美的利用AI技術(shù)進行缺陷檢測時，圖像預(yù)處理的性能提高了4倍，模型推理時間縮短16倍。

在醫(yī)療圖像分析領(lǐng)域，健培科技利用AI技術(shù)能夠高效完成 X 射線、CT、MRI 和其他醫(yī)療成像來源的推理，醫(yī)學(xué)數(shù)字成像和通信（DICOM）圖像分析性能提升了 8 倍。

還有一個很酷的AI應(yīng)用，歐洲核子研究組織（CERN）負責(zé)運行大型強子對撞機(LHC)，每秒要進行四千萬次的對撞，會大概產(chǎn)生約1PB的數(shù)據(jù)，這給計算和存儲帶來了巨大挑戰(zhàn)。他們希望過濾出對研究分析有價值的數(shù)據(jù)，把每秒產(chǎn)生的數(shù)據(jù)量從1PB減少到10TB。借助AI，他們最終成功實現(xiàn)了端到端全數(shù)據(jù)管道粒子分類器，且易于擴展。

上述案例中，280余位、7000萬、4倍、8倍、16倍、1PB到10TB這些數(shù)字代表著安全、成本、效率的提升，這是AI已經(jīng)帶來的量化的改變。這些量化的顯著提升背后，既是英特爾與各個行業(yè)合作伙伴的深度合作，相互協(xié)作解決技術(shù)難題，更是英特爾AI技術(shù)平臺和全棧解決方案實力的體現(xiàn)。

英特爾高級首席工程師兼大數(shù)據(jù)技術(shù)全球首席技術(shù)官戴金權(quán)

端到端的大數(shù)據(jù)處理+分析平臺是AI部署的關(guān)鍵

無論韻達快遞、美的、健培科技還是CERN，他們更關(guān)心的是軟件方案如何支撐他們的業(yè)務(wù)，這也是AI部署中的痛點。英特爾高級首席工程師兼大數(shù)據(jù)技術(shù)全球首席技術(shù)官戴金權(quán)在CCF-GAIR 2019期間接受雷鋒網(wǎng)等媒體采訪時表示，與客戶合作的過程中，我們發(fā)現(xiàn)拿到一個深度學(xué)習(xí)的模型和算法并不難，真正把它落地或部署在大規(guī)模的生產(chǎn)環(huán)境里，大量數(shù)據(jù)分析的整個流水線整合并不容易，這也是很多用戶的痛點。

他還舉例表示，一家非常大的美國互聯(lián)網(wǎng)公司已經(jīng)設(shè)立了非常大的專用計算集群，有分布式訓(xùn)練，并且分布式軟件也做的非常好，但他們找我們合作。開始我們很好奇為什么他們已經(jīng)有這個能力還找我們合作，后來了解到他們雖然開發(fā)了很多先進的AI模型，能夠用一些樣本數(shù)據(jù)在筆記本上得到一個滿意的原型。但碰到一個很大的挑戰(zhàn)，要在生產(chǎn)數(shù)據(jù)或者歷史數(shù)據(jù)試這個模型需要大量的數(shù)據(jù)，把數(shù)據(jù)拷貝出來并不是一個長久的方法，因此他們希望有一個端到端的平臺，把生產(chǎn)數(shù)據(jù)利用起來。

吸引這家互聯(lián)網(wǎng)公司與英特爾合作的是英特爾統(tǒng)一的大數(shù)據(jù)分析和人工智能平臺Analytics Zoo以及BigDL。BigDL是一個建立在大數(shù)據(jù)平臺（Hadoop/Spark）上原生的分布式深度學(xué)習(xí)庫，它提供了在Apache Spark上豐富的深度學(xué)習(xí)功能，以幫助 Hadoop/Spark成為一個統(tǒng)一的數(shù)據(jù)分析平臺，為整個數(shù)據(jù)分析和機器學(xué)習(xí)過程提供比現(xiàn)有框架更加統(tǒng)一和集成化的支持。

據(jù)悉，自BigDL 2016年10月正式開源，已經(jīng)有眾多用戶使用BigDL構(gòu)建深度學(xué)習(xí)應(yīng)用。雷鋒網(wǎng)認為，基于Hadoop/Spark分布式系統(tǒng)基礎(chǔ)架構(gòu)夠在很大程度上降低AI部署的門檻。

為了能夠進一步降低AI部署的門檻，構(gòu)建一個完整的端到端大數(shù)據(jù)處理加深度學(xué)習(xí)應(yīng)用，英特爾在去年又開源了Analytics Zoo新項目，基于Apache Spark，TensorFlow等更高階的人工智能的流水線和平臺。也就是說，整合了不同的庫和框架后的Analytics Zoo，能夠助用戶無縫從筆記本的生產(chǎn)原型無縫地擴展到集群或者生產(chǎn)化部署。

英特爾與美的的合作就是應(yīng)用Analytics Zoo一個很好到的例子，美的利用人工智能的流水線進行缺陷檢測，有大量的圖片需要進行處理，先用Spark進行圖片大規(guī)模分布式處理，之后可以直接使用TensorFlow的API，幾行代碼就可以將數(shù)據(jù)接入到TensorFlow定義的目標(biāo)檢測模型，進行分布式訓(xùn)練、推理和測試。得到訓(xùn)練好的模型之后，就需要部署，利用Analytics Zoo能將訓(xùn)練出來的模型直接作為一個單機的Python推理代碼嵌入到JAVA的service上，進行實時的推理。整個過程利用了Analytics Zoo平臺，實現(xiàn)了人工智能從云到邊緣計算完整的流水線，提高開發(fā)效率的同時也大大提高了運行效率。

AI一定是硬件+軟件的融合

不過，軟件的能力需要硬件作為支撐。據(jù)雷鋒網(wǎng)了解，全新硬件架構(gòu)每實現(xiàn)一個數(shù)量級的性能提升，軟件就能帶來超過兩個數(shù)量級的提升。AI時代，軟件和硬件需要不同的策略。軟件的層面，AI的部署需要一個完整的更高級的流水線，還需要像OneAPI這樣統(tǒng)一的軟件平臺，解決不同的硬件器件來學(xué)習(xí)不同的編程框架、編程工具、編程接口的問題。

軟件需要統(tǒng)一，硬件卻需要異構(gòu)。原因很簡單，現(xiàn)在90%以上的數(shù)據(jù)是在過去幾年中產(chǎn)生，其中大概50%是在過去兩年中產(chǎn)生，數(shù)據(jù)大量產(chǎn)生的同時，數(shù)據(jù)類型也更加豐富，除了CPU擅長處理的標(biāo)量數(shù)據(jù)，矢量、空間數(shù)據(jù)、矩陣數(shù)據(jù)也大量產(chǎn)生，對應(yīng)的也需要GPU、FPGA、ASIC處理不同類型的數(shù)據(jù)。因此，AI時代軟硬融合的重要性更加突顯。因為不同的硬件需要相應(yīng)的軟件才能充分利用硬件資源，但處理器異構(gòu)會帶來軟件復(fù)雜性大增的挑戰(zhàn)，為了更好發(fā)揮硬件性能，還需要更全面的創(chuàng)新。

戴金權(quán)接受采訪時表示，在AI越來越普及之后，大家都對AI提出更高的期望，要解決更復(fù)雜的問題，對存儲的技術(shù)、安全、連接等都提出了一系列的要求。所以從AI長遠發(fā)展的角度看，需要一個綜合性方案來解決未來AI發(fā)展挑戰(zhàn)。

我們看到，英特爾提出了超異構(gòu)計算的愿景，通過提供多樣化的標(biāo)量、矢量、矩陣和空間架構(gòu)組合，以先進制程技術(shù)進行設(shè)計，由顛覆性內(nèi)存層次結(jié)構(gòu)提供支持，通過先進封裝集成到系統(tǒng)中，使用光速互連進行超大規(guī)模部署，提供統(tǒng)一的軟件開發(fā)接口以及安全功能。

其中，架構(gòu)創(chuàng)新又是六大技術(shù)支柱中的關(guān)鍵，不僅因為架構(gòu)創(chuàng)新能實現(xiàn)更顯著的軟件應(yīng)能提升，也因為架構(gòu)可以把制程&封裝、內(nèi)存&存儲、互連、安全、軟件六大技術(shù)支柱有機的結(jié)合在一起。

英特爾認為，架構(gòu)創(chuàng)新在未來十年會是主流，也會是創(chuàng)新的主要驅(qū)動力，這里面會有多種不同的架構(gòu)互相組合、比拼，具體需要看AI的不同需求。架構(gòu)創(chuàng)新將繼續(xù)帶來指數(shù)級的擴展效應(yīng)。

AI普及需要全棧式AI解決方案更需要廣泛合作

可以看到，英特爾致力于提供AI全棧式解決方案，在底層的內(nèi)核或者庫上有MKL-DNN，還有圖形編譯器nGraph，可以將神經(jīng)網(wǎng)絡(luò)編譯到各個平臺上。再上層有針對各種機器學(xué)習(xí)和深度學(xué)習(xí)框架上的優(yōu)化，包括Python等常用的機器學(xué)習(xí)、深度學(xué)習(xí)庫也進行了大量的優(yōu)化工作。最上層，提供了更高階開源工具的套件，包括神經(jīng)網(wǎng)絡(luò)推理的加速工具庫OpenVINO，統(tǒng)一的大數(shù)據(jù)分析和人工智能平臺Analytics Zoo。

全棧的解決方案不僅能夠降低AI開發(fā)和部署的技術(shù)難度，還能根據(jù)用戶需求提供更加靈活的解決方案，這對于AI的普及至關(guān)重要。

但是，AI已經(jīng)被應(yīng)用到眾多的行業(yè)，需求也非常多樣，現(xiàn)在每一個行業(yè)大家都在快速擁抱AI能力，且每個特定行業(yè)碰到的挑戰(zhàn)也有所不同，有的領(lǐng)域可能是技術(shù)上的挑戰(zhàn)，比如計算力需要不斷加強，也有一些領(lǐng)域的挑戰(zhàn)是技術(shù)之外的，比如在醫(yī)療領(lǐng)域，還面臨如何保護病患隱私的挑戰(zhàn)。

因此，技術(shù)的提供方在提供定制化解決方案的同時，與生態(tài)合作伙伴更好的合作，才能更快促進AI的落地。針對醫(yī)療、金融、交通、政府、零售、教育、制造、能源等行業(yè)，英特爾定制了從商務(wù)到技術(shù)的不同模式來匹配，在國內(nèi)與京東、騰訊、銀聯(lián)、美的、韻達快遞、中國人壽、寶信軟件等眾多企業(yè)深度合作，支撐中國以及全球AI產(chǎn)業(yè)的發(fā)展。

最后值得一提的是，英特爾上個月宣布在中國成立大數(shù)據(jù)分析和人工智能創(chuàng)新院，加快技術(shù)創(chuàng)新與應(yīng)用，希望加快統(tǒng)一的數(shù)據(jù)分析和人工智能數(shù)據(jù)的創(chuàng)新和應(yīng)用。

相關(guān)文章：

對話戴金權(quán)：英特爾如何構(gòu)建軟硬件協(xié)同統(tǒng)一的大數(shù)據(jù)分析+AI平臺？

雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。