雷峰網消息：近日，亞馬遜機器學習部門原杰出科學家/VP Alex Smola與首席科學家李沐師徒二人已從亞馬遜離職，并且確立新去向：進軍大模型方向創業。此前兩個月，雷峰網與接近李沐師徒二人的 AI 行業人士交談，獲悉二人有離職打算。但直到今天，二人動態才最終確定。據微信公眾號“親愛的數據”消息，Alex Smola于2023年2月從亞馬遜離職后公布了新的創業項目——一家人工智能公司Boson.ai，擔任首席執行官兼聯合創始人。其Linkedin資料也更新了新的公司信息。從李沐到卡內基梅隆大學Alex Smola門下讀博開始，這兩位頂級AI科學家師徒的軌跡就高度重合。2016年兩人就曾在深度學習落地潮中一同創業，如今在ChatGPT引起的新一輪AI大模型熱潮之際，兩人抓住機遇從大廠離職創業，新事業令人期待。
關于Boson.ai這家新公司，目前的公開資料還不多，Alex Smola簡短透露稱：“我們正在做一件大事……請保持關注。如果您想從事可擴展基礎模型方面的工作，請聯系我。”官網目前也在建設中，頁面顯示其創業方向為大模型。
Boson.ai 官網
李沐的公開資料還尚未顯示其最新動向，但他已在Github上親自創建了新公司的項目：
李沐的大學本科在上海交通大學ACM班度過。ACM班由總教頭俞勇領銜，旨在培養計算機科學家，匯聚了一群最聰明的年輕人。李沐2004年入學，在呂寶糧教授的實驗室學習，開始接觸人工智能。從大一開始，李沐就被周圍同學尊稱為“沐哥”，據他的室友李佐凡回憶，李沐有一股難以壓制的領袖氣場從內而外地散發出來，讓人不禁仰視。2007年夏，李沐去微軟亞洲研究院實習，在互聯網搜索與挖掘組（WSM）和搜索技術中心（STC）受 Steve Macbeth指導（現在亞馬遜任CE技術總監）。這是李沐與工業界的初次接觸。畢業后，李沐并沒有直接去業界找工作，當時計算機雖是社會上的熱門專業，但IT公司還沒有那么厲害，尤其是AI方面的技術還沒那么強。所以在2009年8月，李沐作為訪問學生到香港科技大學繼續深造，之后在那里繼續擔任研究助理。2011年，李沐嘗試申請了一次美國的博士項目，但當時拿到的offer里并沒有特別合適的導師。所以李沐選擇留在了國內，北上投奔師兄戴文淵，在百度做廣告方面的工作。在百度的一年，李沐的主要工作是利用廣告數據訓練能夠預測用戶點擊廣告率的模型。李沐從中積累了不少工業界經驗，也為他后來開發機器學習系統的長久事業開了一個頭。李沐后來在回顧百度的這段經歷時也說到，在百度“遇到的很多問題成為了之后研究方向的來源，當時深度學習剛出來，冥冥中覺得應該是大規模機器學習的未來”。一年后，李沐決定再次踏上求學之路。在百度的經歷讓他清楚了自己的研究短板，而當時國內的機器學習系統并不發達，選擇他選擇了CMU和MIT兩所美國學校，把之前的博士申請材料重新寄了一遍，結果很順利地拿到了CMU的offer。某次，李沐在百度的食堂與余凱、張潼一同就餐，談到去CMU讀博，余凱和張潼就建議他去Alex Smola教授門下，并寫了一封推薦信過去。李沐去CMU讀博的前半年，Alex還在谷歌工作，由于經費不足，就找來另一位做分布式系統的教授Dave Andersen一同指導李沐。在博士第一年結束的暑假，李沐去谷歌實習，主要在研究內部代碼和文檔，了解了谷歌的基礎架構，開了眼界。當時Google Brain成立不久，李沐在那里見識了Jeff Dean、Geoffrey Hinton等大牛。博士第二年，李沐實現了一個通用的分布式機器學習框架，即Parameter Server（論文：Parameter Server for Distributed Machine Learning）。該框架一開始的目的是為了做實驗更方便，李沐花了大量時間去設計接口，做了多個版本實現，還做了一些工業界級別的大規模實驗。最后，這項工作發表在了機器學習系統領域的頂會OSDI上。Parameter Server后來還合并到了MXNet項目中。李沐對深度學習的接觸并非起于在CMU的博士研究，而是在國內的百度見證了深度學習的火熱。時任百度深度學習研究院（IDL）副院長的余凱是他的引路人。當時，余凱正在百度推動深度學習，啟動了“少帥計劃”以吸引優秀的年輕AI人才。李沐入選該計劃，并“入坑”深度學習。也是在余凱的建議下，李沐開始醞釀做一個深度學習開源平臺。回到CMU，李沐先是繼續做Parameter Server項目，寫了許多代碼，并幫助用戶使用這些代碼。但遇到不少困難，比如由于忽視代碼的易讀性，導致只有少部分人能理解代碼從而做一些開發，再者，沒有人能一起審核代碼接口，導致這些接口個人風格強烈，但很難做到對所有人都簡單明了。幸運的是，李沐發現了當時在華盛頓大學讀博的陳天奇，當時陳天奇在做XGBoost項目。兩人交流以后，發現很多基礎部件是可以多個項目共同使用的，而不是每個項目都造一個輪子。于是，李沐與陳天奇在Github上創建了DMLC（Distributed Machine Learning Community）組織。MXNet項目也在這個組織中很快啟動。李沐將三個不同的開源項目合并到了一起，分別是由在美國的陳天奇的CXXNet，張錚及其學生王敏捷牽頭的Minerva，以及顏水成學生林敏牽頭的purine2，最終創建了MXNet框架，并于2015年年底開源。Alex Smola是國際機器學習的知名科學家，此前在亞馬遜期間致力于構建人工智能和機器學習工具。在分布式深度學習框架領域，他曾提出并行LDA（Latent Dirichlet Allocation）的框架，是參數服務器概念的最早來源。
Alex Smola于1996年在慕尼黑工業大學獲得碩士學位，曾在慕尼黑科技大學、帕維亞大學和霍姆德爾的AT&T 研究院學習物理學。1998年，他獲得柏林工業大學的計算機科學博士學位，先后去往柏林GMD 軟件工程和計算機體系結構研究所和澳大利亞國立大學信息科學與工程研究院工作。2004年，他在NICTA的統計機器學習項目中擔任高級首席研究員和項目負責人，2008年起入職雅虎研究院。2012年春至2014年底，Alex Smola在谷歌研究院工作，中間從2013年起，他開始擔任CMU的教授，指導李沐，后來于2016年加入AWS。2016年李沐準備從CMU博士畢業，那段時期深度學習的落地十分火熱，科學家紛紛從學術界去往工業界，各種巨資收購初創公司不斷。當時李沐在國內的許多好友都紛紛創業，如余凱離開百度創立地平線，戴文淵從華為離開、創立第四范式。李沐也躍躍欲試，與兩位導師Alex和Dave以及Ash Munshi一起，創立了公司Marianas Labs，李沐出任CTO。中途，Dave離開公司，去了谷歌與Jeff Dean一起做Tensorflow。之后，公司的項目果然被一個小上市公司看中，就將公司賣了出去。但后來他們認為這家公司不靠譜，就考慮不再合作，另做打算。當時的Alex在陽谷縣（SunnyVale）買了房，有還貸的經濟壓力，于是選擇去了亞馬遜，擔任AWS副總裁級別科學家（Distinguished Scientist），從CMU重返工業界。所以，這次短暫的、并不算很成功的創業之旅就此終止，李沐也總結了一些教訓和經驗：團隊和技術強是一方面，更重要的是要把產品做好。在這時，李沐收到了Jeff Dean從谷歌拋來的橄欖枝。機會很誘人，但李沐考慮到MXNet的后續發展，覺得去亞馬遜是更好的選擇，“自己挖的坑，總是要自己填的”。李沐便追隨導師Alex，以兼職的身份去了亞馬遜，直接向Alex匯報，帶著一些人做MXNet的開發和AWS上深度學習的應用。隨后，李沐完成博士學位后，于2016年7月正式加入亞馬遜AWS。亞馬遜的人工智能部門彼時剛剛成立，對深度學習框架正有著強烈的需求。李沐的新目標不再僅僅是深度學習框架的研發，還包括讓框架更好地服務用戶。在他看來，分布式系統最難的不是如何讓每個機器計算的多快，而是機器之間的通訊，如何減少通訊提升交互效率，對系統來說也至關重要。2016年11月，MXNet被亞馬遜選為官方開源平臺，這對于MXNet和李沐而言是一次重大勝利。起初李沐因為想要填MXNet的“坑”而追隨導師加入亞馬遜，六年多來也主要圍繞MXnet展開工作，如今看來他已找到了待發掘的“新坑”。而對于Alex Smola而言，上一次的短暫創業因為背負房貸壓力而終止，這次他與弟子再次創業，想必房貸的經濟壓力早已解決，也有足夠的資本來投身燒錢的大模型領域。當下大模型的火熱對人才的吸引力巨大，AI 科學家離開大廠、創業入局ChatGPT已成趨勢，期待李沐與Alex Smola師徒在這一賽道上的新動作。參考鏈接：
https://mp.weixin.qq.com/s/EEUDKjcEgvD1lGWCXHI36w
https://alex.smola.org/
https://zhuanlan.zhihu.com/p/25099638
https://mp.weixin.qq.com/s/GIkUsPZDsCs3PpZVYXnB_w更多內容，點擊下方關注：
(公眾號：雷峰網)旗下AI新媒體。聚焦AI前沿研究，關注AI工程落地。" data-from="2" data-index="0" data-origin_num="2142" data-isban="0" data-weui-theme="light" data-is_biz_ban="0" data-biz_account_status="0">
未經「AI科技評論」授權，嚴禁以任何方式在網頁、論壇、社區進行轉載！
公眾號轉載請先在「AI科技評論」后臺留言取得授權，轉載時需標注來源并插入本公眾號名片。
雷峰網
