阿里李飛飛：在云計算時代，云原生數(shù)據(jù)庫變得越來越重要

編譯｜Ailleurs

作者｜陳彩嫻

李飛飛，阿里巴巴集團副總裁、阿里云數(shù)據(jù)庫產(chǎn)品事業(yè)部負責人，也是達摩院的數(shù)據(jù)庫首席科學家，任達摩院數(shù)據(jù)庫和存儲研究實驗室的主任。他在加入阿里巴巴之前是猶他大學計算學院的教授。他的研究興趣包括數(shù)據(jù)庫系統(tǒng)、大規(guī)模數(shù)據(jù)管理、數(shù)據(jù)安全、數(shù)據(jù)分析以及用于系統(tǒng)性能和監(jiān)控的機器學習方法。同時，他還是ACM Transactions on Database Systems（ACM TODS）期刊的副主編，曾多次擔任ACM SIGMOD和ACM SIGKDD的高級區(qū)域主席，并擔任過各種領導角色（如總聯(lián)合主席）和多個ACM SIGMOD會議的項目委員會成員。

近日，ACM對李飛飛進行了一次訪談，內(nèi)容主要涉及李飛飛團隊在阿里巴巴云基礎建設方面的目標規(guī)劃、云原生數(shù)據(jù)庫系統(tǒng)的運用、對漫游連接算法的介紹，以及機器學習技術在電子商務中的巨大影響。最后，李飛飛還談到了他關于學界與業(yè)界工作差異的感悟。

本文將采訪編譯如下：

ACM：作為阿里巴巴數(shù)據(jù)庫首席科學家，您關于公司云基礎設施建設的總體目標是什么？

李飛飛：我們團隊的主要目標是為阿里巴巴自身的業(yè)務運營和阿里云上企業(yè)客戶構建尖端的、世界級的云原生數(shù)據(jù)庫系統(tǒng)，例如我們的云原生關系型數(shù)據(jù)庫PolarDB和云原生數(shù)據(jù)倉庫AnalyticDB（ADB）。

在云計算時代，由于對彈性、高可用性、可擴展性的需求以及來自不同業(yè)務領域的應用程序對按需使用的需求增長，云原生數(shù)據(jù)庫變得越來越重要。云應用程序的這些需求為云原生數(shù)據(jù)庫提供了新的機會，而傳統(tǒng)的企業(yè)內(nèi)部數(shù)據(jù)庫系統(tǒng)無法完全滿足這些需求。通過探索共享存儲和完全共享的架構（shared-everything architecture），云原生數(shù)據(jù)庫利用底層云基礎設施提供的資源池，將計算與存儲分離，從而獲得了出色的彈性和高可用性。對于要求水平擴展的高并發(fā)工作負載，云原生數(shù)據(jù)庫可以進一步利用一個無共享層（shared-nothing layer）來提供分布式查詢和事務處理能力。我們的最終目標，為我們的業(yè)務運營和云客戶提供經(jīng)濟高效、易于使用且高度可靠的數(shù)據(jù)庫服務。

ACM：在阿里巴巴雙11全球購物節(jié)期間，該網(wǎng)站的流量在幾秒鐘內(nèi)可激增150倍。您的團隊開發(fā)了哪些工具來處理這類網(wǎng)站流量波動？您如何看待這些技術在將來的發(fā)展趨勢？

李飛飛：如上所述，在應對這樣的應用場景時，成功的關鍵是通過底層數(shù)據(jù)庫系統(tǒng)產(chǎn)生極高的彈性和高可用性。一眨眼間，流量就會突然激增，可操作的數(shù)據(jù)庫系統(tǒng)必須以經(jīng)濟高效的方式來抵御這種海嘯般的「襲擊」。對于一個典型的、傳統(tǒng)的本地數(shù)據(jù)庫系統(tǒng)來說，必須要提前提供大量的硬件資源，以滿足峰值時的工作負載。而一旦高峰流量在短時間內(nèi)減少，就可能會導致成本高昂和資源浪費。

相比之下，云原生數(shù)據(jù)庫系統(tǒng)能夠通過探索共享存儲和完全共享的架構，以按需的方式來進行自適應地、彈性地分配和釋放資源。計算和存儲的解耦，以及各種資源（計算機和存儲資源）的共享，使得云原生數(shù)據(jù)庫系統(tǒng)具有自適應性。我們還利用分布式查詢和事務處理，通過水平分區(qū)來提供進一步的可伸縮性，從而滿足高并發(fā)性的需求。

此外，Raft或Paxos等分布式共識協(xié)議得到了擴展和增強，使得可用區(qū)（available zone，AZ）內(nèi)部和可用區(qū)之間都具有高可用性，從而可以在不擔心數(shù)據(jù)丟失和業(yè)務停機或中斷的情況下處理任何故障。同時，利用軟硬件協(xié)同設計來探索RDMA、NVMe等新硬件和DPDK等內(nèi)核旁路協(xié)議所具有的加速和優(yōu)化作用。

HTAP（Hybrid Transaction and Analytical Processing，混合事務和分析處理）是當今云原生數(shù)據(jù)庫系統(tǒng)追求的另外一個趨勢，它的目標是在雙11購物節(jié)時，為集群用戶的數(shù)據(jù)處理和分析需求提供一站式解決方案。

最后，很重要的一點是，自驅動數(shù)據(jù)庫（又稱“自治數(shù)據(jù)庫”）技術通過將機器學習技術與云原生編排組件（如kubernetes）和各種數(shù)據(jù)庫模塊（如慢SQL診斷、索引推薦）相結合，簡化了云設施上云原生數(shù)據(jù)庫的部署、維護和操作。例如，我們在阿里云建立了DAS（database autonomy service，數(shù)據(jù)庫自治服務），為雙11運營和云客戶提供服務，以確保我們的系統(tǒng)盡可能具有自我修復、自我調(diào)整和自適應能力。

ACM：您最著名的研究工作之一“Wander Join: Online Aggregation via Random Walks”在2016年第35屆ACM SIGMOD會議上獲得了最佳論文獎。在這項工作中，您和您的合作者提出了一種新的方法來處理復雜連接的在線查詢。這篇論文的主要觀點是什么？目前在查詢處理領域有哪些創(chuàng)新性探索？

李飛飛：查詢處理和優(yōu)化是數(shù)據(jù)庫系統(tǒng)最關鍵的組成部分之一。在這方面，JOIN（一種用來從多表數(shù)據(jù)中查詢和訪問數(shù)據(jù)的SQL子句）是最常見但也最昂貴的數(shù)據(jù)庫操作。采樣提供的估測比計算精確結果要快得多，這對于查詢處理和優(yōu)化任務來說非常重要。但是用JOIN來進行采樣是很困難的，這是近20年以來數(shù)據(jù)庫領域一直面臨的挑戰(zhàn)。在這項工作中，我們引入了新的數(shù)據(jù)采樣技術，以實現(xiàn)近似和交互式查詢處理（比如，提供在線的近似結果，并對結果的質(zhì)量進行持續(xù)地改進）。在線估計器的質(zhì)量會隨著時間的推移而提高，最終它會得到準確的結果。這對于大數(shù)據(jù)分析和查詢處理而言非常具有吸引力，因為用戶可以根據(jù)自己的意愿來發(fā)出查詢需求，并立即看到查詢結果，而且輸出的結果質(zhì)量會逐漸提高，直到找到準確的結果為止（如果需要的話）；否則用戶必須等待，不知道什么時候才能獲得最終的準確結果。它們還可用于查詢優(yōu)化（例如，估計復雜查詢項目的中間查詢結果的基數(shù)）。

本文提出的漫游連接算法通過在連接圖上隨機游走，巧妙地實現(xiàn)了采樣。連接圖不是具體化的，而只是通過仔細的加權采樣過程和估計中的偏差調(diào)整來進行概念上的探索。這使得漫游連接算法在數(shù)量級上優(yōu)于現(xiàn)有的方法，這大大推動了最先進技術的發(fā)展。正如我們在2017年ACM SIGMOD會議上被評為“研究亮點”的一篇論文中所說的，「在數(shù)據(jù)庫管理系統(tǒng)的研究歷史中，有大量的研究都曾利用采樣以一種比精確計算更快的速度來估計查詢結果。本文提出了一種高效的替代方案，實現(xiàn)了比以前最先進的技術還要更好的計算和統(tǒng)計特性；通過Postgres中的一種開源實現(xiàn)來進行的實驗令人信服地證明了這一點」。

漫游連接產(chǎn)生的是獨立但不均勻的樣本；但有時候，更復雜的分析操作（機器學習方法，比如支持向量機）需要的是獨立且均勻的隨機樣本。我們在SIGMOD'18中的后續(xù)工作展示了如何獲得復雜連接的真正隨機樣本。這項研究還帶來了一些領域的創(chuàng)新，比如基于學習的查詢處理和優(yōu)化方法。這些想法在“DeepDB: Learn from Data, not from Queries!” 以及“BlinkML: Efficient Maximum Likelihood Estimation with Probabilistic Guarantees”等論文中都有所概述。我們這項工作還啟發(fā)了真實系統(tǒng)中的實際運用和設計問題。

ACM：機器學習方法是如何改變阿里巴巴等大型電子商務公司的？最重要的改變方式是什么？

李飛飛：機器學習在現(xiàn)代的進步已經(jīng)對包括阿里巴巴在內(nèi)的更多的組織和社會產(chǎn)生了根本性和持久的影響。舉個簡單的例子，阿里巴巴電子商務網(wǎng)站和應用程序中的推薦框架，要依賴經(jīng)過精心設計和微調(diào)的深度學習模型，從而為瀏覽網(wǎng)站和應用程序的客戶提供更有效的商品匹配。當然，機器學習的影響不僅僅體現(xiàn)在推薦方面。在阿里巴巴數(shù)據(jù)中心的運營中，我們探索并利用機器學習技術構建了AIops這種智能監(jiān)控和協(xié)調(diào)工具，以提高數(shù)據(jù)中心運營的效率和有效性。還有許多其他的場景和例子，也都可以表明機器學習和人工智能方法的變革性影響，它們越來越成為許多系統(tǒng)中的關鍵構建組件，包括上面提到的云原生數(shù)據(jù)庫系統(tǒng)（例如使云原生數(shù)據(jù)庫系統(tǒng)能夠進行自我調(diào)整）。

ACM：在加入阿里巴巴之前，您在美國猶他大學擔任教授。與學術界相比，在工業(yè)界工作的最顯著差異是什么？

李飛飛：在猶他大學計算機學院任職期間，我在計算機科學領域的研究和工程生涯的增長和豐富是巨大且難以形容的。那里擁有世界上最好的計算機教育和研究項目之一。我永遠感謝我所在的學院和學校。不過，在阿里巴巴這樣一家偉大的公司工作，無疑也為我理解計算機科學提供了一個不同的、豐富的視角，這既是一門技術型學科，也是一個日益重要的商業(yè)領域。為一家公司工作意味著你得總是把業(yè)務和客戶需求排在第一位，必須專注于由業(yè)務驅動的實際客戶需求。這并不一定意味著你可以沒有長期的規(guī)劃目標，但這些目標必須非常集中，而且要對具有精心設計、明確闡述的戰(zhàn)略計劃和商業(yè)價值的實際應用具有價值。

這與在學術界工作截然不同，在學術界，首要任務并不是創(chuàng)造商業(yè)價值，而是創(chuàng)造智力價值。最終目標往往是探索一個未解決的問題或挑戰(zhàn)，即使這樣的努力最終只是一種智力練習。但正是通過追求這種好奇心，才得以實現(xiàn)創(chuàng)新性突破，工程上的努力最終能夠使新技術的采用在實踐中普及和擴展。

歸根結底，無論是在學術界還是在工業(yè)界，這一切都是在為我們整個社會和文明的良好運行創(chuàng)造價值，為之做出貢獻。從我目前的角度來看，我相信我在學術界和工業(yè)界的職業(yè)生涯已經(jīng)得到了相互補充和豐富了！

原文鏈接：https://www.acm.org/articles/people-of-acm/2022/feifei-li

雷峰網(wǎng)(公眾號：雷峰網(wǎng))