<mark id="oztn4"></mark>
0
“兩個多月，四次迭代，核心場景推理性能提高50倍。”
這是百度在過去70天間為文心一言交出的成績單。僅僅在兩周前的技術交流會上，文心一言性能提升還不過十倍。
也是在那次交流會上，百度首次現場演示了大模型微調過程，文心一言背后的絕對功臣“文心千帆”才開始悄然走進公眾視野。
此前，公眾對于百度更為熟知的一直是“文心一言”這一對話式AI產品，鮮少有人看到為其提供支撐的文心千帆大模型平臺。
而現在，它終于適時地開始浮出水面，這對于熱衷擁抱大模型的企業而言，無疑是一個好消息。
1、文心一言幕后的支撐者
文心一言的迭代速度令人驚嘆，在5月23日的技術交流會上，百度智能云副總裁朱勇表示，自內測以來，通過算法和模型的持續優化，文心一言的推理性能已經大幅提升50倍。
僅僅在兩個多星期以前，文心一言的推理性能還停留在提升10倍的水平。在剛剛過去的二十天，基于文心千帆大模型平臺百度通過四層架構（芯片-框架-模型-應用）的端到端優化，文心一言將高頻場景下的推理性能進一步提升了5倍。此前，文心一言的推理成本已經降到最初的十分之一，性能的提升也意味著相關成本進一步的下降。
不少人可能還在好奇，文心千帆和文心一言有什么區別，是什么關系。如果用最通俗的話，文心一言更像一個To C產品，為用戶提供大模型對話的能力，而文心千帆則是開發、訓練到應用大模型的平臺。
更具體的講，文心千帆提供的服務能夠覆蓋人工智能研發的全生命周期，包括：數據管理、模型訓練、模型評估、預測部署和插件服務等，能夠端到端地幫助客戶開發和部署大模型應用。
在5月9日的技術交流會上，百度智能云就曾對外展示“文心千帆大模型平臺”，表示其是全球首個一站式的企業級大模型平臺。
5月23日的交流會中，百度智能云AI與大數據平臺總經理忻舟對這一定義做了進一步闡述。前述概念中有兩組關鍵字：其一是“一站式”，這意味著，文心千帆將提供從模型開發、應用、推理，到數據回流、開發的全閉環過程，涵蓋大模型整個開發生命周期；其二是“企業級”，也就是文心千帆將提供眾多企業相關服務，比如智能管控、數據安全、賬號管理等等。
過去一段時間，文心一言的迭代速度已經側面證明了文心千帆在訓練大模型方面的能力。我們看到百度成為國內第一個發布大語言模型的企業，也欣喜看到過去幾十天間文心一言火箭般的升級速度。
基于這樣的變化，我們可以預見，未來的一段時間，在文心千帆的加持下，文心一言的升級速度或許會更加超出我們的想象。
與此同時，文心一言快速的迭代充分證明了文心千帆平臺的能力，讓更多想用大模型能力的企業堅定擁抱。
從企業側來看，文心千帆近期舉辦的四場技術交流會，場場爆滿，參會的幾乎都是企業客戶。據悉，截至目前，已經有15萬家企業申請文心千帆的內測。300余生態伙伴與百度簽約，展開在400多種場景內的探索。
值得注意的是，文心千帆不僅支持文心一言的大模型服務，也支持第三方的大模型。換句話說，客戶使用第三方大模型也可以在文心千帆上進行部署和訓練。
從企業需求側來看，當今企業擁抱大模型，最關注的三個焦點是模型效果、成本和安全。即大模型與能給自身企業帶來多大的業務提升，以及自己是否用得起，以及數據是否能保證安全。
先來看效果，文心一言的訓練成果已然從側面反映出，文心千帆作為大模型平臺的能力。此前，5月9日的現場演示顯示，僅十分鐘左右的微調以后，模型效果就得到了明顯提升。據了解，這樣的微調過程每次大約僅需標注100條數據，且模型能夠在類似的問題中產生一定的泛化能力。據百度智能云介紹，文心千帆開發效果的提升主要依托于AI大底座的能力，AI大底座的千卡并行線性加速比可以達到90%以上，訓練資源利用率超過70%，模型開發迭代效率提升100%。而來自客戶的反饋也在證明這一點，AI大底座提供的端到端優化能力大大提高了模型迭代速度，這打動了成立35年的金山辦公，雙方很快一拍即合，并且已經開始逐漸在具體產品上落實。
就成本側而言，百度杰出系統架構師王雁鵬表示，企業主要關注點集中于開發成本，即算力。但實際上，它占總成本的比例可能并不高，且這一成本可以通過很多方法降低，比如四層架構端到端的優化。算法、框架、系統和芯片，是一體化的。百度智能云副總裁朱勇表示，除了算力等整個底層資源的消耗，整個智能應用的開發，需要大量人力成本，大模型的出現使得這些工作門檻足夠低，這些工作交給文心千帆都將是個不錯的選擇。
在安全層面，忻舟坦言，公有云需要非常高的安全機制，有完善的指令監控、日志監控、審核以及資源隔離機制，可以保證數據安全。從而在一定程度上保證用戶私域的數據安全。此外，客戶還可以選擇私有化部署的方式。同時，為了保護用戶的數據隱私，百度不會拿用戶數據做模型訓練和迭代優化。并且在符合政策要求情況下，這些數會被刪除。
會后的交流中，忻舟進一步解釋道：“我們要把這個功能每一個角度都做的足夠好，不用做的太復雜，其實更多的是靈活性更強一些，讓我們的客戶和用戶基于足夠的靈活性，能夠根據自己的業務需求開發自己所需要的場景的應用，這是從產品角度來講需要精心設計的。”
2、從大模型到千行萬業
大模型的落地場景遠不止文心一言。在更具體的行業層面，大模型的應用場景擁有更大的想象空間。
剛剛過去的一季度，百度智能云首次實現盈利。百度智能云副總裁朱勇告訴雷峰網(公眾號：雷峰網)，百度云能夠盈利，一方面在于不斷提升的產品標準化程度，是產品驅動；另一方面，基于芯片、框架、模型、應用的四層架構以及端到端優化，都使得其成本不斷降低。
當然，朱勇也表示，“大模型出現之后，我們也看到業界、客戶、合作伙伴的熱情，當前都在積極聯合測試開發，這對于我們接下來很多的項目，或者說很多產品落地、產品的發布節奏是非常有幫助的，未來可能會產生更多的收入來源。”
百度智能云六大智能產品正基于文心一言升級，經安全評估完成后將會上線。包括金融、政務、客服、寫作等行業和領域。
以智能創作為例，平臺將全方位賦能內容生產者高效創作，高品質內容一步到位。從選題策劃、文本創作到圖片、視頻制作，涵蓋各個層面。
在選題上，智能創作平臺將提供新聞線索、熱點發現、事件脈絡梳理等一系列功能；基于大模型的輔助創作將升級為AI自動創作，單篇創作時間從小時級縮減到分鐘級，實現文章全流程自動化寫作且支持交互式內容修訂；提供16類場景化圖片，且提供圖片編輯、圖生圖等功能；實現圖文到視頻一站式生成和處理。
據百度智能云AI應用產品部總經理劉倩介紹，智能客服的應答輔助、會話小結、智能工單、客服知識庫等功能在基于大模型完成升級后，知識生產效率提升9倍，多輪對話構建成本下降65%，可讓終端用戶獲得到更聰明更擬人的的體驗。
再如，在政務行業，百度基于大模型打造了一網辦｜政務服務助手、一問通|社區咨詢服務助手、一問通|社區咨詢服務助手、一網管|城運洞察助手、一屏觀|智能分析助手等一系列產品，助力政府機構實現數字智能和政務體驗的雙增長。
可以看到，大模型已經不再是遙不可及的前沿技術，基于它的應用場景正逐漸深入到企業的生產鏈路中以及人們的日常生活。
除一系列智能應用外，預計未來將會有越來越多的產品基于大模型升級，最先從中獲益的是百度網盤等七大企業級產品。據悉，基于大模型的百度網盤企業版，將為企業提供數字智能管理平臺。升級后的百度網盤能夠通過對話式交互，幫助企業版用戶對文件內容進行總結、翻譯、問答等加工處理。據百度智能云副總裁朱勇透露，百度將在所有業務中都集成文心一言的能力，內部做了非常詳細的規劃。
3、企業何去何從
此前，在《從智能云首次盈利，看百度如何在大模型時代奔流》一文中，雷峰網就曾提及，隨著大模型到來，百度智能云的客戶超出預期，不少過去不太愿意用的機構開始主動與百度溝通。換句話說，越來越多的企業正選擇擁抱大模型。
在5月9日的發布會上，百度工程師首次現場通過“文心千帆”演示了大模型微調的過程。當時，忻舟還表示，“快且收斂，是大模型應用訓練中一個非常重要的指標。只快不收斂，大模型的訓練是沒有用的。文心千帆在多機多卡訓練性能方面，可以更快達到收斂的狀態，在全球權威AI基準評測MLPerf榜單中排名世界第一。”在忻舟看來，企業想用好大模型，只有大模型仍不夠，還需要有成熟完備的大模型生產平臺。
事實上，也確實如此，客戶的積極溝通和擁抱說明了一切。除卻上文提到的金山辦公外，金蝶、軟通動力等不少企業都已經或正在與文心千帆溝通簽約事宜。
5月18日，在百度智能云合作伙伴大會上，金蝶與文心千帆現場簽約，正式成為文心千帆的合作伙伴。金蝶中國助理總裁韓革纓在演講中表示，目前金蝶已經接入了百度文心一言大模型，不斷在各種探索驗證并產生了不錯的成果。未來，金蝶還會結合百度文心一言等大模型，利用金蝶的行業知識、專有數據，在特定任務上進行行業模型的打造，不斷去升級金蝶原有的NLP、OCR等應用，探索更多的業務場景。
朱勇坦言，文心千帆大模型平臺，將為企業提供開發應用大模型的最好的環境，是客戶擁抱AI的最佳路徑。我們希望文心千帆大模型平臺，能夠讓我們的客戶和合作伙伴用最簡單的方式，用上大模型，用好大模型。
如前所述，文心千帆不僅提供包括文心一言在內的大模型服務，也為客戶提供了完整的工具鏈和開發訓練環境，能充分滿足客戶需求。
未來，文心千帆主要將提供兩種服務：
第一，以文心一言為核心，提供大模型服務，幫助客戶改造產品和生產流程。朱勇表示，這有點“淘金”的意味，真正的挖掘金子，通過提供模型服務的方式賦能客戶。
第二，作為大模型生產平臺，企業可以在文心千帆上基于任何開源或閉源的大模型，開發自己的專屬大模型。朱勇對此解釋道，“從百度來說，作為業界頭部的AI公司，百度還是希望能夠更加全面，給客戶提供各種各樣的服務，只要跟大模型相關的，都是我們的‘菜’。”
此外，針對不同客戶需求，文心千帆也將會針對性提供多樣性的服務模式：公有云層面，文心千帆提供推理、微調、托管等服務；私有化部署方面，文心千帆則通過軟件授權、軟硬一體、租賃服務的方式交付給客戶。
盡管文心千帆為客戶提供了大模型從開發、訓練、微調、數據回流等全閉環過程，涵蓋整個生命周期，但并不是所有的企業都適于從頭開發訓練基礎模型。
朱勇坦言，其實訓練一個基礎模型成本是非常高的，如果真的要做一個千億級的大模型，需要單機群萬卡以上的算力，不僅要有GPU卡，還要有能夠把GPU的集群資源利用起來，這個往往不是很多的公司能做的。
在他看來，未來，基礎模型（大的底層模型）可能就那么幾家，但是基于此，會有很多不同專業和行業類型的大模型，這些不同領域的模型將來支撐上層非常繁榮的領域應用。
據忻舟介紹，從行業來看，目前大模型普及較多的領域以信息化和技術普及率較高行業為主，比如，金融、能源以及泛互聯網行業等。
后記：生成式AI未來可期
近兩月來，大模型遍地開花。企業關注的焦點，已經從大模型的產品功能，轉向如何以更快的速度用好大模型，完成產業鏈的創新再造，實現彎道超車。
百度智能云方面透露，目前已有15萬企業申請文心一言內測，其中有超300家生態伙伴在400多個具體場景取得測試成效，包括辦公提效、知識管理、智能客服、智能營銷等代表性場景。
作為國內最早發布大模型產品的企業，百度在大模型領域的探索一直在路上：從文心一言的發布，到一系列應用場景的展示，再到如今文心千帆步入內測階段，為企業提供開發AI應用的各種工具鏈及整套環境，試圖覆蓋人工智能研發的全生命周期。
正如文心千帆負責人忻舟的話：“生成式AI是百年難見的技術變革，我們雖然在起步中，技術還在發展中，但我相信它的未來一定會為我們帶來很多自己應用的創新和效率的提升。我們擁有最多的人、企業、場景，百度努力在生成式AI大模型路上。”
雷峰網原創文章，未經授權禁止轉載。詳情見轉載須知。
