<mark id="oztn4"></mark>
0
11月1日vivo開發者大會上，vivo發布自研AI"藍心"大模型，并發布大模型矩陣，包括1750億、1300億、700億、70億、10億五款不同參數規模的大模型，并宣布130億藍心大模型實現端側跑通，開源7B大模型。
其中1750億參數已達到GPT-3參數水平，同時vivo也是國內首家開源7B大模型的手機廠商。
可以說vivo 這次開發者大會，給手機行業丟了一枚重磅炸彈。
早在2017年，vivo就成立了人工智能全球研究院。
而且vivo一直關注通用人工智能的進展，對于ChatGPT引發的大模型熱潮，vivo高級副總裁施玉堅的判斷是：真正好的自研大模型應該是大而全、算法強、真安全、自進化、廣開源五個特征兼具。
在此vivo開發者大會，vivo發布的藍心的大模型第一大亮點便是便是參數高達1750億，一舉達到了GPT-3的參數規模。
早在8月份小米的大模型MiLM-6B就已經公布在了GitHub上，從GitHub上的信息可以得知，MiLM-6B的參數規模達64億。華為此前盤古3.0為客戶提供100億參數、380億參數、710參數和1000億參數的系列化基礎大模型。
相比起來，vivo發布的藍心大模型1750億的參數規模，在一眾手機廠商中一騎絕塵。
根據發布會資料現在，除了超大規模的1750億參數和1300億參數模型外， 700億參數模型的vivo云端主力模型， 70億藍心大模型7B則是是面向手機打造的端云兩用模型，在語言理解、文本創作等場景下表現非常優秀。綜合表現行業領先，在各大中文榜單持續名列前茅。而10億藍心大模型1B則是面向端側場景打造的專業文本大模型，具備本地化的文本總結、摘要等能力，處理過程準確又安全。
值得一提的是，vivo此次也開源了70億藍心大模型7B，成為了首個開源自研大模型的手機廠商。
大模型浪潮之下，開源和閉源成為商業模式上的交鋒之戰。
自Llama 2后，開源逐漸成為主流趨勢，行業內甚至有聲音表示未來開源大模型將殺死閉源。
vivo自研大模型的開源意味著，vivo正式加入了這場大模型開源之戰，赤裸裸的接受行業人士的檢驗和批判。而另一方面，施玉堅在開發者大會上也表示，vivo還推出了藍心大模型開發套件BlueKit，讓其他手機廠商和開發者可以基于這款模型進行二次開發和創新。
關于華米OV的競爭，從智能手機時代的各項功能的角逐，發展到如今大模型時代各家的布局。如何實現輕量化、本地化的端側部署是一個競爭關鍵。
某手機廠商內部員工告訴AI科技評論，大模型在端側跑起來這個事兒和跑的好用起來是完全兩個概念，只要內存夠大，別說13B、130B都能跑起來。
端側大模型本身就不容易，相比起在云端運行，走端側這條路徑意味著廠商需要在很小的算力空間，做出媲美超級大模型的效果。
大模型的特點是參數夠大，在運行時需要大量的內存來存儲模型參數和臨時數據，而手機芯片通常具有有限的內存資源。能跑起來可能只是意味著手機上裝有這個大模型，但是一旦使用，手機就會過熱、卡頓。離理想的使用體驗距離相差較遠。
將一個大模型部署在端側，行業采用的做法是GPU與NPU結合的方式。GPU自不用多說，負責端側的圖形渲染處理和并行計算。
NPU（Neural-network Processing Unit，神經網絡處理器）則是一類基于DSA (Domain Specific Architecture) 領域專用架構技術的專用于人工智能（特別是人工神經網絡、機器視覺、機器學習等）硬件加速的微處理器。
可以簡單理解成NPU是去掉圖形光柵這些的GPU。大模型參數太大，也就是說相比起在云端運行，大模型要想在端側運行就必須借用NPU這個助手。
這一點也可以從各家芯片廠商的動態看出端倪，在剛剛過去的高通驍龍發布會上，高通對驍龍8 Gen3的 Adreno GPU 和 Hexagon NPU 進行了大幅升級。
一位行業人士告訴AI科技評論，自從生成式A浪潮掀起之后，高通也在不停地考察，怎么樣改變現在大模型與英偉達 GPU 綁定的趨勢，高通自己做了一個NPU框架，但內部客戶用起來，并不是很好用，好多算法在NPU的框架上都沒有跑起來。
而作為全球移動芯片無冕之王的架構大廠Arm而言，對于NPU的部署也一直在進行，Arm很早之前就推出Arm智能視覺參考設計，集成了安謀科技開發的玲瓏VPU和周易NPU。
此次vivo開發者大會，vivo高級副總裁施玉堅表示，vivo藍心大模型在端側的運行可以直接跳過NPU，只需要在GPU上運行。這句話被一語帶過，到底是一句噱頭還是行業重大突破，我們暫時還不得而知。但是可以肯定的是，如果vivo真的能實現在端側部署大模型不需要用到NPU，那將會成為行業的重大突破。
不過從效果上來看，vivo10億參數藍心大模型1B確實驚艷。
在此次開發者大會上，vivo10億參數藍心大模型1B的運行效果可達到最快64字/秒（3840/分）的出詞速度。而資料顯示，根據輸入的關鍵詞或文章大綱，自動生成相應的文章段落或初稿，ChatGPT平均速度約為2000-3000字每分鐘。如果真如宣傳所說，那么vivo10大模型端側的運行效果能超過ChatGPT。
不過值得注意的是，雖然行業一直在談終端運行大模型，但是我們還是得區分瘦終端與標準終端的區別。
標準終端設備具備自己的硬盤、RAM、控制計算單元，通過安裝full-fledged OS可以跑計算和存儲程序，乃至于具備近場的AI算力，具有完整的運算能力。
而瘦終端則是指一個終端只具備最基礎的硬件設施和輕量級的light OS，其所有的功能都必須通過聯網/云端實現，終端本身通常只具備基礎的顯示或者初級的計算存儲功能。
簡而言之，就是市面很多廠商宣傳的終端運算其實模型存儲在云，計算也還是在云，終端只負責基礎的展示和實現。
這兩者概念的混淆也可能會成為大眾對于終端運行效果的誤解。（大模型在端側的部署和運行或許不止存在概念上的誤會，更有各種落地上的難點和困難，對于這個趨勢，歡迎添加本文作者：郭思 微信號lionceau2046，暢聊你的看法）
在此次vivo開發者大會上，vivo表示，藍心大模型在SuperCLUE-Sagety安全總榜上超過了訊飛星火與文心一言，以總分85.17的分數霸榜第一。榜單當然只是一個輔助標準，但是主打安全這一點確定是vivo與現在市面上其他手機大模型廠商的一個顯著競爭點。
在大模型布局上，小米注重“輕量化、本地部署”同時也發力了諸如機器人、智能家居等多種產品形態，而和vivo同出一脈的OPPP近期也有新動作，注重大模型在語音助手上帶來的巨大改變。
vivo的側重點則回到了手機廠商做大模型最本源的優勢，數據與安全。
手機作為每個人日常生活的必備終端，存儲著非常多個性化和隱私化的數據，如果全部在云端運行，隱私泄露等事情比比皆是。
另一方面，在ChatGPT浪潮掀起之前，可信AI本來就是行業關注的重點，如果避免大模型的幻覺、偏見、毒性等問題也是各方在進行技術研發時所關注的重點。
在安全方面，除了模型的可信性得到了保證，vivo此次還推出了藍河操作系統，主打智慧、流暢、安全。值得一提是是藍河操作系統是行業首個系統框架由Rust語言編寫的操作系統，用Rust語音編寫也是保障安全的一個重中之重。
目前常見的操作系統內核都是基于 C 語言，因為 C 語言簡單獨立十分好用，但也有它的缺點缺少有效的并發支持，導致內存和并發漏洞成為當前操作系統的噩夢，也就是不夠安全。
而 Rust 語言具有與 C 一樣的硬件控制能力，且大大強化了安全編程。從某種角度上看，新出現的 Rust 語言的核心目標是解決 C 的短板，取代 C。所以用 Rust 寫 OS 具有很好的開發和運行的體驗。
藍河OS有幾個亮點，比如說：和AI大模型深度捆綁，能夠自動生成桌面，沒有虛擬機，直接內核運行，還按PC的設計理念做OS。
可以說對于安全，vivo打出了一套組合拳，這也是為什么開發者大會上，vivo一直強調自研大模型必須真安全的原因。
環顧整個手機賽道， 目前競爭已經進入存量博弈階段，手機廠商需要在新技術上建立競爭優勢，也需要通過新的賣點角逐高端市場。
這次vivo開發者大會給人明顯感覺就是vivo在多條腿走路。
而從單一的手機布局到如今的多矩陣走路，這一點，與其說是vivo沖向AI時代的技術高歌，不如說，是vivo面向現今手機行業困境的一次反擊。
在這場反擊過程，vivo對于大模型的布局讓人眼前一亮，也讓人不得不期待后續vivo大模型故事的走向。（其它手機廠商在大模型領域又有哪些動態和故事，歡迎添加本文作者郭思，微信號：lionceau2046，互通有無。）
雷峰網(公眾號：雷峰網) 雷峰網 雷峰網
雷峰網原創文章，未經授權禁止轉載。詳情見轉載須知。
專題
