端側(cè)大模型有可能是最先引爆這一輪生成式AI的領(lǐng)域。

為什么這么說(shuō)，與云側(cè)大模型相比，端側(cè)大模型可以更好地學(xué)習(xí)用戶(hù)個(gè)人數(shù)據(jù)在本地實(shí)現(xiàn)智能化，而且數(shù)據(jù)不出端、不上云，隱私信息更安全。

IDC也預(yù)測(cè)，終端的AI化會(huì)成為AI發(fā)展與落地的重要支持方向。到2026年，中國(guó)市場(chǎng)中近50%的終端設(shè)備的處理器將帶有AI引擎技術(shù)。

8月4日，華為開(kāi)發(fā)者大會(huì)2023上，不僅HarmonyOS 4將受益于“盤(pán)古大模型”，華為還將大模型深度整合進(jìn)手機(jī)系統(tǒng)，實(shí)現(xiàn)更高層次的融合，智慧助手小藝接入AI大模型能力，可以進(jìn)行自然對(duì)話(huà)、會(huì)議紀(jì)要和輔助文案生成、圖片二次創(chuàng)作等。

8月14日，小米年度發(fā)布會(huì)上，小米宣布自研13億參數(shù)端側(cè)大模型，在部分場(chǎng)景上可以媲美行業(yè)60億參數(shù)的云端大模型，同時(shí)小米也將小愛(ài)同學(xué)升級(jí)大模型。

vivo預(yù)告了11月1日vivo開(kāi)發(fā)者大會(huì)將發(fā)布全新手機(jī)操作系統(tǒng)OriginOS 4，首發(fā)搭載vivo自研AI大模型vivoLM。自研AI大模型矩陣包括十億、百億、千億三個(gè)不同參數(shù)量級(jí)的5個(gè)自研大模型。

OPPO安第斯智能云團(tuán)隊(duì)打造了基于混合云架構(gòu)的生成式大語(yǔ)言模型OAndesGPT。10月11日，OPPO宣布基于A(yíng)ndesGPT大模型打造的新版AI助手——新小布1.0開(kāi)啟了第一輪公測(cè)。

2023高通驍龍峰會(huì)期間，榮耀宣布榮耀Magic6系列將搭載第三代驍龍8移動(dòng)平臺(tái)，支持70億參數(shù)的端側(cè)AI大模型。靈動(dòng)膠囊Magic Capsule可以基于眼神跟蹤的多模態(tài)交互技術(shù)。YOYO助手提供簡(jiǎn)短提示來(lái)創(chuàng)建主題視頻，甚至可以通過(guò)與YOYO助理對(duì)話(huà)更改背景音樂(lè)或模板。

幾個(gè)月來(lái)，vivo、OPPO、小米的大模型也在兩大中文大模型評(píng)測(cè)榜單C-Eval和CMMLU上“刷榜”了一波。

很多人會(huì)問(wèn)，端側(cè)芯片可以支持大模型的訓(xùn)練嗎？一方面高通、聯(lián)發(fā)科等芯片巨頭也在探索將AI大模型植入端側(cè)，一方面模型也在小型化，降低所需的資源和能耗，當(dāng)然我們也看到未來(lái)大模型還是會(huì)向著云側(cè)和端側(cè)相結(jié)合發(fā)展。

本期《數(shù)字化轉(zhuǎn)型方略》也將看看端側(cè)代表們，在把大模型裝進(jìn)端側(cè)上都做了哪些工作。我們也希望進(jìn)一步看到未來(lái)隨著端側(cè)大模型對(duì)用戶(hù)個(gè)人數(shù)據(jù)和習(xí)慣的學(xué)習(xí)成長(zhǎng)，帶來(lái)更深入的意圖理解和更加個(gè)性化的復(fù)雜場(chǎng)景服務(wù)。

《數(shù)字化轉(zhuǎn)型方略》2023年第10期：http://www.jimo8.cn/dxinsight/2310