自ChatGPT在2022年底發(fā)布，生成式AI的興起到現(xiàn)在已有將近2年，我們見(jiàn)識(shí)了其在ToC領(lǐng)域的高歌猛進(jìn)。也正是有了2年的沉淀，生成式AI也開(kāi)始逐漸轉(zhuǎn)向ToB，越來(lái)越多的企業(yè)希望將其嵌入到自己的工作流中，實(shí)現(xiàn)整體的降本增效。

東軟研究院常務(wù)副院長(zhǎng)兼東軟魔形科技研究院常務(wù)副院長(zhǎng)聞?dòng)⒂讯嗄陙?lái)一直從事AI技術(shù)及應(yīng)用的研發(fā)。在他看來(lái)，從最初千篇一律的延續(xù)互聯(lián)網(wǎng)思維實(shí)現(xiàn)大模型應(yīng)用落地的想法，到現(xiàn)在越來(lái)越多的關(guān)于大模型ToB場(chǎng)景應(yīng)用價(jià)值的討論，都反應(yīng)了一個(gè)重要的認(rèn)知，生成式AI必須與行業(yè)和企業(yè)的業(yè)務(wù)場(chǎng)景、實(shí)際需求緊密結(jié)合，才能有價(jià)值變現(xiàn)的可能。

“不能僅僅靠好玩、新奇的體驗(yàn)或者尋找所謂殺手級(jí)應(yīng)用來(lái)驅(qū)動(dòng)生成式AI的長(zhǎng)期可持續(xù)發(fā)展。”聞?dòng)⒂颜f(shuō)。

作為企業(yè)IT建設(shè)一路走來(lái)的同路人，ISV（獨(dú)立軟件開(kāi)發(fā)商）無(wú)疑是生成式AI真正大規(guī)模落地的最關(guān)鍵環(huán)節(jié)，作為鋪路人，ISV掌握著生成式AI ToB應(yīng)用的最后一公里。東軟作為在中國(guó)市場(chǎng)上深耕三十多年的ISV，期待著在這樣一個(gè)偉大的智能化時(shí)代，抓住難得的機(jī)遇，重新定義東軟的角色和價(jià)值。

ISV有了新的角色和價(jià)值

中國(guó)第一批ISV起源于20世紀(jì)80年代末，當(dāng)時(shí)PC逐漸進(jìn)入中國(guó)，很多外國(guó)軟件不能照搬，也就在那時(shí)中國(guó)ISV開(kāi)始迅速發(fā)展崛起。

現(xiàn)如今，ISV已經(jīng)成為行業(yè)解決方案和企業(yè)應(yīng)用的最終實(shí)現(xiàn)者，是信息化和數(shù)字化的鋪路人。在企業(yè)長(zhǎng)久的IT發(fā)展中ISV發(fā)揮了重要的作用，而且ISV也在時(shí)刻關(guān)注著各種技術(shù)的發(fā)展，不斷豐富著自己的產(chǎn)品能力。

AI技術(shù)就是其中之一，AI是一個(gè)發(fā)展歷程較長(zhǎng)的技術(shù)，最早可以追溯到上世紀(jì)50年代。在生成式AI到來(lái)之前，AI一直處于判別式時(shí)代，ISV在之前就已經(jīng)在解決方案和應(yīng)用中集成了大量的AI能力，業(yè)務(wù)賦能效果也非常明顯。

但聞?dòng)⒂颜J(rèn)為，這種AI賦能由于受判別式AI本身泛化能力和場(chǎng)景局限性的影響，很難改變ISV的角色和價(jià)值定位。

伴隨著以生成式AI為代表的新一代人工智能技術(shù)的快速發(fā)展，其在交互、事務(wù)、認(rèn)知以及決策等方面表現(xiàn)出來(lái)的強(qiáng)大的泛化能力和場(chǎng)景適應(yīng)能力，傳統(tǒng)意義的ISV角色和價(jià)值定位都發(fā)生了重大的改變。

多年來(lái)ISV積累了眾多領(lǐng)域的豐富經(jīng)驗(yàn)和業(yè)務(wù)知識(shí)，以及對(duì)企業(yè)數(shù)字化的認(rèn)知，這些是AI廠商所不具備并且無(wú)法短期時(shí)間內(nèi)補(bǔ)足的，因此在生成式AI的變革浪潮中，ISV的角色和價(jià)值都將發(fā)生巨大的變化。

ISV要做“AIGC的行業(yè)嵌入”

了解行業(yè)，了解業(yè)務(wù)，了解客戶，理解客戶的價(jià)值訴求，這些都是生成式AI在ToB場(chǎng)景落地必不可少的前提和條件。

“在新一輪生成式AI變革中，ISV應(yīng)該堅(jiān)持一種AIGC應(yīng)用思維，而不是所謂的大模型思維”。 聞?dòng)⒂呀忉尫Q，ISV應(yīng)該圍繞行業(yè)和企業(yè)的需求去思考該做什么，而不是圍繞大模型本身去思考能做什么？東軟把這種思維定義為“AIGC的行業(yè)嵌入”，這也充分體現(xiàn)了在通用人工智能時(shí)代，ISV的核心競(jìng)爭(zhēng)力。

踏實(shí)做應(yīng)用，不強(qiáng)調(diào)模型參數(shù)和實(shí)現(xiàn)更強(qiáng)的AGI能力也成為現(xiàn)在ISV們的統(tǒng)一表現(xiàn)。

聞?dòng)⒂颜J(rèn)為，由于出發(fā)點(diǎn)的不同，造成了ISV和非ISV核心競(jìng)爭(zhēng)力的差異，當(dāng)然這種差異是具有互補(bǔ)性的，只有好處，沒(méi)有壞處。

越來(lái)越多的企業(yè)也從喧囂紛亂的市場(chǎng)上，逐漸認(rèn)識(shí)到具體的生成式AI項(xiàng)目實(shí)施，ISV無(wú)疑具有天然優(yōu)勢(shì)。

“大模型預(yù)訓(xùn)練的技術(shù)門檻沒(méi)有那么高，國(guó)內(nèi)和國(guó)外有一定差距，但國(guó)內(nèi)目前備案的180多個(gè)大模型在能力上沒(méi)有本質(zhì)差別。”聞?dòng)⒂颜f(shuō)，沒(méi)有哪個(gè)具有獨(dú)門絕技讓自己的大模型能力卓爾不群，所以目前生成式AI項(xiàng)目實(shí)施的關(guān)鍵還是怎么用好大模型，而不是大模型本身，這也是對(duì)ISV有利的一點(diǎn)。

東軟作為中國(guó)最早上市的軟件企業(yè)，在智慧城市、醫(yī)療健康、智能汽車互聯(lián)、企業(yè)數(shù)字化轉(zhuǎn)型、國(guó)際軟件服務(wù)等多個(gè)領(lǐng)域有著三十多年的持續(xù)耕耘。在人工智能的發(fā)展過(guò)程中，東軟通過(guò)東軟研究院、東軟智能醫(yī)療科技研究院等組織，深入開(kāi)展AI核心技術(shù)和算法的研究，并廣泛應(yīng)用于各行業(yè)領(lǐng)域的產(chǎn)品和服務(wù)之中。

有準(zhǔn)備的迎接生成式AI的機(jī)遇與挑戰(zhàn)

當(dāng)前生成式AI技術(shù)的市場(chǎng)還并不成熟，企業(yè)雖然看到生成式AI解決方案的市場(chǎng)需求呈現(xiàn)出全領(lǐng)域、全業(yè)務(wù)增長(zhǎng)的態(tài)勢(shì)，但從實(shí)際需求到真正項(xiàng)目落地，市場(chǎng)還是表現(xiàn)出很明顯的謹(jǐn)慎態(tài)度。

ISV一方面面臨著角色和價(jià)值重新定義的重大機(jī)遇，一方面又掌握著ToB的AIGC應(yīng)用最后一公里。

2023年初，東軟成立了魔形科技研究院投入大量資源建設(shè)算力平臺(tái)和訓(xùn)練平臺(tái)，專門研究生成式AI與AIGC行業(yè)應(yīng)用涉及的核心技術(shù)，迎接生成式AI的機(jī)遇和挑戰(zhàn)。

東軟魔形科技研究院?jiǎn)��?dòng)和實(shí)施東軟“大語(yǔ)言模型系統(tǒng)工程（LLM Systems Engineering，LLM-SE）”戰(zhàn)略，面向醫(yī)療、人社、醫(yī)保、政務(wù)、金融、媒體、人力資源及智能汽車等所有業(yè)務(wù)領(lǐng)域，構(gòu)建東軟LLM-SE+領(lǐng)域應(yīng)用。

并且在今年，東軟集團(tuán)創(chuàng)始人、董事長(zhǎng)劉積仁明確提出并全面實(shí)施了智能化解決方案戰(zhàn)略，將AI、大數(shù)據(jù)等先進(jìn)技術(shù)融入更多行業(yè)應(yīng)用，推動(dòng)產(chǎn)業(yè)升級(jí)和數(shù)字化轉(zhuǎn)型。

雖然更多的客戶需求是“AIGC的行業(yè)嵌入”，但AIGC行業(yè)應(yīng)用的真正落地卻充滿挑戰(zhàn)。因?yàn)樾袠I(yè)企業(yè)客戶在認(rèn)知上有很多信息輸入渠道，認(rèn)識(shí)的偏差常常帶來(lái)錯(cuò)誤的判斷和預(yù)期，容易對(duì)生成式AI產(chǎn)生不符合實(shí)際業(yè)務(wù)需求的過(guò)高期待，或者對(duì)生成式AI持懷疑態(tài)度進(jìn)而等待觀望。

東軟認(rèn)為把AIGC能力輸送到客戶價(jià)值體系中就能夠把握市場(chǎng)的主動(dòng)權(quán)，所以近兩年?yáng)|軟也做了很多的工作幫助客戶實(shí)現(xiàn)認(rèn)知的轉(zhuǎn)變，只有ISV和客戶的認(rèn)知達(dá)成一致，才能真正實(shí)現(xiàn)生成式AI驅(qū)動(dòng)的業(yè)務(wù)和價(jià)值變革。

生成式AI部署首先要統(tǒng)一認(rèn)知

東軟在幫助企業(yè)部署生成式AI的過(guò)程中，遇到最多的兩個(gè)問(wèn)題是客戶自身應(yīng)用場(chǎng)景的挖掘、模型和算力的選擇困惑。

“我們經(jīng)�？吹胶芏嗫蛻粼诓粩嗾覉�(chǎng)景，看案例。”聞?dòng)⒂颜f(shuō)道，東軟一直積極協(xié)助客戶結(jié)合自身業(yè)務(wù)找到最佳的切入點(diǎn)和實(shí)現(xiàn)路徑，并全面規(guī)劃未來(lái)的發(fā)展，這也是作為ISV，與客戶一起成長(zhǎng)義不容辭的責(zé)任。

在算力和模型的選擇上，根據(jù)模型參數(shù)規(guī)模、量化參數(shù)、推理加速方法等因素靜態(tài)推斷模型部署的算力需求是非常不可靠的，需要更多考慮成本和未來(lái)應(yīng)用的擴(kuò)展性。

不同的應(yīng)用和不同的實(shí)現(xiàn)方式，都對(duì)模型和算力有不同的實(shí)際需求，比如一個(gè)非即時(shí)的文書生成應(yīng)用和一個(gè)業(yè)務(wù)場(chǎng)景中的對(duì)話應(yīng)用在首token響應(yīng)時(shí)間上的要求完全不同，對(duì)模型和算力要求也完全不同。

聞?dòng)⒂阎赋�，模型和算力選擇也和應(yīng)用具體的實(shí)現(xiàn)有關(guān)系，一個(gè)應(yīng)用如何調(diào)用大模型，調(diào)用的頻度以及平均單次調(diào)用的token數(shù)等等都會(huì)產(chǎn)生不同的系統(tǒng)壓力。我國(guó)目前生成式AI產(chǎn)業(yè)發(fā)展處于初始階段的定位，體現(xiàn)了AIGC應(yīng)用的成熟度欠缺，市場(chǎng)總體上還處于一個(gè)賣模型和賣算力的階段，沒(méi)有更多的真正有價(jià)值的AIGC應(yīng)用作為參照，造成了模型和算力選擇上的盲目。

東軟首先會(huì)協(xié)助客戶做好規(guī)劃，結(jié)合客戶實(shí)際和現(xiàn)階段生成式AI的能力和特點(diǎn)，找到切實(shí)可行的推進(jìn)路線和應(yīng)用切入點(diǎn)。在這個(gè)過(guò)程中，東軟特別重視發(fā)揮業(yè)務(wù)專家的作用，因?yàn)槠髽I(yè)生成式AI成功落地的關(guān)鍵不在于大模型，而在于對(duì)業(yè)務(wù)的理解。

同時(shí)，東軟也積極向客戶展示各個(gè)領(lǐng)域不同類型的AIGC應(yīng)用案例，這對(duì)于目前處于探索階段的行業(yè)和企業(yè)客戶來(lái)說(shuō)，特別具有啟發(fā)作用。在具體項(xiàng)目實(shí)施前會(huì)通過(guò)各種測(cè)試重點(diǎn)解決客戶的模型和算力選擇困惑，在實(shí)施過(guò)程中就每一個(gè)生成功能點(diǎn)的特性需求，也就是東軟定義的生成效果的度量，保持與客戶實(shí)時(shí)溝通，讓客戶了解生成式AI的特點(diǎn)，進(jìn)而能更好地配合和調(diào)整項(xiàng)目的交付目標(biāo)，保證交付質(zhì)量。

從技術(shù)到應(yīng)用的一套方法論

東軟既有技術(shù)基礎(chǔ)作為保障，又有對(duì)AIGC行業(yè)應(yīng)用有深刻的認(rèn)識(shí)，并且圍繞智能化解決方案戰(zhàn)略，在四個(gè)方面進(jìn)行了研發(fā)布局并取得了關(guān)鍵技術(shù)的突破。

第一，通用大語(yǔ)言模型，東軟“領(lǐng)智”（IndustraMind）大模型的預(yù)訓(xùn)練和國(guó)家備案，全面支撐了東軟多個(gè)行業(yè)的AIGC應(yīng)用開(kāi)發(fā)需求。

第二，智能體技術(shù)方面，東軟面向經(jīng)辦類應(yīng)用，自研了IndustraMind ToB智能體，全面支持了醫(yī)療、醫(yī)保以及人社領(lǐng)域的智能化解決方案實(shí)現(xiàn)。

第三，AIGC應(yīng)用開(kāi)發(fā)方面，東軟于2023年在業(yè)內(nèi)率先提出了大語(yǔ)言模型系統(tǒng)工程(LLM-SE)概念，構(gòu)建了開(kāi)放框架，在知識(shí)工程、事務(wù)工程、交互工程以及可解釋工程等方面形成了關(guān)鍵技術(shù)和算法，有效保障了企業(yè)用戶的AIGC應(yīng)用效果。

第四，開(kāi)發(fā)平臺(tái)方面，東軟面向場(chǎng)景類應(yīng)用，構(gòu)建了AIMate大模型應(yīng)用敏捷開(kāi)發(fā)平臺(tái)，全面支撐了政務(wù)、環(huán)保等領(lǐng)域的AIGC應(yīng)用開(kāi)發(fā)。

“大模型不等于大模型應(yīng)用。”聞?dòng)⒂颜f(shuō)，東軟把ToB的AIGC應(yīng)用劃分為經(jīng)辦類和場(chǎng)景類。場(chǎng)景類AIGC應(yīng)用因?yàn)橐�結(jié)合客戶的業(yè)務(wù)場(chǎng)景，大部分是定制化的，傳說(shuō)中的做一個(gè)所謂“行業(yè)大模型”就能滿足一切AIGC行業(yè)應(yīng)用的開(kāi)發(fā)需求僅僅是一種傳說(shuō)，我們?yōu)樾袠I(yè)客戶做的場(chǎng)景類AIGC應(yīng)用，基本都很難復(fù)制到同一領(lǐng)域的另一個(gè)客戶現(xiàn)場(chǎng)。比如某藥廠做的生產(chǎn)工藝運(yùn)維的大模型應(yīng)用，因?yàn)樗幍钠贩N不一樣，生產(chǎn)工藝也完全不同，就無(wú)法復(fù)制到另一個(gè)藥廠。

對(duì)于定制化的AIGC行業(yè)應(yīng)用，雖然很難實(shí)現(xiàn)場(chǎng)景的完全復(fù)制，但可以實(shí)現(xiàn)平臺(tái)和技術(shù)的復(fù)用，這種復(fù)用是保障場(chǎng)景類AIGC應(yīng)用效果和質(zhì)量的重要基礎(chǔ)，這也是東軟研發(fā)投入的重點(diǎn)。

聞?dòng)⒂岩恢庇幸粋�(gè)觀點(diǎn)：尋找所謂的大模型殺手級(jí)應(yīng)用是一個(gè)偽命題，如果大模型真正成熟好用，一切的應(yīng)用都將被重新定義和開(kāi)發(fā)，那么一切應(yīng)用都是殺手級(jí)應(yīng)用。只不過(guò)目前的生成式AI還不成熟，實(shí)現(xiàn)不了這種全方位的替代。

東軟定義的智能化解決方案有四個(gè)發(fā)展階段，分別對(duì)應(yīng)四種智能化，即：交互智能，事務(wù)智能，認(rèn)知智能以及決策智能。重點(diǎn)面向醫(yī)療、醫(yī)保、人力資源和社會(huì)保障等用戶群體覆蓋廣，事務(wù)性工作負(fù)擔(dān)大，社會(huì)影響力深遠(yuǎn)的領(lǐng)域。

目前，東軟基于東軟大語(yǔ)言模型系統(tǒng)工程（LLM-SE）以及自研的IndustraMInd ToB智能體技術(shù)，在人社領(lǐng)域已經(jīng)完成了交互智能、事務(wù)智能和認(rèn)知智能三個(gè)階段的研發(fā)目標(biāo)。

通過(guò)自研智能體開(kāi)發(fā)平臺(tái)，東軟實(shí)現(xiàn)了領(lǐng)域業(yè)務(wù)流程和數(shù)據(jù)知識(shí)的智能體注入，設(shè)計(jì)并實(shí)現(xiàn)了“人社智用體”，重點(diǎn)解決人社領(lǐng)域面臨的客服工作量大，高頻業(yè)務(wù)辦理量大以及交互智能化和適老化的應(yīng)用需求。

目前東軟“人社智用體”已經(jīng)實(shí)現(xiàn)了Web業(yè)務(wù)系統(tǒng)到APP應(yīng)用再到數(shù)字人系統(tǒng)的全路徑升級(jí)，完成了人社領(lǐng)域的智能客服、業(yè)務(wù)辦理、咨詢建議等多個(gè)業(yè)務(wù)的統(tǒng)一入口整合，實(shí)現(xiàn)了“有事您說(shuō)話”的智能應(yīng)用模式，構(gòu)建了虛擬柜員服務(wù)模態(tài)。

寫在最后

大語(yǔ)言模型系統(tǒng)工程能力的持續(xù)提升，是東軟在這個(gè)時(shí)代的求存圖進(jìn)的傍身之技，是致勝圖強(qiáng)的獨(dú)孤九劍。

以生成式AI為起點(diǎn)的AGI時(shí)代，ISV要重新思考自己的定位，東軟認(rèn)識(shí)到在大模型預(yù)訓(xùn)練和生產(chǎn)方面的經(jīng)驗(yàn)積累要弱于大模型廠商，但自身卻有著比較明顯的業(yè)務(wù)知識(shí)和數(shù)據(jù)資產(chǎn)優(yōu)勢(shì)。因此，如何更好地開(kāi)展與生態(tài)伙伴合作，面向行業(yè)領(lǐng)域構(gòu)建領(lǐng)域?qū)�業(yè)大模型，進(jìn)而更好地支撐應(yīng)用的實(shí)現(xiàn)以及AIGC應(yīng)用的持續(xù)優(yōu)化，是需要重點(diǎn)布局的方向。

東軟希望完成從傳統(tǒng)軟件開(kāi)發(fā)的商業(yè)模式到知識(shí)服務(wù)的商業(yè)模式的轉(zhuǎn)變，因?yàn)橹悄芑�解決方案不僅僅是鋪一條路，而是打造一個(gè)持續(xù)的數(shù)據(jù)價(jià)值和知識(shí)資產(chǎn)的生產(chǎn)系統(tǒng)，為知識(shí)服務(wù)的實(shí)現(xiàn)提供無(wú)限可能。