大模型技術(shù)日新月異，不斷取得重大突破——能夠很好地與人對(duì)話，識(shí)別人類意圖，推理與計(jì)算能力不斷增強(qiáng)、多模態(tài)使其能全方位“理解”世界。大模型（LLM）通過(guò)對(duì)大量數(shù)據(jù)的分析發(fā)現(xiàn)關(guān)聯(lián)找出規(guī)律，在處理如自然語(yǔ)言、圖像視覺(jué)、翻譯等方面取得了不亞于、甚至超越人類的表現(xiàn)。企業(yè)如能利用好LLM技術(shù)，幫助企業(yè)實(shí)現(xiàn)更好的預(yù)測(cè)，將在產(chǎn)品和服務(wù)創(chuàng)新、提質(zhì)增效、提升決策水平、增強(qiáng)競(jìng)爭(zhēng)力等方面具有廣闊的應(yīng)用前景。

然而，由于通用大模型對(duì)企業(yè)業(yè)務(wù)理解能力不足，會(huì)產(chǎn)生很大的幻覺(jué)或偏差，給出的答案并不能很好地支撐業(yè)務(wù)；此外，企業(yè)的數(shù)據(jù)通常會(huì)包含很多敏感信息，直接使用大模型會(huì)帶來(lái)數(shù)據(jù)泄露和隱私風(fēng)險(xiǎn)；運(yùn)行和維護(hù) LLM 需要專業(yè)知識(shí)和技術(shù)能力，給企業(yè)的IT基礎(chǔ)架構(gòu)以及人員素質(zhì)提出了更大的挑戰(zhàn)。因此企業(yè)需要一個(gè)更理解企業(yè)業(yè)務(wù)場(chǎng)景、便于部署、安全且能讓業(yè)務(wù)人員輕松上手的行業(yè)大模型產(chǎn)品。

淵思大模型1-3-8產(chǎn)品架構(gòu)，解決行業(yè)最后100米難題

為了避免企業(yè)重復(fù)建設(shè)、解決企業(yè)缺少速落地的方法和工具等難題，亞信科技通盤(pán)考慮了行業(yè)專屬、數(shù)據(jù)安全、持續(xù)迭代、綜合成本等因素，通過(guò)聚焦“平臺(tái)、模型、工具”三個(gè)層面，建立面向行業(yè)認(rèn)知增強(qiáng)的XGPT產(chǎn)品體系，形成了淵思1-3-8的產(chǎn)品架構(gòu)——即1個(gè)通用人工智能與認(rèn)知增強(qiáng)平臺(tái)、3個(gè)行業(yè)大模型和8個(gè)認(rèn)知增強(qiáng)工具。

“‘淵思’由《論語(yǔ)》中記載的孔子的兩位學(xué)生——顏淵和子思名字組合而成，意為：深入思考、尋根溯源、冷靜判斷，以此表現(xiàn)亞信科技行業(yè)大模型產(chǎn)品的特性和品質(zhì)”。亞信科技首席科學(xué)家葉曉舟教授這樣介紹：“為了讓企業(yè)能夠擁有智能化MaaS底座和‘一站式’的企業(yè)級(jí)AI平臺(tái)，效彌合通用大模型與行業(yè)應(yīng)用的鴻溝，能夠支持異構(gòu)算力，實(shí)現(xiàn)全棧AI技術(shù)、開(kāi)箱即用的MaaS（Model as a Service，模型即服務(wù)）服務(wù)，淵思·通用人工智能與認(rèn)知增強(qiáng)平臺(tái)TAC MaaS應(yīng)運(yùn)而生。”

同時(shí)降低行業(yè)的訓(xùn)練與微調(diào)大模型成本，基于TAC MaaS平臺(tái)首批發(fā)布了編程大模型、自智網(wǎng)絡(luò)大模型與智能運(yùn)維大模型。淵思·編程大模型有34B與7B兩個(gè)版本，通過(guò)評(píng)測(cè)其代碼質(zhì)量提升25%的，協(xié)作效率提升20%，開(kāi)發(fā)人員的專治度提升50%，大幅提升編程生產(chǎn)效率；IT運(yùn)維也是企業(yè)最重要但也是最頭痛的場(chǎng)景，淵思·智能運(yùn)維大模型，通過(guò)6B的參數(shù)，可零活適配現(xiàn)場(chǎng)的算力，將運(yùn)維問(wèn)答準(zhǔn)確率提升90%，讓現(xiàn)場(chǎng)工單人工處理量降低20%，通過(guò)感知、慧珍、自動(dòng)調(diào)用運(yùn)維工具和小模型，大幅降低故障排查處理時(shí)間，從原來(lái)的人工處理需要30分鐘，到現(xiàn)在的21秒，將工作效率提升一個(gè)數(shù)量級(jí)；在網(wǎng)絡(luò)智能化的場(chǎng)景下，自智網(wǎng)絡(luò)大模型提供了13B/6B兩個(gè)參數(shù)的版本，在通信網(wǎng)絡(luò)知識(shí)評(píng)測(cè)得分中，比ChatGPT提升45%，理解用戶意圖準(zhǔn)確率達(dá)到92%，10分鐘內(nèi)就可生成網(wǎng)絡(luò)質(zhì)量的分析報(bào)告。可以幫助通信運(yùn)營(yíng)商自智網(wǎng)絡(luò)全面向L4 級(jí)加速演進(jìn)。

針對(duì)企業(yè)應(yīng)用的最后100米，亞信科技為企業(yè)提供了8個(gè)工具，便于嵌入到企業(yè)的具體流程和交互場(chǎng)景中，包括：業(yè)務(wù)智辦副駕ChatCRM、自智網(wǎng)絡(luò)副駕（AN CoPilot）、商業(yè)智能增強(qiáng)分析工具產(chǎn)品（ChatBI）、知識(shí)對(duì)話機(jī)器人（ChatBots）、圖靈程序員（TuringCoder）、智能運(yùn)維副駕（Ops CoPilot）、數(shù)據(jù)管治副駕（DMG CoPilot）。

工程化能力：決定行業(yè)大模型成敗的關(guān)鍵

亞信科技首席技術(shù)官兼高級(jí)副總裁、IEEE Fellow歐陽(yáng)曄博士

當(dāng)前能提供行業(yè)大模型的廠商不在少數(shù)，很多企業(yè)也在利用開(kāi)源的框架、開(kāi)源的大模型利用RAG（信息增強(qiáng)檢索）的方式降低幻覺(jué)、提升模型準(zhǔn)確度，然而提升效果并不明顯。在亞信科技首席技術(shù)官兼高級(jí)副總裁、IEEE Fellow歐陽(yáng)曄博士看來(lái)：“不論是選擇行業(yè)大模型的供應(yīng)商還是企業(yè)自研大模型，都在考驗(yàn)產(chǎn)品的工程化能力與其帶來(lái)的商用價(jià)值。”

歐陽(yáng)曄博士進(jìn)一步解釋道：“首先體現(xiàn)在企業(yè)在本行業(yè)的數(shù)據(jù)積累，以及強(qiáng)化知識(shí)圖譜的能力。比如淵思·編程大模型，是亞信科技通過(guò)幾十年來(lái)在軟件開(kāi)發(fā)領(lǐng)域積累的十幾億行代碼的數(shù)據(jù)對(duì)模型進(jìn)行微調(diào)、不斷學(xué)習(xí)而來(lái)，自智網(wǎng)絡(luò)大模型和智能運(yùn)維大模型除了利用RAG技術(shù)，更多地應(yīng)用到強(qiáng)化知識(shí)圖譜的相關(guān)技術(shù)，通過(guò)知識(shí)圖譜能力結(jié)合通用大模型強(qiáng)化知識(shí)判別能力，提升大模型的精準(zhǔn)度。其次，做好大小模型的融合，2000年以來(lái)，企業(yè)做了各種機(jī)器學(xué)習(xí)的模型、統(tǒng)計(jì)模型、挖掘模型，但今天大模型來(lái)了我們不是要丟掉這些小模型，而是充分發(fā)揮小模型里積累的數(shù)據(jù)、與流程業(yè)務(wù)結(jié)合，讓大、小模型協(xié)作才能解決用戶最后100米的問(wèn)題。”

行業(yè)大模型的落地企業(yè)也更加關(guān)注最后的效果和最終的評(píng)估。歐陽(yáng)曄博士表示，“每一個(gè)模型在客戶落地的時(shí)候都有一個(gè)從喂養(yǎng)運(yùn)營(yíng)到培育成熟的過(guò)程，一般看到效果要經(jīng)歷3個(gè)月的優(yōu)化和迭代時(shí)間，就可以得到很好的商用效果。這在亞信科技內(nèi)部也充分得到驗(yàn)證，這些大模型的面市不是做好了就直接交付給用戶，而是首先在亞信科技內(nèi)部充分使用、不斷迭代。此外，評(píng)估模型也需要經(jīng)過(guò)第三方的基準(zhǔn)測(cè)試以及兼容性的測(cè)試認(rèn)證。”

據(jù)了解，淵思大模型行已在70+企業(yè)得到部署和應(yīng)用。亞信科技以其深厚的行業(yè)經(jīng)驗(yàn)和技術(shù)實(shí)力，為企業(yè)提供了一套完整的行業(yè)大模型解決方案，推動(dòng)AI技術(shù)在各行各業(yè)的落地應(yīng)用。亞信科技正以其敏銳的市場(chǎng)洞察力和創(chuàng)新精神，在AI浪潮中乘風(fēng)破浪，為我國(guó)企業(yè)的數(shù)字化轉(zhuǎn)型貢獻(xiàn)力量。相信未來(lái)淵思大模型將會(huì)在更多領(lǐng)域發(fā)揮其價(jià)值，助力企業(yè)實(shí)現(xiàn)數(shù)智化轉(zhuǎn)型升級(jí)。