多年前，在線上預(yù)訂酒店的流程非常冗長，預(yù)訂的房價(jià)和酒店庫存都需要長時(shí)間確認(rèn)，有時(shí)在訂房一來一回的查詢后，房價(jià)可能發(fā)生變化，甚至出現(xiàn)沒有房間的情況。

酒店分銷的核心是酒店房價(jià)和庫存數(shù)據(jù)，2002年成立的德比軟件做的就是在OTA與酒店間架設(shè)了一條“信息高速公路”，讓用戶在所有OTA（Online Travel Agency，全球在線旅游公司）上看到的都是實(shí)時(shí)酒店房價(jià)和庫存，生成訂單就不會(huì)出現(xiàn)房價(jià)變更、房態(tài)變化的情況。

這條高速公路對接了旅游者、酒店和旅游企業(yè)，只要有訂單生成，德比軟件就會(huì)從中收取一筆小額的“過路費(fèi)“。現(xiàn)在德比軟件正處理全球超過22.7萬家酒店數(shù)據(jù)，每月處理超過1800萬酒店間夜數(shù)。

經(jīng)歷了20多年的發(fā)展，現(xiàn)階段實(shí)現(xiàn)數(shù)據(jù)普惠、提高數(shù)據(jù)分析效率、加速企業(yè)決策成為了德比軟件的主要目標(biāo)，在生成式AI爆發(fā)后，德比軟件也開始進(jìn)行嘗試。德比軟件架構(gòu)與基礎(chǔ)設(shè)施技術(shù)副總裁鄭歡鳴表示，生成式AI解決方案可以極大降低大模型的開發(fā)成本，讓技術(shù)人員可以有更多時(shí)間與精力著重在上層的行業(yè)應(yīng)用與功能調(diào)優(yōu)上，大幅提高生產(chǎn)效率。

德比軟件架構(gòu)與基礎(chǔ)設(shè)施技術(shù)副總裁鄭歡鳴

12年的云上之旅

早在20年前，德比軟件就開始擁抱云，是國內(nèi)較早進(jìn)入云計(jì)算時(shí)代的企業(yè)之一。

2012年，選擇All in亞馬遜云科技。德比軟件中國市場部經(jīng)理?xiàng)钚异髡f，最早使用亞馬遜云科技的初衷是彈性能力，讓我們能更快time to market，除此之外我們也獲得了遍布全球的資源以及安全的保障。

2014年，實(shí)現(xiàn)了PCI DSS（支付卡行業(yè)數(shù)據(jù)安全標(biāo)準(zhǔn)）認(rèn)證環(huán)境遷移上云。

2022年，進(jìn)一步提升企業(yè)運(yùn)營效率，為旅游企業(yè)提供更加穩(wěn)定、可靠的服務(wù)，德比軟件啟動(dòng)了全面的應(yīng)用現(xiàn)代化改造計(jì)劃。實(shí)現(xiàn)了應(yīng)用的全面容器化，將傳統(tǒng)應(yīng)用遷移到基于容器的現(xiàn)代化架構(gòu)之上，提高了資源利用效率和應(yīng)用的彈性伸縮能力。

2023年，計(jì)算和數(shù)據(jù)庫層面進(jìn)行了全面優(yōu)化。一方面，大規(guī)模采用高性價(jià)比的Amazon Graviton實(shí)例，優(yōu)化運(yùn)營環(huán)境，成本優(yōu)化比例達(dá)到20%；另一方面，引入Amazon MemoryDB和Amazon Aurora Global Database等數(shù)據(jù)庫服務(wù)，為應(yīng)用提供高性能、高可用、高韌性的數(shù)據(jù)支持，穩(wěn)定性提高到99.9%。

同年，德比軟件也注意到生成式AI技術(shù)，利用亞馬遜云科技的云計(jì)算服務(wù)及生成式AI相關(guān)的服務(wù)，在酒店智能推薦、智能BI報(bào)表、智能客服、智能數(shù)據(jù)標(biāo)注等多個(gè)場景進(jìn)行創(chuàng)新性實(shí)踐。并且為了推廣并找到生成式AI的結(jié)合場景，還舉行了AI Summer活動(dòng)，最終產(chǎn)生了20多個(gè)創(chuàng)新idea。

2024年，開始利用大模型提高員工效率，與亞馬遜云科技合作上線了智能分析工具ChatBI。

大模型讓數(shù)據(jù)實(shí)現(xiàn)普惠

德比軟件雖然部署了傳統(tǒng)的BI系統(tǒng)，但數(shù)據(jù)分析應(yīng)用在企業(yè)和員工兩個(gè)層面還存在一些挑戰(zhàn)。

企業(yè)方面存在業(yè)務(wù)決策人的即席查詢在月初月末會(huì)激增，對于需求響應(yīng)需要一定的開發(fā)周期；客戶很難在報(bào)表之外準(zhǔn)確查詢到訂單、銷售等數(shù)據(jù)；部門間互相對數(shù)據(jù)結(jié)構(gòu)不了解，因此無法實(shí)現(xiàn)跨產(chǎn)品的數(shù)據(jù)查詢的問題。

員工方面存在如何在不了解SQL的前提下進(jìn)行數(shù)據(jù)分析；如何在沒有專業(yè)能力的前提下進(jìn)行數(shù)據(jù)解讀；數(shù)據(jù)解讀分析需要過多專業(yè)能力的問題。

德比軟件的數(shù)據(jù)平臺(tái)希望通過大模型進(jìn)一步賦能讓這些問題得到改善，真正實(shí)現(xiàn)數(shù)據(jù)普惠。鄭歡鳴認(rèn)為，隨著數(shù)據(jù)的普惠，可以加速公司的整體決策，原來幾天或一周才能完成的數(shù)據(jù)分析，現(xiàn)在幾分鐘就能完成，將大大提高效率。

帶著這樣的想法，德比軟件構(gòu)建了智能分析工具ChatBI。鄭歡鳴解釋道，ChatBI可以理解為是一個(gè)BI GPT，ChatBI是基于Anthropic Claude 3大模型構(gòu)建的生成式BI解決方案，允許用戶使用自然語言對話進(jìn)行數(shù)據(jù)查詢和分析。

ChatBI通過實(shí)體識(shí)別、知識(shí)庫檢索、數(shù)據(jù)重構(gòu)等技術(shù)，提高了查詢準(zhǔn)確率，降低了SQL生成復(fù)雜度，并支持可視化展示分析結(jié)果，旨在推動(dòng)數(shù)據(jù)普惠，為企業(yè)賦能創(chuàng)造價(jià)值。

大模型+RAG+規(guī)則=ChatBI

要實(shí)現(xiàn)ChatBI的目標(biāo)，首先需要數(shù)據(jù)分析師進(jìn)行一個(gè)前置的輸入，對數(shù)據(jù)分析思路標(biāo)準(zhǔn)化、歸因推理思路標(biāo)準(zhǔn)化、SQL書寫規(guī)范。其次結(jié)合企業(yè)特定的上下文能力，以及大模型本身的上下文學(xué)習(xí)、指令遵循能力、循序漸進(jìn)的推理能力。最后通過大模型的應(yīng)用能力生成SQL，生成的數(shù)據(jù)可以進(jìn)行運(yùn)營診斷，數(shù)據(jù)規(guī)律總結(jié)，甚至提供運(yùn)營建議。

在模型上，德比軟件選擇Amazon Bedrock中的Claude 3和Amazon Titan模型，使用Amazon SageMaker構(gòu)建基于自然語言的結(jié)構(gòu)化查詢語言（Structured Query Language, SQL）生成器。并利用檢索增強(qiáng)生成（RAG）和Prompt Engineering（PE）等工程化技術(shù)，提升生成準(zhǔn)確度。底層采用Amazon DynamoDB、Amazon OpenSearch Service作為服務(wù)支撐。

“我們總結(jié)了50多個(gè)常見問題，人工根據(jù)SQL規(guī)范生成對應(yīng)的SQL語句，形成規(guī)則。”鄭歡鳴說，用戶輸入一個(gè)語句首先會(huì)通過Claude 3進(jìn)行意圖識(shí)別，判斷是否是BI問題，之后通過Amazon Titan模型將其進(jìn)行向量化，再去向量數(shù)據(jù)庫中進(jìn)行模糊查詢匹配，最后通過查詢結(jié)果生成一個(gè)優(yōu)質(zhì)的提示詞，給到Claude 3生成對應(yīng)的SQL。

除了查詢，在這個(gè)過程中，德比軟件還可以生成搜索查詢表里的元數(shù)據(jù)，并將查詢回來的數(shù)據(jù)讓Claude 3進(jìn)行分析，生成圖表。

ChatBI的數(shù)據(jù)覆蓋了酒店、訂單、客戶數(shù)據(jù)，打通了整個(gè)平臺(tái)數(shù)據(jù)的隔離，實(shí)現(xiàn)自然語言對話即分析，自動(dòng)生成SQL提高數(shù)據(jù)分析師開發(fā)BI報(bào)表的效率，通過自然語言描述查詢結(jié)果。未來希望擴(kuò)展到成本分析、客戶分析、產(chǎn)品分析。

“目前ChatBI準(zhǔn)確率可以達(dá)到90%。”鄭歡鳴指出，現(xiàn)在ChatBI主要的使用對象還是數(shù)據(jù)分析師，他們通過自然語言加速了業(yè)務(wù)查詢請求時(shí)間，從原來以周為單位人工開發(fā)縮短至分鐘級智能響應(yīng)，未來經(jīng)過培訓(xùn)，也會(huì)擴(kuò)展到業(yè)務(wù)人員使用。

隨著生成式 AI 的不斷進(jìn)步和應(yīng)用場景的擴(kuò)展，德比軟件也將在內(nèi)容匹配、垂直領(lǐng)域應(yīng)用、跨平臺(tái)整合、智能助手等方面進(jìn)行實(shí)踐，真正做到讓數(shù)據(jù)賦能企業(yè)里的每一個(gè)人。