ChatGPT僅推出2個(gè)月，月活躍用戶(hù)就已達(dá)1億，半年時(shí)間ChatGPT就成為了生成式AI的現(xiàn)象級(jí)產(chǎn)品。

在生成式AI的發(fā)展中，算力的存在可以說(shuō)舉足輕重�？梢钥吹酱竽Ｐ驼�在帶動(dòng)AI算力需求超越摩爾定律增長(zhǎng)，據(jù)統(tǒng)計(jì)AI訓(xùn)練任務(wù)中的算力增長(zhǎng)，每 3.5個(gè)月就會(huì)翻一倍。

以GhatGPT為例，在預(yù)訓(xùn)練算力上，訓(xùn)練一次1,746億參數(shù)的GPT-3模型需要的算力約為 3,640 PFlop/s-day，對(duì)應(yīng)的單次訓(xùn)練成本高達(dá)460萬(wàn)美元；日常運(yùn)營(yíng)算力上，GhatGPT根據(jù)訪問(wèn)量與內(nèi)容量測(cè)算，單月運(yùn)營(yíng)算力約4,800PFlop/s-day；調(diào)優(yōu)迭代算力上，每月模型調(diào)優(yōu)帶來(lái)的算力需求為82.5~137.5 PFlop/s-day。

現(xiàn)階段，算力作為數(shù)字經(jīng)濟(jì)時(shí)代新的生產(chǎn)力，已成為經(jīng)濟(jì)社會(huì)高質(zhì)量發(fā)展的重要支撐。工業(yè)和信息化部數(shù)據(jù)顯示，我國(guó)近年來(lái)算力產(chǎn)業(yè)年增長(zhǎng)率近30%，算力總規(guī)模位居全球第二。截至2022年底，我國(guó)算力總規(guī)模達(dá)到180EFLOPS（每秒18000京次浮點(diǎn)運(yùn)算），算力核心產(chǎn)業(yè)規(guī)模達(dá)到1.8萬(wàn)億元。

工業(yè)和信息化部新聞發(fā)言人、總工程師趙志國(guó)近日表示，近期通用人工智能的發(fā)展對(duì)算力提出了更高要求，工業(yè)和信息化部將重點(diǎn)從三方面著手：一是持續(xù)推動(dòng)算力基礎(chǔ)設(shè)施建設(shè)；二是聚力推進(jìn)關(guān)鍵核心技術(shù)攻關(guān)和產(chǎn)業(yè)升級(jí)；三是激發(fā)算力應(yīng)用賦能價(jià)值。

而且在“百模”大賽下，全球算力需求呈指數(shù)級(jí)增加，帶動(dòng)了國(guó)內(nèi)AI服務(wù)器市場(chǎng)快速增長(zhǎng)。本期《數(shù)字化轉(zhuǎn)型方略》將和大家聊聊什么樣的算力，才能滿(mǎn)足大模型千億數(shù)量級(jí)的訓(xùn)練需求？AI算力還有哪些發(fā)展方向？

總的來(lái)說(shuō)，AI算力的發(fā)展已經(jīng)成為數(shù)字經(jīng)濟(jì)時(shí)代的重要驅(qū)動(dòng)力，無(wú)論是芯片廠商、服務(wù)器廠商、還是云廠商，他們都在不斷地滿(mǎn)足著AI算力的需求，推動(dòng)著AI技術(shù)的發(fā)展。而對(duì)于我們來(lái)說(shuō)，未來(lái)是如何用好AI算力，產(chǎn)生創(chuàng)新洞見(jiàn)。

《數(shù)字化轉(zhuǎn)型方略》2023年第7期：http://www.jimo8.cn/dxinsight/2307