英美兩國簽署科技繁榮協(xié)議,推動人工智能、量子和核技術(shù)發(fā)展。英國政府投資440億英鎊,微軟、英偉達、谷歌、OpenAI等承諾投資310億英鎊,目標建設(shè)歐洲最大AI工廠。協(xié)議包括聯(lián)合研究計劃,開發(fā)AI模型用于癌癥等疾病的靶向治療。英偉達將在12個月內(nèi)向英國提供12萬塊GPU,OpenAI部署8000塊GPU并計劃擴展至6萬塊,微軟投資220億英鎊建設(shè)英國最大AI超級計算機。
Meta宣布了兩個新的24K H100 GPU集群,用于訓(xùn)練大模型Llama-3,預(yù)計4月末或5月中旬上線。集群使用RoCEv2網(wǎng)絡(luò)和基于Tectonic/Hammerspace的存儲解決方案,支持PyTorch。
大模型的訓(xùn)練需要大量的計算資源,企業(yè)的資金投入幾十億到上百億,因此在算力投入上要特別謹慎。大模型的訓(xùn)練是個典型的超算場景,采用超算的方式對企業(yè)來說更具性價比。租用算力方式比自建方式能讓企業(yè)風(fēng)險更低、現(xiàn)金流更充裕。