AMD推出ROCm 7.0軟件平臺,在推理性能上實現3.5倍提升,訓練浮點性能提升3倍。該平臺支持OCP微縮放數據類型硬件加速,引入AI張量引擎AITER,可將MLA解碼操作提升17倍。結合MI355X芯片,AMD聲稱在DeepSeek R1推理負載中性能超越英偉達B200芯片1.3倍,并已集成至vLLM和SGLang等主流推理引擎中。
北京第二十六維信息技術有限公司(至頂網)版權所有. 京ICP備15039648號-7 京ICP證161336號京公網安備 11010802021500號
舉報電話:010-62641205-5060 涉未成年人舉報專線:010-62641208 舉報郵箱:jubao@zhiding.cn
網上有害信息舉報專區(qū):https://www.12377.cn