/
對話后摩智能吳強(qiáng)：大模型90%計(jì)算需求將來自端邊，存算一體是未來
在未來端邊云混合智能體系中，90%的數(shù)據(jù)處理需求將會來自端和邊。
韓國AI芯片新星FuriosaAI憑借低功耗設(shè)計(jì)贏得LG青睞
韓國AI芯片初創(chuàng)公司FuriosaAI本周獲得重大客戶突破，LG AI研究部門選擇其AI加速器為搭載Exaone大語言模型的服務(wù)器提供算力支持。與主流GPU相比，RNGD推理加速器雖然性能指標(biāo)看似平庸，但憑借僅180瓦的功耗實(shí)現(xiàn)了出色的能效比，在LLM推理任務(wù)中比GPU節(jié)能2.25倍。該芯片采用張量收縮處理器架構(gòu)，大幅減少矩陣運(yùn)算指令和數(shù)據(jù)移動(dòng)。LG現(xiàn)計(jì)劃向企業(yè)客戶提供基于RNGD的服務(wù)器解決方案。
重磅！美國正式公布芯片限制新規(guī)！
美國對18個(gè)關(guān)鍵盟友與合作伙伴的芯片銷售無任何限制。除此之外的大多數(shù)國家則將面臨總算力限制，每個(gè)國家在2025年至2027年期間最多可獲得約50000個(gè)AI GPU。美國還將免除集體算力較低的芯片銷售許可，例如向大學(xué)和研究機(jī)構(gòu)的銷售。
年終盤點(diǎn)：2024年最炙手可熱的10家半導(dǎo)體初創(chuàng)公司
雖然每個(gè)季度在企業(yè)AI芯片支出中Nvidia要占有高達(dá)數(shù)百億美元的份額，但仍有許多公司和投資者認(rèn)為AI基礎(chǔ)設(shè)施市場還有空間留給其他贏家，無論是邊緣芯片還是數(shù)據(jù)中心芯片領(lǐng)域。
英特爾：合作伙伴將在2025年推廣銷售Gaudi 3 AI芯片時(shí)發(fā)揮“巨大作用”
英特爾美國渠道負(fù)責(zé)人Michael Green表示，當(dāng)英特爾的Gaudi 3加速器芯片成為“2025年渠道可用的產(chǎn)品”時(shí)，渠道合作伙伴將在推出該芯片的過程中發(fā)揮“巨大作用”。
分析丨臺積電業(yè)績飆升，這次能站穩(wěn)萬億美元市值嗎？
此前，光刻機(jī)領(lǐng)域的領(lǐng)軍企業(yè)ASML公布的業(yè)績不及預(yù)期，引發(fā)了市場對于全球芯片制造業(yè)[產(chǎn)能過剩]的擔(dān)憂，并進(jìn)一步對人工智能需求增長的真實(shí)性和可持續(xù)性產(chǎn)生了質(zhì)疑。然而，臺積電隨后發(fā)布的三季度財(cái)報(bào)及隨后的電話會議，顯著提振了半導(dǎo)體行業(yè)的信心，為美股資本市場帶來了積極信號，猶如一劑[強(qiáng)心針]。
AI芯片算力基礎(chǔ)及關(guān)鍵參數(shù)
AI芯片通常采用GPU和ASIC架構(gòu)。GPU因其在運(yùn)算和并行任務(wù)處理上的優(yōu)勢成為AI計(jì)算中的關(guān)鍵組件，它的算力和顯存、帶寬決定了GPU的運(yùn)算能力。GPU的核心可分為CudaCore、Tensor Core等；Tensor Core是增強(qiáng)AI計(jì)算的核心，相較于并行計(jì)算表現(xiàn)卓越的Cuda Core，它更專注于深度學(xué)習(xí)領(lǐng)域，通過優(yōu)化矩陣運(yùn)算來加速AI深度學(xué)習(xí)的訓(xùn)練和推理任務(wù)
AMD這場AI濃度爆表的發(fā)布：各“U”上陣、性能硬核對標(biāo)，但掌舵10年的蘇媽說：“一切剛開始”
在當(dāng)下的AI競爭格局下，沒什么能比一場AI濃度爆表的大會，更能快速彰顯自身實(shí)力了，AMD的這場「Advancing AI大會」，就是印證。
AWS的AI芯片對成本和供應(yīng)鏈“極其重要”
不少解決方案提供商看好AWS投入巨資打造專門針對AWS基礎(chǔ)設(shè)施優(yōu)化芯片的計(jì)劃，該計(jì)劃將使合作伙伴在AI市場競爭中占據(jù)優(yōu)勢，因?yàn)殡娏Τ杀靖�，供�?yīng)鏈優(yōu)勢更大。
AI芯片對決：英特爾GAUDI與英偉達(dá)GPU
因此，英特爾在Computex簡報(bào)會上公布了產(chǎn)品的定價(jià)與基準(zhǔn)測試性能，以期展示Gaudi 3與當(dāng)前“Hopper”H100 GPU的直接比較結(jié)果。
云巨頭兩面下注：亞馬遜云科技既要原研AI芯片，又要英偉達(dá)GPU
曾幾何時(shí)，或者說就在短短幾年之前，數(shù)據(jù)中心芯片市場還是個(gè)資金門檻極高但卻相對簡單的市場。CPU戰(zhàn)團(tuán)主要有英特爾、AMD和Arm，GPU陣營則是英偉達(dá)、AMD和英特爾等廠商的舞臺。盡管AI初創(chuàng)公司數(shù)量可觀，但普遍并未在數(shù)據(jù)中心領(lǐng)域建立起真正的話語權(quán)。
英特爾籌備出口友好型低功耗Gaudi 3 AI芯片，專供中國市場
英特爾將推出兩款專供中國市場的Gaudi 3 AI加速器，根據(jù)美國出臺的制裁政策對性能做出大幅“閹割”。
產(chǎn)業(yè)丨AI芯片戰(zhàn)火蔓延，UXL基金狙擊英偉達(dá)CUDA
Precedence Research近期發(fā)布的報(bào)告也顯示，預(yù)計(jì)到2032年，涵蓋CPU、GPU、ASIC以及FPGA等類型的AI芯片市場規(guī)模將從2023年的約219億美元大幅增長至2274.8億美元。
走進(jìn)芯時(shí)代：AI算力GPU芯片分析
盡管AI芯片種類繁多，GPU因其適應(yīng)性和強(qiáng)大的并行計(jì)算能力，仍是AI模型訓(xùn)練的主流硬件。英偉達(dá)在GPU領(lǐng)域的技術(shù)積累和生態(tài)建設(shè)使其處于領(lǐng)先地位，而國內(nèi)GPU廠商雖在追趕，但仍存在差距。AI應(yīng)用向云、邊、端全維度發(fā)展，模型小型化技術(shù)成熟，數(shù)據(jù)傳輸需求增加，Chiplet技術(shù)降低設(shè)計(jì)復(fù)雜度和成本。
Nvidia AI芯片路線圖分析與解讀
Nvidia在2023年投資者會議上展示了其GPU發(fā)展藍(lán)圖，計(jì)劃在2024年推出H200和B100 GPU，2025年推出X100 GPU。其AI芯片更新周期從兩年一次縮短至一年一次，體現(xiàn)產(chǎn)品開發(fā)速度加快。Nvidia的“One Architecture”統(tǒng)一架構(gòu)支持不同環(huán)境下的模型訓(xùn)練和部署，適用于數(shù)據(jù)中心和邊緣計(jì)算。同時(shí)，Nvidia的技術(shù)路線圖包括HBM3E高速存儲器、PCIE 6.0/7.0、NVLink、224G SerDes、1.6T接口等先進(jìn)技術(shù)。
HBM研究框架：突破“內(nèi)存墻”，封裝新突破
HBM技術(shù)通過提升I/O口數(shù)量和速率，突破內(nèi)存限制，成為AI芯片的強(qiáng)大輔助。HBM3和HBM3e將成為AI服務(wù)器主流配置，預(yù)計(jì)HBM4將于2026年發(fā)布。全球HBM市場預(yù)計(jì)在2024年超百億美元。HBM采用TSV+Bumping和TCB鍵合方式，但散熱效率低下，海力士引入MR-MUF工藝改善。預(yù)計(jì)HBM4將采用混合鍵合Hybrid Bonding技術(shù)，3D封裝的核心是混合鍵合與TSV。
Nvidia發(fā)布第四季度財(cái)報(bào) AI芯片需求巨大推動(dòng)數(shù)據(jù)中心GPU收入大漲409%
今天Nvidia公布了第四季度財(cái)務(wù)業(yè)績，結(jié)果再次超出華爾街預(yù)期，使其股價(jià)在盤后交易中走高。
有意見 | AI專家全力去模擬世界吧，安全治理的事情就重在參與吧
19 位學(xué)界、業(yè)界人士憂心忡忡、把酒言歡的搞了一篇論文，把 AI 治理聚焦到了“硬件”和“算力”上。
有意見 | 英偉達(dá)最強(qiáng)AI芯片 H200震撼發(fā)布
英偉達(dá)發(fā)布了目前最強(qiáng)的AI芯片H200，性能較H100提升了60%到90%，還能和H100兼容
- LinuxONE 客戶案例集錦
- IBM 存儲客戶案例集錦
- 智能超融合基礎(chǔ)設(shè)施 - HPE SimpliVity 解決方案
- 借助 HPE GreenLake 提供本地云體驗(yàn)解決方案
- 掌控全局 — 推動(dòng)業(yè)務(wù)創(chuàng)新：適用于 HPE SimpliVity 的 HPE 主動(dòng)式系統(tǒng)支持服務(wù)
- 實(shí)現(xiàn)居家辦公高效率解決方案
- 實(shí)現(xiàn)關(guān)鍵業(yè)務(wù)革新 - HPE Primera解決方案
- 搭配Nutanix的HPE GreenLake私有云解決方案
- 重新定義 HCI， 助其更上一層樓
- 適用于 VDI 的 HPE GreenLake - 本地云服務(wù)解決方案
京公網(wǎng)安備 11010802021500號
