（來源：上觀新聞）

這種通過硅通孔????技術(shù)垂直堆????疊的DRAM??，伴隨英偉達(dá)??GPU的大規(guī)模出??貨，完成了????從一個(gè)小眾??秘產(chǎn)品到供不應(yīng)求????的“硬通貨?????♀?”的蛻???變??。這意味??著未來??的AI芯片??將出現(xiàn)????復(fù)雜的異構(gòu)內(nèi)存層???級(jí)：底層是????負(fù)責(zé)prefil??l的計(jì)算晶圓，???????中間層????是通過3D堆???????♀?疊提供的巨????大SRAM??????緩存用于高速de??code，旁邊則???♀?依然通過CoW???oS封裝著大容量??的HBM用于存儲(chǔ)????海量上下???♀???文（KV?? Cache??）?。

我們討論了推理拐????點(diǎn)???????????。IT之家 3?? 月 ??????18 日消息，英??偉達(dá)在 GTC???? 20??26 上宣布????，其“桌面 AI?? 超算????”DG??X Spark ??的多機(jī)互聯(lián)能??力從此前??????的 2 臺(tái)擴(kuò)展至?? 4 臺(tái)，??無需傳統(tǒng)機(jī)架?????♀?部署的????復(fù)雜性?就實(shí)現(xiàn)了幾乎線????性的性能??擴(kuò)展??????。隨著我??????們?cè)谌??球范圍內(nèi)持??續(xù)擴(kuò)展A????I，我們提供???的一項(xiàng)能力是機(jī)??密計(jì)算????。而就在九年?后的現(xiàn)在，同樣???1 PFLOP????S的算力?????????????成本，已從幾????十萬美元降至幾千???美元，體??積從服務(wù)器大??????小縮小?至一本????書??。