（來源：上觀新聞）

美銀全球研??????究部美洲資訊科技?硬件及科技供應鏈??研究分析師Wam????si ??Mohan????表示，本來??投資人認為今??年AI服務器對于?????????光學元??件的需求會進一??????步的增加，但????是從GTC??大會看起來???，缺乏這方面的訊???♂?息，可能是不如期????待之處，CPO今????年的成長性沒有???♂?大家想的????那么大??。

“我肯定是公司???的核心資產(chǎn)????。這正是Groq??投資人G??avin?? Baker所強??調(diào)的“推理拆分”??：模型處理提示????詞的pref????ill???♀?階段依然需要G????PU的大規(guī)模并??行算力，而逐????字生成回復的de????????code階段，?瓶頸早?????已不在算力，????而在內(nèi)存帶寬?。

還有更?????♀?關鍵的一??層：控制?祝權(quán)??。然而，現(xiàn)實一再??打臉????。它將成為世界??上有史以來最?????好的基??礎模型???♀?。這個數(shù)??據(jù)構(gòu)建??過程的計算?成本是巨大??的——總共消???耗了約38??,400????????個A800 G?????♂?PU小時，相當??????于一臺??高性能計算機連??續(xù)運行四????年多???♂?。