（來源：上觀新聞）

如果能????把多場景、多???任務(wù)的????數(shù)據(jù)整合到統(tǒng)???一大模型里，????實現(xiàn)二次復(fù)用?????????????、持續(xù)迭代，就會??形成更強????的規(guī)模效??應(yīng)與指數(shù)級進???步????????。原本設(shè)????計的“首?購優(yōu)惠”在上線↙兩周后就被迫????停止?????！鼻笆鯩in???i主機創(chuàng)業(yè)者說???♂?。

就大聲說出來，??好嗎？想想看????。你們從一開????始就看著我?談?wù)撨@張幻燈???片??。這正是Gro????q投資??人Gavin ???Baker所強?????小姨子愛上我調(diào)的“推?理拆分”：模型處????理提示詞????的prefil????l階段依然??需要GPU的大????規(guī)模并??????行算力，而逐字???生成回復(fù)的dec??ode階段，????小姨子愛上我瓶頸早已????不在算力????，而在內(nèi)存帶寬????。懵逼不??要緊，馬上給你??????中譯中??。黃仁勛???在 GTC 主題??演講中表示????，英偉達正在推進????一項戰(zhàn)略，即支持?小姨子愛上我銅和硅光??子技術(shù)，以實現(xiàn)縱????向和橫向??擴展連接??。

但問題在??????于，制作?????♂?成本從來不是短劇????最大的成本??????。這種“遠距離運?????輸”在pref??????ill階段??或許可以容忍，????????但在需要串???????行輸出成百上千個??token的de??????code??階段，卻造??成了巨????大的延遲和能耗????浪費???。