（來(lái)源：上觀新聞）

解碼的注意力部分??5??在英偉達(dá)的Ver????a Rubi?n上完成，這????需要大量的數(shù)學(xué)???♀?運(yùn)算，而解碼的??前饋網(wǎng)????絡(luò)部分，toke??n生成部分在??Vera Rub??in上??????，在Groq芯片5???上完成????。截圖來(lái)自英偉????達(dá)官方直播視頻 ???????黃仁勛在GT???C大會(huì)上的主題??????演講還未結(jié)束????，他“Token??之王”??的“梗圖??”就已在社媒上流??????傳開(kāi)來(lái)??。

這為未來(lái)的AI????研究指明了???方向，提示我??們不應(yīng)該只關(guān)注模??型的參數(shù)規(guī)模和訓(xùn)????練數(shù)據(jù)量，更應(yīng)該????關(guān)注模型??的交互???學(xué)習(xí)能力和適應(yīng)性????。在Ope?????nAI GPT-祝OSS 120B????推理任??務(wù)中，Cere??bras實(shí)現(xiàn)了超????????過(guò)3000 to?????kens/s的??????輸出速度?，較主流G??PU云推理????快約1???5倍??。

這標(biāo)志著????阿里正從追求技術(shù)????領(lǐng)先的探??索，轉(zhuǎn)向???????追求商業(yè)落地??????的系統(tǒng)性競(jìng)爭(zhēng)?????，F(xiàn)在這個(gè)場(chǎng)??面更加具象????化了???！皻g迎???來(lái)到GTC，我只???是想提↙???♀?醒你這是個(gè)????技術(shù)會(huì)??議……我們要談?wù)??技術(shù)，我們要談?wù)??平臺(tái)??。通過(guò)這種分??解，原本需??要O(N^??k)復(fù)雜度???的計(jì)算（其中N是??????????知識(shí)庫(kù)大小，k??是所需靈感數(shù)量）??????被簡(jiǎn)化為O??(k×N)的線????性復(fù)雜度????。