來源：硬AIAI芯片的主戰(zhàn)場正在轉(zhuǎn)向一個規(guī)模更大、競爭更激烈的領(lǐng)域——推理。英偉達首席財務(wù)官Colette Kress在上周表示，英偉達最大的營收來源數(shù)據(jù)中心部門中，去年有超過40%的業(yè)務(wù)是有關(guān)部署AI模型，而非訓練——這一比例是AI芯片市場開始轉(zhuǎn)向的重要跡象。訓練AI模型的芯片需求一舉推升英偉達成為“芯片新王”，隨著該行業(yè)的迅速發(fā)展，下一個市場焦點將是實際運行時用于推理的芯片。相較于訓練芯片而言，推理芯片對功耗和成本的要求沒那么高，這同時也意味著競爭市場會變得更為激烈，英偉達的“新王”地位還能否延續(xù)？

　　從GPU到LPU在訓練階段，公司往往會給模型“喂”海量數(shù)據(jù)進行大規(guī)模神經(jīng)網(wǎng)絡(luò)的訓練。由于高計算密度、低能耗、內(nèi)存帶寬大等要求，目前大多數(shù)AI模型的訓練均依賴于英偉達的GPU。在推理階段，AI模型在訓練的基礎(chǔ)上，利用神經(jīng)網(wǎng)絡(luò)模型進行推理預測，從而響應(yīng)用戶指令。這類芯片（LPU）對整體性能的要求沒有GPU那么高，但推理引擎性能更強。對于AI芯片制造商們來說，推理芯片正在變得越來越重要，并在市場中占據(jù)越來越多的機遇。據(jù)報道，Melius Research的分析師Ben Reitzes在給客戶的一份說明中表示：

　　“有看法認為，英偉達未來在推理領(lǐng)域的市場份額將低于訓練領(lǐng)域?！?/p>

　　“這意味著即將到來的‘推理爆炸’可能會帶來一波收益九游會j9網(wǎng)站首頁?！泵楞y分析師Vivek Arya同樣認為，伴隨AI模型訓練投資激增，重點將轉(zhuǎn)向從AI模型中創(chuàng)收，推理領(lǐng)域相較于英偉達主導的訓練領(lǐng)域更具競爭力。從英偉達給出的“40%”比例來看，現(xiàn)在推理技術(shù)的發(fā)展速度可能要比此前預期的快得多。今年年初，瑞銀分析師曾預計，到明年，有90%的芯片需求將源于訓練，推理芯片僅占到市場的20%j9游會真人游戲第一品牌。英偉達的競爭對手們正在蠢蠢欲動。有觀點認為，隨著客戶越來越講求降低AI模型的運營成本，英特爾的芯片將越來越具吸引力。有消息稱，英特爾擅長制造的芯片類型已經(jīng)廣泛用于推理領(lǐng)域，和英偉達更尖端、更昂貴的H100在實際推理應(yīng)用中差別不大。英特爾的CEO Pat Gelsinger在去年年底的一次采訪中曾提到：

　　“從經(jīng)濟學的角度看推理應(yīng)用的話，我不會打造一個需要花費4萬美元的全是H100的后臺環(huán)境，因為它耗電太多，并且需要構(gòu)建新的管理和安全模型，以及新的IT基礎(chǔ)設(shè)施?！?/p>

　　“如果我能在標準版的英特爾芯片上運行這些模型，就不會出現(xiàn)這些問題?！背擞⑻貭柡虯MD等老牌芯片巨頭，一些初創(chuàng)公司也可能“乘風而起”。谷歌前人工智能芯片工程師Jonathan Ross創(chuàng)立的公司Groq是挑戰(zhàn)者之一，該公司開發(fā)的LPU宣稱是“史上最快大模型”，以每秒500個token，徹底顛覆了GPT-4的40 tok/s的速度紀錄。

　　黃仁勛：推理業(yè)務(wù)占40%，AI已成功成本仍然是一道坎。包括亞馬遜、谷歌、微軟在內(nèi)的巨頭們一直致力于內(nèi)部開發(fā)推理芯片，希望縮減運營成本。Ross指出：

　　“對于推理領(lǐng)域，你能部署多少取決于成本?！?/p>

　　“在谷歌，有很多模型都能訓練成功，但其中的80%都沒能部署，因為投產(chǎn)的成本太高了?！毙酒浖鮿?chuàng)公司SambaNova的CEO Rodrigo Liang表示：

　　“我們看到我們的推理應(yīng)用案例正在迅速增長?！?/p>

　　“人們開始意識到，80%以上的成本將用于推理，我需要尋找替代解決方案?！蹦壳翱磥?，英偉達仍在此次轉(zhuǎn)向中處于領(lǐng)先地位。據(jù)悉，英偉達一款即將推出的芯片在去年一項關(guān)鍵的人工智能推理基準測試中取得了行業(yè)領(lǐng)先的結(jié)果，延續(xù)了該公司多年來在競爭中的主導地位。并且，英偉達最新的財報顯示，該公司在AI芯片領(lǐng)域仍占有80%以上的市場份額。這意味著，在可預見的未來，英偉達的訓練芯片預計仍將保持較高需求。美東時間2月23日，英偉達CEO黃仁勛在接受《連線（Wired）》采訪時表示，英偉達目前業(yè)務(wù)中推理占到40%，這意味著AI模型將會很快落地。他表示：

　　“我們熱愛推理。讓我估算的話，我認為英偉達今天的業(yè)務(wù)構(gòu)成可能是40%的推理和60%的訓練。為什么這是一件好事呢？因為這意味著人工智能終于取得了成功（AI is finally making it）?！?/p>

　　“今天，每當你在云中輸入一個提示，它會生成一些東西——可能是視頻，可能是圖像，可能是2D，可能是3D，可能是文本，可能是圖表——這背后很可能就有一塊英偉達GPU。”?星標華爾街見聞，好內(nèi)容不錯過?本文不構(gòu)成個人投資建議，不代表平臺觀點，市場有風險，投資需謹慎，請獨立判斷和決策。

　　覺得好看，請點“在看”