華人科學(xué)家20年研究，又有了新成果。

　　進(jìn)入2024年，AI 的膨脹速度依然讓人驚嘆。

　　但也有一些人認(rèn)為，AI對(duì)于電力的恐怖需求，未來會(huì)限制它的發(fā)展速度，“AI的盡頭是算力，而算力的盡頭是電力”。

　　有研究機(jī)構(gòu)根據(jù)英偉達(dá)出貨情況進(jìn)行估算，目前OpenAI大約需要3617個(gè)英偉達(dá)A100計(jì)算平臺(tái)來支持其ChatGPT的使用，而這些計(jì)算平臺(tái)所包含的GPU，每天的總能耗高達(dá)564MWh，即56.4萬度電。

　　而這僅僅是OpenAI一家公司，隨著谷歌、Meta等公司逐漸全盤AI化，，其總體能耗將會(huì)是一個(gè)令人震驚的數(shù)字j9九游會(huì)。

　　AI芯片消耗的電量主要出現(xiàn)在模型訓(xùn)練和推理兩方面，但實(shí)際上，AI芯片在進(jìn)行計(jì)算時(shí)，會(huì)在處理器和內(nèi)存單元不斷來回移動(dòng)數(shù)據(jù)，這同樣是一個(gè)耗能的過程。

　　近日，明尼蘇達(dá)大學(xué)雙城校區(qū)的研究人員對(duì)外宣布設(shè)計(jì)了一種全新的“計(jì)算隨機(jī)存取存儲(chǔ)器”（CRAM：computational random-access memory）原型芯片。

　　和傳統(tǒng)的馮·諾依曼架構(gòu)不同，這是一種“存算一體”架構(gòu)，它使用稱為磁隧道結(jié) (MTJ) 的自旋電子器件，可以直接在內(nèi)存內(nèi)部進(jìn)行計(jì)算，由于自旋電子設(shè)備并不依賴電荷來存儲(chǔ)數(shù)據(jù)，而是利用電子自旋，因此可以替代傳統(tǒng)的基于晶體管的芯片。

　　此外，根據(jù)研究團(tuán)隊(duì)公布的論文示例圖，我們可以注意到這種新型存儲(chǔ)器是通過將數(shù)據(jù)保存在內(nèi)存陣列內(nèi)進(jìn)行來處理，數(shù)據(jù)無需離開計(jì)算機(jī)存儲(chǔ)信息的網(wǎng)格，從而解決傳輸數(shù)據(jù)時(shí)產(chǎn)生。

　　該團(tuán)隊(duì)表示，和傳統(tǒng)馮·諾依曼架構(gòu)相比，基于 CRAM 的機(jī)器學(xué)習(xí)推理加速器能耗可降低至千分之一，甚至在某些場(chǎng)景應(yīng)用下可以達(dá)到 1/1700 或者 1/2500。在能源需求激增的AI時(shí)代，這種新技術(shù)無疑對(duì)提升能源效率起到至關(guān)重要的作用。

　　目前，該研究已經(jīng)發(fā)表在《自然》雜志的同行評(píng)議科學(xué)期刊 《npj Unconventional Computing》上，研究人員稱擁有該設(shè)備所用技術(shù)的多項(xiàng)專利。從報(bào)道可知，這項(xiàng)研究已經(jīng)醞釀了20多年，并且與明尼蘇達(dá)大學(xué)理工學(xué)院王建平博士有很大關(guān)系。

　　王建平教授是新型磁性材料和自旋電子器件領(lǐng)域的世界知名專家，側(cè)重于信息存儲(chǔ)、記憶和計(jì)算以及生物醫(yī)學(xué)傳感方向的研究。

　　自 2008年以來，王建平通過交換耦合復(fù)合介質(zhì)（ECC）的開創(chuàng)性實(shí)驗(yàn)演示，高效利用了HDD硬盤驅(qū)動(dòng)器的技術(shù)，有效減少數(shù)據(jù)中心的整體數(shù)量，節(jié)約了全球能量消耗。

　　同時(shí)，王建平正是計(jì)算機(jī)隨機(jī)存取存儲(chǔ)器（CRAM）記憶單元的發(fā)明者。但在二十年前，他們提出拋棄馮·諾依曼模型的提議，無疑是被認(rèn)為是“瘋狂的”。

　　但最終他們團(tuán)隊(duì)還是堅(jiān)持了下來，其發(fā)明的MTJ 器件已被英特爾、美光等公司變成了商業(yè)產(chǎn)品。

　　目前，該團(tuán)隊(duì)一直計(jì)劃與明尼蘇達(dá)州當(dāng)?shù)匕雽?dǎo)體企業(yè)合作，提供大規(guī)模演示并生產(chǎn)硬件以推進(jìn)AI功能。

　　存算一體架構(gòu)的優(yōu)勢(shì)，其實(shí)就是打破了“存儲(chǔ)墻”和“功耗墻”問題九游會(huì)j9官網(wǎng)真人游戲第一品牌。

　　前者指的是存儲(chǔ)器的性能跟不上 CPU 的性能，從而影響了系統(tǒng)的整體性能。而后者就是開頭提到的數(shù)據(jù)在處理器和存儲(chǔ)單元之間傳輸會(huì)產(chǎn)生的巨大功耗。

　　除此以外，存算一體架構(gòu)可以直接在設(shè)計(jì)時(shí)就為特定領(lǐng)域的計(jì)算問題提供更大的算力，非常適合于當(dāng)下的AI計(jì)算乃至未來更大規(guī)模的數(shù)據(jù)處理。

　　但值得一提的是，存算一體并不是什么新事物，而到目前該架構(gòu)也未形成統(tǒng)一的技術(shù)路徑，主流的包括近存計(jì)算（PNM）、存內(nèi)處理（PIM）、存內(nèi)計(jì)算（CIM）三種。

　　而存算一體芯片所面臨的挑戰(zhàn)也非常多，例如依賴先進(jìn)的封裝技術(shù)以此在芯片內(nèi)部實(shí)現(xiàn)更高的密度，而目前的一線封裝大廠已經(jīng)很難再擠出產(chǎn)能。

　　此外，在芯片設(shè)計(jì)方面，存算一體芯片對(duì)架構(gòu)設(shè)計(jì)的難度和復(fù)雜度要求很高，市面上也缺乏成熟的EDA軟件以及測(cè)試軟件。

　　最后就是在生態(tài)方面，目前無論是芯片大廠還是創(chuàng)業(yè)公司，各廠商開發(fā)出來的芯片都是圍繞自行定義的編程接口，軟件生態(tài)基本做不到互相通用，極大的影響了存算一體芯片推廣使用。

　　因此在目前電能資源還算充裕的前提下，存算一體芯片還是很難替代現(xiàn)有的AI芯片。