為什么一家以低功耗手機芯片和IP聞名的公司決定進入數(shù)據(jù)中心市場？來源丨Forbes作者丨Karl Freund編譯｜科技行者

　　去年，高通大事宣傳Cloud AI 100，并承諾它具有強大的性能和能效，可以在邊緣計算、自動駕駛汽車和5G基礎(chǔ)設(shè)施中實現(xiàn)人工智能。今天，高通宣布現(xiàn)在正對該平臺進行采樣，并計劃于2021年上半年實現(xiàn)批量出貨。

　　這就引出了一個問題：為什么一家以低功耗手機芯片和IP聞名的公司決定進入數(shù)據(jù)中心市場？要知道那個市場里已經(jīng)有不少擁有幾十年歷史的老玩家了。j9九游會

　　高通長期以來一直關(guān)注數(shù)據(jù)中心解決方案，認為該行業(yè)有吸引力的增長和利潤率是增加收入的潛在來源。它的電源效率和性能方案非常適合擴展到數(shù)據(jù)中心產(chǎn)品，而人工智能的爆炸式增長是一個理想的切入點。此外，高通5G調(diào)制解調(diào)器和Snapdragon應(yīng)用處理器可以幫助該公司構(gòu)建完整的解決方案，從而避免與僅有人工智能 SoC的、規(guī)模較小的公司正面進行價格戰(zhàn)。高通估計，到2025年，用于人工智能推理處理的SAM可能超過700億美元，其中約500億美元在Cloud AI 100的目標市場空間中?！鴪D1: Cloud AI100瞄準了中高性能應(yīng)用的高利潤細分市場

　　高通宣布了什么？

　　除了宣布生產(chǎn)時間表外，高通還分享了AI 100芯片及其打算出售的交付平臺的技術(shù)細節(jié)和一些規(guī)格參數(shù)。高通計劃提供一系列設(shè)備，包括一個僅消耗15瓦TDP的70 TOPS M.2邊緣卡，一個以25W功率運行的200 TOPS M.2卡以及一個數(shù)據(jù)中心級PCIe平臺，能夠提供400 TOPS的性能，功耗僅為75W，能效高達8 TOPS/Watt。▲圖2: 新的Cloud AI 100和Edge AI開發(fā)套件產(chǎn)品簡介

　　高通還展示了新的5G開發(fā)套件，該套件計劃于下個月上市。新的Cloud Edge AI開發(fā)套件伴隨的是高通的X55 5G調(diào)制解調(diào)器-RF系統(tǒng)和頂級Snapdragon 865處理器。想了解有關(guān)該套件的更多規(guī)格信息，請參見圖2。

　　競爭格局

　　英特爾至強系列處理器在人工智能推理市場上占據(jù)著主導地位，但是隨著人工智能模型變得越來越復雜，這種情況正在發(fā)生變化。行業(yè)組織ai.org估計，人工智能模型的大小每3.5個月翻一番。這為英偉達之類的公司以及數(shù)十家初創(chuàng)企業(yè)創(chuàng)造了滿足這些計算要求的機會。盡管高通并沒有將Blaize和Tenstorrent的最新公告納入其中。就是說，Cloud AI100看起來在該領(lǐng)域具有領(lǐng)先優(yōu)勢，在Resnet50模型上可以每秒處理約25,000張圖片，而功耗只需要75W九游會j9官網(wǎng)真人游戲第一品牌。我要指出，Resnet50是一個很小的基準，尤其是與谷歌的BERT等自然語言處理模型相比的時候更是如此。但是，在相同基準下，Cloud AI 100 M2的每瓦性能大約是前“推理之王”——英特爾Goya的每瓦性能的四倍，這仍然令人印象深刻?！鴪D3：高通提供的ResNet-50 Benchmark結(jié)果分析

　　在談到更大、更復雜的模型時，高通顯然預計需要更多的內(nèi)存。該芯片的144MB片上SRAM補充了PCIe卡上高達32 GB的LPDDR4。此外，該芯片還支持一系列數(shù)字精度，包括8位和16位整數(shù)以及16位和32位浮點數(shù)學運算。

　　至于軟件，通常會是人工智能初創(chuàng)企業(yè)的致命弱點，Cloud AI 100充分利用了高通豐富的移動推理生態(tài)系統(tǒng)，并且已經(jīng)提供了完整的框架和優(yōu)化工具庫?！鴪D4：新AI芯片配備完整的軟件堆棧是非常不尋常的，但是高通Snapdragon為Cloud AI 100鋪平了道路

　　人工智能芯片的“寒武紀生命大爆炸”（Cambrian Explosion）持續(xù)不斷，隨著此次的新聞發(fā)布，新的重量級競爭者出現(xiàn)了。如果高通宣布的400 TOPS性能得到了證實，那這就將是我見過的、最快的用于推理處理的芯片。也就是說，我們將不得不等待GROQ的正式官宣，表明它的產(chǎn)品可能處于同一性能水平，但是功率卻要大得多，而Tenstorrent在最近的HotChips會議上提出了一些有趣的人工智能方法。此外，我們?nèi)匀辉诘却⑻貭柡蚐ambaNova等公司的詳細信息。我也非常有興趣獲得更多NVIDIA A100在多實例GPU功能方面的性能數(shù)據(jù)，該功能可以在七個推理實例上分攤大型GPU的成本和功能。我相信這種方法在數(shù)據(jù)中心具有巨大的潛力。

　　除了規(guī)格之外，我相信許多客戶會選擇與一家老牌半導體公司（例如高通）而不是與一家初創(chuàng)公司進行業(yè)務(wù)往來——除非年輕的公司能夠提供好得多的性能和效率。高通憑借著多年在Snapdragon上的經(jīng)驗，為人工智能推理處理提供了堅實的質(zhì)量、性能、效率、支持和完善的軟件生態(tài)系統(tǒng)。這是一個強大的前提，我期待看到更多的基準測試結(jié)果。讓這場“寒武紀生命大爆炸”繼續(xù)下去吧！-END-