本報(bào)記者 李玉洋 李正豪 上海報(bào)道
金秋九月，推遲兩月的2022世界人工智能大會(huì)（WAIC）在上海舉行。在美國(guó)剛剛對(duì)華限售英偉達(dá)和AMD高端GPU（圖形處理器）的背景下，AI/GPU成為本屆大會(huì)除元宇宙之外的另一大“流量密碼”。
芯片是AI的基石。在“WAIC 2022”評(píng)選出來(lái)的八大“鎮(zhèn)館之寶”中，上海天數(shù)智芯的“智鎧100”和壁仞科技的通用GPU芯片BR100系列入選其中，成為業(yè)界關(guān)注的焦點(diǎn)。
《中國(guó)經(jīng)營(yíng)報(bào)》記者注意到，不只寒武紀(jì)、壁仞科技、燧原科技、瀚博半導(dǎo)體等這些AI芯片公司展示了最新的芯片產(chǎn)品，百度、華為等科技大佬也展示出了AI相關(guān)的硬件。
另外，在全民關(guān)“芯”的背景下，記者在一些AI芯片論壇上注意到，國(guó)內(nèi)AI芯片公司已不止于對(duì)外宣揚(yáng)算力理論峰值和未來(lái)愿景了，而把重點(diǎn)更多地放在了算力密度、能源效率、生態(tài)合作等話題上。
資深產(chǎn)業(yè)分析師黃燁鋒表示：“從今年的新品和生態(tài)更新中，能看到國(guó)產(chǎn)GPU/AI芯片企業(yè)在走向成熟。發(fā)布POD（智算機(jī)）、集群，強(qiáng)調(diào)系統(tǒng)和軟件生態(tài)的重要性，并將其落地轉(zhuǎn)化為生產(chǎn)力，無(wú)一不體現(xiàn)著現(xiàn)在的國(guó)產(chǎn)AI芯片企業(yè)已經(jīng)脫離了過(guò)去講故事、賣(mài)情懷、談愿景的初期階段，朝著更具切實(shí)意義的方向邁進(jìn)?！?/p>
算力不是看理論峰值
據(jù)了解，壁仞科技通用GPU芯片BR100采用了臺(tái)積電7nm制程，單芯片峰值算力可達(dá)每秒千萬(wàn)億次浮點(diǎn)運(yùn)算，打破了全球通用GPU算力紀(jì)錄；同樣采用7nm工藝的天數(shù)智芯首款云端推理通用GPU產(chǎn)品——“智鎧100”，于今年5月成功點(diǎn)亮，經(jīng)后續(xù)測(cè)試修正后即可量產(chǎn)；成立于2018年的瀚博半導(dǎo)體則展示了國(guó)產(chǎn)云端7nm GPU芯片SG100，據(jù)悉該芯片是集渲染、AI于一體的全功能GPU，而云游戲、云手機(jī)、云桌面、云計(jì)算等元宇宙關(guān)鍵性應(yīng)用場(chǎng)景正是其所要發(fā)力的重點(diǎn)領(lǐng)域。
值得一提的是，專(zhuān)注云端算力的人工智能公司燧原科技發(fā)布了高性能AI加速集群服務(wù)器產(chǎn)品云燧智算機(jī)（CloudBlazer POD），里面內(nèi)置了云端AI訓(xùn)練芯片“邃思1.0”和“邃思2.0”，云燧智算機(jī)及集群方案的誕生，也讓燧原完成了芯片、板卡、服務(wù)器、集群算力中心解決方案的覆蓋。
燧原科技創(chuàng)始人兼COO張亞林對(duì)記者表示，從前些年開(kāi)始，AI模型參數(shù)規(guī)模就以每3個(gè)月提高一倍的速度在發(fā)展，如今模型參數(shù)已經(jīng)發(fā)展到了千億，甚至萬(wàn)億級(jí)規(guī)模了?！按笠?guī)模集群是AI計(jì)算的必需品?！彼赋?，“算力底座不僅是芯片，還有板卡、軟件，更重要的是系統(tǒng)一體化。而這塊除了美國(guó)友商之外，中國(guó)國(guó)內(nèi)能實(shí)現(xiàn)的還非常罕見(jiàn)?！?/p>
張亞林還指出，如何通過(guò)集群和系統(tǒng)的方式使AI大模型達(dá)成更高的生產(chǎn)力，已經(jīng)成為一個(gè)關(guān)鍵問(wèn)題?！拔覈?guó)東數(shù)西算工程的落地，不僅對(duì)能效、算力密度有要求，還在部署、運(yùn)維、集成等方面提出了非常高的交鑰匙一體化需求。”他說(shuō)，這是云燧智算機(jī)和集群誕生的背景。
“在AI技術(shù)、AI芯片發(fā)展到一定階段后，有越來(lái)越多的芯片企業(yè)開(kāi)始強(qiáng)調(diào)有效算力、算力效率、算力密度之類(lèi)的概念，且從端到云的不同企業(yè)都在談這些事。”黃燁鋒注意到，今年WAIC不止一家企業(yè)用PUE（Power Usage Effectiveness，數(shù)據(jù)中心總能耗/IT設(shè)備能耗）來(lái)衡量能源效率，這是一個(gè)更偏系統(tǒng)層面的指標(biāo)。
而在單個(gè)AI芯片層面，瀚博半導(dǎo)體創(chuàng)始人兼CEO錢(qián)軍則在人工智能大芯片產(chǎn)業(yè)落地論壇上指出“評(píng)價(jià)算力，不能只看它的絕對(duì)值”，并提出了“算力密度”的概念，該概念可用來(lái)衡量一家芯片企業(yè)的實(shí)力。
如何理解算力密度？錢(qián)軍將其分為兩個(gè)部分：一是芯片單位面積內(nèi)可達(dá)成的算力，比如一平方毫米芯片的算力如何；二是每瓦性能（Perf/W），即每瓦功耗能夠提供多大的算力。而算力密度在具體業(yè)務(wù)中的性能表現(xiàn)可從最大吞吐率、最大吞吐率下的時(shí)延和超低時(shí)延下的吞吐率這三個(gè)指標(biāo)的對(duì)比中得出。
與算力密度相關(guān)的還有“算力網(wǎng)絡(luò)”?！艾F(xiàn)在，我國(guó)數(shù)據(jù)中心能耗每年都有10%以上的增長(zhǎng)，每年的電費(fèi)有近3%是服務(wù)于數(shù)據(jù)中心的?！敝袊?guó)移動(dòng)（上海）產(chǎn)業(yè)研究院技術(shù)部總經(jīng)理陰啟明指出，“算力網(wǎng)絡(luò)是將不同的算力孤島做連接，降低算力成本、提高算力可用性，如將東數(shù)西算工程與‘雙碳’目標(biāo)匹配。”
“從企業(yè)的角度來(lái)看，更低的TCO（總擁有成本）才是追求算力密度的實(shí)際目的：以更低的成本獲得相同的有效算力，并且散熱、電費(fèi)、運(yùn)維之類(lèi)的成本也需要足夠低。國(guó)家與企業(yè)兩者有著異曲同工的目標(biāo)，都要求芯片能達(dá)成更高的算力效率和算力密度，這應(yīng)當(dāng)是這兩年的共識(shí)了?！秉S燁鋒說(shuō)。
國(guó)產(chǎn)AI芯片企業(yè)走向成熟
在錢(qián)軍看來(lái)，芯片及其衍生的產(chǎn)品從來(lái)不是“單打獨(dú)斗”的存在。對(duì)此，黃燁鋒持有類(lèi)似觀點(diǎn)?！爱?dāng)我們到具體業(yè)務(wù)中去看算力和效率的時(shí)候，就不是拼芯片堆料的事情了，還涉及到系統(tǒng)級(jí)硬件、軟件框架、庫(kù)、工具鏈、生態(tài)這種難度顯著增大的組成部分?！彼f(shuō)。
在這些方面的建設(shè)上，英偉達(dá)是座高山，其余AI芯片公司目前只能望其項(xiàng)背，國(guó)內(nèi)同行都對(duì)英偉達(dá)的生態(tài)建設(shè)水平感到有些無(wú)奈。英偉達(dá)CEO黃仁勛曾表示，開(kāi)發(fā)者是英偉達(dá)的重要財(cái)富，目前英偉達(dá)全球開(kāi)發(fā)者近300萬(wàn)，在其CUDA（英偉達(dá)推出的通用并行計(jì)算架構(gòu)，該架構(gòu)使GPU能夠解決復(fù)雜的計(jì)算問(wèn)題）計(jì)算架構(gòu)平臺(tái)上有超過(guò)50萬(wàn)個(gè)開(kāi)發(fā)者，其中包含了百度、騰訊、阿里巴巴等大型跨國(guó)企業(yè)。
復(fù)旦大學(xué)芯片與系統(tǒng)前沿技術(shù)研究院副研究員陳遲曉則用了通俗易懂的話語(yǔ)闡述了生態(tài)對(duì)開(kāi)發(fā)者的重要性和凝聚作用，他說(shuō)學(xué)生在使用CUDA時(shí)碰到bug，網(wǎng)上一搜就能找到不少人也遇到了相同問(wèn)題和解決方法，慶幸的是國(guó)內(nèi)AI企業(yè)也在重視生態(tài)方面的建設(shè)了。
為破解硬件性能上的“單打獨(dú)斗”并不能將芯片功力全部發(fā)揮出來(lái)的問(wèn)題，瀚博半導(dǎo)體更新和完善了軟件平臺(tái)VastStream，其不僅能加速各類(lèi)AI應(yīng)用的部署，例如計(jì)算機(jī)視覺(jué)、視頻處理、自然語(yǔ)言處理、搜索與推薦、算子自定義擴(kuò)展等，還提供了系統(tǒng)管理等三大管理工具，方便客戶(hù)部署。同時(shí)，VastStream的基礎(chǔ)軟件棧功能也變得更加豐富。
壁仞科技也發(fā)布了類(lèi)似的BIRENSUPA軟件全棧，從驅(qū)動(dòng)、硬件抽象層、編程平臺(tái)、框架，到具體的解決方案和應(yīng)用。除了壁仞GPU自身架構(gòu)特性相關(guān)的接口外，BIRENSUPA框架層支持PyTorch、TensorFlow和百度飛槳PaddlePaddle，證明了產(chǎn)品兼容性。
要真正釋放集群作為生產(chǎn)力工具的價(jià)值，燧原科技認(rèn)為軟件是關(guān)鍵要素。燧池智算平臺(tái)是燧原科技的軟件和生態(tài)平臺(tái)，其結(jié)合強(qiáng)大的云燧AI算力集群和先進(jìn)的大規(guī)模算力資源調(diào)度，能為用戶(hù)提供人工智能模型生產(chǎn)及應(yīng)用發(fā)布的全流程服務(wù)，能夠一站式滿(mǎn)足復(fù)雜的人工智能業(yè)務(wù)場(chǎng)景對(duì)人工智能服務(wù)的需求。
“從底層硬件（芯片到板卡，再到服務(wù)器與集群），到中間層的燧池軟件平臺(tái)，以及上層的應(yīng)用，包括各種網(wǎng)絡(luò)模型，如視覺(jué)模型、語(yǔ)音模型、推薦模型、多模態(tài)大模型等。今年不少?lài)?guó)產(chǎn)AI芯片企業(yè)都開(kāi)始強(qiáng)調(diào)自家的‘一體化方案’，而著墨于系統(tǒng)和軟件平臺(tái)，體現(xiàn)的也是芯片的真正落地?！秉S燁鋒說(shuō)。
國(guó)內(nèi)這些AI芯片企業(yè)雖然一直都在做軟件，但在今年更加注重落地的WAIC上，軟件、生態(tài)等的重要性更加凸顯了出來(lái)。黃燁鋒認(rèn)為，軟件及各種框架、庫(kù)、中間件的完善程度才是一家AI芯片/GPU企業(yè)是否走向成熟的最直觀表現(xiàn)。
芯謀咨詢(xún)研究總監(jiān)王笑龍也認(rèn)為，“（AI芯片）設(shè)計(jì)得再好再花樣多，大家都不用，這搞出來(lái)有啥意義？所以關(guān)鍵還是要有合適的應(yīng)用場(chǎng)景，讓大家都用起來(lái)?！?/p>
“發(fā)布POD、集群，強(qiáng)調(diào)系統(tǒng)和軟件生態(tài)的重要性，并將其落地轉(zhuǎn)化為生產(chǎn)力，無(wú)一不體現(xiàn)著現(xiàn)在的國(guó)產(chǎn)AI芯片企業(yè)已經(jīng)脫離了過(guò)去講故事、賣(mài)情懷、談愿景的初期階段，朝著更具切實(shí)意義的方向邁進(jìn)?；蛟S對(duì)于整個(gè)行業(yè)而言，這些都是AI芯片從初期步入成熟期的開(kāi)端?！秉S燁鋒說(shuō)。
