①英偉達(dá)一卡難求、溢價(jià)極高背景下,至少已有16家A股上市公司進(jìn)入算力租賃市場; ②近期,英偉達(dá)訓(xùn)練卡租賃價(jià)格降幅超20%,自建算力中心也壓縮了算力租賃生意規(guī)模,市場呈現(xiàn)“大魚吃小魚”格局; ③華為昇騰、寒武紀(jì)、摩爾線程等國產(chǎn)算力廠商未來發(fā)展成為關(guān)注焦點(diǎn)。
財(cái)聯(lián)社5月17日訊(記者 付靜 王碧微)2023年,英偉達(dá)憑借552.68億美元營收超越高通,首度躍升為全球營收最高芯片設(shè)計(jì)廠商,在資本市場創(chuàng)造神話,即將于5月22日公布的公司季度業(yè)績亦受到市場期待,海外多家機(jī)構(gòu)預(yù)計(jì)其一季度業(yè)績和二季度指引將明顯高于預(yù)期。不過,在A股市場,一眾“英偉達(dá)算力概念牛股”卻于近期接連翻車,“算力租賃故事講不下去了”的聲音四起。
財(cái)聯(lián)社記者多方采訪獲悉,即便英偉達(dá)“護(hù)城河”暫時(shí)仍難撼動(dòng),其訓(xùn)練卡租賃近期也在逐漸降溫,價(jià)格降幅超過了20%,各地政府、企業(yè)自建算力中心也在一定程度上壓縮了算力租賃生意規(guī)模,市場呈現(xiàn)“大魚吃小魚”格局。
與此同時(shí),國產(chǎn)算力正迎頭趕上,華為昇騰早已成為關(guān)注焦點(diǎn),市場成為國產(chǎn)廠商發(fā)展的最大優(yōu)勢。
算力租賃市場緣何爆發(fā)?
財(cái)聯(lián)社記者從某芯片經(jīng)銷商處最新獲悉,目前其手中H100服務(wù)器的現(xiàn)貨價(jià)格超270萬元,盡管較今年年初的最高點(diǎn)300萬元左右已經(jīng)略有下滑,但仍處歷史高位,相對于H100 28-30萬美金的出廠價(jià)依然有大幅溢價(jià)。
去年以來,大模型算力需求攀升,英偉達(dá)顯卡一度成為“唯一解”,性能受市場認(rèn)可,疊加貨期不穩(wěn)定,其稀缺性與昂貴價(jià)格使算力租賃業(yè)務(wù)成為不少A股企業(yè)追捧的“香餑餑”。據(jù)財(cái)聯(lián)社記者不完全統(tǒng)計(jì),已有至少16家A股上市公司進(jìn)入算力租賃市場,其中不乏從醫(yī)藥、服裝等領(lǐng)域跨界而來的企業(yè)。
自O(shè)penAI推出ChatGPT以來,英偉達(dá)可用于AI訓(xùn)練的GPU A100、H100等產(chǎn)品售價(jià)飆漲、一卡難求。芯謀咨詢分析師商君曼告訴記者,英偉達(dá)GPU的稀缺與昂貴正是催生算力租賃市場爆發(fā)的重要因素。
某AI獨(dú)角獸的算力基礎(chǔ)設(shè)施負(fù)責(zé)人李小琳告訴記者,單A800其公司有超30臺。顯然這筆支出是小型創(chuàng)業(yè)團(tuán)隊(duì)及研究團(tuán)隊(duì)難以承擔(dān)的。
此外,由于英偉達(dá)GPU只能與臺積電合作,其GPU的貨期也極其不穩(wěn)定,能穩(wěn)定拿到卡成為奢望。李小琳稱,下游與英偉達(dá)簽訂的合約往往不包含延遲交貨的賠償條款,因?yàn)樨浧陔S時(shí)有可能更改。
“其實(shí)如果企業(yè)擁有自建算力中心的實(shí)力,且能穩(wěn)定拿到卡,自建算力中心是比租賃更劃算的,能夠及時(shí)獲得技術(shù)支持,還可以以資產(chǎn)形式體現(xiàn)在財(cái)報(bào)上。”李小琳進(jìn)一步表示道。
那么,是否可以使用算力相近的卡替代英偉達(dá)?
作為AI芯片的“燈塔”,英偉達(dá)一直在被對標(biāo)。如今年4月推出的英特爾Guadi3,英特爾官方表示其AI訓(xùn)練速度是H100的1.7倍,推理速度是H100的1.5倍,效能則是H100的2.3倍。
但是從使用者角度來看,算力并非是英偉達(dá)唯一的優(yōu)勢。商君曼表示,除能夠保持算力水平的高速升級外,英偉達(dá)的護(hù)城河更多來自于其互聯(lián)設(shè)計(jì)及生態(tài)。李小琳告訴記者,數(shù)據(jù)中心是由成百上千塊GPU組成,英偉達(dá)的NVLink會讓其產(chǎn)品擁有更快的傳輸速度與計(jì)算性能。生態(tài)方面,大部分技術(shù)人員對于英偉達(dá)的CUDA(Compute Unified Device Architecture,計(jì)算統(tǒng)一設(shè)備架構(gòu))平臺的依賴還是比較高,開發(fā)者們會在CUDA上進(jìn)行開發(fā)和測試 AI應(yīng)用,開發(fā)者們的反饋也讓CUDA越做越好。
“想讓我們更換算力設(shè)備是很難的,盡管產(chǎn)品底層架構(gòu)類似,但學(xué)習(xí)成本很高,類似于飛行員重新更換一臺飛機(jī),學(xué)習(xí)時(shí)間需要3-6個(gè)月,對于企業(yè)而言既耽誤項(xiàng)目進(jìn)度,還會增加很多人力支出。”李小琳說。
算力租賃的生意還好做嗎?
大模型訓(xùn)練需求的蓬勃增長,與英偉達(dá)卡溢價(jià)高、貨期長的特性已經(jīng)令第一批從事算力租賃生意的企業(yè)嘗到甜頭。
以去年的AI算力牛股中貝通信(603220.SH)為例,去年9月7日、10月25日、11月16日,其算力服務(wù)單價(jià)分別為12萬元/P/年(H800)、2.5萬美元/P/年(即約17.84萬元/P/年)、18萬元/P/年,擁有強(qiáng)勢定價(jià)話語權(quán)。根據(jù)年報(bào),去年中貝通信凈利潤增長超30%,主要增量來源于智慧城市與算力、新能源等新業(yè)務(wù),這一部分全年?duì)I收同比增長49.94%。
這股熱潮也使利通電子(603629.SH)算力業(yè)務(wù)于去年四季度開始產(chǎn)生營收,而匯納科技(300609.SZ)子公司四川匯算智算去年則實(shí)現(xiàn)凈利潤251.48萬元。
時(shí)至2024年年中,還不斷有“新人”跨界涌進(jìn)算力租賃賽道,每每公布消息都引發(fā)資本市場躁動(dòng),算力租賃生意還是一門好生意嗎?
從下游市場角度來看,國家(深圳?前海)新型互聯(lián)網(wǎng)交換中心的數(shù)據(jù)顯示,目前有算力需求的企業(yè)對于價(jià)格、服務(wù)速度和質(zhì)量都較敏感,其中大模型訓(xùn)練與推理需求超過50%(訓(xùn)練35%、推理17%);61%的企業(yè)以租賃方式解決算力需求,31%的企業(yè)出于對數(shù)據(jù)高度敏感的保護(hù)需求,選擇自建算力??梢娝懔ψ赓U仍是主流方式。
就職于某算力租賃上市公司的王潔告訴記者,“大廠大多有能力自建算力,但也會進(jìn)行租賃,如果真的要跟外部廠商合作,那就是深度合作,利通電子和騰訊就是如此。”
不過記者也從多位受訪者處獲悉,近幾個(gè)月租賃價(jià)格的高溢價(jià)已逐漸降溫。
計(jì)算機(jī)行業(yè)分析人士李欣告訴記者,英偉達(dá)的幾款訓(xùn)練卡近兩個(gè)月租用價(jià)下降較多,降幅超過了20%。背后原因一方面在于,租用訓(xùn)練卡的多為頭部大模型廠商,由于需求量大,議價(jià)權(quán)很強(qiáng),能把價(jià)格壓得比較低;另一方面,不少拿H100等型號去做算力租賃的智算中心,由于能得到算力券補(bǔ)貼、電力補(bǔ)貼等,對外把租賃價(jià)壓得非常低,也就壓縮了市場。
王潔認(rèn)為,目前算力租賃市場呈現(xiàn)“大魚吃小魚”格局。“現(xiàn)在算力市場上小規(guī)模集群做不起來,我們的一些客戶簽的都是100臺服務(wù)器起步,一些想跨界做算力租賃的企業(yè)在禁令前在手算力可能只有四五百P,零碎租賃市場空間太小,那么他們可能就會清退手上的資源?!彼蛴浾吲e例,內(nèi)蒙古電價(jià)便宜,很多朋友在內(nèi)蒙古有IDC機(jī)房,但服務(wù)器只有幾十臺,現(xiàn)在都在清退。
面對不斷進(jìn)入行業(yè)的“后來者”,王潔稱,“我們從業(yè)者覺得做算力風(fēng)險(xiǎn)還是挺大,也發(fā)生過打完采購預(yù)付款供應(yīng)商就卷錢逃跑的情況。只能說租賃市場魚龍混雜,總有人真的在做,也總有人在講故事,不好判斷。英博數(shù)科在業(yè)內(nèi)響當(dāng)當(dāng)?shù)母ミ_(dá)簽了合同,無論是時(shí)機(jī)、團(tuán)隊(duì)還是前期情況,我作為從業(yè)者覺得他們還不錯(cuò),但是也有很多質(zhì)疑聲音?!?/p>
始智AI wisemodel社區(qū)創(chuàng)始人劉道全還告訴記者,“曾碰到個(gè)別完全不懂算力的公司也進(jìn)來交學(xué)費(fèi)?!?/p>
另外有消息稱,近期部分算力租賃廠商正出售手中的算卡資源。李欣告訴財(cái)聯(lián)社記者,如果是用英偉達(dá)訓(xùn)練卡去做算力租賃,其實(shí)算力租賃企業(yè)回本周期會拉的非常長。商君曼告訴記者,對于跨界進(jìn)入算力租賃行業(yè)的企業(yè),能否穩(wěn)定拿到卡、卡的數(shù)量能否支撐起需求、是否有專業(yè)技術(shù)人員去做集群與服務(wù)器、算力租賃服務(wù)能力,都可能形成挑戰(zhàn)。
國產(chǎn)算力及時(shí)扛起大旗?
英偉達(dá)的緊缺催生出國產(chǎn)算力租賃市場,國產(chǎn)算力的發(fā)展也成為不得不討論的話題。“國產(chǎn)GPU廠商起步較晚,目前在生態(tài)方面較英偉達(dá)為代表的國際龍頭尚有一定差距,且國內(nèi)的先進(jìn)制造能力可能存在挑戰(zhàn)。但如果要在國內(nèi)市場擴(kuò)大市占率,其實(shí)還是國產(chǎn)廠商更有機(jī)會?!鄙叹硎?。
目前來看,華為昇騰、寒武紀(jì)(688256.SH)、摩爾線程等一批國產(chǎn)算力企業(yè)已經(jīng)初露鋒芒,云廠商人士張駿向財(cái)聯(lián)社記者表示,“廠商要建1000P以上的智算中心,還是最認(rèn)可英偉達(dá),其次可能就是華為(昇騰)。不過并不是所有場合都需要那么強(qiáng)的算力,比如在邊緣端,國產(chǎn)的性價(jià)比就凸顯出來了?!崩钚×者M(jìn)一步解釋,算力卡分為推理卡和訓(xùn)練卡,在推理卡領(lǐng)域國產(chǎn)小廠的卡已經(jīng)可以使用;訓(xùn)練卡的話,目前國產(chǎn)做得最好的還是華為昇騰。
李小琳還透露,目前其公司已經(jīng)開始接觸華為昇騰的卡?!皬膬r(jià)格上,我們這邊接觸的昇騰一臺180萬左右,比英偉達(dá)便宜100萬左右;相對于英偉達(dá)貨期不穩(wěn)定的情況,昇騰的貨期也相對穩(wěn)定,說兩個(gè)月就兩個(gè)月,確定性更強(qiáng);此外,購買昇騰的卡之后,昇騰的技術(shù)人員會駐廠來帶企業(yè)人員學(xué)習(xí)使用方法,減小了企業(yè)的學(xué)習(xí)成本。”
“目前其實(shí)很多大廠都已經(jīng)能夠看見昇騰的身影了,很多頭部公司的算力中心建設(shè)也在英偉達(dá)的基礎(chǔ)上配備了一定比例的昇騰”李小琳進(jìn)一步表示道。
一個(gè)很好的案例就是科大訊飛(002230.SZ),根據(jù)媒體報(bào)道,科大訊飛發(fā)布的多款大模型都宣稱系基于華為昇騰生態(tài)打造。
值得注意的是,去年以來四川華鯤振宇智能科技有限責(zé)任公司也受到高度關(guān)注, 在其官網(wǎng)高調(diào)介紹:“作為國產(chǎn)算力規(guī)模第一企業(yè),基于鯤鵬+昇騰的基礎(chǔ)軟硬件技術(shù)能力,提供全棧自主計(jì)算產(chǎn)品的設(shè)計(jì)、生產(chǎn)、銷售及服務(wù),華鯤振宇已成為華為計(jì)算最佳戰(zhàn)略合作伙伴、鯤鵬+昇騰生態(tài)唯一雙戰(zhàn)略級認(rèn)證整機(jī)伙伴,過去三年業(yè)績實(shí)現(xiàn)高速增長?!?前不久,高新發(fā)展(000628.SZ)因宣告其籌劃已久的華鯤振宇70%股權(quán)收購事項(xiàng)暫停,受到市場諸多質(zhì)疑。
總體來看,多位受訪者均認(rèn)為,目前國產(chǎn)訓(xùn)練卡與英偉達(dá)仍有差距,但也不乏機(jī)會,“盡管在生態(tài)方面英偉達(dá)遙遙領(lǐng)先,但國產(chǎn)廠商最大的優(yōu)勢其實(shí)是市場。目前我們國家AI芯片市場規(guī)模大概是4成,我認(rèn)為隨著大模型應(yīng)用的落地,國產(chǎn)化AI芯片的市場比例一定會提高?!鄙叹硎?。
(文中李小琳、李欣、王潔、張駿均為化名)