天風(fēng)證券測(cè)算,僅考慮文字和文生圖的情況下,推理峰值所需算力達(dá)96.68Eflops,轉(zhuǎn)化為H20所需規(guī)模為65.33萬張,預(yù)計(jì)實(shí)際所需峰值算力更高。
摘要:
隨著豆包模型的持續(xù)運(yùn)用,券商測(cè)算僅考慮文字和文生圖的情況下,豆包推理峰值所需算力達(dá)96.68Eflops,轉(zhuǎn)化為H20所需規(guī)模為65.33萬張。
正文:
1、豆包活躍度數(shù)據(jù)迅速上升,或推動(dòng)字節(jié)推理算力需求進(jìn)一步增長
根據(jù)量子位公眾號(hào)及快科技數(shù)據(jù),2024年11月份豆包APP DAU接近900萬,占據(jù)國內(nèi)整個(gè)賽道60%的活躍用戶,11月份MAU數(shù)據(jù)達(dá)5998萬,位居全球第二,僅次于ChatGPT。此外,截至今年12月18日,豆包大模型的日均tokens 調(diào)用量超過4萬億,自5月發(fā)布以來,整體增長超過33倍;多模態(tài)方面,截至9月份日均生成圖片5000萬張。經(jīng)測(cè)算,僅考慮文字和文生圖的情況下,推理峰值所需算力達(dá)96.68Eflops,轉(zhuǎn)化為H20所需規(guī)模為65.33萬張,預(yù)計(jì)實(shí)際所需峰值算力更高,同時(shí)天風(fēng)證券認(rèn)為到2025年隨著字節(jié)在AI的進(jìn)一步發(fā)力,豆包等大模型的應(yīng)用會(huì)進(jìn)一步對(duì)推理算力的需求提升。
建議關(guān)注:寒武紀(jì)、海光信息、盛科通信(通信覆蓋)、神州數(shù)碼、中科曙光、景嘉微、安博通
風(fēng)險(xiǎn)提示:供應(yīng)鏈進(jìn)一步被約束的風(fēng)險(xiǎn)、AI需求下降的風(fēng)險(xiǎn)、AI應(yīng)用發(fā)展不及預(yù)期的風(fēng)險(xiǎn)