2025年02月26日 14:00:51
第四范式推出大模型推理一體機解決方案
《科創(chuàng)板日報》26日訊,第四范式今日推出大模型推理一體機解決方案SageOne IA,進(jìn)一步減低了大模型推理成本。如滿血版的DeepSeek V3/R1僅需要兩臺一體機即可使用。此外,一體機解決方案還集成了智能算力池化技術(shù),在支持DeepSeek V3/R1、QWen2.5、LLama3.3等主流大模型的基礎(chǔ)上,企業(yè)可在滿血版和多個蒸餾模型之間切換,GPU利用率提升30%以上,推理性能平均提升5-10倍;同時內(nèi)置大模型應(yīng)用開發(fā)平臺,并搭載開箱即用AI應(yīng)用套件。
收藏
170.39W
我要評論
歡迎您發(fā)表有價值的評論,發(fā)布廣告和不和諧的評論都將會被刪除,您的賬號將禁止評論。
發(fā)表評論
關(guān)聯(lián)話題
6723 人關(guān)注