據(jù)媒體報道，英偉達全新發(fā)布的開源模型Nemotron-4 340B，有可能徹底改變訓練LLM的方式！從此，或許各行各業(yè)都不再需要昂貴的真實世界數(shù)據(jù)集了。而且，Nemotron-4 340B直接超越了Mixtral 8x22B、Claude sonnet、Llama3 70B、Qwen 2，甚至可以和GPT-4掰手腕。據(jù)悉，Nemotron-4 340B是一系列具有開創(chuàng)意義的開源模型，最大的技術變化在于進一步擁抱MOE架構，引入ROPE優(yōu)化算法。

2022年以來，AI大模型已經(jīng)成為科技巨頭重金投入的領域，這讓算力變得十分寶貴，光模塊景氣度與下游需求有望持續(xù)成長。東北證券認為，MOE架構相比傳統(tǒng)Transformer模型具備更高的效率和更低的成本，在海外谷歌Gemini、英偉達Nemotron等AI大模型積極采用MoE架構的推動下，MoE大模型有望成為全球AI大模型主流技術路線，對通信網(wǎng)絡更高需求推動高性能交換機加速落地。具體來看主要是推動單交換機峰值速率提升，以及交換機總需求量增加。AI算力基礎設施建設預計將保持擴張周期，帶動上游光模塊、交換機等環(huán)節(jié)需求提升。

據(jù)財聯(lián)社主題庫顯示，相關上市公司中：

可川科技設立全資子公司可川光子技術（蘇州）有限公司，進一步加大研發(fā)投入力度，同時著手為激光傳感器和400G/800G等更高速率光模塊產(chǎn)品布局自建產(chǎn)能。

羅博特科參股公司ficonTEC一直有向英偉達提供設備，同時與英偉達在1.6T的光模塊工藝研發(fā)方面也有深入合作，公司在硅光、CPO及LPO耦合、封裝測試方面是全球領先的技術提供商。