據(jù)媒體報(bào)道，英偉達(dá)全新發(fā)布的開源模型Nemotron-4 340B，有可能徹底改變訓(xùn)練LLM的方式！從此，或許各行各業(yè)都不再需要昂貴的真實(shí)世界數(shù)據(jù)集了。而且，Nemotron-4 340B直接超越了Mixtral 8x22B、Claude sonnet、Llama3 70B、Qwen 2，甚至可以和GPT-4掰手腕。據(jù)悉，Nemotron-4 340B是一系列具有開創(chuàng)意義的開源模型，最大的技術(shù)變化在于進(jìn)一步擁抱MOE架構(gòu)，引入ROPE優(yōu)化算法。

2022年以來，AI大模型已經(jīng)成為科技巨頭重金投入的領(lǐng)域，這讓算力變得十分寶貴，光模塊景氣度與下游需求有望持續(xù)成長(zhǎng)。東北證券認(rèn)為，MOE架構(gòu)相比傳統(tǒng)Transformer模型具備更高的效率和更低的成本，在海外谷歌Gemini、英偉達(dá)Nemotron等AI大模型積極采用MoE架構(gòu)的推動(dòng)下，MoE大模型有望成為全球AI大模型主流技術(shù)路線，對(duì)通信網(wǎng)絡(luò)更高需求推動(dòng)高性能交換機(jī)加速落地。具體來看主要是推動(dòng)單交換機(jī)峰值速率提升，以及交換機(jī)總需求量增加。AI算力基礎(chǔ)設(shè)施建設(shè)預(yù)計(jì)將保持?jǐn)U張周期，帶動(dòng)上游光模塊、交換機(jī)等環(huán)節(jié)需求提升。

據(jù)財(cái)聯(lián)社主題庫顯示，相關(guān)上市公司中：

可川科技設(shè)立全資子公司可川光子技術(shù)（蘇州）有限公司，進(jìn)一步加大研發(fā)投入力度，同時(shí)著手為激光傳感器和400G/800G等更高速率光模塊產(chǎn)品布局自建產(chǎn)能。

羅博特科參股公司ficonTEC一直有向英偉達(dá)提供設(shè)備，同時(shí)與英偉達(dá)在1.6T的光模塊工藝研發(fā)方面也有深入合作，公司在硅光、CPO及LPO耦合、封裝測(cè)試方面是全球領(lǐng)先的技術(shù)提供商。