![logo](https://cdnjs.cls.cn/www/20200601/image/telegraph-logo.png)
騰訊公布大語(yǔ)言模型訓(xùn)練專利 可提高模型準(zhǔn)確性
財(cái)聯(lián)社2月8日電,天眼查App顯示,騰訊科技(深圳)有限公司2月7日申請(qǐng)的“大語(yǔ)言模型的訓(xùn)練方法、裝置、計(jì)算機(jī)設(shè)備及存儲(chǔ)介質(zhì)”專利公布。摘要顯示,在該方法中,通過(guò)在大語(yǔ)言模型的訓(xùn)練過(guò)程中引入第一摘要文本和第二摘要文本,為模型訓(xùn)練提供了更多可學(xué)習(xí)信息,同時(shí)由于第一摘要文本和第二摘要文本包含的信息量不同,且第一摘要文本中包含正確語(yǔ)句和錯(cuò)誤語(yǔ)句,通過(guò)對(duì)同一樣本文本的兩個(gè)不同摘要文本進(jìn)行對(duì)比學(xué)習(xí),并區(qū)分學(xué)習(xí)第一摘要文本中的正確語(yǔ)句和錯(cuò)誤語(yǔ)句,避免了由于摘要文本單一而導(dǎo)致的模型過(guò)擬合和生成不準(zhǔn)確等問(wèn)題,不僅提高了模型的泛化性能,還提高了模型的準(zhǔn)確性。
我要評(píng)論
反饋意見(jiàn) ![arrow](https://cdnjs.cls.cn/www/20200601/image/right-arrow.png)
![arrow](https://cdnjs.cls.cn/www/20200601/image/right-arrow.png)
歡迎您發(fā)表有價(jià)值的評(píng)論,發(fā)布廣告和不和諧的評(píng)論都將會(huì)被刪除,您的賬號(hào)將禁止評(píng)論。
發(fā)表評(píng)論
關(guān)聯(lián)話題
4.69W 人關(guān)注
+ 關(guān)注