3 月 7 日消息,據(jù)外媒報(bào)道,谷歌近日公布了去年 11 月投入使用的通用語(yǔ)言模型研究結(jié)果。結(jié)果顯示,谷歌語(yǔ)言模型現(xiàn)在已經(jīng)可對(duì) 100 多種語(yǔ)言進(jìn)行識(shí)別。在部分通用語(yǔ)言識(shí)別上,谷歌語(yǔ)言模型的語(yǔ)意理解表現(xiàn)更是亮眼。相較 OpenAI 推出的大型語(yǔ)言模型 Whisper,語(yǔ)意識(shí)別錯(cuò)誤率更低。
根據(jù)谷歌官方介紹,谷歌語(yǔ)言模型可進(jìn)行持續(xù)自我學(xué)習(xí),并可在 BEST-RQ 算法的加持下不斷修改語(yǔ)言模型整體架構(gòu),從而完成持續(xù)分析、學(xué)習(xí)語(yǔ)言結(jié)構(gòu)等操作。除此之外,谷歌語(yǔ)言模型在進(jìn)行語(yǔ)意理解時(shí),還會(huì)調(diào)動(dòng) text injection 以及監(jiān)督式 loss 函數(shù),從而讓語(yǔ)言模型語(yǔ)意理解更加精準(zhǔn)。目前,谷歌語(yǔ)言模型在處理 70 多種語(yǔ)言翻譯時(shí),錯(cuò)誤率已經(jīng)可以保持在 30% 以下。
值得一提的是,IT之家獲取到的信息表明,谷歌語(yǔ)言模型在處理非裔美籍人士所使用的英語(yǔ)口語(yǔ) CORAAL、混合口音的 SpeechStew 以及其他多種語(yǔ)言的 FLEURS 測(cè)試中,其正確率要在 Whisper 之上。
關(guān)鍵詞: 谷歌