|
谷歌最近在 Google Colab 上開(kāi)源了一個(gè)名為 RETVec 的谷歌高垃新型多語(yǔ)言文本矢量化器，這個(gè)矢量化器已經(jīng)部署在 Gmail 上，部署別率用來(lái)提升垃圾郵件和釣魚(yú)郵件的矢量算法識(shí)別率，同時(shí)降低誤報(bào)率。大幅度提釣魚(yú)的識(shí) 谷歌稱(chēng) RETVec 經(jīng)過(guò)訓(xùn)練能夠抵御字符級(jí)操作，圾和包括插入、郵件刪除、藍(lán)點(diǎn)拼寫(xiě)錯(cuò)誤、谷歌高垃同形文字、部署別率LEET 替換等，矢量算法這個(gè)模型是大幅度提釣魚(yú)的識(shí)在新型字符編碼器之上進(jìn)行訓(xùn)練的，該編碼器可以有效針對(duì)所有 UTF-8 字符和單詞進(jìn)行編碼。圾和 為什么要訓(xùn)練這樣一種模型呢？郵件因?yàn)?Gmail 每天收發(fā)的郵件都在千萬(wàn)級(jí)別，如果包含各類(lèi)垃圾郵件的藍(lán)點(diǎn)話可能有幾十億，而垃圾郵件制造者會(huì)對(duì)谷歌的谷歌高垃檢測(cè)系統(tǒng)進(jìn)行規(guī)避，例如使用同形字。 RETVec 支持 100 多種語(yǔ)言，旨在幫助構(gòu)建更具有彈性和高效的服務(wù)端和設(shè)備上的文本分類(lèi)，同時(shí)也更加強(qiáng)大和高效。
根據(jù)谷歌自己的統(tǒng)計(jì)，將 RETVec 應(yīng)用到 Gmail 后，垃圾郵件檢測(cè)率比基準(zhǔn)提高 38%、誤報(bào)率降低 19.4%、張量處理單元 (TPU) 使用率降低了 83%。 谷歌工程師表示由于其緊湊的表示形式，使用 RETVec 訓(xùn)練的模型表現(xiàn)出更快的推理速度，較小的模型可以降低計(jì)算成本并減少延遲，這對(duì)于大規(guī)模系統(tǒng)和設(shè)備上的模型至關(guān)重要。 矢量化是 NLP 即自然語(yǔ)言處理中的一種方法，用于將詞匯中的單詞或短語(yǔ)映射到相應(yīng)的數(shù)字表達(dá)，以便執(zhí)行進(jìn)一步分析，例如情感分析、文本分類(lèi)和命名實(shí)體識(shí)別等。 |
