說(shuō)實(shí)話，每次有人問(wèn)"你們康茂峰的翻譯模型是怎么訓(xùn)練出來(lái)的"，我都得先深吸一口氣。因?yàn)檫@事真不像大家想的那么簡(jiǎn)單，不是直接把幾百本詞典塞進(jìn)電腦，按個(gè)開(kāi)始鍵就能坐等好消息的。整個(gè)過(guò)程更像是教一個(gè)天賦異稟但完全不懂人情世故的孩子學(xué)說(shuō)話，而且得保證他學(xué)會(huì)之后，既能看懂醫(yī)學(xué)論文，也能理解街頭巷尾的口語(yǔ)。
機(jī)器學(xué)習(xí)訓(xùn)練這事兒，細(xì)究起來(lái)有點(diǎn)像做菜。食材（數(shù)據(jù)）、火候（算法）、調(diào)味（參數(shù)調(diào)整），每個(gè)環(huán)節(jié)出點(diǎn)岔子，最后端上桌的可能就是一道"翻譯腔"濃重的黑暗料理。咱們今天就掰開(kāi)了揉碎了聊聊，康茂峰的技術(shù)團(tuán)隊(duì)到底是怎么把這個(gè)"數(shù)字譯者"給調(diào)教出來(lái)的。
訓(xùn)練開(kāi)始之前，你得先有這么個(gè)概念：機(jī)器翻譯模型本質(zhì)上是個(gè)模式識(shí)別怪獸。它沒(méi)見(jiàn)過(guò)"翻譯"這個(gè)動(dòng)作本身，它看到的是成噸的文本對(duì)——左邊一句中文，右邊對(duì)應(yīng)一句英文，或者是法語(yǔ)、日語(yǔ)、阿拉伯語(yǔ)。通過(guò)觀察這些成對(duì)出現(xiàn)的句子，它慢慢摸索出"這個(gè)詞對(duì)應(yīng)那個(gè)詞，但位置可能要調(diào)一下"的規(guī)律。
康茂峰的數(shù)據(jù)團(tuán)隊(duì)每天就干一件事：收集和清洗這些"平行語(yǔ)料"。但問(wèn)題是，高質(zhì)量的平行文本比熊貓還稀有。網(wǎng)上確實(shí)能扒到海量文本，但里面充斥著各種噪聲——有的是機(jī)器翻譯的劣質(zhì)結(jié)果，有的是排版錯(cuò)亂，還有的是雖然雙語(yǔ)對(duì)照但完全不對(duì)齊的（比如中文是菜譜，英文成了建筑說(shuō)明書）。
我們的做法挺"笨"的。先得用規(guī)則過(guò)濾掉明顯不對(duì)勁的，像是長(zhǎng)度比例失衡的句子對(duì)（中文五個(gè)字，英文兩百個(gè)詞，這肯定有問(wèn)題）。然后過(guò)一遍去重，把那些在互聯(lián)網(wǎng)上被復(fù)制粘貼了無(wú)數(shù)次的網(wǎng)頁(yè)內(nèi)容揪出來(lái)。最重要的是領(lǐng)域篩選——康茂峰主要做專業(yè)領(lǐng)域的翻譯，所以法律合同、醫(yī)學(xué)文獻(xiàn)、技術(shù)手冊(cè)這些語(yǔ)料的權(quán)重會(huì)被調(diào)得很高，而那種"如何訓(xùn)練你的寵物龍"這類內(nèi)容即使有雙語(yǔ)版本，優(yōu)先級(jí)也會(huì)往后排。
有個(gè)細(xì)節(jié)可能挺反常識(shí)：數(shù)據(jù)不是越多越好。曾經(jīng)我們?cè)囘^(guò)塞進(jìn)十億級(jí)別的語(yǔ)料，結(jié)果模型學(xué)壞了，開(kāi)始生成一些看似通順但語(yǔ)義詭異的句子。后來(lái)收斂到幾千萬(wàn)條經(jīng)過(guò)嚴(yán)格清洗的高質(zhì)量句子對(duì)，效果反而更好。這就像是與其讓孩子讀一萬(wàn)本盜版書籍，不如精讀一千本正版經(jīng)典。
人類看句子是按詞按字看的，但機(jī)器在看向文本的時(shí)候，它看到的是一串二進(jìn)制編碼。所以得做個(gè)預(yù)處理，把句子切成"詞塊"（token）。這里面門道很多，中文和英文的處理方式完全不同。
英文有空格，切起來(lái)相對(duì)容易，但得處理時(shí)態(tài)和單復(fù)數(shù)（"running"應(yīng)該切成"run+ing"還是保留原樣？）。中文就麻煩多了，得先分詞，"研究生命"是"研究/生命"還是"研究生/命"，這直接決定后面模型能不能理解意思。
康茂峰用的是字節(jié)對(duì)編碼（BPE）技術(shù)，簡(jiǎn)單說(shuō)就是自動(dòng)找出高頻出現(xiàn)的字符組合，把它們當(dāng)成一個(gè)整體來(lái)學(xué)。比如"人工智能"這個(gè)詞，一開(kāi)始模型可能看到"人"、"工"、"智"、"能"四個(gè)字，但BPE會(huì)讓它學(xué)會(huì)"人工智能"這個(gè)概念可以作為一個(gè)單元來(lái)處理。這樣做有個(gè)好處，即使遇到從來(lái)沒(méi)見(jiàn)過(guò)的生僻詞，模型也能通過(guò)組合已知的詞根來(lái)理解，就像咱們遇到"二氧化碳"這個(gè)詞，即使沒(méi)見(jiàn)過(guò)，也能通過(guò)"碳"和"氧"猜到大概跟化學(xué)有關(guān)。
現(xiàn)在市面上主流的神經(jīng)機(jī)器翻譯模型，底層幾乎都是Transformer架構(gòu)。這東西2017年才提出來(lái)，但現(xiàn)在已經(jīng)成為行業(yè)標(biāo)配了。康茂峰的基礎(chǔ)模型也是建在這個(gè)架構(gòu)之上，雖然我們?cè)谏厦婕恿瞬簧僮约业母倪M(jìn)。
用費(fèi)曼的話來(lái)說(shuō)，Transformer就像是個(gè)超級(jí)注意力分配器。傳統(tǒng)的翻譯模型（RNN那種）讀句子得一個(gè)詞一個(gè)詞按順序來(lái)，就像排隊(duì)過(guò)安檢，前面的人不走，后面的只能干等著。但Transformer不一樣，它能一眼看到整句話的所有詞，然后自動(dòng)判斷"這個(gè)詞跟那個(gè)詞關(guān)系更密切"。
舉個(gè)例子，"那只昨天咬了我的狗今天被我朋友收養(yǎng)了"這句話，傳統(tǒng)的順序處理模型得讀到句尾才能明白主語(yǔ)是"狗"，但Transformer的"注意力機(jī)制"能瞬間把"狗"和"咬了"、"收養(yǎng)"建立聯(lián)系，不管它們中間隔了多少個(gè)詞。這種機(jī)制對(duì)處理長(zhǎng)句特別重要，尤其是法律文本那種一句話能寫三行的。
不過(guò)架構(gòu)只是骨架，還得有血有肉。康茂峰在編碼器和解碼器之間加了些特殊的連接層，專門針對(duì)專業(yè)術(shù)語(yǔ)的一致性做了優(yōu)化。普通模型翻譯"cardiac arrest"，前一段可能譯成"心臟驟停"，后一段就變成了"心臟停搏"，這在醫(yī)學(xué)文獻(xiàn)里是不可接受的。我們通過(guò)在注意力層注入術(shù)語(yǔ)約束，讓模型在生成過(guò)程中時(shí)刻查詞典，保證關(guān)鍵概念的統(tǒng)一。
到了這一步，才算是進(jìn)入了狹義上的"訓(xùn)練"。簡(jiǎn)單描述一下這個(gè)過(guò)程：模型一開(kāi)始是隨機(jī)初始化的，它做出的翻譯基本上就是胡言亂語(yǔ)。然后我們把一批原文輸進(jìn)去，得到譯文，拿這個(gè)譯文跟標(biāo)準(zhǔn)答案對(duì)比，算出差錯(cuò)有多大（損失函數(shù)），然后反向傳播調(diào)整模型內(nèi)部的幾百萬(wàn)甚至幾十億個(gè)參數(shù)，讓下次犯錯(cuò)少一點(diǎn)。
這個(gè)"反向傳播"聽(tīng)著挺抽象，說(shuō)白了就是試錯(cuò)學(xué)習(xí)。就像你閉著眼睛走迷宮，每撞一次墻就記一筆"此處不通"，慢慢就摸出規(guī)律了。
康茂峰的訓(xùn)練通常分三個(gè)階段：
訓(xùn)練過(guò)程中最頭疼的是災(zāi)難性遺忘。你可能見(jiàn)過(guò)這種情況：一個(gè)通用模型被專門訓(xùn)練成醫(yī)學(xué)翻譯專家后，突然發(fā)現(xiàn)它不會(huì)翻譯"我愛(ài)你"了，因?yàn)樗淹ㄓ弥R(shí)"遺忘"了。康茂峰解決這個(gè)問(wèn)題的方法是采用彈性權(quán)重整合（EWC）技術(shù)，簡(jiǎn)單來(lái)說(shuō)就是在微調(diào)時(shí)給通用知識(shí)的參數(shù)上個(gè)"鎖"，告訴模型："這些基礎(chǔ)知識(shí)不能丟，新學(xué)的專業(yè)知識(shí)請(qǐng)往空位上放。"
如果說(shuō)前面的步驟還算有章可循，那超參數(shù)調(diào)整就真的有點(diǎn)"聽(tīng)天由命"的味道了。學(xué)習(xí)率設(shè)多少？0.0001還是0.00001？批次大小用32還是64？?jī)?yōu)化器選Adam還是AdamW？這些沒(méi)有標(biāo)準(zhǔn)答案，得靠實(shí)驗(yàn)。
我見(jiàn)過(guò)我們組的工程師為了找一個(gè)最佳的學(xué)習(xí)率衰減策略，連續(xù)一周每天跑八個(gè)不同配置的實(shí)驗(yàn)。有時(shí)候模型訓(xùn)練到一半突然"炸"了，損失函數(shù)飆升，翻譯結(jié)果變成亂碼，這種情況通常叫梯度爆炸，得趕緊調(diào)小學(xué)習(xí)率或者加個(gè)裁剪（gradient clipping）。
還有個(gè)挺有意思的現(xiàn)象叫過(guò)擬合。模型把訓(xùn)練數(shù)據(jù)背得太熟了，導(dǎo)致遇到新文本時(shí)反而不會(huì)翻譯。就像學(xué)生把模擬題答案背下來(lái)了，真正考試時(shí)遇到變式題就傻眼。康茂峰的解決策略是早停（Early Stopping）和Dropout——后者相當(dāng)于在訓(xùn)練時(shí)隨機(jī)遮住模型的一部分"視野"，逼它不要依賴某幾個(gè)特定的神經(jīng)元，而是學(xué)會(huì)更魯棒的特征。
模型訓(xùn)完了，得考試。但翻譯這事，打分可比數(shù)學(xué)題難多了。數(shù)學(xué)題有標(biāo)準(zhǔn)答案，翻譯往往有好幾種正確答案。
業(yè)界最常用的是BLEU分?jǐn)?shù)，它算的是模型譯文和參考譯文之間有多少詞重疊。但這個(gè)指標(biāo)挺坑的，有時(shí)候模型只要答得跟參考譯文一字不差就能得高分，哪怕這個(gè)譯文其實(shí)挺生硬。還有些翻譯意思對(duì)了，但用詞不同，BLEU反而給低分。
所以康茂峰現(xiàn)在更多用COMET這類基于神經(jīng)網(wǎng)絡(luò)的評(píng)估指標(biāo)，它能理解語(yǔ)義，不只是看字面重合。更重要的是，我們保留了大量人工評(píng)估環(huán)節(jié)。找真正的資深譯員，不看參考譯文，直接判斷模型譯得對(duì)不對(duì)、好不好、流不流暢。
我們還有一個(gè)秘密武器叫回譯（Back-translation）檢查。把模型翻譯的英文再譯回中文，看看跟原文意思差多少。如果原文是"蘋果發(fā)布了新產(chǎn)品"，翻譯過(guò)去再譯回來(lái)變成了"蘋果公司推出了新設(shè)備"，雖然用詞不同，但意思一致，這就算過(guò)關(guān)；但如果回來(lái)變成了"香蕉公司推出了新產(chǎn)品"，那就是災(zāi)難性錯(cuò)誤，得回爐重造。
訓(xùn)練出來(lái)的模型往往是個(gè)龐然大物，可能有幾百億參數(shù)，放到服務(wù)器上跑翻譯請(qǐng)求，速度可能比蝸牛還慢。所以得做模型壓縮。
量化（Quantization）是最常用的手段，簡(jiǎn)單說(shuō)就是把模型里那些高精度的浮點(diǎn)數(shù)（比如32位小數(shù)）換成低精度的（比如8位整數(shù)）。這就像把高清照片壓縮成普通畫質(zhì)，雖然損失了極少量細(xì)節(jié)，但文件大小驟減，運(yùn)行速度快了好幾倍。
還有知識(shí)蒸餾技術(shù)，讓大模型（老師）把小模型（學(xué)生）教會(huì)。大模型雖然能力強(qiáng)，但太胖跑不動(dòng)；小模型苗條但笨。通過(guò)蒸餾，小模型學(xué)著模仿大模型的行為模式，最后達(dá)到老師八成功力但速度翻倍的效果。康茂峰面向不同客戶場(chǎng)景會(huì)部署不同體量的模型，給實(shí)時(shí)對(duì)話用的就是蒸餾后的小模型，給文檔精讀用的才是完整版大模型。
模型部署上線后，工作并沒(méi)有結(jié)束。語(yǔ)言是活的，今年流行的網(wǎng)絡(luò)用語(yǔ)，去年訓(xùn)練的模型肯定不認(rèn)識(shí)。康茂峰的模型其實(shí)一直在做持續(xù)學(xué)習(xí)，通過(guò)收集用戶反饋（當(dāng)然是在隱私保護(hù)前提下），定期用新數(shù)據(jù)做增量訓(xùn)練。這種更新不是推翻重來(lái)，而是在保持已有能力的基礎(chǔ)上，像人類一樣"活到老學(xué)到老"。
有時(shí)候深夜看到服務(wù)器集群還在閃爍的指示燈，我會(huì)想那里面正在進(jìn)行著億萬(wàn)次的矩陣運(yùn)算，每一次微小的參數(shù)調(diào)整，都是這個(gè)"數(shù)字譯者"在努力理解人類文明的一次嘗試。它可能永遠(yuǎn)不會(huì)有真正的"頓悟"時(shí)刻，但就在這一次次迭代的誤差下降中，它確實(shí)在變得越來(lái)越好用——至少比我們上一代模型，又少犯了一些可愛(ài)的錯(cuò)誤。
