LF MMI為什麼是一種端到端的方法?

時間 2021-05-29 23:53:25

1樓:

我們先看一下非端到端方法基礎上的序列鑑別性訓練。

以MMI為例,MMI公式中的分子是幀對齊之後的標籤序列,分母是所有可能的音素或者狀態序列,但是一般使用一定範圍的lattice來表示。這樣就要求分子詞圖的序列必須要前乙個模型force-alignment之後的結果,不然文字標籤沒法細化到幀級別的序列,分母也需要前乙個模型生成乙個lattice來保證計算MMI準則時能夠完成前向後後向計算。

LF-MMI,或者lattice-free MMI做的事情就是通過一些方法避免了對前乙個模型生成force-alignment和分母詞圖的需要。具體的方法主要有幾個:

分子詞圖不需要嚴格對齊,而是同樣採用在計算loss時在分子FST上進行前向後向演算法來得到分子的occupancies;

分母詞圖的計算放在GPU上進行,為了達到這個目標,分母FST使用了HCP(Phone)的結構而不是HCLG,P是用音素級別的資料建立了4-gram(Povey原文)的LM,當然還有一些其他的操作這裡就不詳說了;

為了加速,還做了frame-subsampling,就是降幀的輸出;

這些措施保證了在進行LF-MMI訓練時不需要pre-model做force-alignment的計算,也就是所謂的端到端。實際上,在使用LF-MMI的時候,還是會需要對齊資訊,乙個是在分子詞圖上做50ms的軟對齊,另乙個是在輸出時用CE做了正則化。所以目前Kaldi中的chain model並不是完全的端到端。

通過 Dropbox 同步資料,是端到端加密的嗎,是否足夠安全?

柳東原 如果 端對端 的 端 是指乙個 client 和另乙個 client,那麼 Dropbox 採取的不是端對端加密。Dropbox 從客戶端到伺服器的傳輸是加密的,從伺服器到客戶端傳輸也是加密的,但資料在伺服器被解密。換句話說,只有規則可以限制 Dropbox 雇員訪問檔案。Dropbox H...

為什麼加法器是三端輸入兩端輸出?

已登出 因為在某一位上計算加法需要計算加數,被加數以及低位進製的和,這是三個輸入。上述操作有會產生本位計算結果以及向高位的進製,這是兩個輸出。 用心閣 1bit的加法器要串聯起來才能成為8bit,16bit的加法器,對吧,所以除了 輸入 A,B 輸出 S A B 內部 黑盒子 以外,還要處理進製的情...

為什麼要判斷變壓器的同名端與異名端?

劉桑良心大大的好 在有變壓器參與的開關電源電路中,不同的拓撲會對應於不同的變壓器繞制方式,如果判斷不好同名端,異名端,電路不會工作在正常狀態下。 電力人生 繞制好的多繞組變壓器判別繞組的同名端,一般只有通過繞組相串聯,在其中乙個繞組上加乙個電壓,然後根據電磁感應原則,兩串聯繞組是首尾相接串聯時,輸出...