Detail publikace

GPU-Accelerated Forward-Backward Algorithm with Application to Lattice-Free MMI

ONDEL Yang Lucas Antoine Francois, LAM-YEE-MUI L'ea-Marie, KOCOUR Martin, CORRO Caio Filippo a BURGET Lukáš. GPU-Accelerated Forward-Backward Algorithm with Application to Lattice-Free MMI. In: ICASSP, IEEE International Conference on Acoustics, Speech and Signal Processing - Proceedings. Singapore: IEEE Signal Processing Society, 2022, s. 8417-8421. ISBN 978-1-6654-0540-9. Dostupné z: https://ieeexplore.ieee.org/document/9746824
Název česky
Forward-backward algoritmus akcelerovaný na GPU s aplikací pro Lattice-Free MMI trénování
Typ
článek ve sborníku konference
Jazyk
angličtina
Autoři
Ondel Yang Lucas Antoine Francois, Mgr., Ph.D. (UPSAC)
Lam-Yee-Mui L'ea-Marie (UPSAC)
Kocour Martin, Ing. (UPGM FIT VUT)
Corro Caio Filippo (UPSAC)
Burget Lukáš, doc. Ing., Ph.D. (UPGM FIT VUT)
URL
Klíčová slova

MMI bez mřížky, end-to-end ASR, jazyk Julia, dopředu-dozadu

Abstrakt

Navrhujeme vyjádřit dopředně-zpětný algoritmus pomocí operací mezi řídkými maticemi v konkrétním semiringu. Tato nová perspektiva přirozeně vede k algoritmu přívětivému pro GPU, který lze snadno implementovat v Julii nebo jakýchkoli programovacích jazycích s nativní podporou semiring algebry. Tuto novou implementaci používáme k trénování TDNN pomocí objektivní funkce LF-MMI a porovnáváme dobu trénování našeho systému s PyChainem nedávno představenou implementací C++/CUDA ztráty LF-MMI. Naše implementace je asi dvakrát rychlejší a přitom nemusíme používat žádnou aproximaci, jako je "leaky-HMM".

Rok
2022
Strany
8417-8421
Sborník
ICASSP, IEEE International Conference on Acoustics, Speech and Signal Processing - Proceedings
Konference
2022 IEEE INTERNATIONAL CONFERENCE ON ACOUSTICS, SPEECH AND SIGNAL PROCESSING (ICASSP), Singapore, SG
ISBN
978-1-6654-0540-9
Vydavatel
IEEE Signal Processing Society
Místo
Singapore, SG
DOI
10.1109/ICASSP43922.2022.9746824
UT WoS
000864187908145
EID Scopus
2-s2.0-85130631441
BibTeX 
@INPROCEEDINGS{FITPUB12788,
   author = "Francois Antoine Lucas Yang Ondel and L'ea-Marie Lam-Yee-Mui and Martin Kocour and Filippo Caio Corro and Luk\'{a}\v{s} Burget",
   title = "GPU-Accelerated Forward-Backward Algorithm with Application to Lattice-Free MMI",
   pages = "8417--8421",
   booktitle = "ICASSP, IEEE International Conference on Acoustics, Speech and Signal Processing - Proceedings",
   year = 2022,
   location = "Singapore, SG",
   publisher = "IEEE Signal Processing Society",
   ISBN = "978-1-6654-0540-9",
   doi = "10.1109/ICASSP43922.2022.9746824",
   language = "english",
   url = "https://www.fit.vut.cz/research/publication/12788"
}
Nahoru