From燣anguage燤odeling炉o燣anguage.PDFVIP

From Language Modeling to Language Generation Lili Mou doublepower.mou@ Outline ● Language Modeling ● Neural Language Models ● Sequence to Sequence Generation ● Backward and Forward Language Modeling ● Discussion Language Modeling ● Given a corpus ● The goal is to maximize Language Modeling ● Given a corpus ● The goal is to maximize ● Can we decompose any probabilistic distribution into this form? Yes. ● Is it necessa