跨语言分布表示学习方法概述.pdfVIP

跨跨跨语语语言言言分分分布布布表表表示示示学学学习习习方方方法法法概概概述述述 郭郭郭江江江 2016.10.07 分布表示 （distributed representation）与深度神经 网络 （deep neural network）极大 地推动 了近几年 自然语言处理研究的发展 。我们知道 ，分布表示指 的是对于一个客观 描述对象的低维 、 密 、连续 向量表示 。不 同于符号表示 （symbolic representation）， 分布表示可 以 自然地联结表现形式不 同但语义空间相 同 （或相似）的对象 ，比如不 同 模态数据 （图像 、文本 、语音） 以及不 同语言 的数据等 。近年来 ，很多研究致力于跨 语言分布表示学习 ，即 ：将不 同语言 的词语嵌入至一个统一 的向量空间之 内，使得语 义相似 （单语及跨语言）的词在该 向量空间内距离接近 ，如 图1所示 。跨语言分