面向计算机的语言研究讲义.ppt

词义排歧（续） ■ 语义空间的两个假设 ● 假设1：如果两个词的词义相同或相似，则它们在文本中对应的上下文相似。 ● 假设2：意义相同或相似的一些词，在语义空间上体现为一个密集的点阵。因此可以用一个义类向量来表示。 ■ 义类向量可当作该义类的“分类器” 。它可通过未经义类标注的语料库获取，因此这种方法又叫无指导学习方法。用义类向量方法进行大规模非受限文本词义标注， [4] 黄昌宁、李涓子：词义排歧的一种语言模型，《语言文字应用》2000年 第3期。 报告提纲 1.自然语言处理(NLP)的目标 2.自然语言的歧义性 3.概率化参数模型(PPM) 4.应用系统举例 5.结论（两种语言研究的对比） 信息检索(IR) 任务：从一个大型文档库中找出与某一查询相关的那些文档。 ● 怎样表示文档和查询的内容？ ——索引问题 “基于内容” ≠ “基于理解” ● 如何度量文档和查询之间的相关度？检索过程 ● 如何评价一个信息检索系统？—精度和召回率 精度 = 检索到的相关文档数 / 检索到的文档总数 召回率 = 检索到的相关文档数 / 库中相关文档总数 信息检索（续） 信息检索大会TREC (/) ● 1992年起每年举办一届大会。得到美国国防部（DARPA）和国家标准技术局（NIST）的资助。 ● 通过提供大规模测试语料和统一的评测方法来支持IR技术的研发。 ● 1999年 TREC-8宣布，提交给大会的检索系统七年间效率提高了一倍。但迄今没有证据表明NLP技术能显著提高IR系统的性能。 ● 一直到1999年的问答系统（QA）评比，NLP技术才崭露头角。 信息检索（续） ? 测试内容：不同索引单位对中文信息检索的影响 ? 评测指标：11点平均精度 ? 测试预料库：TREC5/6 提供 内容：人民日报（1991-1993） 新华社新闻稿（1994-1995） 文档数：164,789篇 文档平均长度：507字 规模：167.4 MB 查询数：54个 查询平均长度：119字 信息检索（续） 索引单位 平均精度 精度相对提高率 基线：词（词典含22万词条） 0.3907 0.0% 词（全切分） 0.4090 4.6% 词 + 汉字（一元组） 0.4290 9.8% （汉字）一元组+ 二元组 0.4254 8.9% 信息抽取(IE) MUC—— 以限定领域的信息抽取为目标 ? IE可分解为如下子任务： ● 命名实体（NE）识别：人名，地名，机构名，日期，时间，货币，百分数等。 ● 同指关系（Co-reference）抽取。 ● 事件模板的识别与填充。 ? 非受限领域的信息抽取仍是一个挑战。  TIDES Translingual Information Detection, Extraction and Summarization /ito/research /tides/ ▅ 特点：把NLP技术的现状和用户对跨语言信息检索、信息抽取的迫切需求紧密结合起来。 ▅ 如果说移动通讯使语音识别成为主流技术，那么搜索（search) 将把自然语言推上主干线。 5. 结束语（两种语言研究对比） 面向计算机 面向人/教学 1）概率化参数模型 句法-语义分析 2）参数空间极大 大规则库难于维护 3）上下文相关（动态） 上下文无关（静态） 4）词汇主义 (lexicalism) 基于词类/短语类 5）颗粒度极细 颗粒度粗 6）覆盖面宽 覆盖面窄 7）自动/半自动获取 靠语言学家提供 8）以评测驱动研究 多半无评测 Textbook E. Charniak. Statistical Language Learning. Cambridge , MA: MIT Press, 1993 Christopher D. Manning and Hinrich Schütze. Foundation of Statistical Language Processing. Cambridge, MA: MIT Press, 1999 THE END 1 2 3 19 20 21 16 15 17 18 10 24 面向计算机的语言研究 报告提纲 1.自然语言处理(NLP)的目标 2.自然语言的歧义性 3.概率化参数模型(PPM) 4.应用系统举例 5.结论（两种语言研究的对比） 1. 自然语言处理的目标 ▅ 让用户能通过自然语言与计算机对话 The future of computing is the computer that talks, listens,