清明传语愁送客.PPT

从人工智能看自然语言处理 张 钹 清华大学计算机系 1、自然语言处理是何问题 ？ 3、如何解决这个难题？ 3、结构分析法的局限性 3、结构方法的局限性（2） 3、结构方法的局限性（3） 4、数据－天赐良机 5、计算机对联 ---摘自微软亚洲研究院(周明) 计算机诗歌 * * 一个普适问题：数据空间到语义空间的映射（mapping） Data （机器） Semantics （用户） 分词 南京市长江大桥 数据到语义空间的映射 数据依语义空间的分类（classification） 这是一个“不适定”（ill-posted） 问题 解的存在性 解的唯一性 解的稳定性 比如“分词” 2、不适定问题 解决病态问题的途径－“约束” 知识密集问题（ knowledge Intensive） 语言知识（语法，语义等） 领域知识 常识 南京市长江大桥 自然语言的结构 层次性（hierarchy） 不确定性（uncertainty） Long distance dependency Multi-scale information fusion ? ? ? ? ? ? ? Parsing, Rule-based等遇到的困境 “他由于对南京市一无所知，连市长 是谁都不清楚，因此把南京市长江大 桥，误认为南京市长江大桥了。” Long distance dependency contextual dependency 结构分析 语义 解决方案： 语义知识 概率统计 Probability 网络时代的财富 数据（Data） Data Driven Learning from data 概率统计的时代 苏堤春晓秀 平湖秋月明 网上购物红红火火 电子商务热热闹闹 月落乌啼霜满天 风吹雁过雨连宵 江枫渔火对愁眠 质量第一 唐 张继 枫桥夜泊 Log Statistics Training data Manual collection Couplets Language model Trigram model 2,149,882 sentence pairs Translation model 342,255 couplets 115,290 pairs of sentences 46,280 manually Couplets: books, web, novel titles, ancient poetry 清明传语愁送客，两岸千里欲渡河。 茫茫春光催碧草，晓露琼楼阑珊色。 —— 计算机(摘自厦门大学周昌乐书) 浔阳江头夜送客，枫叶荻花秋瑟瑟。 主人下马客在船，举酒欲饮无管弦。 …. —— 白居易 “琵琶行” *