自然语言处理中的多任务学习-FudanNLP-复旦大学.PDF

NLPCC 2018 Tutorials 自然语言处理中的多任务学习 邱锡鹏 复旦大学 2018年9 月12 日 /xpqiu 研究组介绍  主要聚焦于深度学习与自然语言处理领域，包括语言表示学习、词法/ 句法分析、文本推理、问答系统等方面。  主要成果  近几年发表国际顶级会议/期刊 （IJCAI、ACL 、AAAI 、EMNLP等） 论文40余篇，ACL2017 杰出论文  开源自然语言处理系统：FudanNLP  Currently, an incubating project: fastNLP 邱锡鹏 (复旦大学) 自然语言处理中的多任务学习 2 报告概要  自然语言处理简介  基于深度学习的 自然语言处理  深度学习在自然语言处理中的困境  无监督预训练  多任务学习  自然语言处理中的多任务学习  硬共享模式  软共享模式  共享-私有模式  函数共享模式  多级共享模式  主辅任务模式  新的多任务基准平台 邱锡鹏 (复旦大学) 自然语言处理中的多任务学习 3 自然语言处理简介 邱锡鹏 (复旦大学) 自然语言处理中的多任务学习 4 从人工智能开始 Alan Turing (1912-1954) 图片来源：/p 自然语言处理：理解和生成 邱锡鹏 (复旦大学) 自然语言处理中的多任务学习 5 什么是自然语言处理（NLP）？  自然语言≈人类语言  区别于人工语言（比如程序语言）  自然语言处理包括语音识别、自然语言理解、自然语言生 成、人机交互以及所涉及的中间阶段。  是人工智能和计算机科学的子学科。 基础技术 核心技术 应用 • 词法分析 • 机器翻译 • 智能客服 • 句法分析 • 自动问答 • 搜索引擎 • 实体识别 • 情感分析 • 个人助理 • 语义分析 • 信息抽取 • 推荐系统 • 篇章分析 • 文本摘要 • 舆情分析 • 语言模型 • 文本蕴涵 • 知识图谱 邱锡鹏 (复旦大学) 自然语言处理中的多任务学习 6 自然语言处理的难点：歧义性  以中文分词为例  不同的语言环境中的同形异构现象，按照具体语言环境的语义进 行切法。  交叉歧义  他／说／的／确实／在理  组合歧义 伪歧义  两个/人/一起/过去、个人/ 问题  从马/上/下来、马上/就/来  句子级歧义  白天鹅在水里游泳