跨语言命名实体识别-刘小丫.pdfVIP

BeijingForestStudio

ThenameoftheDepartment

北京理工大学信息系统及安全对抗实验中心

部门名称

跨语言命名实体识别

硕士研究生刘小丫

2024年05月12日

问题回溯

•总结反思

–背景知识，基本概念部分铺垫不足

–讲述太快，缺乏停顿，缺少互动

–没有结合例子，理论比较抽象

•相关内容

–2023.12.27马西洋：《平面多标签文本分类方法》

–2023.08.27刘小丫：《小样本命名实体识别》

–2023.05.04门元昊：《开放式信息抽取技术》

2

内容提要

•预期收获

•题目内涵解析

•研究背景与意义

•研究历史与现状

•知识基础

•算法原理

–ContProto

–CoLaDa

•特点总结与工作展望

•参考文献

3

预期收获

•预期收获

–1.了解跨语言命名实体识别的基本概念

–2.理解跨语言命名实体识别的研究方法

–3.了解跨语言命名实体识别的应用场景和发展方向

4

目标内涵

•研究目标

–以源语言、目标语言为研究对象，面向命名实体识别任务

–结合知识蒸馏、对比学习、原型学习等技术

–利用源语言中的标记数据训练的NER模型，迁移到目标语言上的进行NER任务

•内涵解析

–命名实体识别（NER）：定位给定文本中的实体跨度，分类为预定义的实体类型

–跨语言命名实体识别（CLNER）：用源语言的标记数据训练NER模型，并在目标

语言的测试数据上对其进行评估

•零样本跨语言迁移

5

背景意义

•研究背景

–命名实体识别（NER）是信息提取的一个基本子任务。

它被广泛用于许多下游应用，如关系提取和问答。

–目前全球使用的语言总数约为7000多种，收集足够高质量

的标记数据的成本很高，尤其是对于低资源的语言。

•研究意义

–利用具有丰富实体标签的高资源（源）语言（如英语）的知识来克服低（零）资源

（目标）语言的数据稀缺问题。

–弥合源语言和目标语言的语言结构、特征差异，打破语言障碍，实现信息的跨语言

共享。

6

研究历史

早期的一些方法，通过Jain提出了一种利用谷歌Chen等人提出AdvPicker模Li等人提出MTMT模型，以

元学习、对抗性学习，翻译系统的实体投影算法型，训练语言鉴别器来选择实体相似性为辅助任务，改进

学习与语言无关的特征，较少依赖语言的未标记数据了基于单一任务的知识蒸馏

以便在源语言上