语言表示学习与计算社会科学.pdfVIP

SMP2017 全国社会媒体处理大会 语言表示学习与计算社会科学 清华大学 自然语言处理实验室 刘知远 语言是研究人类社会的重要角度 • 社会语言学、社会心理学领域提 出一系列通过语言 分析社会的理论 • 建立Linguistic Inquiry and Word Count （LIWC）词典 LIWC发 明人 ：Peebaer 2 基于关键词的计算社会科学 • 文化组学 （culturomics）/ • 哈佛大学研究团队利用Google Books收集并扫描识别的1800年到2000 年之间的500万种出版物 （占人类所有出版物的4%），通过不同关键 词使用频度随时间的变化 ，分析人类文化演进特点 • Google Book N-grams (/ngrams) 3 基于关键词的计算社会科学 • 发现在过去几百年里英语 中越来越多的不规则动词 演化成 了规则动词 • 通过Google Books 中历年来使用“The United States is” 和“The United States are”的统计趋势图，定量分析 美国作为一个统一国家的概念是如何慢慢形成的 基于关键词的计算社会科学 • 斯坦福大学Leskovec团队收集9千万篇新闻文章，利用引号抽取流行语句作 为模 因 （文化基 因） ：/ ，通过跟踪模 因使用频 率变化 ，及时有效把握美国政治、经济和文化生活 • 例如 “you can put lipstick on a pig” （猪的口红）即是2008年年美国总统大选 中奥巴马讽刺竞选对手时引用的一句谚语 ，全句是“你就算给猪涂上 口红， 它也还是只猪” ，当时引起 了选民的广泛争议，也让最早出现于上世纪二十 年代的谚语“lipstick on a pig”重新流行起来 ，一时间成 了美国人民很爱用的 一个短语 基于关键词的计算社会科学 • 康奈尔大学Cristian Danescu-Niculescu-Mizil研究用户在在线社 区中语言使用变迁模式 • 发表的No country for old members: User lifecycle and linguistic change in online communities获得WWW 2013最佳论文奖 6 基于符号统计的计算社会科学 Science 2014 利⽤知识图谱 中的名⼈信息 出⽣地点 à 死亡地点 Winckelmann Corpus Freebase 7 前表示学习时代-基于符号的表示 star [0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, …] sun [0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, …] sim(star, sun) = 0 8 分布式表示学习时代 •