预训练深度学习架构下的语义地址匹配与语义空间融合模型研究.pdfVIP

由衷感谢汪愿愿、吴森森、蒋晓敏、胡睿、张逸然、赵贤威、严益明、顾昱

骅、秦汉、莫致良、朱笑笑、何敬等师兄师姐，你们在我进入实验室之后给予我

科研和生活多方面的帮助，让我少走了很多弯路；尤其感谢毛瑞琛师兄，与其说

是师兄，更不如说是亦师亦友亦兄弟，茫茫人海，知己难求，尤为在为伊消得人

憔悴的读博蹊径更甚，我们的兄弟情谊会贯穿一生。感谢同届的陈秀秀、张书瑜、

郭雅静、张婷婷、郑嘉丽、陈艺文、余丽君、贾玉洁、黄婕、姜斌、姜华、王中

一、邱波、余利峰同学，一起成长的岁月我将永远铭记；特别感谢我的挚友们姚

敬先、徐亮、黄凯和章成杰，我虽已不在心理系，但我们的感情一直维系如初，

愿友谊地久天长；感谢王超、竺佳芳、范心仪、杨冰、陈昱蓉、金璐琦、梁钢、

罗文彬、黄筱娴、叶华鑫、张程锟、汤求毅、戴震、王欣和王昱文等师弟师妹，

难忘我们一起为科研和项目奋斗的日日夜夜，与你们合作使我受益颇丰；感谢实

验室所有的兄弟姐妹们，是你们让实验室变得求是而又活泼。

由衷感谢我父母，能投胎到这个温馨幸福而又相亲相爱的家庭是我一生最大

的幸事。感谢你们从小为我提供良好的环境，教育我先做人后做事，树立我正确

的价值观，也感谢你们在背后默默无闻地支持我在学术的道路上一直走下去，你

们永远是我温暖的港湾。由衷感谢我的亲人好友，虽然生活不在左右，但对我的

鼓励常在心中，给我信心去期待明天的太阳。由衷感谢我的女朋友余佳鸣，相互

鼓励，相互陪伴，共度了彼此的所有痛苦、郁闷和欣喜，愿未来相互扶持，同度

美好。

由衷感谢为本文研究提供实验数据的杭州市勘测设计研究院钱江分院张军

民院长、秦华副院长，与你们的合作使我受益匪浅。

由衷感谢为本文评审付出辛勤劳动的各位专家，你们的宝贵意见是我努力改

进的方向。

由衷感谢承载了我九年光阴的母校，浙江大学，虽然你不曾开口，但你一直

在那儿，让我以浙大人为荣，让我充满自信和力量。

承蒙时光不弃，感谢一切给予，最后感谢所有帮助和关心我的人，幸会，也

祝福你们一切都好。

徐流畅

于2020年6月3日夜

摘要

随着我国数字城市与智慧城市建设的不断开展，地址信息作为战略性的基础

地理信息及空间数据资源，在人们日常生活中的作用愈发重要，而且在国家的经

济建设、文化发展和社会管理等多方面也起到相当关键的作用。在各行各业的基

于位置服务的大数据应用需求驱动下，我国各相关部门采集和积累了海量异构的

地址数据。然而由于我国地址规范标准不统一以及人工采集与管理秩序的混乱，

导致地址信息的解析和理解成为一大难题，也极大地限制了其在各个领域内的应

用。因此，有必要从认知地址文本信息和理解地址语义知识的角度出发以形成地

址语义模型，让其深入挖掘地址信息的语义特征内涵并适用于计算机的高性能运

算。此外，地址特有的寻址属性使得理解和融合其语义与空间信息具有重要的理

论价值和实践意义，也是当前的学术热点。

针对现有的地址模型研究中所存在的语义信息表达不完善、信息智能化应用

不充分以及相关任务场景泛化性弱的困境，本文利用了深度神经网络中的注意力

机制及“预训练-微调”模式，将地址语义理解、语义地址匹配和空间语义融合等

关联度较大的任务转为可计算的深度神经网络模型的搭建和优化问题。针对地址

文本语料的特性，采用自监督学习构建深度学习架构以形成地址语义模型来支持

各地址相关任务。在此基础上，通过生成有监督的匹配数据集对模型进行微调，

让模型针对性地识别地址间的语义相似性并实现高精度的地址匹配任务。同时考

虑到地址特有的空间属性，设计了一套遵循空间相似度规则的数据集并通过对地

址语义模型的微调将空间距离与地址语义进行深度关联融合。本研究系统性地构

建了语义认知理解-地址高效精确匹配-空间语义深度融合-下游应用任务验证评

价的中文地址理论体系和方法架构，以百万量级的位于浙江省杭州市上城区的地

址语料库为实验数据对设计的方法架构进行测试、验证和应用。本文的研究内容

概况如下：

（1）构建了一套以广义的自回归预训练方法为核心的深度神经网络结构下

的地址语义模型来实现地址语义信息的自动获取，并将“预训练-微调”模式引入

地址研究中。考虑到地址中每个字符间的相互影响和双