图片搜索系统智能化演进之路.pptx

搜狗图片搜索系统智能化演进之路大纲排序图片搜索中的排序搜狗图片搜索中的机器学习技术SAMPLE TEXTSAMPLE TEXTSAMPLE TEXT排序排序目标：请从小(大)到大(小)排序 排序对象：数值对排序目标和排序对象都有非常清晰的理解图片搜索排序图片搜索：满足用户查找图片的需求图片搜索排序图片搜索：满足用户查找图片的需求图片搜索排序Query：图片搜索排序Doc：数 据 积 累图片搜索排序Query-Doc相关性排序：Rank图片搜索排序图片搜索排序Query理解：分词、去词、同义词、词重要度、二次查询。。。。Doc理解：页面解析、关键词提取、topic、分类。。。相关性计算：计算Query和Doc相关性Query与Doc各个域的文本相关性。。。搜狗图片搜索中的机器学习技术相关性特征数据积累排序模型相关性特征人工特征BM25、MatchRank、TitleRank、ContentRank等学习特征查询词-图像相关性特征查询词-站点相关性特征先验知识融入相关性计算文本匹配相关性特征文图对应特征结合图像特征的关键词提取查询词-图像相关性特征奥迪查询词-图像相关性特征奥迪刘德华文本语义向量 图像语义向量Cosin(func(v(奥迪))，v( )) Cosin(func(v(刘德华)) ，v(如何得到query文本以及pic的语义向量？如何得到func()?))查询词-图像相关性特征查询词-图像相关性特征查询词-图像相关性特征上线碰到的问题在线计算：前向计算：线上对个doc进行计算，每个Doc都需要1次前向计算，计算量巨大，需要GPU集群相似度计算：2个200维的向量计算余弦距离做进数据：一个doc有200维float，需要200 * 4 = 800(byte)，而DocInfo一共只有338byte，存储开销太大解决方法：hash(PCA-ITQ)查询词-图像相关性特征效果：单特征NDCG@10:0.7NDCG@10提升3%查询词-站点相关性特征查询词-站点相关性特征查询词-站点相关性特征如何获得查询词的语义向量、站点的语义向量？查询词-站点相关性特征如何获得查询词的语义向量，以及如何获得站点的语义向量？数据获取: 随机挑选一批查询词，获取点击数据数据处理：通过点击获得查询词和doc站点的链接关系，生成二部图，如下：猫简笔画---http://www.jianbihua.cc-兔子简笔画------/www.jianbihua.cc-http://www.jianbihua.cc-兔子简笔画------/兔http://www.jianbihua.cc-兔子简笔画------/子http://www.jianbihua.cc-兔子简笔画------/简http://www.jianbihua.cc-兔子简笔画------/笔http://www.jianbihua.cc-兔子简笔画------/画------…奥迪------宝马------。。。Deepwalk：将如上二部图给deepwalk，生成query和site的语义向量。基于这语义向量，即可计算query与site的相关关系。Deepwalk包括两部分逻辑，randomwalk和word2vector，randomwalk基于二部图生成随机的序列， 将这些序列类比成句子，输给word2vector，生成语义向量。查询词-站点相关性特征如何解决未登录词问题？我们只得到了 ‘兔子简笔画’的语义向量，如何得到‘猫简笔画’的语义向量呢？---和查询词-图像相关性特征计算同理，把站点看成是图像，采用相同架构学习既可解决。查询词-站点相关性特征……Site语义空间FCFC桥梁是在Site语义空间的QueryQuery语 义空间FC……Req@siteRep@siteRep@queryRep@siteQuery表示查询词-站点相关性特征查询词-站点相关性特征效果：单特征NDCG@10：0.63NDCG@10提升1%先验知识融入相关性计算先验知识融入相关性计算知识？先验知识融入相关性计算先验知识融入相关性计算大宝（护肤品）化妆品:0.7384, 护肤品:0.2822, 公司:0.2150, 企业:0.2101, 美容:0.1975, 公益:0.1834, 皮肤:0.1775, 北京|Beijing|帝都|Peking|顺天府|北平|燕京|京城:0.1245, 制药:0.1182, 名牌:0.1075, 技术:0.1019,QueryDoc识别词条百科词条识别Tag选择tagTag挖掘相关性特征计算正排索引Tag库数据制作线上检索离线挖掘先验知识融入相关性计算文本匹配相关性特征基于表示模型 ? 基于交互模型表示模型： DSSM/CDSSM，ARC-I交互模型： Deep-M