基于Graph Embedding的行业因子向量化.pdfVIP

核心观点 传统方法在处理行业因子信息时通常采用one-hot将行业转变为哑变量进行处理（对于某些特殊模型，可以采 用category变量）。这两者均无法表示行业之间的内在关联关系。且哑变量为稀疏矩阵，信息密度较低，增 加了计算开销。 本文利用行业相关性矩阵构建图结构，采用Graph Embedding的算法Node2vec将行业因子进行向量化处理，得 到的行业因子能够有效的包括行业内在相关性。 提纲 01 Graph Embedding介绍 02 行业Embedding 03 讨论 Embedding 嵌入（Embedding ）是指一个数学结构经映射包含到另一个结构中。某个物件X称为嵌入到另一个物件Y中， 是指有一个保持结构的单射f: X→Y ，这个映射f就给出了一个嵌入 万物皆可Embedding （word embdding、item embedding、graph embedding ） 经典的Word Embedding算法包括： Word2vec、 GloVe、FastText等 大语言Embedding模型 ：BERT、EloMo、GPT等 One-hot 独热编码（one-hot ）：用N位状态寄存器来对N个状态进行编码 在NLP中，将单词转换为独热向量 缺点：