通过使用超球面坐标改进高维潜在空间的 VAE 生成-计算机科学-机器学习-变分自编码器-生成模型.pdfVIP

通过使用超球面坐标改进高维潜在空间的

VAE生成

stnd

1AlejandroAscarate2LeoLebrat

SchoolofElectricalEngineeringandRoboticsSchoolofElectricalEngineeringandRobotics

QueenslandUniversityofTechnologyQueenslandUniversityofTechnology

Brisbane,AustraliaBrisbane,Australia

a.ascaratecastro@.auleo.lebrat@.au

rdth

3RodrigoSantaCruz4ClintonFookes

Data61SchoolofElectricalEngineeringandRobotics

本CSIROQueenslandUniversityofTechnology

译Brisbane,AustraliaBrisbane,Australia

中rodrigo.santacruz@csiro.auc.fookes@.au

1th

5OlivierSalvado

v

0SchoolofElectricalEngineeringandRobotics

0

9QueenslandUniversityofTechnology

5Brisbane,Australia

1

.olivier.salvado@.au

7

0

5

2

:摘要—变分自动编码器（VAE）将数据编码为低维潜在向然而，我们关于欧几里得几何的直觉源于物理世界

v

i量，然后再解码回数据。训练完成后，通常从先验分布中解码一和日常生活，这些大多是低维空间（主要是二维和三

x

r个随机的潜在向量不会产生有意义的数据，至少当潜在空间维维）。这提出了一个挑战，因为高维空间在数学上表现

a度超过十几个时是这样。在这篇论文中，我们通过借鉴高维统计

方式与它们的低维对应物非常不同，通常通过低维直觉

学中的见解来研究这个问题：在这些情况下，标准VAE的潜在

来解释时会显得反直观甚至矛盾。

向量按构造均匀分布在超球体上。我们提出使用超球坐标表示

VAE的潜在变量，这允许将潜在向量压缩到超球体上的一个区我们将强调与VAE相关的问题是如何与超体积以

域，从而减少潜在稀疏性，并且表明这可以提高VAE的生成能及潜在空间中空洞和稀疏性的产生相关的，这阻碍了它

力。我们提出了一个新的潜在空间参数化方法，计算开销有限。们生成有意义的新样本的能力，即使重构指标可以被很

IndexTerms—变分自编码器，生成模型，高维统计，潜

好地优