AI辅助的光通信星座图优化.pdfVIP

AI辅助的光通信星座图优化

摘要

随着5G/6G、云计算和人工智能等技术的快速发展，光通信系统面临频谱效率提升和抗噪声能力增强的

双重挑战。传统矩形正交幅度调制（QAM）星座图因规则分布导致与信道特性匹配度不足，尤其在自由

空间光通信（FSO）等非理想信道中，大气湍流和信道估计误差会显著恶化系统性能。现有星座整形技术

如概率整形（PS）和几何整形（GS）虽能提升容量和可靠性，但概率整形依赖复杂的分布匹配器且对非

线性效应敏感，几何整形需优化星座点位置而存在收敛速度慢和适应性有限的问题。此外，传统方法多

针对加性高斯白噪声（AWGN）信道设计，难以直接适用于光通信的非线性、时变信道环境。因此，亟

需一种能够自适应湍流信道、联合优化星座几何与概率分布的智能整形方法。

本研究旨在开发一种AI辅助的光通信星座图优化方案，通过自动编码器（Autoencoder）端到端建模星

座几何与概率联合整形，针对湍流信道动态优化星座点布局和分布概率，以提升系统广义互信息

（GMI）并降低误码率（BER）。核心方法包括：首先，构建基于神经网络的发射机（T-NN）和接收机

（R-NN），其中T-NN通过星座概率生成器（输出概率向量）和比特向量到星座点的映射器（BCM）分

别实现PS和GS，采用Gumbel-Softmax采样器保证梯度传播，使星座点位置和出现概率可联合优化；其

次，设计以BER和GMI加权组合的损失函数（如），通过PyTorch

框架实现反向传播训练；最后，利用COMSOL进行光场仿真模拟Gamma-Gamma湍流信道，将非线性

相位噪声和幅度衰落嵌入信道模型，验证自适应整形效果。实验部分以16QAM调制为基准，对比传统均

匀分布、单一PS或GS方案。结果表明，本方案在中等湍流强度（）下，GMI提

升至3.70bit/symbol（接近香农极限3.75bit/symbol），BER在信噪比（SNR）为15dB时降至

量级，较遗传算法优化方案收敛速度提升50%。此外，通过端到端训练中的自适应均衡器补偿信道估计

误差，在非理想信道（相关系数0.9）下仍保持NGMI值高于阈值，显著增强系统对信道突变的鲁棒性。

本研究创新点在于：

1.湍流信道自适应机制：结合信赖域算法与非线性共轭梯度法，动态调整星座点位置以匹配湍流引起

的信道抖动，克服传统GS对非线性效应的局限性；

2.几何-概率联合整形：通过自动编码器实现PS和GS的端到端协同优化，利用能量均衡的多成分分布

匹配器（CCDM）降低概率整形速率损失，同时以深度强化学习（DRL）优化星座坐标；

3.无信道模型辅助的优化框架：省去复杂信道建模步骤，通过可训练均衡器直接估计真实信道响应，

降低计算资源消耗40%以上。

综上所述，本方案为解决光通信中非线性与湍流效应提供了高效的星座整形新途径，未来可扩展至高阶

QAM（如64QAM）及融合小样本学习的在线监测系统，进一步推动智能光通信的发展。

信道输入

BinaryData

T-NN

PS+GSJointShaping

Maxwell-BoltzmannDRLCoordinate

DistributionOptimization

真实湍