CN116109918B 轻量化多域联合蒸馏的高光谱地物分类方法 （西安电子科技大学）.docxVIP

(19)国家知识产权局

(12)发明专利

(10)授权公告号CN116109918B(45)授权公告日2025.07.01

(21)申请号202211053061.5

(22)申请日2022.08.30

(65)同一申请的已公布的文献号申请公布号CN116109918A

(43)申请公布日2023.05.12

GO6V

GO6V

GO6V

GO6N

GO6N

GO6N

10/774(2022.01)10/82(2022.01)

10/58(2022.01)3/0464(2023.01)

3/096(2023.01)

3/084(2023.01)

(73)专利权人西安电子科技大学

地址710071陕西省西安市太白南路2号

(72)发明人王佳宁黄润虎胡金雨刘一琛郭思颖

(56)对比文件

CN112508169A,2021.03.16CN113505719A,2021.10.15审查员来文燕

(74)专利代理机构陕西电子工业专利中心

61205

专利代理师王品华

(51)Int.CI.

GO6V20/10(2022.01)

GO6V10/764(2022.01)权利要求书3页说明书10页附图2页

(54)发明名称

轻量化多域联合蒸馏的高光谱地物分类方

法

(57)摘要

CN116109918B本发明公开了一种轻量化多域联合蒸馏的高光谱地物分类方法，主要解决现有方法网络复杂、运行效率低及通用性差的问题。其方案是：对高光谱图像进行归一化和光谱维度扩张处理，并划分训练集和测试集；构建点卷积组成的轻量化网络模型，随机初始化N个教师模型和一个学生模型；用每一个高光谱图像单独训练一个教师模型；在训练集上计算教师模型和学生模型之间的特征相似度损失和学生模型的分类损失，并将两者相加得到总损失；使用总损失训练学生模型；将测试集输入训练好的学生模型得到分类结果，输出分类图。本发明使用同一模型实现对多域数据集的高效分类，简化了网络结构，提高了分类

CN116109918B

输入多个高

输入多个高光谱图像

图像预处理获取样本集

构建训练网络

训练多个教师模型

训练学生模型

网络训练完成全图分类

CN116109918B权利要求书1/3页

2

1.一种轻量化多域联合蒸馏高光谱地物分类方法，其特征在于，包括以下步骤：

S1)对N个高光谱图像依次进行归一化处理和光谱维度扩张，得到N个维度相等的高光谱图像，再将每个高光谱图像数据划分为训练集和测试集，共得到N个训练集和N个测试集；

S2)构建由多个点卷积层、一个池化层和一个全连接层级联组成的轻量化网络，并根据其网络结构创建并随机初始化N个教师模型和一个学生模型，且保证教师模型和学生模型具有相同的网络结构；

S3)利用N个训练集采用梯度下降算法对N个教师网络模型分别进行独立训练，在训练迭代过程中，每次迭代对训练集进行精度计算，并将训练集上精度最高的一代网络模型权重作为最终的分类模型权重，得到训练好的N个教师模型；

S4)利用训练好的N个教师模型对同一个学生模型进行基于特征的知识蒸馏，得到训练好的学生模型：

S41)在N个训练集中分别随机采样相同数量的训练样本，并分别输入到训练好的对应教师模型，得到教师模型的输出特征；

S42)将所有采样的训练样本输入到学生模型，得到学生模型的输出特征和预测概率；

S43)计算学生模型的输出特征与教师模型的输出特征之间的相似度，并作为相似度损失MLoss;利用交叉熵损失计算学生模型的预测概率与真实类别标签的分类损失CLoss,得到总损失Loss=MLoss+CLoss;

S44)使用总损失Loss迭代更新学生模型，并将总损失Loss最低的一代网络模型权重作为最终的学生模型权重，得到训练好的学生模型；

S5)将N个测试集输入训练好的学生模型进行测试得到最终的分类结果，并根据分类结果输出N个高光谱图像数据的分类图。

2.根据权利要求1所述的方法，其特征在于，步骤S1)中对N个高光谱图像依次进行归一化处理和光谱维度扩张，实现如下：

S11)对高光谱图像数据x进行线性变换，使高光谱数据x映射到[0,1]之间，得到归一化

后的高光谱图像,其中μ,σ分别是高光谱图像数据x的均值和方差；

S12)对归