论文复现技术报告.docxVIP

电子科技大学学院

课程报告

课程名称深度学习

学生姓名

学号

学期2023-2024-1学期

考核方式考查

Class-SpecificSemanticReconstructionforOpenSetRecognition的复现与深入理解-必要的组件以及

论文复现技术报告内容要求

摘要（Abstract）（必选）

在这项研究中，我们复现了一种名为“类特定语义重构”（CSSR）的方法，旨在提高深度神经网络（DNN）在开集识别任务中的性能。此方法结合了自编码器（AE）和原型学习的优势。与传统的基于原型的方法不同，CSSR通过使用类特定的AE来代替原型点，将每个已知类别建模在一个单独的AE流形上，并通过AE的重构误差来衡量样本的类别归属。在这个过程中，类特定的AE被嵌入到DNN的顶部，用于重构DNN学习到的语义表示而非原始图像。通过端到端学习，DNN和AE相互促进，共同学习区分性和代表性信息。与此同时，我们对所生称的创新点进行了深入分析，以评估是否真正有用。

引言（Introduction）（可选）

在当今的机器学习领域，开集识别（opensetrecognition）日益成为一个重要议题。这一任务要求深度神经网络（DNN）不仅在已知类别上保持高精度分类，同时也能有效识别未知类别的样本。这对于实际应用，如自动驾驶和医疗诊断，至关重要，因为它们经常面临无法预见的新情况和类别。传统的分类方法通常只关注已知类别，忽视了未知类别的识别，这限制了它们在实际应用中的有效性。

在此背景下，我选择复现一篇提出“类特定语义重构”（Class-SpecificSemanticReconstruction,CSSR）方法的论文。CSSR是一个创新的方法，它结合了自编码器（AE）和原型学习的优势，为开集识别提供了一种新的视角。这种方法的独特之处在于，它通过为每个已知类别构建一个类特定的AE流形，以及通过AE的重构误差来衡量类别归属，从而实现了更精确的识别效果。

复现这篇论文的目的是验证其在实际数据集上的有效性，并探索其在不同应用场景中的潜力。我特别感兴趣的是理解CSSR如何处理各种类型的数据，并评估其对于提高DNN在未知类别识别中的表现的影响。通过这项复现工作，我希望深入理解CSSR的工作机制，并为开集识别的研究贡献新的见解。

相关工作（RelatedWork）（可选）

2.1开集识别

开集识别的早期研究主要利用传统机器学习方法，通过分类器产生的分数来识别未知样本。例如，Scheirer等人采用支持向量机识别已知类别，并利用极值分布来检测未知类别。随着深度神经网络（DNN）强大的表示学习能力的应用，近年来出现了许多新方法，如使用最大SoftMax概率拒绝不确定的预测，或是使用OpenMax函数代替SoftMax函数来明确获得未知类别的置信度。

AE基于DNN的方法

AE基于DNN的方法在开集识别中也有所应用。例如，Zhang等人提出使用稀疏表示来模型化开集识别问题。Oza和Patel提出了C2AE方法，该方法首先训练编码器进行已知集合识别，然后保持编码器固定并添加类条件信息以训练解码器进行未知检测。然而，这些方法通常存在两个问题：一是基于像素的图像重构学习的表示包含了不必要的背景信息；二是AE学习的连续流形可能会覆盖类间区域。

原型类似的DNN方法

原型类似的DNN方法是另一类重要的开集识别方法。例如，Yang等人提出了广义卷积原型学习，用开放世界导向的原型模型替代了封闭世界假设的SoftMax分类器。Chen等人开发了RPL方法，通过与互惠点的其他性来分类样本为已知或未知。这类方法的限制在于缺乏适应性和表示多样性。

2.2OOD检测

OOD检测涉及到检测不属于训练集的样本。有些方法在训练期间考虑了OOD样本，但这与我们的任务不符，我们的任务中只能在训练期间访问分布内数据。尽管拥有已知异常值可以大大简化OOD检测，但开集识别在实际应用中更为常见和现实。

监督方法和自我监督方法

在OOD检测中，有些方法建立在分类任务之上，如利用最大SoftMax概率、最大logit分数或能量分数来构建OOD检测器。自我监督方法则是一种较新的方法，它利用自监督学习的方式来学习良好的表示。例如，预测图像变换（如旋转）的任务被用作辅助任务。

在我们的复现研究中，我们特别关注那些与CSSR方法直接相关的工作，以及它们对于提高开集识别性能的影响。我们的目标是深入理解这些方法的优势和局限，并探索如何将它们有效地整合到CSSR框架中，以提高开集识别的效果。方法方法（Methodology）