面向时间序列任务的AutoML框架中元搜索空间构建协议与底层特征变换策略研究.pdfVIP

面向时间序列任务的AUTOML框架中元搜索空间构建协议与底层特征变换策略研究1

面向时间序列任务的AutoML框架中元搜索空间构建协议

与底层特征变换策略研究

1.研究背景与意义

1.1时间序列任务特点

时间序列数据是按照时间顺序排列的数据点集合，具有独特的特点。首先，时间序

列数据存在时间依赖性，即数据点之间存在先后顺序关系，后续数据点的值通常受到前

面数据点的影响。例如，在股票价格预测中，当日的股票价格与前几日的价格密切相关。

其次，时间序列数据具有季节性和趋势性。季节性是指数据在固定时间间隔内呈现规律

性的变化，如零售业的销售额在节假日和非节假日存在明显差异；趋势性则是数据随时

间的长期变化趋势，如全球气温逐年上升的趋势。此外，时间序列数据还可能存在噪声

和异常值，这些因素会干扰模型对数据规律的学习和预测。例如，在传感器数据中，由

于设备故障或环境干扰，可能会出现一些异常的测量值。这些特点使得时间序列任务的

建模和预测具有一定的复杂性，需要专门的处理方法和模型来应对。

1.2AutoML在时间序列任务中的应用现状

AutoML（自动化机器学习）旨在通过自动化流程减少人工干预，提高机器学习模

型的开发效率和性能。在时间序列任务中，AutoML的应用逐渐受到关注。目前，一

些AutoML工具已经能够处理时间序列数据，但还存在一些局限性。例如，许多现有

的AutoML框架在处理时间序列任务时，主要依赖于传统的机器学习算法，如ARIMA

（自回归积分滑动平均模型）和LSTM（长短期记忆网络），这些算法虽然在某些情况下

表现良好，但在面对复杂的、大规模的时间序列数据时，可能会出现性能瓶颈。此外，

现有AutoML框架在时间序列任务中的元搜索空间构建还不够完善。元搜索空间是指

在自动化模型选择和超参数优化过程中可供搜索的模型和参数集合。目前的元搜索空

间往往过于宽泛或不够针对性，导致搜索效率低下，难以在有限的时间内找到最优的模

型和参数组合。底层特征变换策略也存在不足。时间序列数据的特征提取和变换对于模

型性能至关重要，但现有的AutoML框架在这方面还不够智能，不能很好地自动识别

和提取时间序列数据中的关键特征，如周期性特征、趋势性特征等。这限制了AutoML

在时间序列任务中的应用效果和性能提升。

2.元搜索空间构建2

2.元搜索空间构建

协议##2.1元搜索空间定义与作用

元搜索空间是自动化机器学习（AutoML）框架中一个关键概念，它包含了所有可

供选择的模型架构和超参数组合。在时间序列任务中，元搜索空间的作用尤为重要。首

先，它为模型选择和超参数优化提供了搜索范围。一个合理定义的元搜索空间能够确保

搜索过程覆盖到潜在的优秀模型和参数组合，从而提高模型性能。例如，在时间序列预

测任务中，如果元搜索空间中包含了多种先进的深度学习模型架构（如Transformer变

体）和合适的超参数范围，那么通过搜索过程就有可能找到比传统方法更优的模型。其

次，元搜索空间的定义也会影响搜索效率。如果空间过大，可能导致搜索过程耗时过长，

难以在实际应用中快速得到结果；如果空间过小，则可能遗漏优秀的模型和参数组合。

研究表明，一个经过精心设计的元搜索空间可以将搜索时间缩短30%以上，同时提高

模型性能10%至20%。

2.2构建协议关键要素

构建元搜索空间的协议需要综合考虑多个关键要素。首先，模型选择是核心环节。

对于时间序列任务，应包含从传统统计模型（如ARIMA）到现代深度学习模型（如

LSTM、Transformer）的多种模型架构。以金融时间序列预测为例，研究表明，深度学

习模型在处理高频数据时具有优势，而传统统计模型在某些低频数据场景下也能提供可

靠的基线性能。因此，一个合理的元搜索空间应包含至少5种不同类型的模型架构，以

确保能够适应不同复杂度和特征的时间序列数据。其次，超参数范围的确定至关重要。

超参数如学习率、隐藏层大小等对模型性能有显著影响。例如，在LSTM模型中，隐

藏层大小的合理范围通常在50至200之间，学习率则在0.001至0.01之间。通过实验

发现，将超参数范围设置得过于宽泛会增加搜索成本，而设置得过于狭窄则可能错