《机器学习技术应用》课件——pro2_2_2 hyperopt贝叶斯高效优化参数.pptxVIP

授课教师：;背景描述：;项目目标：;授课教师：;模块2:hyperopt贝叶斯高效优化参数;基于贝叶斯优化的支持向量机（SVM）模型构建;省时：几乎每次尝试都离最优解更近，避免无效实验。

适应复杂问题：即使参数和目标的关系不明确（比如非线性、有噪声），也能找到规律。

自动权衡风险：不会只钻牛角尖优化一个区域，也探索未知领域。

;Hyperopt优化器是目前最通用的贝叶斯优化器之一，它集成了包括随机搜索、模拟退火和TPE（Tree-structuredParzenEstimatorApproach）等多种优化算法。相比于Bayes_opt，Hyperopt的是更先进、更现代、维护更好的优化器，也是我们最常用来实现TPE方法的优化器。

;hp.quniform(“参数名称”,下界,上界,步长)-适用于均匀分布的浮点数

hp.uniform(“参数名称”,下界,上界)-适用于随机分布的浮点数

hp.randint(“参数名称”,上界)-适用于[0,上界)的整数，区间为前闭后开

hp.choice(“参数名称”,[“字符串1”,“字符串2”,…])-适用于字符串类型，最优参数由索引表示

hp.choice(“参数名称”,[*range(下界，上界，步长)])-适用于整数型，最优参数由索引表示

hp.choice(“参数名称”,[整数1,整数2,整数3,…])-适用于整数型，最优参数由索引表示

hp.choice(“参数名称”,[“字符串1”,整数1,…])-适用于字符与整数混合，最优参数由索引表示

;fmin的核心功能

输入：你需要告诉它两件事：

目标函数：一个能计算模型性能（如分类错误率）的函数。

搜索空间：超参数的可能取值范围（如学习率在[0.001,0.1]之间）。

输出：找到的最佳超参数组合。

秘密武器：使用贝叶斯优化（基于TPE算法），比随机搜索/网格搜索更高效。