目录


第1章概述1
1.1研究背景1
1.2昂贵的多目标优化问题3
1.3研究现状分析5
1.3.1低维多目标贝叶斯优化方法5
1.3.2高维多目标贝叶斯优化方法10
1.4本书的主要研究内容12
1.5本书的结构安排14
第2章背景知识15
2.1基本概念15
2.2贝叶斯优化16
2.3高斯过程18
2.3.1均值函数和核函数选择19
2.3.2超参数选择20
2.4获取函数21
2.4.1期望改进22
2.4.2知识梯度23
2.4.3熵搜索和预测熵搜索27
2.4.4多步最优获取函数28
2.5标准合成的多目标测试问题29
2.6多目标优化方法的评价指标30
2.7本章小结33
第3章研究综述34
3.1综述部分的总体结构34
3.2相关研究工作34
3.2.1高维优化34
3.2.2组合优化37
3.2.3噪声和鲁棒优化38
3.2.4昂贵的约束优化41
3.2.5多目标优化43
3.2.6多任务优化46
3.2.7多保真度优化49
3.2.8迁移学习/元学习50
3.2.9并行/批次贝叶斯优化52
3.3本章小结53
目录  多目标贝叶斯优化——面向大模型的超参调优理论〖2〗〖2〗 〖1〗 第4章基于自适应采样的批量多目标贝叶斯优化方法54
4.1引言54
4.2ParEGO简介与局限性分析55
4.3基于自适应采样的批量多目标贝叶斯优化的研究方法56
4.3.1算法框架57
4.3.2初始化58
4.3.3函数评估与目标函数聚合58
4.3.4获取函数58
4.3.5自适应批量采样60
4.3.6高斯模型及更新62
4.4实验63
4.4.1实验设置63
4.4.2标准合成测试集上的对比结果65
4.4.3采样策略对算法性能的影响74
4.5神经网络超参调优任务案例分析77
4.5.1问题描述78
4.5.2实验结果与分析78
4.6本章小结81
第5章基于块坐标更新的高维多目标贝叶斯优化方法82
5.1引言82
5.2基于块坐标更新的高维多目标贝叶斯优化的研究方法83
5.2.1算法框架83
5.2.2初始化84
5.2.3函数评估与目标函数聚合85
5.2.4块坐标更新87
5.2.5贪心获取函数89
5.2.6高斯模型及候选解推荐90
5.3实验91
5.3.1实验设置91
5.3.2标准合成测试集上的对比结果92
5.3.3块坐标更新对决策空间降维的影响100
5.3.4贪心获取函数对平衡收敛性与多样性的影响103
5.3.5块大小d对算法性能的影响106
5.3.6上下文向量对算法性能的影响108
5.4本章小结109
第6章基于可加高斯结构的高维多目标贝叶斯优化方法111
6.1引言111
6.2ADDGPUCB简介与局限性分析112
6.3基于可加高斯结构的高维多目标贝叶斯优化的研究方法114
6.3.1算法框架114
6.3.2初始化115
6.3.3函数评估与目标函数聚合116
6.3.4决策空间划分学习116
6.3.5可加高斯模型117
6.3.6可加双目标获取函数和候选解推荐118
6.3.7模型更新119
6.4实验120
6.4.1实验设置120
6.4.2标准合成测试集上的对比结果121
6.4.3可加双目标获取函数对算法性能的影响125
6.5本章小结127
第7章基于变量交互分析的高维多目标贝叶斯优化方法128
7.1引言128
7.2基于变量交互分析的高维多目标贝叶斯优化的研究方法129
7.2.1算法框架129
7.2.2初始化与函数评估131
7.2.3可分多目标问题重定义131
7.2.4决策空间划分学习131
7.2.5多目标可加高斯模型133
7.2.6候选解推荐134
7.2.7模型更新135
7.3实验135
7.3.1实验设置135
7.3.2标准合成测试集上的对比结果136
7.3.3获取函数对算法性能的影响137
7.4本章小结139
第8章智能交通领域优化问题案例分析140
8.1问题描述140
8.1.1汽车侧面碰撞问题140
8.1.2带有偏好信息的汽车驾驶室设计问题141
8.2实验结果与分析142
8.2.1汽车侧面碰撞问题的结果分析143
8.2.2带有偏好信息的汽车驾驶室设计问题的结果分析143
8.3本章小结145
第9章未来研究工作展望146
9.1分布式贝叶斯优化146
9.2联邦贝叶斯优化147
9.3动态优化147
9.4异构评估148
9.5算法公平性148
9.6非平稳优化149
9.7负迁移150
第10章全书总结151
参考文献153
附录178
英文对照表178
图索引180
表索引182