目录






第1章最优化导论

1．1优化的定义

1．1．1数学模型

1．1．2凸优化

1．1．3拟凸函数

1．1．4全局和局部最优

1．2优化问题的类型

1．2．1连续与离散优化

1．2．2无约束优化与约束优化

1．2．3单目标优化与多目标优化

1．2．4确定性优化与随机性优化

1．2．5黑盒优化和数据驱动的优化

1．3多目标优化

1．3．1数学模型

1．3．2Pareto最优性

1．3．3偏好建模

1．3．4偏好表示

1．4优化中不确定性的处理

1．4．1评价中的噪声

1．4．2鲁棒优化

1．4．3多场景优化

1．4．4动态优化

1．4．5时域鲁棒优化

1．5优化算法的对比

1．5．1算法效率

1．5．2性能指标

1．5．3可靠性评价

1．5．4统计测试

1．5．5基准问题

1．6总结

第2章经典优化算法

2．1无约束优化

2．1．1梯度法

2．1．2牛顿法

2．1．3拟牛顿法

2．2约束优化

2．2．1惩罚函数法和障碍函数法

2．2．2拉格朗日乘子法

2．3无梯度搜索方法

2．3．1线搜索和模式搜索

2．3．2NelderMead单纯形法

2．3．3基于模型的无梯度搜索方法

2．4确定性全局优化

2．4．1基于Lipschitz的方法

2．4．2DIRECT算法

2．5总结

第3章进化和群智能优化

3．1引言

3．2遗传算法

3．2．1定义

3．2．2表示

3．2．3交叉和变异

3．2．4环境选择

3．3实数编码的遗传算法

3．3．1实值表示

3．3．2混合交叉

3．3．3模拟二进制交叉和多项式变异

3．4进化策略

3．4．1(1+1)ES

3．4．2基于全局步长的进化策略

3．4．3基于个体步长大小的进化策略

3．4．4繁殖与环境选择

3．4．5协方差矩阵自适应进化策略

3．5遗传规划

3．5．1基于树结构的遗传规划

3．5．2初始化

3．5．3交叉与变异

3．6蚁群优化算法

3．6．1整体框架

3．6．2扩展应用

3．7差分进化算法

3．7．1初始化

3．7．2差分变异

3．7．3差分交叉 

3．7．4环境选择

3．8粒子群优化算法

3．8．1传统的粒子群优化算法

3．8．2竞争粒子群优化器

3．8．3社会学习粒子群优化器

3．9模因算法

3．9．1基本概念

3．9．2拉马克方法和鲍德温方法

3．9．3多目标模因算法

3．9．4鲍德温效应与隐藏效应

3．10分布估计算法

3．10．1一个简单的EDA

3．10．2求解离散优化问题的EDA

3．10．3求解连续优化问题的EDA

3．10．4多目标EDA

3．11参数自适应和算法选择

3．11．1自动参数调优

3．11．2超启发式算法

3．11．3适应度地形分析

3．11．4自动推荐系统

3．12总结 

第4章机器学习简介

4．1机器学习问题

4．1．1聚类

4．1．2维度约减

4．1．3回归

4．1．4分类

4．2机器学习模型

4．2．1多项式回归模型

4．2．2多层感知机

4．2．3径向基函数网络

4．2．4支持向量机

4．2．5高斯过程

4．2．6决策树

4．2．7模糊规则系统

4．2．8集成模型

4．3学习算法

4．3．1监督学习

4．3．2无监督学习

4．3．3强化学习

4．3．4高阶学习算法

4．4多目标机器学习

4．4．1单目标与多目标学习

4．4．2多目标聚类、特征选择和特征提取

4．4．3多目标集成模型生成

4．5深度学习模型

4．5．1卷积神经网络

4．5．2长短期记忆网络

4．5．3自关联神经网络和自编码器

4．5．4生成对抗网络

4．6进化与学习的协同作用

4．6．1进化学习

4．6．2基于学习的进化优化

4．7小结

第5章数据驱动的代理模型辅助的进化优化

5．1引言

5．2离线与在线数据驱动的优化

5．2．1离线数据驱动的优化

5．2．2在线数据驱动的优化

5．3在线代理模型管理方法

5．3．1基于种群的模型管理

5．3．2基于世代的模型管理

5．3．3基于个体的模型管理

5．3．4模因算法中的信任域方法

5．4贝叶斯模型管理

5．4．1获取函数

5．4．2进化贝叶斯优化

5．4．3贝叶斯进化优化

5．5贝叶斯约束优化

5．5．1约束优化的获取函数

5．5．2两阶段获取函数

5．6代理模型辅助的鲁棒性优化

5．6．1鲁棒性优化的双目标公式

5．6．2代理模型的构建

5．7模型的性能指标

5．7．1精度

5．7．2基于选择的性能指标

5．7．3等级相关性

5．7．4适应度相关性

5．8总结

第6章多代理模型辅助的单目标优化

6．1引言

6．2局部和全局代理模型辅助优化

6．2．1集成代理模型

6．2．2多代理模型的单目标模因优化

6．2．3多代理模型的多目标模因优化

6．2．4信任域方法辅助的局部搜索

6．2．5实验结果

6．3双层代理模型辅助粒子群算法

6．3．1全局代理模型

6．3．2局部代理模型

6．3．3适应度评估

6．3．4代理模型管理

6．3．5实验结果和讨论

6．4代理模型委员会辅助的粒子群优化

6．4．1代理模型委员会

6．4．2填充采样准则

6．4．3整体框架

6．4．4基准问题的实验结果

6．5分层代理模型辅助的多场景优化

6．5．1多场景翼型优化

6．5．2多场景优化中的分层代理模型

6．6自适应代理模型选择

6．6．1基本思路

6．6．2选择代理模型的概率模型

6．7小结

第7章代理模型辅助的多目标进化优化

7．1进化多目标优化

7．1．1假设和方法论

7．1．2基于分解的方法

7．1．3基于支配关系的方法

7．1．4基于性能指标的方法

7．2高斯过程辅助随机加权聚合方法

7．2．1代理模型辅助多目标优化的挑战

7．2．2高效全局优化方法

7．2．3多目标优化的扩展

7．3高斯过程辅助的基于分解的多目标优化

7．3．1MOEA/D

7．3．2主要框架

7．3．3局部代理模型

7．3．4代理模型管理

7．3．5讨论

7．4高维多目标贝叶斯优化

7．4．1主要挑战

7．4．2异构集成模型构建

7．4．3基于Pareto的多目标贝叶斯优化方法

7．4．4整体框架

7．5小结

第8章代理模型辅助的高维多目标进化优化

8．1高维多目标优化中的新挑战

8．1．1引言

8．1．2多样性与偏好

8．1．3拐点搜索

8．1．4求解非规则Pareto前沿面问题

8．2进化高维多目标进化优化算法

8．2．1参考向量引导的高维多目标优化

8．2．2拐点驱动的高维多目标优化算法

8．2．3双存档高维多目标优化算法

8．2．4高维多目标优化中的角排序

8．3高斯过程辅助的参考向量引导的高维多目标优化

8．3．1模型管理

8．3．2存档维持

8．4分类代理模型辅助的高维多目标优化

8．4．1主要框架

8．4．2基于径向投影选择

8．4．3基于参考集的支配关系预测

8．4．4代理模型管理

8．4．5代理模型辅助的环境选择

8．5dropout神经网络辅助的高维多目标优化

8．5．1ARMOEA

8．5．2高效深度dropout神经网络

8．5．3模型管理

8．5．4EDNARMOEA整体框架

8．5．5原油蒸馏装置的操作优化

8．6小结

第9章数据驱动进化优化中的知识迁移

9．1引言

9．2基于协同训练的代理模型辅助交互式优化

9．2．1总体框架

9．2．2区间预测的代理模型

9．2．3适应度评估

9．2．4iCSSL

9．2．5模型管理

9．3半监督学习辅助粒子群优化

9．3．1算法框架

9．3．2社会学习粒子群优化

9．3．3模型管理策略

9．3．4未标记数据的选择

9．3．5实验结果与讨论

9．4多目标优化中问题之间的知识迁移

9．4．1迁移学习的领域自适应

9．4．2从廉价到昂贵问题的知识迁移

9．4．3用于数据增强的CEBDA

9．4．4进化多目标贝叶斯优化

9．5多目标优化中目标之间的知识迁移

9．5．1动机

9．5．2基于参数的迁移学习

9．5．3算法框架

9．6数据驱动的多精度迁移优化

9．6．1双精度优化中的迁移学习

9．6．2迁移堆叠

9．6．3代理模型辅助的双精度进化优化

9．6．4实验结果

9．7代理模型辅助的多任务多场景优化

9．7．1多场景minimax优化

9．7．2代理模型辅助的minimax多因子进化优化

9．7．3实验结果

9．8小结

第10章代理模型辅助的高维进化优化

10．1代理模型辅助的协同优化求解高维问题

10．1．1RBF 辅助的 SLPSO

10．1．2FES 辅助的 PSO

10．1．3存档更新

10．1．4实验结果和分析

10．2高维优化中的多目标填充准则

10．2．1主要框架

10．2．2多目标填充准则

10．2．3实验结果和分析

10．3针对昂贵问题的多模型多任务优化

10．3．1多因子进化算法

10．3．2主要框架

10．3．3全局和局部代理模型

10．3．4基于全局和局部代理模型的多任务优化

10．3．5实验结果和分析

10．4随机特征选择下代理模型辅助的大规模优化

10．4．1主要框架

10．4．2子问题的形成与优化

10．4．3全局最优位置的更新

10．4．4实验结果和分析

10．5小结

第11章离线大或小数据驱动的优化及应用

11．1离线急救系统大数据驱动优化的自适应聚类

11．1．1问题建模

11．1．2用于离线数据驱动优化的自适应聚类

11．1．3实验结果

11．1．4讨论

11．2小数据驱动多目标镁炉优化

11．2．1基于全局代理的模型管理

11．2．2基准问题的验证实验

11．2．3电熔镁炉优化

11．3面向离线翼型优化的选择性集成模型

11．3．1问题建模

11．3．2离线数据驱动优化的选择性集成模型

11．3．3对比实验结果

11．4离线数据驱动的选矿过程优化中的知识迁移

11．4．1引言

11．4．2多代理模型优化的知识迁移

11．4．3基于参考向量的最终解选择

11．4．4选矿工艺优化

11．5离线动态数据驱动优化中的迁移学习

11．5．1动态数据驱动的优化

11．5．2用于增量学习的数据流集成模型

11．5．3基于集成的迁移优化

11．5．4用于最终解选择的支持向量域描述

11．5．5实验结果

11．6小结

第12章代理模型辅助进化神经架构搜索

12．1神经网络架构搜索的挑战

12．1．1架构表示

12．1．2搜索策略

12．1．3性能评估

12．2神经网络架构搜索中的贝叶斯优化

12．2．1架构编码

12．2．2核函数

12．2．3讨论

12．3随机森林辅助的神经架构搜索

12．3．1块式架构表示法

12．3．2离线数据产生

12．3．3随机森林构建

12．3．4搜索方法

12．3．5实验结果

12．4小结

参考文献