目录


第1章绪论

1.1机器学习简介

1.2特征工程与数据表示学习

1.3数学与概率基础

第2章传统降维方法

2.1主成分分析

2.1.1标准的主成分分析

2.1.2核主成分分析

2.2多维尺度变换

2.2.1多维尺度变换的定义

2.2.2多维尺度变换的求解

2.3流形学习

2.3.1等距特征映射

2.3.2局部线性嵌入

2.3.3拉普拉斯特征映射

2.3.4局部切空间排列

2.3.5生成拓扑映射

2.4t分布随机邻域嵌入

2.5自编码器

2.5.1基本概念

2.5.2输出层的激活函数

2.5.3损失函数

2.5.4自编码器与主成分分析的比较

参考文献

第3章分布式表示学习和聚类算法

3.1分布式表示学习的概念

3.2Kmeans算法和K近邻算法

3.2.1Kmeans算法

3.2.2Kmeans的改进

3.2.3K近邻算法

3.2.4KNN的改进

3.3原型聚类算法

3.3.1学习向量量化算法

3.3.2高斯混合聚类算法

3.4基于密度的聚类算法

3.4.1DBSCAN算法

3.4.2OPTICS算法

3.4.3DENCLUE算法

3.5层次聚类

3.5.1层次聚类方法链接

3.5.2经典层次聚类算法的步骤

3.5.3层次聚类的改进算法

参考文献

第4章稀疏表示学习

4.1引言

4.2稀疏表示学习简介

4.2.1专业名词解析

4.2.2L1正则化

4.2.3奇异值分解

4.2.4缺失数据和矩阵填充

4.2.5有限等距性质

4.2.6信号与稀疏表示

4.2.7正交基

4.2.8用正交基逼近

4.2.9用过完备基重构

4.3匹配追踪算法

4.3.1字典构建

4.3.2通过DCT基构建字典

4.3.3基于DCT字典图像稀疏去噪算法学习

4.3.4通过学习来构建字典

4.3.5重构算法介绍

4.3.6凸松弛重构算法

4.3.7贪婪算法

4.4迭代加权最小二乘法

4.5压缩感知

4.5.1基本思想介绍

4.5.2结构化稀疏重构模型

4.5.3压缩感知架构

4.5.4基于字典的稀疏表示

4.5.5分块压缩感知

4.5.6结构化压缩感知模型

4.5.7商品推荐应用

4.5.8信号传输应用

参考文献

第5章神经网络中的特征提取

5.1神经网络简介

5.1.1生物神经网络

5.1.2人工神经元

5.1.3人工神经网络

5.2多层神经网络

5.2.1前向传播

5.2.2反向传播算法

5.2.3神经网络之特征提取 Word2Vec

5.3卷积神经网络

5.3.1卷积层

5.3.2池化层

5.3.3全连接层

5.3.4卷积神经网络的特点

5.4循环神经网络

5.4.1序列数据

5.4.2循环神经网络

5.4.3循环神经网络的变体

5.4.4双向LSTM之特征提取 ELMo

5.5图神经网络

5.5.1图结构定义

5.5.2通用的图神经网络框架

5.5.3图卷积网络

5.5.4GraphSAGE

5.5.5图注意力网络

参考文献

第6章生成式表示学习

6.1贝叶斯学习

6.1.1概率论基础

6.1.2贝叶斯定理

6.1.3最大似然估计和KL散度

6.1.4贝叶斯分类

6.1.5概率生成式模型

6.1.6最大似然解

6.2近似推断

6.2.1马尔可夫链蒙特卡洛采样

6.2.2证据下界

6.2.3变分推断

6.3概率图模型

6.3.1盘式记法

6.3.2马尔可夫随机场

6.3.3有向图模型

6.3.4变分自编码器

6.3.5混合概率图模型

6.4生成对抗网络

6.4.1二项分布的最大似然估计

6.4.2生成器

6.4.3生成对抗网络的交替优化

6.4.4GAN的训练问题

6.5扩散模型

6.5.1扩散模型简介

6.5.2前向过程

6.5.3逆向过程

6.5.4模型训练

参考文献

第7章对比式表示学习

7.1无监督表示学习

7.2对比式表示学习概述

7.3数据增强

7.3.1计算机视觉中的数据增强

7.3.2自然语言处理中的数据增强

7.3.3图网络分析中的数据增强

7.4正负样本的选择

7.4.1正样本采样

7.4.2负样本采样

7.5相似性度量

7.5.1传统的度量方式

7.5.2互信息度量

7.5.3理论分析

7.6对比框架

7.6.1计算机视觉中的对比式表示学习

7.6.2图网络分析中的对比式表示学习

7.6.3自然语言处理中的对比式表示学习

7.7挑战和未来工作

参考文献