目录


第一篇概述
第1章对话系统3
第2章意图识别6
2.1意图特征表示相关研究综述6
2.1.1离散式表示7
2.1.2分布式表示8
2.1.3小结13
2.2已知意图分类方法研究综述13
2.2.1基于单模型的对话意图分类模型研究综述13
2.2.2基于双模型的对话意图分类模型研究综述14
2.2.3小结14
2.3未知意图检测研究综述14
2.3.1基于传统判别式模型的未知意图检测15
2.3.2基于计算机视觉领域开放集识别的未知意图检测15
2.3.3基于领域外样本检测的未知意图类型检测16
2.3.4基于其他方法的未知意图类型检测16
2.3.5小结16
2.4未知意图类型发现研究综述17
2.4.1基于无监督聚类的未知意图类型发现17
2.4.2基于半监督聚类的未知意图类型发现18
2.4.3小结19
2.5本章小结19
第二篇意 图 分 类
第3章基于单模型的意图分类23
3.1引言23
3.2不同神经网络模型的对比24
3.2.1基线系统24
3.2.2基于神经网络语言模型的话语分类器24
3.2.3基于RNN的话语分类器25
3.2.4基于LSTM和GRU的话语分类器25
3.3实验25
3.3.1数据集和评价指标25
3.3.2实验设置26
3.3.3实验结果27
3.4本章小结29
目录  面向共融机器人的自然交互——人机对话意图理解  第4章用于意图分类和槽位填充的双RNN语义分析框架31
4.1引言31
4.2意图分类和槽位填充任务方法31
4.2.1基于深度神经网络的意图分类方法31
4.2.2基于循环神经网络的槽位填充方法32
4.2.3两个任务的联合学习模型32
4.3用于联合语义框架解析的双模型RNN结构32
4.3.1带有解码器的双模型结构32
4.3.2无解码器的双模型结构34
4.3.3异步训练34
4.4对比实验35
4.4.1数据集和评价指标35
4.4.2实验设置35
4.4.3实验结果36
4.5本章小结37第三篇未知意图检测
第5章基于模型后处理的未知意图检测方法41
5.1引言41
5.2基于模型后处理的未知意图检测方法41
5.2.1基于深度神经网络的意图分类器42
5.2.2SofterMax激活函数44
5.2.3深度新颖检测模块46
5.2.4Platt Scaling联合预测47
5.3实验48
5.3.1任务与数据集48
5.3.2实验设置49
5.3.3实现结果与分析51
5.4本章小结57
第6章基于深度度量学习的对话意图发现58
6.1引言58
6.2模型的框架结构58
6.3元特征表示59
6.3.1意图特征表示59
6.3.2计算簇中心向量59
6.3.3计算元特征表示60
6.4余弦分类器60
6.5深度度量学习61
6.5.1角度边际损失函数61
6.5.2距离边际损失函数63
6.6训练及预测64
6.6.1联合目标训练64
6.6.2基于置信度阈值的意图预测64
6.7实验结果与分析65
6.7.1实验数据集65
6.7.2评估方法66
6.7.3基准方法66
6.7.4参数设定67
6.7.5实验结果与分析67
6.8本章小结70
第7章基于大边际余弦损失函数的未知意图检测方法71
7.1引言71
7.2基于大边际余弦损失函数的未知意图检测模型71
7.2.1角度边际损失函数72
7.2.2大边际余弦损失函数74
7.3实验77
7.3.1任务与数据集77
7.3.2实验设置77
7.3.3实验结果与分析78
7.4本章小结79
第8章基于动态约束边界的未知意图检测方法80
8.1引言80
8.2模型的框架结构80
8.3动态约束边界的定义81
8.4深度意图特征学习82
8.5约束边界学习83
8.6训练及预测83
8.6.1交互式训练83
8.6.2基于动态约束边界的意图预测84
8.7基于动态约束边界的对话意图发现85
8.7.1实验数据集85
8.7.2评估方法85
8.7.3基准方法86
8.7.4参数设定86
8.7.5实验结果与分析86
8.8本章小结89
第四篇未知意图发现
第9章基于自监督约束聚类的未知意图发现模型93
9.1引言93
9.2用于自监督的约束聚类方法93
9.2.1Transformer双向编码器94
9.2.2成对相似性预测94
9.2.3基于KL散度的聚类精炼96
9.3实验97
9.3.1任务与数据集97
9.3.2实验设置98
9.3.3实验结果与分析100
9.4本章小结108
第五篇对话意图识别平台
第10章基于深度学习的对话意图识别实验平台113
10.1引言113
10.2开放意图识别平台114
10.2.1数据管理114
10.2.2模型115
10.2.3训练和评估117
10.2.4结果分析117
10.3总体框架120
10.4实验121
结束语122
参考文献123
附录A英文缩写对照表132
附录B图索引134
附录C表索引136