数据智能研究前沿

“十三五”国家重点图书规划项目，国家出版基金项目“出版工程：类脑计算与类脑智能研究前沿系列”之一。

本书由智能信息处理领域的专家进行编写，涵盖了深度学习的标准算法及精选的应用案例，总结了近年来数据智能研究的新发展与成果。

由中国科学院院士和国家重点基础研究计划973的首席科学家徐宗本，“长江学者”特聘教授姚新合力编写。

“十三五”国家重点图书规划项目，国家出版基金项目“出版工程：类脑计算与类脑智能研究前沿系列”之一。

本书由智能信息处理领域的专家进行编写，涵盖了深度学习的标准算法及精选的应用案例，总结了近年来数据智能研究的发展与成果。

由中国科学院院士和国家重点基础研究计划973的首席科学家徐宗本，“长江学者”特聘教授姚新合力编写。

从事数据研究、深度学习、人工智能领域的科技人员

人工智能、计算机技术专业的广大高校师生

数据智能是以数据为中心、以“感一知一用”为模式的人工智能，也可以说是以数据获取、加工、处理、分析、应用为智能特征的人工智能。数据智能包括智能感知、智能认知（机器学习）、智能控制/智能决策等方面，是近代人工智能研究最为活跃、应用最为普遍的部分。本分册主要从深度生成模型、生成式对抗网络、模型驱动深度学习、自步一课程学习、强化学习、迁移学习及演化智能方面进行阐述，涵盖标准算法及精选的应用案例，总结了近年来数据智能研究的**发展与成果。

徐宗本，中国科学院院士，博导，国家重点基础研究计划973首席科学家。研究领域：Banach 空间几何理论与智能信息处理的数学基础方面，主持完成国家863、国家自然基金等国家科研课题15项。

姚新，**计划特聘教授，“长江学者”特聘教授，博导，南方科技大学计算机科学与工程系系主任。研究领域：神经计算、演化计算、机器学习、大数据分析、自适应优化等，获 IEEE 计算智能学会演化计算先驱奖，英国皇家学会沃尔夫森杰出研究奖。

1 深度生成模型
1.1 引言
1.2 模型定义
1.2.1 生成模型基本概念
1.2.2 基于层次化贝叶斯的建模
1.2.3 基于深度神经网络的建模
1.3 学习方法
1.3.1 最大似然估计
1.3.2 对抗式生成网络
1.3.3 矩匹配深度生成模型
1.4 “珠算”概率编程库
1.4.1 模型构建
1.4.2 推断和学习算法
1.5 典型应用
1.5.1 生成高质量的图片、视频、音频
1.5.2 半监督学习
1.5.3 风格迁移
1.5.4 强化学习
1.6 总结与展望
参考文献
2 生成式对抗网络
2.1 引言
2.2 生成式对抗网络概况
2.2.1 GAN提出的背景
2.2.2 GAN的基本概念
2.2.3 GAN的优势
2.2.4 GAN面临的挑战
2.2.5 小结
2.3 GAN的网络结构
2.3.1 DOCN
2.3.2 OGAN
2.3.3 InfoCAN
2.3.4 其他网络结构
2.4 GAN的损失函数
2.4.1 LSGAN
2.4.2 WGAN
2.4.3 WGAN-GP
2.4.4 EBGAN
2.4.5 BEGAN
2.4.6 RGAN
2.5 GAN的正则化方法
2.5.1 批归一化
2.5.2 权值归一化
2.5.3 谱归一化
2.5.4 正则化方法比较
2.6 GAN的训练与评价
2.6.1 训练技巧
2.6.2 优化算法
2.6.3 评价指标
2.7 GAN的应用
2.7.1 计算机视觉
2.7.2 自然语言处理
2.7.3 智能语音
2.7.4 其他领域
2.8 总结与展望
参考文献
3 模型驱动深度学习
3.1 模型驱动深度学习概述
3.2 优化模型驱动的深度学习
3.2.1 稀疏编码优化深度网络
3.2.2 ADMM深度网络及其在压缩传感成像中的应用
3.3 统计模型驱动的深度学习
3.3.1 MRF统计分布参数估计的深度学习方法
3.3.2 条件随机场模型驱动的深度学习
3.3.3 小结
3.4 其他领域模型驱动的深度学习方法
3.5 总结与展望
参考文献
4 自步一课程学习
4.1 课程学习
4.2 自步学习
4.3 自步正则
4.4 自步一课程学习
4.5 用武之地
4.6 从强监督到弱监督
4.6.1 零样本学习
4.6.2 弱监督学习——多示例学习
4.6.3 半监督学习——自步协同学习
4.7 自步一课程学习理论
4.7.1 稳健性理论
4.7.2 收敛性理论
4.7.3 凹共轭理论
4.8 元学习方法
4.9 总结与展望
参考文献
5 强化学习
5.1 强化学习简介
5.1.1 强化学习模型
5.1.2 马尔可夫决策过程
5.1.3 学习最优策略：无模型方法
5.1.4 通过学习模型来计算最优策略
5.2 深度强化学习
5.2.1 基于值函数的深度强化学习
5.2.2 基于策略梯度的深度强化学习
5.2.3 基于行动者一评论家的深度强化学习
5.3 迁移强化学习
5.3.1 迁移强化学习的定义
5.3.2 基于样例迁移的迁移强化学习
5.3.3 基于表示迁移的迁移强化学习
5.3.4 基于参数迁移的迁移强化学习
5.3.5 基于关系迁移的迁移强化学习
5.3.6 迁移强化学习的评估
5.4 分层强化学习
5.4.1 基于选项的分层强化学习
5.4.2 基于MaxQ函数分解的分层强化学习
5.4.3 基于分层抽象机的分层强化学习
5.4.4 深度分层强化学习和自动分层
5.5 逆向强化学习
5.5.1 基本概念
5.5.2 求解奖励函数
5.5.3 大状态空间下的奖励函数求解
5.5.4 基于最大熵的逆向强化学习
5.5.5 生成对抗模仿学习算法
5.6 多智能体强化学习
5.6.1 多智能体学习目标
5.6.2 基于表格表征的多智能体强化学习
5.6.3 深度多智能体强化学习
参考文献
6 迁移学习
6.1 迁移学习的概念
6.1.1 迁移学习的定义
6.1.2 迁移学习的问题设定
6.2 迁移学习的理论基础
6.2.1 数据集偏移及其原因
6.2.2 转导迁移学习经典理论
6.2.3 间隔分歧散度
6.2.4 j纳迁移学习的经典理论
6.3 归纳迁移学习
6.3.1 有监督预训练
6.3.2 无监督预训练
6.3.3 微调
6.4 转导迁移学习
6.4.1 样本重要性加权方法
6.4.2 基于距离约束的领域适应方法
6.4.3 基于对抗学习的领域适应方法
6.5 无监督迁移学习
6.5.1 双向生成式对抗网络
6.6 迁移学习的相关范式
6.6.1 多任务学习
6.6.2 少样本学习
6.6.3 持续学习
6.6.4 元学习
6.7 迁移学习的应用
6.7.1 智慧医疗
6.7.2 自动驾驶
6.7.3 机器人控制
参考文献
7 演化智能
7.1 演化人工神经网络
7.1.1 权值演化
7.1.2 网络结构和学习规则的演化
7.1.3 EPNet：一种混合型演化神经网络方法
7.2 多目标演化
7.2.1 演化多目标优化
7.2.2 演化多目标机器学习
7.3 协同演化
7.3.1 协同