前言







全
球正在进入数字化新时代，以云计算、大数据、人工智能与物联网为代表的数字技术已经快速发展。数字化时代的到来使得深度学习和嵌入式人工智能技术变得越来越重要。嵌入式人工智能是指设备可以在不依赖于互联网且不通过云端数据中心的情况下进行智能计算，利用本地的计算资源来实现深度学习模型的推理。嵌入式人工智能可以完成实时的环境感知、人机交互和决策控制。然而，在嵌入式平台上进行深度学习推理时，由于算力、能耗、存储空间等方面的限制，人工智能系统在推理环节会遇到许多挑战。本书旨在介绍深度学习模型如何在嵌入式平台上完成部署，包括软硬件两个方面。本书介绍的内容有边缘计算、人工智能计算芯片、常用的深度卷积神经网络模型、轻量级深度卷积神经网络、深度学习模型轻量化的方法以及深度学习模型的硬件部署。

本书采用结构性思维，提供多张框图，使整书脉络清晰、环环相扣，读者可以快速把握本书的结构脉络并关注细节。另外，书中采用大量生动的图表来说明枯燥的理论，并引用大量的实验结果比较不同方法之间的性能差异，这些都可以让一本枯燥的技术书籍更加易于理解。作者从大量的科研论文中寻找相关资料，并将论文中看起来比较枯燥的公式、图、表变得更有趣、易懂。同时，本书采用简洁、平实并且有趣的方式来叙述，采用结构图、原理图来表达比较复杂的理论或公式。本书可以帮助读者快速建立起知识体系。

本书提供了可运行的代码示例，注释清晰、详细，配备视频教程，并附有相关注释，为读者打造全方位的学习体验，使读者在建立知识体系的同时掌握算法设计、模型压缩以及模型部署的方法。近年来，作者在承担40余项与人工智能系统研发相关的科研项目，并成功研制多款计算机视觉产品的过程中，深刻感受到在深度学习模型部署方面可用于系统性学习的相关资料非常有限。作者在查阅大量英文论文、产品说明书、Facebook官网、NVIDIA官网、Intel官网及相关博文等的基础上，完成了本书的撰写，希望为人工智能从业人员、初学者，以及希望系统性开始人工智能领域学习的朋友提供帮助。

感谢北京交通大学的同事和学生们的积极参与，感谢你们针对本书理论内容和实践代码提出的宝贵建议、意见和测试反馈，让本书内容更显精彩。