前言 近十年来,深度学习推动了人工智能(AI)技术的迅猛发展。深度学习的学术研究领域就像一条条短跑赛道,优秀的网络模型、数据集、算力设备不断涌现,你追我赶。常常是一个性能不错的学术成果推出之后,不久就会有另一个新的成果大幅超越前者的性能。在学术界的快速突破和产业界旺盛的商业需求推动下,深度学习很快应用到了自动驾驶、无人机、互联网搜索、手机、智慧城市等各个领域。随之而来的是对AI领域人力资源的需求大大增加,人才竞争激烈。很多院校都开设了人工智能或深度学习等课程,还有很多理工科背景的工程技术人员也希望通过自学进入人工智能领域。无论是院校教学还是企业培训、个人发展,都需要能够贴近实际的人工智能书籍,以满足教学和自学的需要。 深度学习是一个知识体系,涵盖了数学、算法、工具、编程等多方面的内容,令许多初学者“望而生畏”。关于深度学习的论文、代码、书籍、网站、博客、视频等资料非常之多,许多初学者面对如此浩瀚的资源感觉无从下手。学习深度学习的最佳途径是阅读网络的经典论文及其代码,并进行动手实践。然而,许多初学者读不懂论文和代码,往往陷入“代码跑不通”或“只跑了代码但看不懂”的困境。 本书作者深感于以上问题,在给研究生开设的计算机视觉及深度学习相关课程的基础上编写了这本书。我们将带领读者学习深度学习的关键知识点和实操工具,学习图像分类、目标检测、语义/实例分割等主题任务中的经典神经网络知识,并以项目实践的形式,一步步带领读者感受和领略深度学习的魅力。 本书面向初学者,在全书知识点的选择上不追求大而全,而是选择最关键和最常用的一些知识点并期望把它们讲解透彻,以满足深度学习的入门需求。本书的预备知识仅限于线性代数、微积分、概率等最基本概念,对读者知识背景要求较低。 本书的每个主题任务章节都可概括为任务的基本知识、神经网络算法解析和实践项目3个部分。基本知识部分讲解任务的基本概念、神经网络算法的发展及预备知识。在神经网络算法解析部分,以时间为主线,讲解经典神经网络的发展和创新,循序渐进地引导读者,避免搭建“空中楼阁”,避免学习过程中的“知其然而不知其所以然”。例如,在第4章图像分类中,从最早的LeNet5手写数字识别神经网络讲起,介绍神经网络不断改进和优化的过程,一直到后期性能卓越的ResNet、SENet等。在学习中了解先行者的原创性思路和方法,对于我们在今后的学习和工作中借鉴前人思路、解决自己的问题、设计自己的神经网络是非常有帮助的。实践项目部分选择较为常用的神经网络算法,提供了完整的程序源代码,并对主要内容加以解析和详细的实践步骤指导。读者可通过实践部分掌握深度学习项目的环境搭建,以及神经网络模型的训练、测试和部署。 深度神经网络的训练和部署应用需要强大的计算能力(算力)支持。当前,研究者和开发者通常使用CPU+GPU的计算平台进行神经网络的训练和测试,而应用部署则可以在低成本、低功耗、小体积、高算力的TPU设备上实现。TPU是2016年美国谷歌公司推出的ASIC芯片,专用于深度神经网络加速计算。国内华为、寒武纪等公司也紧跟其后,加大发展TPU的力度。算能公司至2022年已经发展到第5代自主知识产权的TPU芯片。本书第2章介绍了谷歌和算能的TPU架构原理,第4~9章提供了基于算能SE5 TPU平台的算法部署实践。 我们期望本书能够助力读者掌握前沿AI算法及前沿AI算力设备,助力广大读者抓住人工智能发展机遇,促进人工智能技术更深远广泛的科技创新和场景落地。 本书由郝晓莉总体策划、组织和撰写。第1章由郝晓莉和王昌利完成。第2章由胡雨、李岑撰写初稿,王昌利和郝晓莉修改完成。第3章由郝晓莉、杨建、景辉完成,李丹、藤若予、王学卿、江洁参与了本章的编写工作。第4章由郝晓莉、侯亚丽、王昌利完成,凌峰、常天星参与了本章实践项目的开发。第5章由王昌利、侯亚丽、郝晓莉完成,常天星、姚昊江、藤若予参与了本章实践项目的开发。第6章由郝晓莉、王昌利完成,刘爽和杨玉源参与了本章的编写工作。第7章由郝晓莉、侯亚丽、王昌利完成,常天星进行了本章实践项目的开发。第8章由王昌利、景辉、郝晓莉完成。第9章由郝晓莉、王昌利、杨健完成。申艳在课程开展和写书过程中提供了许多支持。 感谢学生们对本书实验案例做出的贡献。凌峰、刘爽开发了最初版的PC端实验案例及SE3端的算法移植,杨建、刘爽、常天星、江洁在课程的SE3实验平台搭建、调试和答疑中发挥了很大作用。常天星、杨建进一步开发并完善了实验案例及SE5端的算法移植,樊志兴、藤若予、李丹参与了所有PC端和SE5端实验的完善和验证。 感谢算能公司的大力支持,让我们得以为广大读者提供深度学习算法在前沿AI算力设备的部署实践指导。李贺、郑伟、张紫祥、王智慧、汤炜炜、陈昊、余良凯等对开设SE3实验提供了支持,赵红爱、张晨郦、李清、蒋国跃对本书的写作给予了支持,郭尚霖等对SE5实验给予了技术支持并提供了有益的建议。 感谢本书的编辑龙启铭老师,龙老师给予的建议总是简洁、明确而且富有建设性。 本书难免存在一些错误,欢迎广大读者批评指正。在本书的编写过程中,参考了大量的论文、书籍和网络资料,在此感谢这些作者们的无私奉献。如果本书在参考文献中遗漏了您的成果,请联系本书作者予以更正。 编者 2023年1月