前  言

经典信息论即香农信息论，是利用概率论与随机过程的方法研究通信系统传输有效性和可靠性极限性能的理论，是现代信息通信领域的基础理论。它是研究信息传输和信息处理一般规律的科学，也是通信与电子信息类专业的重要基础课程。
本课程的主要内容和教学目标是理解香农信息论的基本原理，掌握信息量与熵的基本计算方法，培养利用信息论的基本原理分析和解决实际问题的能力，为今后进行更深入的研究和学习奠定坚实的理论基础。
本书是编者在北京邮电大学和华北电力大学（北京校部）学习和讲授“信息理论基础”课程的总结，借鉴了国内外众多的信息论优秀教材和参考资料，列于本书参考文献中，在此向有关作者表示衷心和诚挚的感谢！编者根据多年的教学实践经验编写了本书。本书以帮助读者掌握基本概念和方法为目的，力图以读者较易接受的方式介绍信息论的基本内容，强调对基础理论中物理概念和结论的理解与掌握。
本书第1章为绪论，主要介绍香农信息论的研究对象、目的和内容；第2章介绍信息度量的重要概念，如自信息量、互信息量、信息熵和平均互信息量；第3章主要介绍离散信源产生信息的能力和信源剩余度问题；第4章介绍离散信道传输信息能力的问题，并介绍了信道容量的基本计算方法；第5章的核心内容是香农的无失真信源编码定理，围绕这个定理介绍了无失真信源编码的基本概念，并较为详细地介绍了无失真信源编码的基本编码方法；第6章介绍有噪信道编码定理；第7章介绍限失真编码的有关内容；第8章介绍连续信源和连续信道的信息度量和信息传输能力。
尽管编者在本书中力求满足读者的要求，但仍无法避免错漏和不当，恳切希望广大读者提出宝贵意见。

编者
2023年8月于广东石油化 工学院