前言


“通信的基本问题就是在一点重新准确地或近似地再现另一点所选择的消息。”
这是1948年贝尔实验室的数学家香农（Claude E.Shannon）在他的惊世之著《通信的数学理论》中的一句名言。正是沿着这一思路，他应用数理统计的方法来研究通信系统，从而创立了影响深远的信息论。
信息论是一门应用概率论、随机过程、数理统计和近代代数的方法来研究信息传输、提取和处理系统中一般规律的学科。由于信息论涉及广泛的数学基础，众多研究者、本专科学生和读者虽然认识到信息传输的有效性和可靠性的重要性，但面对信息、互信息、信道容量、信息率失真函数、编码效率等计算中的繁杂公式时往往停滞不前，忽略了其物理意义的重要性。针对该情况，作者根据多年的教学经验，在编写过程中强调对基本概念和原理的理解与运用，并附以例题及相应的MATLAB程序和仿真图形，加深读者对公式计算结果以及结论定理的理解和解释。
本书系统论述了信息论与纠错编码的基本概念和理论，并通过MATLAB程序进行了仿真验证。本书共分6章，第1章包括信息论的起源，信息的定义，信息论的基本思路及通信系统模型； 第2章包括信息的度量，离散信源和连续信源熵以及信源冗余度的概念； 第3章包括平均互信息的定义，信道、信道容量以及信道与信源的匹配； 第4章包括平均失真度和信息率失真函数，限失真信源编码定理及常见的限失真信源编码方法； 第5章包括编码的定义，无失真编码的条件，即时码的构造，唯一可译码的判断，无失真信源编码定理及常见的最佳编码方法； 第6章包括纠错码的种类，纠错编码的译码规则，信道编码定理以及常用的纠错编码方法。
本书可作为高等院校信息与通信工程相关专业的专科生、本科生教材或教学参考书，也可作为科研院所从事信息科学理论、技术、方法研究的科研和工程技术人员的学习参考用书。
感谢郑州大学杨守义教授对本书的支持，感谢他给本书提供的科研资料和所做的校对统稿工作； 感谢河南工业大学杨静教授和广东工业大学李艳福硕士对本书的编写提出的建设性意见和建议； 感谢姚金魁、陈岳、王姣姣、刘浩、顾雪亮、马玉振等硕士生、本科生在本书的资料整理及校对过程中所付出的辛勤劳动。
本书获得了河南工业大学教材建设基金的资助，在此表示感谢。
限于作者的水平，书中难免有欠妥和错误之处，希望读者提出宝贵意见，以便作者进一步修改完善。
作者
2018年8月