信息论与编码学习辅导及习题详解 (2008 年度畅销榜NO.7753 )

本书是学习信息与编码理论课程的教辅用书， 旨在为本科生的课程学习提供指导和帮助。
本书以香农信息理论为核心内容， 也包含信源编码和线性分组纠错码的内容。 全书共分7章， 每章由基本内容和学习要点、 习题详解和精选习题解答三部分组成。 基本内容和学习要点部分是对各章节知识点的高度概括。 在这基础上， 对基本题和精选题作了详细推演和解答。
全书概念清晰， 解题详细， 一题多解，便于自学。 书中习题是属基本题和中度难题， 它具有广泛性和代表性。 因此， 本书不只局限于某本教科书， 可以与不同版本的同类教材配套使用。
本书可供高等学校电子、 信息、 通信类及相关专业的教师和本科生参考使用， 也可供有关科技人员学习专业基础理论时参考。

第1章 绪 论
1.1 基本内容和学习要点
1.1.1 信息的概念及常用术语
1.1.2 通信系统的统一模型
1.1.3 信息传输系统的模型
第2章 离散信源及其信息测度
2.1 基本内容和学习要点
2.1.1 信源的分类
2.1.2 基本信源的数学模型
2.1.3 离散信源的信息熵
2.1.4 信息熵的基本性质
2.1.5 离散无记忆扩展信源的信息熵
2.1.6 离散平稳信源的信息熵
2.1.7 马尔可夫信源及其信息熵
2.1.8 信源剩余度
2.2 习题详解
2.3 精选习题解答
第3章 离散信道及其信道容量
3.1 基本内容和学习要点
3.1.1 信道的分类
3.1.2 离散信道的数字模型
3.1.3 离散信道的平均互信息及其特性
3.1.4 多个随机变量之间的平均互信息
3.1.5 离散信道的信道容量及其计算方法
3.1.6 常见信道的平均互信息和信道容量
3.1.7 无记忆N次扩展信道的I(X；Y)和容量CN
3.1.8 独立并联信道的互信息和信道容量
3.1.9 串接信道互信息及信道容量
3.1.10 信道剩余度
3.2 习题详解
3.3 精选习题解答
第4章 波形信源和波形信道
4.1 基本内容和学习要点
4.1.1 连续信源的差熵
4.1.2 多维连续平稳信源的信息熵
4.1.3 波形信源的差熵
4.1.4 差熵的性质
4.1.5 最大差熵定理
4.1.6 连续信源熵的变换
4.1.7 熵功率和熵功率不等式
4.1.8 波形信道和连续信道的分类和数学模型
4.1.9 连续信道和波形信道的平均互信息及其特性
4.1.10 连续信道和波形信道的信道容量
4.1.11 连续信道与信息传输的匹配
4.2 习题详解
4.3 精选习题解答
第5章 无失真信源编码
5.1 基本内容和学习要点
5.1.1 信源编码和码的类型
5.1.2 即时码及其树图构造法
5.1.3 惟一可译码存在的充要条件
5.1.4 惟一可译码的判断法
5.1.5 无失真等长信源编码定理
5.1.6 无失真变长信源编码定理(香农第一定理)
5.1.7 无失真信源编码定理和数据压缩
5.1.8 最佳二元码
5.1.9 霍夫曼码和其他编码方法
5.1.10 几种实用的无失真信源编码方法
5.2 习题详解
5.3 精选习题解答
第6章 有噪信道编码
6.1 基本内容和学习要点
6.1.1 译码准则
6.1.2 平均错误概率
6.1.3 费诺不等式
6.1.4 信道编码的编、译基本原则
6.1.5 有噪信道编码定理及其逆定理
6.1.6 信源信道编码定理
6.1.7 纠错码的分类
6.1.8 线性分组码的基本概念
6.1.9 线性分组码
6.1.10 汉明码及其扩展码
6.2 习题详解
6.3 精选习题解答
第7章 保真度准则下的信源编码
7.1 基本内容和学习要点
7.1.1 失真度(失真函数)与平均失真度
7.1.2 信息率失真函数
7.1.3 信息率失真函数的特性
7.1.4 R(D)函数的参量表述及其计算
7.1.5 常见信源的R(D)函数
7.1.6 保真度准则下信源编码定理(香农第三定理)
7.1.7 信息传输定理(联合有失真信源信道编码定理)
7.2 习题详解
7.3 精选习题解答
参考书目

目前。国内高等院校普遍开设了信息论与编码这门课程。并已成为电子信息类专业高年级学生必修的专业基础课。尽管各院校开设的课程名称或学时数有所不同。但都是以香农信息理论为其核心内容的。 信息论与编码是一门理论性和系统性很强的课程。它涉及到众多学科。需要广泛的数学知识。为了能透彻理解和掌握信息与编码理论的基本概念、 基本理论和分析方法。做习题是不可缺少的。通过习题的训练。可以加深对理论和概念的理解。并增强分析和解决实际问题的能力。为此。作者在编著《信息论——基础理论与应用》一书的同时编写了本书。它是该书的扩展。 本书共分7章。各章均由基本内容和学习要点、 习题详解及精选习题解答三部分组成(其中，第1章只编排了基本内容和学习要点)。每章的基本内容和学习要点部分是对各章节的基本概念、 基本定理和计算公式的深入概括。以便读者在解题时做到概念清晰。思路正确。习题详解部分。给出了各题的解题思路。推演过程或较规范的证明步骤。有的题还提供两种以上解题方法。并以提示方式指出易混淆的错误概念或易出现错误求解的原因。精选习题解答部分挑选了国内外一些经典教材的习题。直接用英文原题列出。并给出了详细的解题方法。 本书收集的习题是在作者近二十年教学的实践期间中。从国内外有关书籍中精心挑选。反复推敲和设计而逐渐积累起来的。多数题是意在加深学生对概念和理论的理解。培养分析和解决问题的综合能力。少数题用以开拓和深化信息与编码理论实际应用方面的内容。以提高学生的学习兴趣。本书各章的习题都是应掌握的基本题和一些中等难度题。有关大量的中等难题和难题将在本书的姐妹篇——供研究生所用的习题解答一书中给出。 任何一本习题解答无疑是学习该门课程的重要的辅导材料。但作者认为。只有在读者独立思考、 亲自独立运算习题的基础上。习题解答书籍才能起到它应有的作用。而且。本书中某些习题的巧妙解题思路和方法。也是作者在几十年教学实践中受学生的启发。总结提高得来的。因此。希望读者不要受本书的束缚。并能通过你的演绎给出一些更简捷的解题方法。 本书部分解题曾得到研究生沈青、 刘泉、 彭一凡、 李晓东、 牛华宁、 施海航、 王君庭、 周治、 许晓东等的协助。同时也得到董克俭、 路而红等老师对本书编写的建议和帮助，老师对书稿进行认真的审读在此一并表示诚挚的谢意。 在本书的编写过程中。参阅了国内外一些经典著作。均列于本书参考书目中。在此谨向有关作者表示深切谢意。 电子工业出版社陈晓莉同志对本书的出版做了大量工作并提出了宝贵的意见。使本书得以顺利出版。也在此深表感谢。 书中的不妥和错误之处。恳请广大读者予以批评指正。