以下是信息理论与编码图书目录的概述,分为多个部分来介绍核心概念和理论。
第1章,概论,阐述了信息的基本概念,如信息的分类,以及信息论研究的目的和意义,为后续章节打下基础。
第2章详述信源与信息熵,包括离散信源的模型、统计特性,如自信息量、熵函数及其性质,以及连续信源的熵和熵功率。这部分重点介绍了马尔可夫信源和信源冗余度的概念。
第3章深入信息率失真函数,探讨了失真测度、离散与连续信源的失真函数,以及信道容量的计算。这部分通过实例展示了信息率失真函数的计算方法。
第4章聚焦信道与信道容量,讲解了信道的分类、容量定义,以及连续信道的容量计算,区分了信道容量与信息率失真函数的不同。还介绍了多用户信道的模型和特点。
第5章介绍了香农的三大定理,分别是信息传输定理、噪声-干扰定理和编码定理,这些是信息理论中的基石理论。
第6章至第7章则转向信源编码,分别讨论了无失真编码(如霍夫曼编码)、限失真编码,以及有损压缩编码技术,如DPCM、预测编码等。
第8章详细讲解信道编码,包括基本概念、检错纠错原理,以及线性分组码、循环码和卷积码的编码与译码方法。
最后,附录A和B提供了相关概率公式和詹森不等式,供读者查阅和深入学习。