信息论与编码

作者:王勇 黄雄华 蔡国永 编著

丛书名:高等院校信息与通信工程系列教材

定价:36元

印次:1-7

ISBN:9787302316091

出版日期:2013.05.01

印刷日期:2022.07.14

图书责编:龙启铭

图书分类:教材

电子书
在线购买
分享
内容简介
作者简介
前言序言
资源下载
查看详情 查看详情 查看详情

本书对信息论的基本概念(熵、平均互信息量、信道容量、信息率失真函数)以及与此相对的香农三大极限编码定理(无失真信源编码定理、限失真信源编码定理、信道编码定理)做了系统的介绍,并以信息论为基础,介绍了信源编码、信道编码和加密编码的基本原理和方法,对一些具体编码方法的现实应用和编程实现也做了简单介绍,最后,对相关领域的发展进行了概述和展望,在附录中还给出了一些科研与创新的相关经验。 本书注重启发式的教学,注重创新能力的培养,对难于理解的信息论与编码的关键性问题给出了思考提示。在编写方式上进行了创新,采用不同字体区分不同内容,为读者留出了创新空间。 本书适用于高等院校信息工程、通信工程、雷达、信息安全、计算机、电子学、信息与计算科学等相关专业的本科生、研究生的教学,也可以用于教学、科研和工程的参考。

信息论与编码是一门比较理论化的科学,涉及大量的数学分析、论证和建模,对数学的要求高,涉及概率论、线性代数、微积分等。对于不善于领悟的同学,可能会觉得它枯燥无味;而对于善于领悟的同学,则会有如鱼得水的感觉。信息论是对信息问题的抽象,应用面和涉及面广,许多问题都可以归结为信息论问题,但是由于其中涉及数学建模太多,局限性也多。这对于学生,特别是对于本科生而言,是具有一定难度的。当今的某些课程,包括数学等,经历课时数的压缩,课时也有所缩短。在这样的情况下,针对昔日本科生的教学大纲和教材,对于经过扩招以后的大学生而言,显得更加枯燥无味、艰涩难懂。为了促进学生对于相关数学问题的理解,我们将信息论与编码中的关键性、全局性的问题进行了提炼,设计了一些全程问题,并且将复杂的问题分解为若干问题及其锦囊,通过逐步提示和启发的方式来促进学生的理解。当然对于一些问题的分解并不太让人满意,权作为抛砖引玉。 虽然直观地看,书本上的数学公式枯燥无味,但是如果能够善于思考和洞察问题的本质,就会发现,数学问题是那样美妙、有趣,数字的规律有时候也是严整有序的。 根据学生对以往的信息论与编码类教材的反馈意见,我们决定在前人的基础上改进信息论与编码教材,同时实践我们在一些教改论文中提出的教材改革、教学改革和提高学生创新能力的建议\[1-4\]。我们在教学中发现学生有应试习惯,许多学生并不是通过自己的理解去做题,而是依葫芦画瓢,按照类似的题型去套,因此在课后习题中增加了一些比较灵活、自由的题目。 我们在这本教材中试图做到以下几点: (1) 充分重视启发。将复杂的数学证明简化为若干小问题,变成若干...

目录
荐语
查看详情 查看详情
第1章绪论1

1.1信息技术的优势及其带来的根本变革1

1.2信息论与编码的基本概念2

1.2.1信息的一般概念2

1.2.2香农的信息定义5

1.2.3信息的其他定义7

1.2.4信息论与编码技术发展历程11

1.2.5香农生平和学术风格16

1.2.6若干基本问题及其锦囊18

1.3数字通信系统模型22

1.4信息论与编码理论研究的主要内容和意义25

1.4.1信息论研究的主要内容25

1.4.2香农信息论对信道编码的指导意义26

1.4.3香农信息论对信源编码的指导意义26

1.4.4香农信息论对加密编码的指导意义27

1.5香农信息论的重要观点与方法28

1.6全程思考题30

思考题与习题31

第2章信源及信息度量32

2.1信源的数学模型和分类32

2.1.1离散无记忆信源33

2.1.2离散有记忆信源35

2.1.3马尔可夫信源36

2.1.4连续信源40

2.2离散信源熵和互信息41

2.2.1自信息量42

2.2.2信源熵46

2.2.3条件熵49

2.2.4联合熵50

2.2.5熵函数的性质50

2.2.6互信息与平均互信息量52

2.2.7互信息与平均互信息量的性质54

2.2.8数据处理中信息的变化58

2.3离散序列信源的熵59

2.3.1离散无记忆信源的序列熵59

2.3.2离散有记忆信源的序列熵63

2.3.3马尔可夫信源的序列熵64

... 查看详情

查看详情