信息论基础
配套教案 ,PPT,习题集及解答、动图

作者:翟明岳

丛书名:高等学校电子信息类专业系列教材·新形态教材

定价:65元

印次:1-1

ISBN:9787302640936

出版日期:2023.11.01

印刷日期:2023.11.21

图书责编:文怡

图书分类:教材

电子书
在线购买
分享
内容简介
作者简介
前言序言
资源下载
查看详情 查看详情 查看详情

本书重点介绍经典信息论的基本理论,覆盖了经典信息论的主要内容:离散信息和连续信息的度量、离散信源和连续信源、离散信道和连续信道及其容量以及无失真信源编码和限失真信源编码和有噪信道编码等重点内容。 本书深入浅出,表述简洁;概念清晰,系统性较强。考虑信息论基础理论性的同时又兼顾其易读性,注重基本知识的阐述,强调物理概念和理论的理解与掌握,配以大量的例题和习题便于工科和非数学专业的学生学习。本书可作为高等院校信息科学与信息技术相关专业本科生的信息论课程教材,亦可供从事人工智能、大数据分析与挖掘、通信、雷达、导航、计算机、系统工程、生物工程、管理工程等有关的科研和工程技术人员参考。

翟明岳,本科毕业于吉林大学,硕士毕业于中国石油大学,博士毕业于北京邮电大学。先后工作于地矿部华东石油地质局、北京侏罗纪石油软件开发公司、华北电力大学(2003年至今)。2008年,加州大学伯克利分校博士后;2015年,美国A&M大学访问学者。中国电子学会普通会员、中国通信学会高级会员。主持2项国家自然科学基金项目,主持4项省部级重点项目,主持多项横向课题。

前 言 经典信息论即香农信息论,是利用概率论与随机过程的方法研究通信系统传输有效性和可靠性极限性能的理论,是现代信息通信领域的基础理论。它是研究信息传输和信息处理一般规律的科学,也是通信与电子信息类专业的重要基础课程。 本课程的主要内容和教学目标是理解香农信息论的基本原理,掌握信息量与熵的基本计算方法,培养利用信息论的基本原理分析和解决实际问题的能力,为今后进行更深入的研究和学习奠定坚实的理论基础。 本书是编者在北京邮电大学和华北电力大学(北京校部)学习和讲授“信息理论基础”课程的总结,借鉴了国内外众多的信息论优秀教材和参考资料,列于本书参考文献中,在此向有关作者表示衷心和诚挚的感谢!编者根据多年的教学实践经验编写了本书。本书以帮助读者掌握基本概念和方法为目的,力图以读者较易接受的方式介绍信息论的基本内容,强调对基础理论中物理概念和结论的理解与掌握。 本书第1章为绪论,主要介绍香农信息论的研究对象、目的和内容;第2章介绍信息度量的重要概念,如自信息量、互信息量、信息熵和平均互信息量;第3章主要介绍离散信源产生信息的能力和信源剩余度问题;第4章介绍离散信道传输信息能力的问题,并介绍了信道容量的基本计算方法;第5章的核心内容是香农的无失真信源编码定理,围绕这个定理介绍了无失真信源编码的基本概念,并较为详细地介绍了无失真信源编码的基本编码方法;第6章介绍有噪信道编码定理;第7章介绍限失真编码的有关内容;第8章介绍连续信源和连续信道的信息度量和信息传输能力。 尽管编者在本书中力求满足读者的要求,但仍无法避免错漏和不当,恳切希望广大读者提出宝贵意见。 编者 2...

目录
荐语
查看详情 查看详情

目 录

第 1 章  绪论   1 

1.1 信息的概念  1 

1.2 通信系统模型   2 

习题  3 

第 2 章  离散信息的度量    4 

2.1 概率论基本知识    4 

2.1.1 样本空间与随机事件 4 

2.1.2 概率的有关概念   5 

2.1.3 全概率公式和贝叶斯公式   6 

2.1.4 先验概率和后验概率 8 

2.1.5 离散随机变量   9 

2.1.6 离散随机变量的统计特性 11 

2.2 信息度量方法的引入     12 

2.3 自信息量和信息熵   13 

2.3.1 自信息量的定义与含义    13 

2.3.2 信息熵的定义与含义     15 

2.4 联合自信息量与联合熵  17 

2.4.1 联合自信息量 17 

2.4.2 联合熵 19 

2.5 互信息量与平均互信息量 21 

2.5.1 条件自信息量 21 

2.5.2 条件熵 22 

2.5.3 互信息量的定义  24

2.5.4 互信息量性质 26 

2.5.5 平均互信息量 29 

2.6 熵的性质以及各种熵之间的关系 32 

2.6.1 信息熵的性质 32 

2.6.2 各种熵之间的关系   42 

习题    46 

第 3 章  离散信源及信源熵   50 

3.1 随机过程基本知识   50 

3.1.1 概率空间   50 

3.1.2 随机过程   51 

3.2 信源的数学模型和分类  54 

3.2.1 信源的数学模型  54 

3.2.2 信源分类   55 

3... 查看详情

"(1)从零开始,深入浅出,易读性强,适合没有任何信息论基础的读者。
(2)夯实基础,注重概念,逻辑性强,详细分析讲解信息论的基本概念和原理。
(3)强调重点,突出难点,系统性强,细致比较剖析信息论中较难理解的概念和定理。
(4)融合案例,注重应用,实用性强,利用生活中的实例讲解信息论的基本概念和理论,便于读者透彻理解。
(5)重视概念,配以大量的例题和习题,便于工科和非数学专业的读者学习。
(5)提供丰富的教学资源,包括习题答案、PPT教案、微课视频等。
"

查看详情