第1章绪论1

1.1信息技术的优势及其带来的根本变革1

1.2信息论与编码的基本概念2

1.2.1信息的一般概念2

1.2.2香农的信息定义5

1.2.3信息的其他定义7

1.2.4信息论与编码技术发展历程11

1.2.5香农生平和学术风格16

1.2.6若干基本问题及其锦囊18

1.3数字通信系统模型22

1.4信息论与编码理论研究的主要内容和意义25

1.4.1信息论研究的主要内容25

1.4.2香农信息论对信道编码的指导意义26

1.4.3香农信息论对信源编码的指导意义26

1.4.4香农信息论对加密编码的指导意义27

1.5香农信息论的重要观点与方法28

1.6全程思考题30

思考题与习题31

第2章信源及信息度量32

2.1信源的数学模型和分类32

2.1.1离散无记忆信源33

2.1.2离散有记忆信源35

2.1.3马尔可夫信源36

2.1.4连续信源40

2.2离散信源熵和互信息41

2.2.1自信息量42

2.2.2信源熵46

2.2.3条件熵49

2.2.4联合熵50

2.2.5熵函数的性质50

2.2.6互信息与平均互信息量52

2.2.7互信息与平均互信息量的性质54

2.2.8数据处理中信息的变化58

2.3离散序列信源的熵59

2.3.1离散无记忆信源的序列熵59

2.3.2离散有记忆信源的序列熵63

2.3.3马尔可夫信源的序列熵64

2.4连续信源的熵和互信息66

2.4.1幅度连续的单个符号的信源熵67

2.4.2波形信源熵69

2.4.3最大熵定理71

2.5冗余度72

2.6最大熵原理75

2.7关于熵的概念理解与题意解读76

思考题与习题77

第3章信道及其容量80

3.1信道的数学模型与分类80

3.1.1信道的分类80

3.1.2信道的数学模型与参数82

3.2信道疑义度与平均互信息量87

3.3信息传输率与信道容量87

3.4离散单个符号信道的信道容量88

3.4.1特殊离散信道88

3.4.2对称DMC信道90

3.4.3准对称DMC信道92

3.4.4*具有可逆矩阵信道94

3.4.5*一般DMC信道94

3.5离散无记忆序列信道的信道容量94

3.6串联信道和并联信道的信道容量97

3.6.1串联信道及其信道容量97

3.6.2*并联信道及其信道容量100

3.7连续信道及其容量101

3.7.1连续单符号加性信道101

3.7.2多维无记忆加性连续信道102

3.7.3限时限频限功率的加性高斯白噪声信道103

3.8信源与信道的匹配106

3.9信道编码定理简介107

思考题与习题108

第4章无失真信源编码111

4.1编码器和相关概念112

4.1.1码的分类113

4.1.2码树115

4.1.3克拉夫特不等式116

4.2定长编码118

4.3变长编码120

4.3.1编码空间122

4.3.2香农码123

4.3.3费诺码125

4.3.4哈夫曼码126

4.4其他基于统计的信源编码实用方法130

4.4.1游程编码131

4.4.2算术编码132

4.5通用编码138

4.5.1LZ77与LZSS编码139

4.5.2LZ78与LZW编码140

4.5.3常用压缩文件格式141

思考题与习题142

第5章信息率失真函数与限失真编码145

5.1失真测度145

5.1.1系统模型145

5.1.2失真度和平均失真度146

5.2信息率失真函数及其性质148

5.2.1信息率失真函数的定义148

5.2.2信息率失真函数的性质150

5.3无记忆信源的信息率失真函数154

5.3.1*离散无记忆信源的信息率失真函数154

5.3.2*连续无记忆信源的信息率失真函数158

5.4保真度准则下的信源编码定理160

5.4.1*失真ε典型序列161

5.4.2*保真度准则下信源编码定理的证明164

5.4.3*保真度准则下信源编码逆定理证明166

5.5限失真信源编码定理的实用意义167

5.6限失真信源编码169

5.6.1矢量量化编码169

5.6.2预测编码170

5.6.3变换编码171

思考题与习题176

第6章信道编码178

6.1信道编码的概念178

6.1.1信道编码的分类178

6.1.2与纠错编码有关的基本概念180

6.1.3纠错与检错原理182

6.1.4有噪信道编码定理183

6.2线性分组码188

6.2.1线性分组码的数学基础189

6.2.2线性分组码的基本概念197

6.2.3生成矩阵和一致校验矩阵197

6.2.4线性分组码的纠错能力与码最小距离的关系200

6.2.5伴随式及标准阵列译码202

6.2.6汉明码205

6.3循环码207

6.3.1循环码的多项式描述207

6.3.2循环码的生成矩阵208

6.3.3系统循环码209

6.3.4多项式运算电路211

6.3.5循环码的编码器与实现电路213

6.3.6循环码的解码器214

6.3.7常用的循环码215

6.4卷积码218

6.4.1卷积码的基本概念和描述方法218

6.4.2卷积码的最大似然译码——维特比算法223

6.4.3卷积码维特比译码算法的性能限225

6.5编码与调制的结合——TCM码228

6.5.1二、四进制的无记忆已调信号中使用的卷积码231

6.5.22m(m≥3)进制调制的无记忆已调信号中所用的卷积码231

6.6运用级联、分集与信息迭代概念的纠错码233

6.6.1乘积码与级联码233

6.6.2Turbo码235

6.6.3低密度奇偶校验码238

6.6.4空时码与MIMO240

思考题与习题241

第7章加密编码244

7.1密码学概述245

7.1.1基本专业术语245

7.1.2加密编码算法分类247

7.1.3密码分析及其分类249

7.1.4密码系统的安全性及其分类252

7.1.5加密编码的发展历程253

7.2加密编码中的信息论分析255

7.2.1加密编码中的熵概念256

7.2.2密码系统的自由度257

7.2.3唯一解距离与理想保密258

7.2.4完善保密与一次一密体制260

7.2.5具有误导功能的低密钥可信度加密算法261

7.2.6多重不确定的密码算法264

7.3古典密码及近代密码266

7.3.1常见古典密码266

7.3.2古典密码的分析267

7.3.3近代密码269

7.4现代密码学270

7.4.1对称加密算法271

7.4.2公开密钥加密算法282

7.4.3hash函数285

7.5密码学其他分支简介286

7.5.1特殊数字签名286

7.5.2零知识证明287

7.5.3秘密共享288

7.5.4秘密分割288

7.5.5阈下信道288

7.5.6比特承诺288

7.5.7不经意传输289

7.5.8保密选举289

7.5.9保密的多方计算290

7.5.10数字现金290

7.5.11电子拍卖291

7.6网络通信加密方式292

7.7密码学理论及应用展望292

7.7.1量子密码学294

7.7.2同态加密296

7.7.3数字版权保护技术296

7.7.4数字签名应用299

7.7.5密码技术支撑诚信产业300

思考题与习题302

第8章香农信息论的局限性与发展展望303

8.1信息论现实应用的局限性303

8.2信息论中表征、参数和模型的制约305

8.2.1成也模型，败也模型305

8.2.2概率论的局限性306

8.2.3参数的有限性制约307

8.2.4信息量对条件的相对性307

8.2.5信息论中研究对象的确定性308

8.3广义信息理论概述308

8.4信息的相对性与可靠性310

8.4.1信息可靠性310

8.4.2信息的相对性311

8.5信息论发展展望313

8.5.1信息论与人工智能的融合313

8.5.2量子信息论314

8.5.3信息的表达能力316

8.5.4信息的复杂关联性317

8.6创新启示318

思考题与习题321

第9章信息论与编码技术的实现与应用322

9.1密码算法编程实现指引323

9.2压缩编程实现指引324

9.3字符编码324

9.3.1ASCII码324

9.3.2ANSI编码325

9.3.3MBCS325

9.3.4CodePage326

9.3.5Unicode编码326

9.4Base64编码327

9.5常用密码系统328

9.5.1PGP328

9.5.2加密文件系统EFS332

9.6常用压缩标准与软件336

9.6.1常用压缩软件和压缩文件特征336

9.6.2常用媒体文件有损压缩标准337

9.6.3常用媒体文件格式与扩展名的对应关系342

9.7信息技术下的盈利模式346

思考题与习题347

附录寄语及学习研究的经验和方法分享348

参考文献357