信息论与编码理论PDF|Epub|txt|kindle电子书版本网盘下载

信息论与编码理论PDF格式电子书版下载

注意：本站所有压缩包均有解压码： 点击下载压缩包解压工具

第1章 引言1

1.1 信息论的发展概况1

1.1.1 信息论的早期酝酿1

1.1.2 Shannon信息论的建立与发展2

1.1.3 信息论的近期发展4

1.1.4 信息论在信息技术领域中的应用5

1.2 信息论与编码理论的主要内容7

1.2.1 信息的度量问题7

1.2.2 通信系统的基本模型8

1.2.3 通信系统中信息的传递过程9

1.2.4 通信系统的概率统计模型9

1.2.5 通信系统的序列模型12

1.3 本书内容简介与文献介绍13

1.3.1 内容简介14

1.3.2 有关著作和文献介绍14

1.3.3 对有关记号的说明16

习题117

第一部分 信息论18

第2章 信息量18

2.1 熵18

2.1.1 离散随机变量的不肯定性18

2.1.2 不肯定性的特征与表示19

2.1.3 熵的简单性质与例子23

2.2 联合熵和条件熵24

2.2.1 联合熵的记号24

2.2.2 条件熵的定义与性质25

2.3 熵的基本性质28

2.3.1 对数函数的基本不等式与熵函数的最大值28

2.3.2 熵函数的可加性30

2.3.3 Fano不等式32

2.4 互熵与互信息32

2.4.1 互熵33

2.4.2 互信息33

2.4.3 条件互信息34

2.5 凸函数及其应用35

2.5.1 凸函数的定义与它的判别35

2.5.2 Jenson不等式与它的应用36

2.6 连续型随机变量的信息量38

2.6.1 连续型随机变量的Shannon熵38

2.6.2 多维连续型随机变量的Shannon熵39

2.6.3 其他连续型随机变量的信息量42

2.7 最大熵原理43

2.7.1 有限区间情形的最大熵43

2.7.2 半开区间情形的最大熵44

2.7.3 全直线情形的最大熵45

2.7.4 多维连续型随机变量的最大熵46

习题247

第3章 信源编码51

3.1 信源编码问题51

3.1.1 信源编码51

3.1.2 定长编码与变长编码51

3.1.3 信源变长码的编码问题53

3.1.4 信源序列的定长编码问题54

3.2 前缀码和即时码56

3.2.1 唯一可译变长码的构造56

3.2.2 Kraft不等式57

3.3 信源变长码的编码定理60

3.3.1 最优变长码平均码长的下界估计61

3.3.2 最优变长码平均码长的上界估计62

3.3.3 无记忆信源平均码长的上界和下界估计63

3.4 Huffman信源编码算法63

3.4.1 Huffman编码的实例分析64

3.4.2 Huffman编码的一般算法65

3.5 Huffman信源编码性能分析67

3.5.1 Huffman编码的前缀性67

3.5.2 Huffman编码的最优性68

3.6 信源定长码的编码定理74

习题378

第4章 信道编码定理80

4.1 信道编码问题80

4.1.1 通信系统的编码误差80

4.1.2 信道序列的编码问题82

4.2 离散无记忆信道83

4.2.1 离散无记忆信道的一般定义83

4.2.2 几种特殊的离散无记忆信道84

4.3 无记忆信道的信道容量87

4.3.1 信道容量的一般定义87

4.3.2 无记忆信道序列的容量性质90

4.4 信道容量的计算93

4.4.1 凸函数的极大值性质93

4.4.2 信道容量的计算97

4.5 信道的编码和译码问题102

4.6 信道的正编码定理和反编码定理106

4.7 可加高斯（Gaussian）信道113

习题4115

第二部分 抽象代数117

第5章 抽象代数的基本知识117

5.1 群117

5.2 环和域121

5.3 理想和商环123

5.4 域上的多项式124

5.5 有限域130

5.6 域上的线性代数134

习题5138

第三部分 编码理论140

第6章 编码理论的基本知识140

6.1 码的基本概念140

6.1.1 码的定义140

6.1.2 Hamming距离和Hamming重量141

6.1.3 译码策略142

6.1.4 系统码142

6.2 码的检错和纠错能力143

6.3 编码理论的基本问题145

6.3.1 码的等价变换146

6.3.2 编码理论的一些界149

习题6154

第7章 线性码156

7.1 线性码的定义156

7.2 线性码的对偶码157

7.3 线性码的译码方法161

7.4 线性码的重量分布164

习题7168

第8章 Hamming码171

8.1 Hamming码的定义171

8.2 Hamming码的性质172

8.3 Hamming码的译码方法172

8.4 二元Hamming码的对偶码175

习题8177

第9章 循环码179

9.1 循环码的定义179

9.2 循环码的性质181

9.3 循环码的校验矩阵及其对偶码184

9.4 循环码的编码方法188

9.5 循环码的检错性能189

习题9190

第10章 BCH码和Reed-Solomon码193

10.1 BCH码及其基本性质193

10.2 Reed-Solomon码及其基本性质197

10.3 BCH码和Reed-Solomon码的译码方法198

10.4 Reed-Solomon码和最大距离可分码的重量分布202

习题10203

第11章 几种重要的线性码205

11.1 Golay码205

11.2 Reed-Muller码206

11.2.1 布尔函数207

11.2.2 Reed-Muller码209

11.3 平方剩余码210

11.4 Goppa码211

习题11212

第四部分 信息论和编码理论的应用214

第12章 若干应用问题214

12.1 有失真的数据压缩214

12.1.1 有失真信源编码问题214

12.1.2 有失真信源的率失真函数215

12.1.3 有失真信源编码的可达速率216

12.1.4 率失真函数的计算217

12.1.5 有失真信源编码定理219

12.1.6 数据压缩问题概述219

12.1.7 数据压缩问题的实例分析219

12.1.8 数据压缩技术的主要分析指标222

12.2 卷积码理论及其应用223

12.2.1 卷积码的构造224

12.2.2 卷积码的树结构226

12.2.3 卷积码的译码算法228

12.2.4 卷积码的应用231

12.3 几种实用的编码问题232

12.3.1 汉字编码232

12.3.2 计算机代码234

12.3.3 图形码235

习题12236

主要参考文献238