信息论基础与工程应用
ISBN:9787564775582
主编:李轩、李玉峰
出版社:电子科技大学出版社
出版/修订日期:2019年12月
¥ 59.00
本书作者多年从事信息论课程教学,该课程是省级精品资源共享课,在广泛借鉴国内外相关教材内容的基础上,力求以点带面,突出知识结构的系统性、核心概念阐述的准确性和必要理论证明的完整性。本书在突出理论讲解的同时,为达到强化工程实践的应用,部分章节增加实践环节,尤其对信道编码部分的处理,充分借鉴国外经典教材内容,在表述方式和知识结构体系安排上尽量不做大的改动,以使中国学生能够领略到国外通信领域专家的思维方式和特点,拓展学生视野。
本书系统地论述了香农信息论基本理论及某些应用问题,基本覆盖了信息论各个方面的内容。内容包括:信息的定义和度量;各类离散信源和连续信源的信息熵;有记忆、无记忆、离散和连续信道的信道容量;香农信息论的三个基本定理;网络信息理论及保密系统的信息理论;实用信源编码和信道编码方法。
第1章 绪论
1.1 信息的概念
1.1.1 什么是信息
1.1.2 如何度量信息
1.2 信息传输系统
1.3 信息论的研究内容
1.3.1 狭义信息论(经典信息论)
1.3.2 一般信息论(工程信息论)
1.3.3 广义信息论
1.4 信息论的发展进程
1.5 香农简介
习题
第2章 单符号离散信源
2.1单符号离散信源的数学模型
2.2 信源符号的自信息量
2.3 信源的信息熵
2.4 信息熵的性质
2.4.1 联合熵与条件熵
2.4.2 相对熵
2.4.3 Jensen不等式及其结果
2.4.4 信息熵的基本性质
本章要点
习题
第3章 单符号离散信道
3.1 信道的数学模型
3.2 信道的交互信息量
3.3 条件互信息量
3.4 平均交互信息量
3.5 平均交互信息量的性质
3.6 信道容量及其一般算法
3.6.1信道容量的定义
3.6.2信道容量的一般算法
3.7 几种特殊结构的信道容量计算
3.7.1 无噪无损信道
3.7.2 有噪无损信道
3.7.3 无噪有损信道
3.7.4对称离散信道的信道容量
3.7.5准对称信道的信道容量
3.8 信道容量的迭代计算
3.9 平均交互信息量的不增性
习题
第4章 多符号离散信源与信道
4.1 离散平稳信源的数学模型
4.1.1 离散平稳信源的数学定义
4.1.2 离散平稳信源的数学模型
4.2 离散平稳无记忆信源的信息熵
4.3 离散平稳有记忆信源的信息熵
4.3.1 二维离散平稳信源的条件熵
4.3.2 (m+1) 维离散平稳信源
4.3.3 二维离 散平稳信源的平均符号熵
4.4 离散平稳有记忆信源的极限熵.
4.5 马尔可夫信源的极限熵
4.5.1有限状态马尔可夫链
4.5.2马尔可夫信源
4.6 信源的剩余度
4.7 扩展信道及其数学模型
4.8 无记忆扩展信道
4.9 扩展信道的平均交互信息量
4.10 无记忆扩 展信道的信道容量
4.11 独立并联信道的信道容量
本章要点
习题
第5章 单维连续信源与信道
5.1 连续信源的相对熵
5.2 连续信道 与平均交互信息量
5.3 几种连续信源的相对熵
5.4 相对熵的数学特性
5.5 最大相对熵定理
5.6 熵功率与信息变差
5.7 相对熵的变换
5.8 平均交互信息量的不变性
5.9连续信道的信道容量
5.10 高斯加性信道的信道容量
本章要点
习题
第6章 多维连续信源与信道
6.1 随机过程的离散化
6.2 多维连续信源的相对煽
6.3 最大多维相对熵定理
6.4 多维相对熵的变换
6.5无记忆信道的平均交互信息量
6.6高斯白噪声加性信道的信道容量
本章要点
第7章 无失真信源编码
7.1信源编码器 概述
7.1.1信源编码的基本概念
7.1.2 信源编码的分类
7. 1.3 唯一可译码和即时码
7. 1.4 编码效率
7.2 无失真信源编码定理.
7.2.1无失真定长信源编码定理
7.2.2 无失真变长信源编码定理
7.3 常见的无失真信源编码方法
7.3.1 香农(Shannon)码
7.3.2霍夫曼( Hufman)码
7.3.3 费诺(Fano) 码
7.4 实用编码方法
7.4. 1游程编码
7.4.2 数字传真编码
7.4.4 字典码
本章要点
习题
第8章 有噪信道编码
8.1 错误概率和译码规则
8.1.1错误概率与编码方法
8.1.2错误慨率和译码规则
8.2 有噪信道编码定理
8.2.1联合信源信道编码定理
8.3 线性分组码
8.3.1 矢量空间
8.3.2 矢量子空间
8.3.3 (6, 3)线性分组码举例
8.3.4 生成矩阵
8.3.5 系统线性分组码
8.3.6 监督矩阵
8.3.7 伴随式检验
8.3.8 纠错
8.3.9 译码器的实现
8.4 检错和纠错能力
8.4.1 二进制矢量的 重量和距离
8.4.2 线性码的最小距离
8.4.3 检错和纠错
8.4.4 6元组空间的视图
8.5 标准阵的用途
8.5.1 估码能力
8.5.2 (n, k)码的一个例子
8.5.3 (8, 2)码的设计
8.5.4 检错和纠错的权衡
8.5.5 标准阵列的进一步说明
8.6 循环码
8.6. 1 循环码的代数结构
8.6.2 二进制循环码的特性
8.6.3 系统形式的编码
8.6.4 多项式除法电路
8.6.5 (n-k)级移位寄存器的系统编码
8.6.6 (n-k)级移位寄存器检错
8.7卷积码
8.7.1卷积码
8.7.2卷积编码器表示
8.7.3卷积译码公式
8.7.4卷积码的特性
本章要点
习题
第9章 限失真信源编码
9.1 失真测度
9.2 信息率失真函數
9.3 限失真信源编码定理
9.4 R (D) 函数的计算
9.5 数据压缩的一般概念
本章要点
习题
参考文献