信息论与编码(高等学校教材) 9787040316001 高等教育出版社 pdf epub mobi txt 电子书 下载 2025

简体网页||繁体网页

☆☆☆☆☆

徐家品著 著

图书标签:

• 信息论
• 编码学
• 通信原理
• 信息与编码
• 高等教育
• 教材
• 计算机科学
• 电子工程
• 信号处理
• 理论基础

店铺： 北京文博宏图图书专营店

出版社： 高等教育出版社

ISBN：9787040316001

商品编码：29423477656

包装：平装

出版时间：2011-03-01

基本信息

书名：信息论与编码(高等学校教材)

定价：29.50元

作者：徐家品著

出版社：高等教育出版社

出版日期：2011-03-01

ISBN：9787040316001

字数：

页码：

版次：1

装帧：平装

开本：16开

商品重量：0.459kg

编辑推荐

---

为适应信息技术发展的新形势，应广大师生的要求，编者结合这些年在教学中的使用情况和科研体会，在已使用6年的《信息论与编码》讲义的基础上编写了本书。徐家品编著的《信息论与编码》共8章，包括香农信息论的基本内容及主要结论；压缩编码的基本原理；纠错原理、方法及其在现代通信系统中的应用等内容。在传统内容的基础上充实了信息理论特别是编码技术发展的新成果和应用。内容涵盖了通信中有关信息处理的基本原理和方法。

内容提要

---

徐家品编著的《信息论与编码》着重讲授以经典信息论内容为主的信息论基础；信息论的起源、发展及研究的内容；香农信息论的三大基本概念：信息熵、信道容量和信息率失真函数以及与之对应的三大定理；解决信息传输系统有效性、可靠性和安全性的三类编码；网络信息论与网络编码。本书围绕信息传输系统这一工程应用背景，特别强调概念阐述清楚、突出重点、深入浅出。逻辑关系上，力求通过建立信息与编码理论的分析方法，在写法上条理清楚，实例丰富翔实，注意循序渐进、难度适中，并注重理论对实际应用的指导作用，引导读者理解信息论与编码的基本方法，培养抽象分析能力和系统工程概念。本书在体系结构上力求科学性、先进性与实用性相统一，内容安排注重体现系统性和相对的完整性。每章后配有习题。《信息论与编码》可作为高等学校通信工程、电子信息工程、信息工程、电子信息科学与技术和信息安全等专业高年级本科生和研究生教材及教学参考书，不同专业可根据不同的学时数在内容上有所取舍。本书也可以作为信息、通信、电子工程相关专业技术人员的参考书。

目录

---

第1章 绪论 1.1 信息的基本概念 1.1.1 信息的一般概念 1.1.2 信息的特点和性质 1.1.3 香农信息的定义 1.2 信息论与编码理论的形成与发展 1.3 信息论与编码理论研究的内容 1.3.1 信息论与编码理论的研究对象 1.3.2 信息论与编码理论的研究范畴第2章 信源及信息测度 2.1 信源的分类及数学模型 2.1.1 信源的分类 2.1.2 单符号离散信源的数学模型 2.1.3 多符号离散信源 2.1.4 连续信源及波形信源 2.2 信息的度量——信息熵 2.2.1 无条件概率、联合概率与条件概率 2.2.2 自信息 2.2.3 互信息 2.2.4 信息熵 2.2.5 各熵之间的关系 2.2.6 信息熵的基本性质及定理 2.2.7 平均互信息及其特性 2.3 多符号离散平稳信源 2.3.1 消息序列的熵 2.3.2 离散平稳信源的数学模型 2.3.3 离散平稳信源的信息熵和极限熵 2.3.4 马尔可夫信源的信息熵 2.4 信源的相关性与冗余度 2.4.1 信源的相关性 2.4.2 冗余度 2.5 连续信源的熵和互信息 习题第3章 离散信道及其信道容量 3.1 信道的分类及其描述 3.2 单符号离散信道的数学模型 3.2.1 单符号离散信道的概念 3.2.2 一般单符号离散信道的一些概率关系 3.3 信道容量及其计算方法 3.3.1 信道容量的定义 3.3.2 无噪离散信道的信道容量 3.3.3 对称离散信道的信道容量 3.3.4 准对称离散信道的信道容量 3.3.5 一般离散信道的信道容量 3.4 多符号离散信道的数学模型 3.5 离散无记忆扩展信道的信道容量 3.6 组合信道及其信道容量 3.6.1 独立并联信道及其信道容量 3.6.2 串联信道及其信道容量 3.7 信源与信道的匹配 习题第4章 无失真信源编码 4.1 信源编码的基本概念 4.1.1 信源编码 4.1.2 信源编码的码字类型及码树 4.2 无失真变长信源编码的特点 4.2.1 定长信源编码定理 4.2.2 变长编码的特点 4.2.3 变长编码存在的问题及应对措施 4.3 信源编码定理 4.3.1 无失真变长信源编码定理 4.3.2 统计匹配码 4.3.3 克拉夫特不等式 4.4 变长编码方法 4.4.1 香农—费诺—埃利斯码 4.4.2 费诺编码 4.4.3 霍夫曼码 4.4.4 游程编码 4.4.5 算术编码 4.4.6 通用编码 习题第5章 信道编码 5.1 信道编码定理 5.1.1 信道与差错 5.1.2 差错概率与译码规则 5.1.3 有噪信道编码定理 5.2 信道编码及其基本原理 5.2.1 信道编码的基本概念 5.2.2 信道编码的基本原理 5.3 线性分组码 5.3.1 线性分组码的基本概念 5.3.2 线性分组码生成矩阵和一致监督矩阵 5.3.3 线性码的检错、纠错能力 5.3.4 汉明码 5.3.5 线性分组码的编码 5.3.6 线性分组码的译码 5.4 循环码 5.4.1 循环码的基本概念 5.4.2 循环码的生成矩阵和监督矩阵 5.4.3 循环码的编码 5.4.4 循环码的译码 5.4.5 自动请求重传方式(ARQ) 5.4.6 循环码的捕错译码和大数逻辑译码 5.4.7 BCH码和RS码 5.5 卷积码 5.5.1 卷积码的编码原理 5.5.2 卷积码的描述 5.5.3 卷积码的编码 5.5.4 维特比译码 5.6 级联码、交织码及TCM码 5.6.1 级联码 5.6.2 交织码 5.6.3 TCM码 5.6.4 前向纠错方式 5.7 Turbo码 5.7.1 Turbo码编码器 5.7.2 Turbo码译码器 5.8 LDPC码 5.8.1 LDPC码的定义及其描述 5.8.2 LDPC码的Tanner图表示 5.8.3 LDPC码的构造 习题第6章 保真度准则下的信源编码 6.1 失真度和平均失真度 6.1.1 失真度 6.1.2 平均失真度 6.2 信息率失真函数及其性质 6.2.1 信息率失真函数 6.2.2 信息率失真函数的性质 6.3 信息率失真函数的参量表述及其计算 6.4 二元信源和离散对称信源的只(d)函数 6.4.1 二元对称信源的R(D)函数 6.4.2 离散对称信源的R(D)函数 6.5 连续信源的信息率失真函数 6.5.1 连续信源的信息率失真函数 6.5.2 高斯信源的信息率失真函数 6.5.3 连续信源R(D)函数的参量表述及其计算 6.6 保真度准则下的信源编码定理 6.6.1 保真度准则下的信源编码定理 6.6.2 限失真信源编码定理的应用 6.7 标量量化编码与矢量量化编码 6.7.1 均匀量化 6.7.2 优量化 6.7.3 矢量量化编码 6.8 语音压缩编码 6.8.1 波形编码基本原理 6.8.2 参量编码 6.8.3 混合编码 6.9 图像压缩编码 6.9.1 静止图像压缩编码及JPEG标准 6.9.2 活动图像压缩编码 6.9.3 H.26x建议 6.9.4 MPEG标准 习题第7章 网络信息论与网络编码初步 7.1 网络信息论概述 7.1.1 网络信息论研究的基本问题及内容 7.1.2 网络信息论的应用 7.2 网络的信道容量 7.2.1 多址系统 7.2.2 广播信道 7.2.3 相关信源的多用户信道问题 7.3 无线信道 7.3.1 信道模型 7.3.2 圆对称复数高斯随机矢量 7.3.3 MIMO高斯信道容量 7.4 网络编码技术 7.4.1 网络编码的基本原理 7.4.2 线络编码 习题第8章 通信系统的保密与安全 8.1 密码系统和密码体制 8.1.1 密码体制的基本组成 8.1.2 密码编码和密码分析 8.1.3 经典密码体制 8.1.4 安全保密性与随机性 8.2 对称加密体制 8.2.1 数据加密标准DES 8.2.2 DES密码的演化设计 8.3 公开密钥密码 8.3.1 单钥密码体制存在的问题 8.3.2 公开密钥的一般原理 8.3.3 RSA体制 8.4 认证技术 8.4.1 消息认证系统 8.4.2 消息认证码和消息认证 8.4.3 身份认证 8.4.4 数字 8.5 认证鉴权与加密在通信系统中的应用 8.5.1 GSM系统的认证鉴权与加密 8.5.2 WCDMA系统的认证鉴权与加密 8.5.3 CDMA2000系统的认证鉴权与加密 习题参考文献

作者介绍

---

文摘

---

序言

---

《信息论基础与应用》 本书简介 在信息爆炸的时代，理解信息的本质、度量信息量、以及如何高效地传输和存储信息，已成为科学技术发展的基石。本书《信息论基础与应用》旨在系统地阐述信息论的核心概念、基本原理及其在现代通信、数据压缩、机器学习等领域的广泛应用。本书面向具有一定数学基础（包括概率论与数理统计、线性代数等）的读者，如高等院校信息科学与技术、计算机科学、电子工程等相关专业本科生、研究生，以及从事相关领域研发工作的工程师和研究人员。 第一部分：信息论基础 第一章：信息度量 信息论的基石在于如何量化信息。本章将从信息熵的概念入手，深入剖析离散随机变量的熵、联合熵、条件熵以及互信息。我们将介绍熵的性质，如非负性、最大值（当随机变量均匀分布时达到最大）以及熵的链式法则。此外，还会探讨相对熵（KL散度）和交叉熵，并阐述它们在衡量两个概率分布相似性方面的作用。通过引入信息增益的概念，我们将展示如何量化一个随机变量对另一个随机变量的“影响”或“预测能力”。本章将通过大量例证，帮助读者理解这些抽象概念在实际问题中的意义。 第二章：信道容量 信息如何在存在噪声的环境中可靠地传输？本章将聚焦于信道的概念，区分离散无记忆信道（如二元对称信道BSC、二元擦除信道BEC）和连续信道。我们将引入信道容量的概念，并阐述它是信源能够以任意小的错误概率传输的最大速率。本章将推导离散无记忆信道的信道容量公式，并详细讲解如何利用最大似然译码和最小均方误差译码等方法来处理信道中的噪声。此外，我们还将初步介绍高斯白噪声信道（AWGN信道）的容量，为后续章节的更深入讨论奠定基础。 第三章：信源编码 信源编码的目标是在不损失信息或以可接受的失真度的情况下，减少信息的冗余，实现数据的压缩。本章将首先介绍无损信源编码，重点讲解二元编码（如霍夫曼编码）、算术编码等经典算法，并分析它们的编码效率和复杂度。我们将深入理解这些编码方法的原理，以及如何根据信源的概率分布来构建最优编码。随后，我们将讨论有损信源编码，介绍率失真理论，阐述率失真函数的概念，并介绍一些常用的有损编码技术，如离散余弦变换（DCT）在图像和视频压缩中的应用。 第四章：信道编码 信道编码旨在向信息中添加冗余，以便在接收端能够检测和纠正信道传输过程中引入的错误，从而提高传输的可靠性。本章将首先介绍线性分组码，包括汉明码、循环码等，并讲解其代数构造、编码和译码的原理。我们将深入理解码字、码率、最小汉明距离等关键概念，以及它们如何决定编码的纠错能力。接着，我们将引入卷积码，阐述其编码过程和维特比译码算法，这是现代通信系统中非常重要的译码技术。最后，我们将初步介绍Turbo码和LDPC码等现代高性能纠错码，为理解下一代通信系统的性能提供背景。 第二部分：信息论的扩展与应用 第五章：速率失真理论 率失真理论是信息论中关于有损数据压缩的数学框架。本章将深入探讨率失真函数的概念，它描述了在给定的失真允许范围内，所需传输信息的最小速率。我们将分析不同失真测度（如均方误差）下的率失真函数，并展示如何在理论上证明某些编码方案（如高斯信源的率失真性能）达到了最优。本章将为理解现代媒体编码（如MP3、JPEG、MPEG）的原理提供理论支撑。 第六章：信息论在机器学习中的应用 信息论的概念在机器学习领域扮演着至关重要的角色。本章将探讨如何利用互信息来度量特征与目标变量之间的相关性，从而进行特征选择。我们将介绍决策树算法中信息增益（或信息增益比）在节点分裂中的应用，解释为何它能构建出最优的分类模型。此外，我们还将讨论KL散度在衡量模型与真实数据分布差异方面的作用，以及它在变分推断和生成模型中的应用。 第七章：信息论在通信系统中的应用 本章将把信息论的理论知识应用于实际通信系统的设计和分析。我们将从香农极限出发，深入理解通信系统的理论极限，以及现代通信技术如何逼近这一极限。我们将分析不同调制解调方案（如QAM、PSK）在实际信道条件下的性能，并探讨如何通过高效的信道编码和解码技术来提高系统的可靠性。此外，我们还将介绍认知无线电和多天线通信（MIMO）等新兴通信技术中信息论的应用，展示信息论如何指导这些技术的理论发展和性能提升。 第八章：信息论在数据压缩与存储中的应用 除了前面提到的信源编码，本章将更广泛地探讨信息论在数据压缩与存储领域的应用。我们将介绍无损压缩算法（如LZ77、LZ78）的工作原理，并分析它们在文本文件、日志文件等数据压缩中的表现。对于有损压缩，我们将回顾率失真理论，并结合JPEG（图像）、MPEG（视频）、MP3（音频）等实际应用，深入分析这些编码格式是如何在保证可接受视觉或听觉质量的前提下，实现高效的数据压缩的。此外，我们还将讨论信息论在数据存储安全（如纠错码在硬盘、SSD中的应用）和信息隐藏等方面的应用。 第九章：信息论的其他应用领域 信息论的普适性使其在众多学科领域都有广泛的应用。本章将简要介绍信息论在密码学中的应用，如信息论安全（one-time pad）和密钥生成。我们还将探讨信息论在生物信息学中的应用，例如利用信息熵分析DNA序列的复杂性。此外，信息论在统计物理、经济学、甚至社会学等领域也有初步的应用探索，这些内容将为读者拓展视野，激发新的思考。 结论 《信息论基础与应用》旨在提供一个全面而深入的信息论学习体验。本书从最基本的信息度量出发，逐步深入到信道编码、信源编码以及信息论在各个领域的应用。通过理论推导、概念阐释和丰富的应用实例，我们希望帮助读者建立坚实的信息论知识体系，并能够将其应用于解决实际问题，从而更好地理解和驾驭信息时代。本书的编排力求循序渐进，逻辑清晰，旨在培养读者的分析能力和创新思维，为他们在未来的学术研究和工程实践中奠定坚实的基础。

评分☆☆☆☆☆

收到这本书已经有一段时间了，我一直把它放在床头，偶尔会翻阅一下，感觉这本书的封面设计虽然朴实，但却透露着一股严谨的气息。印刷质量也相当不错，纸张触感舒适，字迹清晰，长时间阅读也不会感到疲劳。虽然我是一名非专业的读者，对“信息论与编码”这个领域知之甚少，但我对书中提出的各种概念产生了浓厚的兴趣。比如，书中提到的一些信息传输效率的极限，以及如何通过编码来克服噪声干扰，这些都让我觉得非常神奇。虽然我暂时还没有能力去深入理解其中的数学公式和理论推导，但从书中展现出的逻辑性和严谨性，我能够感受到作者在构建这个知识体系时付出的巨大心血。这本书对我来说，更像是一扇通往未知领域的大门，我希望通过它，能够慢慢地揭开信息世界的神秘面纱。

评分☆☆☆☆☆

我拿到这本书后，就被它所呈现出的严谨学术氛围所吸引。书的整体设计风格非常专业，封面设计简洁大方，给人一种值得信赖的感觉。我之所以选择这本书，是因为我对信息传输和数据压缩这两个主题一直抱有极大的好奇心。书中对信息编码的各种理论和方法的介绍，让我对如何用最有效的方式来存储和传递信息有了初步的认识。例如，书中关于纠错码的阐述，让我明白了为何在数字通信中，即使存在噪声，信息也能被准确地接收。尽管书中包含了一些较为复杂的数学模型和算法，但作者的讲解方式尽量贴近读者的理解，并且穿插了不少实际的应用案例，这使得我在阅读过程中能够感受到理论与实践的紧密联系。这本书让我对信息科学这个领域有了更深的敬畏感。

评分☆☆☆☆☆

这本书给我的整体感觉是厚重而扎实，封面上的书名“信息论与编码”以及出版社名称，都让人感受到一股学术的权威感。我尤其喜欢书中在概念阐述方面的细致之处，即使是一些看似抽象的定义，作者也会尝试用通俗易懂的语言来解释，并且配以大量的图示和例子，这对于我这样初学者来说，极大地降低了理解的门槛。我特别欣赏书中对于信息熵、信道容量等核心概念的讲解，感觉作者并非简单地罗列公式，而是试图引导读者去理解这些概念背后的物理意义和实际应用。虽然我还没有完全掌握所有内容，但每次阅读都能有所收获，仿佛在脑海中搭建起一个初步的知识框架。这本书让我看到了信息科学的强大魅力，也激发了我进一步探索学习的欲望。

评分☆☆☆☆☆

翻开这本书，首先映入眼帘的是其严谨的学术风格。书本的装帧设计虽然不是那种花哨的类型，但却显得非常经典，很有质感。作为一本面向高等学校的教材，它无疑在内容的深度和广度上有着较高的要求。我虽然不是信息论的专业人士，但对书中探讨的关于信息是如何被度量、如何被编码以及如何被可靠传输的原理深感兴趣。书中对各种编码方式的介绍，例如如何设计能够抵抗错误传播的码字，以及如何实现高效的数据压缩，这些都让我觉得十分新奇。尽管其中涉及到的数学推导和证明对我来说还有些挑战，但我能够感受到作者在逻辑上的清晰和严密，每一个步骤都衔接得恰到好处。这本书给我一种沉甸甸的收获感，让我觉得自己正在接触一个非常重要且前沿的学科领域。

评分☆☆☆☆☆

这本书的封面设计有一种沉静而有力的学术气息，一看就知道是精心制作的教材。我个人对信息论这个概念一直充满好奇，特别是关于信息是如何量化以及如何以最优化的方式进行编码和传输的原理。这本书的内容，虽然对我这样一个非专业读者而言，很多地方仍然需要反复揣摩，但它成功地勾勒出了信息论的宏观图景。我对书中关于信息熵的定义，以及它如何衡量不确定性，还有信道容量的概念，都留下了深刻的印象。这些概念虽然抽象，但作者通过清晰的阐述和必要的数学工具，为我打开了理解信息世界的一个新视角。这本书不仅是一本教材，更像是一次知识的启迪，让我对未来可能出现的各种信息技术有了更深的憧憬。