网络信息论 下载 mobi epub pdf 电子书 2024

编辑推荐

本书作者Gamal是三十几年来信息论领域中的重量级人物，既是一位世界级的理论研究者，也曾经是多家科技公司的创始人。他以一个亲历者和创造者的视角去讲授信息论这门经典的课程，立意非凡

本书多年来已经在多所大学用于网络信息论的教学，包括斯坦福大学、加州大学圣地亚哥分校、香港中文大学、加州伯克利分校、清华大学、首尔国立大学、Notre Dame大学、McGill大学等，取得了很好的效果。

网络信息论研究的是网络中信息流的基本极限，以及达到这些极限的zui优编码方法。除了研究本身的优雅和美感之外，网络信息论还给现有的通信技术带来了巨大的性能提升。对于这个领域关键成果的了解有助于下一代通信网络的研发。网络信息论研究中用到的数学工具和方法还可能用于其他的领域，例如计算机科学、经济学和生物学。本书采用高度结构化和浓缩的方法将网络信息论领域中令人兴奋的结果呈现给读者。

本书完整、结构化地梳理了自经典信息论以来本领域zui主要的研究结论，并在方法层面上做了简洁优雅的统一，是一本难能可贵的“删削述正”的教科书，可以作为本科生高年级和研究生基础信息论的辅助教材，或者研究生高等信息论的教材使用。

内容简介

本书首次对经典信息论和网络信息论的研究成果形成了完整系统的覆盖。其内容较好地平衡了新模型和新编码方法，使得读者可以全面地掌握香农经典点到点信息论、单跳网络、多跳网络、分布式计算、保密通信、无线通信和网络等内容。全书并没有特别苛刻的数学要求，读者只须掌握基础概率论和基本数学工具即可。作者通过几个简单引理，将大部分编码定理的证明进行了统一，大大改善了网络信息论内容纷繁复杂的状况，对初学者尤其有利。本书既可供课堂教学使用，也可供自学使用，或充当研究人员和工程技术人员的参考书。

作者简介

Abbas El Gamal，1972年在埃及开罗大学获得学士学位，1977年和1978年分别获得斯坦福大学统计学硕士和电机工程博士学位。1978年至1980年，他在南加州大学担任助理教授，1981年至今在斯坦福大学任教，目前为日立北美讲座讲授、斯坦福电子系系主任。他曾担任清华大学无线通信讲席教授组教授，并于2009—2010年春季访问清华。

他的研究跨越了几个领域，包括网络信息理论、FPGA、数字成像设备和系统等。他曾发表了230篇论文，并拥有超过30项专利。他是美国工程院院士和IEEE院士。他获得了多项荣誉，其中包括 the 2016 IEEE Richard W. Hamming Medal, the 2014 Viterbi Lecture, the 2013 Shannon Memorial Lecture, the 2012 Claude E. Shannon Award, the inaugural Padovani Lecture, and the 2004 INFOCOM Paper Award.

他在工业界也发挥了重要作用。1984年，他创办了LSI Logic Research Lab。1986年，他联合创办Actel公司。1990年，他联合创办了Silicon Architects。1995-1997年，他担任Synopsys公司的副总裁。1999年，他联合创办了Pixim公司。 2011年，他联合创办了Inscopix公司。他也曾担任多家半导体、EDA、生物技术公司的董事会和咨询委员会成员。

Young-Han Kim，1996年于韩国国立首尔大学获得学士学位，2006年在斯坦福大学获得统计学硕士和电机工程博士学位，目前是加州圣迭戈大学副教授。

张林，分别于1998年、2001和2005年在清华大学获得电机工程本科和电子工程硕士、博士学位，目前为清华大学副教授。

目录

第1章  绪论     1.1  网络信息流问题     1.2  最大流–最小割定理     1.3  点到点信息论     1.4  网络信息论 第一部分  基础知识   第2章  信息度量和典型性     2.1  熵     2.2  微分熵     2.3  互信息     2.4  典型序列     2.5  联合典型序列     小结     文献说明     习题     附录2A  条件典型性引理的证明   第3章  点到点信息论     3.1  信道编码     3.2  填充引理     3.3  有输入代价的信道编码     3.4  高斯信道     3.5  无损信源编码     3.6  有损信源编码     3.7  覆盖引理     3.8  二次高斯信源编码     3.9  信源–信道联合编码     小结     文献说明     习题     附录3A  引理3.2的证明 第二部分  单跳网络   第4章  多址接入信道     4.1  离散无记忆多址接入信道     4.2  容量域的简单边界     4.3  *容量域的多字母表达     4.4  分时     4.5  容量域的单字母表达     4.6  高斯多址接入信道     4.7  拓展到多于两个用户的情形     小结     文献说明     习题     附录4A  集合Q势的界   第5章  退化的广播信道     5.1  离散无记忆广播信道     5.2  简单的容量域的界     5.3  叠加编码内界     5.4  退化的     5.5  高斯广播信道     5.6  高低噪声广播信道和大小容量广播信道     5.7  推广     小结     文献说明     习题   第6章  干扰信道     6.1  离散无记忆干扰信道     6.2  简单编码方式     6.3  强干扰     6.4  高斯干扰信道     6.5   Han–Kobayashi内界     6.6  确定性内射干扰信道     6.7  半比特内的高斯干扰信道的容量区域     6.8  高斯干扰信道的确定性近似     6.9  推广到多于两个用户对     小结     文献说明     习题     附录6A  引理6.2的证明     附录6B  命题6.1的证明   第7章  有状态信道   第8章  一般广播信道   第9章  高斯矢量信道   第10章  分布式无损压缩   第11章  已知边信息的有损压缩   第12章  分布式有损压缩   第13章  多重描述编码   第14章  联合信源信道编码 第三部分  多跳网络   第15章  图网络   第16章  中继信道   第17章  交互信道编码   第18章  离散无记忆网络   第19章  高斯网络   第20章  图网络中的压缩 第四部分  扩展内容   第21章  面向计算的通信   第22章  信息论中的保密性   第23章  无线衰落信道   第24章  网络与信息论 附录 参考文献 常用符号表 作者索引 中英文序词索引

精彩书摘

前言/序言

网络信息论旨在建立网络中信息流的根本极限，并探索获得这些极限的编码方法。它拓展了香农（Shannon）的点到点通信基础理论以及针对单播图网络的最大流–最小割定理，适用于多信源、多信宿共享资源的一般网络模型。虽然这个理论还远未成熟，但在过去的四十年中，研究者还是取得了很多优美的结果，并且在现实网络中展现出很大的潜力。本书采用简洁和有内在逻辑的结构，把这些结果呈现给读者，为电气工程、计算机科学、统计学以及其他相关学科的研究生和科研人员服务，并将这些结果普及到工业界的研究人员中。

网络信息论的第一篇论文是Shannon(....)发表的关于双向信道的研究结果。直到十年之后，这项工作才得到一系列开创性论文的跟进，包括Cover(....)关于广播信道的论文，Ahlswede(...., ....)以及Liao(....)关于多址接入信道的论文，Slepian, Wolf(....a)关于无损分布式压缩的论文。这些研究成果在....年代中期到 ....年代前期引发了网络信息论研究的热潮，产生了很多新的成果和方法，有兴趣的读者可以阅读vanderMeulen (....)和El Gamal,Cover(....)发表的两篇综述论文，也可以阅读Csiszár, K.rner(....b)影响深远的专著。然而，时至今日，包括香农双向信道在内的很多问题依然没有得到解答， ....年代中期到 ....年代中期，随着通信理论专家和实践者对这些问题兴趣的降低，网络信息论经历了“失去的十年”。在这期间，学术论文的发表数量很少，很多研究者转移了研究兴趣。....年代中期以来，由半导体技术、压缩和纠错编码、信号处理和计算机科学所引发的互联网和无线通信技术的发展重新点燃了学者们对于网络信息论的研究兴趣。除了旧有的开放问题，近期的工作针对新的网络模型、新的网络编码方法、容量的近似、尺度定律以及网络与信息论交叉等领域展开研究，一系列的新技术，诸如：连续抵消解码、多重描述编码、连续信息修正、网络编码等，已经开始在实际的网络中应用。

本书的由来

撰写本书的想法由来已久，早在 ....年 TomCover和本书的第一作者撰写前述综述论文的时候就已经产生。本书第一作者随后编写了一份手写的讲义，于 ....年到 ....年间在斯坦福大学开设了多用户信息论课程。为了满足研究生对于通信与信息理论学习的需求，他在 ....年恢复了这门课，并在讲义中增补了最新的研究结果。 ....年暑期，更新后的讲义在EPFL开课。

....年，本书的第二作者（也是 ....年选课的学生），开始在加州大学圣地亚哥分校教授类似的课程。两个作者决定合作将讲义拓展为一本正式的教科书。自那以后，不同版本的讲义在很多大学经过了试用，包括斯坦福大学、加州大学圣地亚哥分校、香港中文大学、加州伯克利分校、清华大学、首尔国立大学、Notre Dame大学、 McGill大学等。 ....年.月，讲义被上载到了 arXiv在线数据库。本书就是基于这些讲义撰写的。虽然我们尽力提供对于本领域研究成果最广泛的覆盖，但却无法做到毫无遗漏，近年来本领域论文数目爆炸式的增长使得几乎不可能仅用一本教材就覆盖全部内容。

本书的结构

我们尝试了几种内容组织的框架结构，包括沿着信源编码到信道编码的顺序（或逆序）来组织，或者沿着从图网络到一般网络的逻辑来组织，或者按照历史的线索来组织。

最终，我们决定采用面向教学的需求来组织内容，这样可以较好地平衡对于新网络模型和新编码技术的介绍。我们首先讨论单跳网络，然后拓展到多跳网络。在每一类网络中，我们首先研究信道编码，然后介绍对应的信源编码，之后是联合信源–信道编码。对于无法顺利安放到这个框架下的几个重要内容，我们在拓展部分中加以介绍。本书主要采纳了离散无记忆网络和高斯网络模型，对于更加复杂模型中的信息流的极限，我们几乎一无所知。集中使用上述的模型也可以帮助我们用最简单的形式给出编码定理和证明。

在第 .章中，我们通过简述书中一些例子，描画了网络信息论的全景。接下来的内容划分为四大部分和一组附录。

第一部分，基础知识（第 .、 .章）。我们给出了信息论的必备基础知识，介绍了典型性的定义以及书中反复使用的几个引理，并回顾了香农的点到点信息编码定理。

第二部分，单跳网络（第 .章至第 ..章）。这部分讨论单轮、单向的通信。其中的每个节点或者是发送者、或者是接收者。本部分的内容分属三类通信场景。

.独立消息通过有噪信道传输（第 .章至第 .章）。讨论有噪单跳网络的基本单元，第 .章先由多址接入信道开始（多对一通信），随后第 .章与第 .章介绍广播信道（一对多通信），第 .章介绍干扰信道（多个一对一信道）。我们把对广播信道的介绍分开进行，是出于教学上的考虑：第 .章对于一般广播信道的研究需要用到第 .章中有状态信道的基础。在第 .章中，我们研究高斯矢量信道，它刻画了多天线（多入多出/MIMO）通信系统。

.相关信源通过无噪信道传输（第 ..章至第 ..章）。讨论与有噪单跳网络对应的信源编码问题。第 ..章由分布式无损信源编码开始，随后在第 ..章中介绍有边信息的有损信源编码，在第

..章中介绍分布式有损信源编码，在第 ..章中介绍多重描述编码。我们在这三章中逐步展开对分布式编码的讨论，帮助读者建立知识体系。 .相关信源经由有噪信道传输（第 ..章）。讨论经由单跳有噪网络发送未经压缩的信源消息的一般问题。

第三部分，多跳网络（第 ..章至第 ..章）。我们讨论有中继的网络或者存在多轮通材料的组织信的网络。在这个模型中，某些节点可以同时充当发送者和接收者。与第二部分的组织一样，本章的内容也分为三类场景。

.独立消息经由图网络传输（第 ..章）。本章超越简单路由方法，讨论了网络图模型上的编码。

.独立消息经由有噪网络传输（第 ..章至第 ..章）。在第 ..章中，我们讨论中继信道。它是一个简单的两跳网络，包括一个发送者、一个接收者和一个中继。随后的第 ..章讨论反馈信道和双向信道。在第 ..章中，我们将中继信道和双向信道的结论推广到一般的有噪网络中。第

..章进一步讨论大规模无线网络容量的近似和尺度定律。

.相关信源经由图网络传输（第 ..章）。这一部分讨论与第 ..章至第 ..章中描述的信道编码对应的信源编码问题。

第四部分，拓展内容（第 ..章至第 ..章）。本部分介绍了前三部分理论的拓展。第 ..章介绍了面向计算的通信，第 ..章介绍通信中的保密问题，第 ..章介绍了衰落信道，第 ..章介绍了网络和信息论的交叉问题。

附录。为了尽量做到内容完备，我们在附录 A、B、E中给出了关于凸集、凸函数、概率与估计、凸优化的背景知识。附录 C介绍了对随机变量的势进行定界的方法，在本书的很多章中，该方法用于容量和速率区域的刻画。附录 D介绍了Fourier–Motzkin消去过程。

材料的组织

本书的每一章基本都包含了教学材料和高级技术专题。加星号的小节则属于细节或与主线无关的内容。每一章的结尾都列出了本章的核心内容、开放问题、文献说明等内容，正文中略去的证明会以习题的形式给出，一些过于技术或非核心的证明则会放在章尾的附录中，以便读者的精力能够集中在核心的观点和逻辑线条上。

本书遵循“一图胜千言”的原则，使用了大量图例来形象地说明模型和概念，证明则遵循尽可能简单的原则，所需的基本工具只须读者掌握基础概率论和一定程度的数学即可——读者如果修过基础信息论课程，那么其数学水平就足以应付本书的要求。书中可达性的证明基于联合典型性，这个性质由香农在其 ....年的论文中给出，由 Forney和 Cover在....年代进一步发展。在本书中，我们进一步引入一组更为简化的引理，以使证明步骤更加简明。我们展示了如何通过离散化过程和取恰当的极限，把离散无记忆网络的证明拓展到对应的高斯网络中去。本书中的一部分证明是全新的，其余的大多数证明则是论文中证明的简化版本，有一部分还更加严格。

在课程中使用本书

前面提到，本书多年来已经在多所大学用于网络信息论的教学。我们希望本书的出版可以促进这门课程的推广。当然，我们撰写本书最主要的动机之一还是吸引更多的网络信息论爱好者。当前的通信与网络工程教育中主要包含的是点到点通信和有线网络的内容，而很多现代通信和网络系统中的创新则更加重视共享资源的有效使用，而这恰是网络信息论所关注的问题。我们相信，在掌握了实用的网络信息论知识后，下一代通信和网络工程师可以获得很多好处。我们尽一切的可能，面对这类读者简明地阐述相关的研究成果。特别地，本书中关于高斯信道、无线衰落信道、高斯网络的内容可以直接整合进无线通信的高级课程中去。

本书可以用作为时长为一学期、强调通信技术的基础信息论课程的主教材使用，也可以作为时长一学期的高等信息论课程的主教材，对通信、网络、计算机科学、统计等课程加以补充。书中的大部分教学内容可以通过一个时长为两学期的课程全面覆盖，课程的幻

灯片可以参考：http://arxiv.org/abs/........./。

相关图

下面的图描述了各章之间的关联。每个方块表示一个章节，虚线框表明了先修章节。

实线箭头表明了必要的阅读顺序，虚线箭头则表示建议阅读。

除了上面的分部相关图外，我们还提供下述按照研究内容组织的相关图。

..

Abbas ElGamal于加利福尼亚州

Palo Alto市

Young-Han Kim于加利福尼亚州

La Jolla市

....年.月

致谢

本书是集体努力的成果。很多同事、课程助教、博士后和博士生都对本书的内容、组织、表述提供了极有价值的建议，并审阅了早期的初稿。

首先，也是最重要的，我们对 TomCover怀有深深的感恩之情，他教会了我们所知关于信息论的一切，鼓励我们撰写此书，提供了许多深刻的建议。我们还特别感谢我们的助教 EhsanArdestanizadeh，Chiao-YiChen，Yeow-KhiangChia，ShirinJalali，PaoloMinero， HaimPermuter，Han-ISu，SinaZahedi，LeiZhao，他们为本书的撰写提供了巨大的帮助。

特别地，我们要感谢SinaZahedi，他帮助完成了本书最初的讲义版本。我们感谢 Han-ISu对于二次高斯信源编码和分布式计算两部分内容的贡献，也感谢他对于初稿的全面审读。 Yeow-KhiangChia为信息论保密性和图网络中的压缩两章做出了重要的贡献，还提供了一些习题的解答，他还审读了本书的很多部分。 PaoloMinero在信息论和网络的章节中也有贡献。

我们还很感激我们的博士生。BerndBandemer对于干扰信道一章有贡献，并阅读了书中的若干部分。SungHoonLim对于离散无记忆高斯网络一章做出了贡献。JamesMammen帮助完成了尺度定律的第一稿讲义，LeleWang和YuXiang也对于书中很多部分提供了有益的建议。

我们还从与同事的讨论中获益良多。Chandra Nair贡献了广播信道一章中的很多结果和习题。 David Tse帮助梳理了衰落信道和干扰信道的内容组织。 Mehdi Mohseni帮助完成了高斯矢量信道的关键证明。 Amin Gohari帮助完成了信息论中的保密性一章的组织并给出了几个结论的证明。 Olivier Lévêque帮助完成了高斯网络的几个证明。我们还从 JohnGill处获得了很多排版风格和编辑方面的建议。 JunChen，Sae-Young Chung，AmosLapidoth，PrakashNarayan，BobakNazer，AlonOrlitsky，OferShayevitz，Yossi Steinberg，AslanTchamkerten，DimitrisToumpakaris，Sergio Verdú，MaiVu，MichèleWigger， Ram Zamir和 Ken Zeger在本书的撰写过程中提供了有益的建议。我们还要感谢VenkatAnantharam，Fran.oisBaccelli，StephenBoyd，MaxCosta，PaulCu.，SuhasDiggavi，MassimoFranceschetti，MichaelGastpar，AndreaGoldsmith，BobGray，TeSunHan， Tara Javidi， Ashish Khisti， Gerhard Kramer， Mohammad Maddah-Ali， Andrea Montanari， BalajiPrabhakar，BixioRimoldi，AnantSahai,，AnandSarwate，DevavratShah，ShlomoShamai， EmreTelatar，AlexVardy，TsachyWeissman和张林。

如果没有选修我们课程的无数热情好学的学生和他们的贡献，本书不可能诞生。他们中的一些人前面已经提及，此外，我 网络信息论 下载 mobi epub pdf txt 电子书 格式

蛮经典的一本书

印刷质量很好，图书内容也不错，值得看看研究研究

香农信息论主要讨论点对点通信中的一些基本问题，最著名的结论包括其中的四大定理，也即为无失真信源编码定理，限失真信源编码定理，信道编码定理，信源信道分离定理。香农信息论为目前的通信系统设计和编码都有不可忽视的指导意义，但其也有不足的地方，按我个人的理解，主要包括三方面，一个局限是香农得出的大部分结果，都是在理论上得到的极限值，虽然为通信系统的设计给出了非常有指导意思的理论界限，但实际系统中应该如何去达到这些界限，香农并没有给出，最典型的例子就是信道编码定理，虽然1948年香农就发明了信息论，但到90年代才找到或者再发现能够逼近香农极限的turbo码和LDPC码；再一个局限是香农的大部分结果都是在一定的理想条件或极限条件下推导出来的，在实际系统中，这些条件可能不能满足，因而不可能达到香农所得出的一些结论或界限，举一个例子，信源信道分离定理是在数据分组长度无穷大和静态信道条件下得到的，但实际系统中的编码可能会有分组长度和限制，信道也可能是时变的，因而产生出最近较新的所谓联合信源信道编码理论；最后一个是局限是点对点通信的局限性，因为通信的构架存在网络结构和多用户的结构，所以对于网络和多用户的情形，香农并没有更深入的研究，虽然他在50年代研究了two way channel，但并未得出有意义的结果，目前网络信息论或多用户信息论是一个比较活跃的领域，主要的有意义的结论在广播和多址接入信道，但都是退化的情形才成立的结论，更一般的情形，还有一些其他如中继信道等，还有待进一步研究。由于国内功利的学术环境，信息论领域的研究少之又少，希望多一些像楼主这样对信息论感兴趣的潜力选手。

不错的书，值得购买！不错的书，值得购买！不错的书，值得购买！不错的书，值得购买！不错的书，值得购买！不错的书，值得购买！不错的书，值得购买！不错的书，值得购买！不错的书，值得购买！不错的书，值得购买！不错的书，值得购买！不错的书，值得购买！不错的书，值得购买！不错的书，值得购买！不错的书，值得购买！不错的书，值得购买！不错的书，值得购买！不错的书，值得购买！不错的书，值得购买！不错的书，值得购买！不错的书，值得购买！不错的书，值得购买！不错的书，值得购买！不错的书，值得购买！不错的书，值得购买！不错的书，值得购买！不错的书，值得购买！不错的书，值得购买！不错的书，值得购买！不错的书，值得购买！不错的书，值得购买！不错的书，值得购买！不错的书，值得购买！不错的书，值得购买！不错的书，值得购买！不错的书，值得购买！不错的书，值得购买！不错的书，值得购买！不错的书，值得购买！不错的书，值得购买！不错的书，值得购买！不错的书，值得购买！不错的书，值得购买！不错的书，值得购买！不错的书，值得购买！不错的书，值得购买！不错的书，值得购买！不错的书，值得购买！不错的书，值得购买！不错的书，值得购买！不错的书，值得购买！不错的书，值得购买！

不错喜欢, 太喜欢了, 好用

不错

本书重点介绍了网络信息论研究的基本问题和从事网络信息论研究需要的基础知识，并结合目前网络信息论研究的热点课题，介绍了网络编码、数字喷泉编码以及跨层优化设计等。

书很不错，送货很快！

本书是现代网络信息论的入门教材，可作为高等院校电子信息学科高年级本科生和研究生相关课程的教材，也可供通信工程技术人员和科研人员作为参考书。