信息論基礎與應用/高等學校電子信息類專業係列教材 下載 mobi epub pdf 電子書 2024

☆☆☆☆☆
簡體網頁||繁體網頁



點擊這裡下載

類似圖書 點擊查看全場最低價

---

編輯推薦

　　信息論是信息科學*成熟、*完善的一部分，它與其他學科交叉融閤，促進瞭許多新興學科的發展。本書從信息論的基本理論齣發，全麵論述瞭香農信息論的基本理論與方法，並進一步介紹瞭信息論在網絡信息理論和量子信息理論中的應用。本書特點如下：

　　(1)遵循電子信息類專業的教學要求，力求全麵涵蓋信息論課程教學知識點要求，並反應信息論的*新發展；

　　(2)簡化數學公式推導過程，重點突齣通信與信息的基本概念，強調信息論在通信中的具體應用；

　　(3)配套提供瞭豐富的實驗案例，並編寫相應的MATLAB仿真程序，方便開展實踐教學環

　　(4)本書配有電子教案（PPT）與MATLAB仿真程序，下載地址為清華大學齣版社網站本書頁麵。

內容簡介

信息論是信息科學*成熟、*完善的一部分，它與其他學科的交叉和融閤，促進瞭許多新興學科的發展。本書從信息論的基本理論齣發，介紹香農信息論的基本理論和方法，及其在網絡信息理論和量子信息理論中的應用。全書共7章，在介紹有關信息度量的基礎上，重點討論信源與信息熵、信道與信道容量、無噪信道編碼理論、含噪信道編碼理論、網絡信息理論和量子信息理論。
本書由淺入深、深入淺齣，具有係統性、交叉性和前沿性等特點； 書中聯係實際通信係統，使用較多的例題和圖示闡述重要的基本概念，結閤MATLAB代碼實例展現信息論的實用性； 各章均附有一定量的習題，便於讀者加深對概念和原理的理解。
本書可作為理工類高等院校信息工程、通信工程及相關專業的本科教材，也可供對信息科學感興趣的各類人員參考。

作者簡介

趙生妹，教授、博士、博士生導師，現為江蘇省普通高校“青藍工程”學術帶頭人，南京郵電大學信號與信息處理專業學術帶頭人，南京郵電大學“1311人纔計劃”創新團隊負責人，南京郵電大學“教學名師”，中國通信學會高級會員。研究方嚮為無綫網絡中的信號處理、量子信息處理。長期從事“信息論基礎”與“量子信息處理”方嚮的科研工作，並講授“信息論基礎”“Elements of information theory”“量子信息處理技術”等課程。在國內外重要學術期刊和國際會議上發錶論文150多篇，SCI期刊論文他引達200多次（包括Nature Photonics、Nature Communications等）。主講“信息論與編碼”課程被評為“江蘇省普通高等學校精品課程”，負責完成的“信息論基礎”課程多媒體課件（配套教學網站）榮獲“江蘇省高等學校優秀多媒體教學課件一等奬”。編著齣版瞭兩本圖書——《量子信息處理技術》與《信息論基礎與應用》。

目錄

第1章緒論

1.1什麼是信息

1.2什麼是信息論

1.2.1信息論的早期醞釀

1.2.2信息論的建立與發展

1.2.3信息論的近期發展

1.3通信係統的基本模型

1.4信息論的應用及成果

1.5信息論研究範疇

習題1

第2章信源與信息熵

2.1預備知識

2.1.1概率

2.1.2古典概型

2.1.3概率性質

2.2信源的描述和分類

2.2.1離散單符號信源

2.2.2離散無記憶序列信源

2.2.3離散有記憶序列信源

2.2.4連續信源

2.3離散單符號信源的熵與互信息

2.3.1自信息量

2.3.2離散單符號信源熵

2.3.3信息熵的基本性質

2.3.4互信息量

2.3.5平均互信息量

2.3.6平均互信息量的性質

2.4離散序列信源的熵與互信息

2.4.1離散平穩信源的序列熵和熵率

2.4.2馬爾可夫信源及其極限熵

2.5信源的相關性和冗餘度

2.6連續信源的熵與互信息

2.6.1連續信源的相對熵

2.6.2連續信源最大熵定理

2.6.3連續信源的互信息

2.7熵計算及熵應用

2.7.1熵計算

2.7.2熵信息應用

習題2

第3章信道與信道容量

3.1信道分類和參數錶示

3.2離散單符號信道及其容量

3.2.1信道容量定義

3.2.2離散單符號無噪信道及其容量

3.2.3離散單符號有噪信道及其容量

3.3離散序列信道及其容量

3.3.1並聯信道

3.3.2和信道

3.3.3擴展信道

3.4連續信道及其容量

3.4.1時間離散信道及其容量

3.4.2時間連續信道及其容量

3.5信道容量計算及MATLAB程序實現

3.5.1信道容量的MATLAB計算

3.5.2MIMO信道容量

習題3

第4章無噪信道編碼理論

4.1信源編碼的基本概念

4.1.1編碼的定義

4.1.2碼的分類

4.1.3碼樹

4.2無失真信源編碼定理

4.2.1典型序列和ε典型序列

4.2.2無失真定長編碼定理

4.2.3無失真變長編碼定理

4.3限失真信源編碼定理

4.3.1失真測度

4.3.2信息率失真函數R(D)

4.3.3離散信源和連續信源的R(D)計算

4.3.4限失真信源編碼定理

4.4信源編碼方法

4.4.1無失真信源編碼方法

4.4.2限失真信源編碼方法

4.5無噪信道編碼MATLAB計算實現

4.5.1率失真函數的MATLAB計算實現

4.5.2編碼方法的MATLAB實現

習題4

第5章含噪信道編碼理論

5.1最佳譯碼準則

5.2信道編碼基本概念

5.2.1錯誤圖樣

5.2.2矢量空間和碼矢量

5.2.3碼距與糾檢錯能力

5.3含噪離散信道編碼定理

5.3.1有噪信道編碼定理

5.3.2有噪信道編碼逆定理

5.4信道編碼方法

5.4.1綫性分組碼

5.4.2循環碼

5.4.3捲積碼

5.5信道編碼MATLAB計算實現

5.5.1RS碼

5.5.2Turbo碼

5.5.3LDPC碼

習題5

第6章網絡信息理論

6.1相關信源及可達速率區

6.2多址接入信道及其容量

6.2.1離散二址接入信道及其容量

6.2.2高斯加性二址接入信道及其容量區域

6.2.3離散多址接入信道及其容量區域

6.3廣播信道及其容量

6.3.1退化離散廣播信道的容量界限

6.3.2退化連續高斯廣播信道的容量界限

精彩書摘

　　第3章

　　CHAPTER3

　　信道與信道容量

　　信道是指信息傳遞的通道，通常將信源的輸齣至信宿的接收部分稱為信道(channel)。信道的基本任務是以信號方式傳輸和存儲信息。研究信道的主要目的是研究信道中能夠傳送或存儲的最大信息量，即信道容量(capacity)。

　　本章采用與第2章相似的方式描述信道。首先對信道進行分類，並給齣其對應的數學描述。從最簡單的離散單符號信道齣發，討論離散信道的統計特性和數學模型，定量地給齣信道傳輸速率的最大值，推導齣信道容量及其計算方法。在此基礎上，推廣至離散序列信道及其容量計算方法、連續信道及其容量計算方法，介紹著名的香農信道容量公式，探討多輸入多輸齣(MIMO)係統的信道容量區域。

　　3.1信道分類和參數錶示

　　信道是載荷信息的信號所通過的通道或媒介。例如，在二人對話係統中，二人之間的空氣就是信道；再例如常見的電話綫就是信道；當我們看電視、聽收音機時，發送與接收無綫信號之間的自由空間也是信道。在信息係統中，信道的主要作用是傳輸與存儲信息，而在通信係統中則主要是傳輸信息，這裏我們討論後者。在通信係統中研究信道的主要目的是為瞭描述、度量並分析不同類型信道，計算其容量即理論上的極限傳輸能力。

　　實際通信係統中，信道的種類有很多種描述，可以用不同的方式進行錶達。例如，可按傳輸媒介的類型進行劃分。根據傳輸媒介的類型可將信道劃分為有綫信道和無綫信道。在有綫信道中，傳輸媒介可以是固體介質，也可以是混閤介質。對於固體介質，它包含架空綫和電纜等；對於混閤介質，它包含波導和光纜等。這樣的信道劃分可用圖3��1錶示。

　　圖3��1基於傳輸媒介類型的信道劃分

　　除此之外，信道也可按照信道的信號與乾擾的類型進行分類，具體描述如圖3��2所示。

　　圖3��2基於信號與乾擾類型的信道劃分

　　在圖3��2中，離散信道是指輸入空間X和輸齣空間Y均為離散事件集；連續信道是指輸入空間X和輸齣空間Y都是連續事件集；半離散或半連續信道是指輸入和輸齣空間中，一個是離散集，另一個是連續集的情形。

　　根據信道的物理性質，如統計特性，也可將信道劃分為恒參信道和變參信道。其中，恒參信道是指信道的統計特性不隨時間變化(如有綫信道、微波接力信道和衛星中繼信道等)；變參信道是指信道的統計特性隨時間變化而變化(如短波通信)。最後，按用戶類型可分為兩端信道(單用戶信道)和多端信道(多用戶信道)。其中，兩端信道是指信道的輸入和輸齣都隻有一個事件集，它是隻有一個輸入端和一個輸齣端的單嚮通信的信道；多端信道是指信道的輸入和輸齣至少有兩個或兩個以上的事件集，即三個或更多個用戶之間相互通信的情況。

　　實際上，就通信係統而言，可以根據不同的研究對象、不同的要求，對信道進行不同形式的劃分，具體信道劃分如圖3��3所示。

　　圖3��3通信係統中不同形式的信道劃分

　　在圖3��3中，CAB為狹義的傳輸型信道，在研究調製解調理論或模擬通信時常引用，是一連續信道；CCD為廣義的傳輸型信道，在研究數字通信以及編碼解碼時常引用，是一離散信道；CCB是一類半離散半連續信道，例如可以看作是數字解調前的信道；CAD是一類半連續半離散信道。上述分類中，最常用的是前兩類信道，一般又稱為連續的調製信道和離散的編碼信道。

　　在第2章中我們已經知道，信源的輸齣在數學上可錶示為一隨機過程，信道的作用是將信源輸齣變為信宿的輸入(信宿的輸入在數學上也可錶示為一隨機過程)，因此，信道可認為是從一隨機過程嚮另一隨機過程的轉移。由於信道存在噪聲，信道的輸入和輸齣之間一般不是確定的函數關係，而是統計關係。統計上而言，隻要知道信道的輸入、輸齣，以及它們之間的統計依賴關係，那麼就能確定信道特性。一般而言，信道的輸入和輸齣信號是廣義時間連續隨機信號，可用隨機過程來描述。無論何種隨機過程，隻要有某種限製(如限頻和限時)，就可展開成時間(或空間)上離散的隨機序列。由於實際信道的帶寬總是有限製的，所以輸入信號和輸齣信號總可以展開成隨機序列來研究。而隨機序列中每個隨機變量的取值可以是可數的離散值，也可以是不可數的連續值。因此，類似於對信源的統計描述，信道的描述包括三個基本要素，分彆如下：

　　(1)信道輸入統計概率空間［X,p(X)］T；

　　(2)信道輸齣統計概率空間［Y,p(Y)］T；

　　(3)信道本身的統計特性，即轉移概率矩陣p(y|x)。

　　以上三要素構成瞭對信道整體的描述

　　{［X,p(X)］T,p(y|x),［Y,p(Y)］T}(3.1.1)

　　簡記為{X,p(y|x),Y}。

　　圖3��4離散單符號信道模型描述

　　【例3��1】求離散單符號信道描述。

　　解：離散單符號信道如圖3��4所示，可以描述為

　　X

　　p(X)=x1x2…xl…xn

　　p1p2…pl…pn

　　Y

　　p(Y)=y1y2…yl…ym

　　p1p2…pl…pm

　　其中，xi∈X={x1,x2,…,xn}，yj∈Y={y1,y2,…,ym},其信道轉移概率矩陣為

　　P=p(y1|x1)…p(ym|x1)

　　�螵鰳�

　　p(y1|xn)…p(ym|xn)

　　根據信道的統計特性，即條件轉移概率的不同，離散信道又分成三種類型。

　　1)無乾擾(無噪)信道

　　信道中沒有隨機性的乾擾或者乾擾很小，輸齣信號Y與輸入信號X之間有確定的對應關係，其數學錶述為

　　y=f(x)

　　P(y|x)=1y=f(x)

　　0y≠f(x)(3.1.2)

　　2)有乾擾無記憶信道

　　在實際應用中，信道通常有乾擾(噪聲)，即輸齣符號與輸入符號之間無確定的對應關係，而是一般的概率分布。若信道任一時刻輸齣符號隻統計依賴於對應時刻的輸入符號，而與非對應時刻的輸入符號及其他任何時刻的輸齣符號都無關，則稱這種信道為無記憶信道。數學上，滿足離散無記憶信道的充要條件是信道聯閤條件轉移概率可錶示為每個符號轉移概率的乘積，即

　　p(y|x)=p(y1y2…yL|x1x2…xL)=∏Ll=1p(yl|xl)(3.1.3)

　　對於有乾擾無記憶信道，存在多種類型，輸入可以是離散的和連續的，輸齣也可以是離散的和連續的；當輸入是序列時，則又可分為無記憶序列和有記憶序列。但是，常用的有乾擾無記憶信道可歸納為四種類型，它們分彆是二進製離散對稱信道、離散無記憶信道、離散輸入連續輸齣信道和連續輸入連續輸齣的波形信道。

　　(1)二進製離散對稱信道(BinarySymmetricChannel,BSC)，如圖3��5所示。

　　其中，信道輸入X∈{0,1},信道輸齣Y∈{0,1}，信道轉移概率為P(Y=0|X=1)=P(Y=1|X=0)=p，P(Y=1|X=1)=P(Y=0|X=0)=1-p。由於信道輸入和信道輸齣是離散二進製符號，信道轉移概率也可用如下信道矩陣錶示：

　　P=1-pp

　　p1-p(3.1.4)

　　該矩陣中每行都是第一行的置換，每列都是第一列的置換，是一對稱矩陣，因此被稱為二進製對稱信道。

　　(2)離散無記憶信道(DiscreteMemorylessChannel,DMC)是更為一般的離散單符號信道，如圖3��6所示。

　　圖3��5BSC信道

　　圖3��6DMC信道

　　圖中，信道輸入為X∈{x0，x2，…，xi，…，xq－1}，信道輸齣為Y∈{y0，y2，…，yj，…，yQ－1}，信道轉移概率為p(Y=yj|X=xi)=p(yj|xi)。對於離散無記憶信道，其信道矩陣為

　　P=p00p10…p(Q－1)0

　　p01p11…p(Q－1)1

　　……�鰲�

　　p0(q－1)p1(q－1)…p(Q－1)(q－1)(3.1.5)

　　其中，pji=p(yj|xi)，且∑jp(yj|xi)=1,�衖=0,…,q－1，稱為信道傳遞函數(又稱前嚮概率)，通常用它描述信道的噪聲特性。BSC信道是最簡單的DMC信道。

　　值得說明的是：由信道的輸入概率分布和信道矩陣，可計算齣輸入輸齣隨機變量的聯閤概率分布，即貝葉斯公式：

　　p(xiyj)=p(xi)p(yj|xi)=p(yj)p(xi|yj)(3.1.6)

　　其中，p(xi|yj)是已知信道輸齣符號為yj時輸入符號為xi的概率，稱為後驗概率。有時把p(xi)稱為輸入符號的先驗概率，錶示在接收到輸齣符號之前判斷輸入符號為xi的概率；而對應地把p(xi|yj)稱為輸入符號的後驗概率，錶示接收到輸齣符號yj之後，判斷輸入符號為xi的概率。同時由全概率公式，可從先驗概率和信道傳遞概率求齣輸齣符號的概率，

　　p(yj)=∑xip(xi)p(yj|xi)(3.1.7)

　　同時，根據貝葉斯公式可由先驗概率和信道的傳遞概率求得後驗概率：

　　p(xi|yj)=p(xiyj)p(yj)=p(xi)p(yj|xi)∑xip(xi)p(yj|xi)(3.1.8)

　　(3)離散輸入連續輸齣信道。

　　離散輸入連續輸齣信道錶示有限離散的輸入X∈{x0，x1，…，xq-1}和未經量化的輸齣Y∈{-∞,+∞}，且輸入和輸齣間轉移概率滿足

　　P(y|X=xi)i=0，1，2，…，q-1(3.1.9)

　　信道的轉移概率取決於噪聲，其中最為重要的一類噪聲是加性高斯白噪聲(AWGN)信道，輸齣可錶示為Y=X+G。G是均值為零、方差為σ2的高斯白噪聲，X=xi，i=0，1，…，q-1，Y是均值為xi、方差為σ2的高斯隨機變量。輸入和輸齣間概率錶示為

　　P(y|xi)=12πσ2e－(y－xi)2/2σ2(3.1.10)

……

前言/序言

前言
1948年，美國科學傢香農（C.E.Shannon）發錶瞭題為“通信的數學理論”的學術論文，宣告瞭信息論的誕生。信息論的産生和發展與通信技術、計算機技術的産生與發展密切相關，曆史上大體分為早期醞釀、理論建立與發展以及理論應用與近代發展三個階段。從信息的度量開始，信息的概念和研究範圍在不斷擴大和深化，並迅速滲透到其他相關學科領域。目前，信息論的應用領域從自然科學擴展到經濟、管理科學甚至人文社會科學，其內涵從狹義信息論延展到如今的廣義信息論，發展成為涉及麵極廣的信息科學。
信息論研究信息的度量問題，關注信息如何能有效地、可靠地、安全地從信源傳輸到信宿。香農熵是香農信息論中有關信息度量的基礎，它與事件發生的概率相聯係，是平均“不確定性”。在香農熵的基礎上，可進一步引入聯閤熵、條件熵、互信息、信道容量和信息率失真函數等概念，它們可視為信息度量的其他形式。值得注意的是： 雖然香農熵以概率分布構成的不確定性為度量基礎，但是隨著信息科學的不斷發展，香農熵的理解也被日益加深和擴大，新的信息度量與新的學科分支不斷齣現，形成瞭諸如量子信息論中的馮·諾依曼熵等概念的延伸。
信息論的基礎內容理論性很強。在多年教學過程中，作者觀察到學生的學習難點，以及對所學知識實用性的疑惑。本書力求理論和實際相結閤，確保讀者在理解基本概念的基礎上，瞭解信息論在實際通信中的應用。通過相關應用的MATLAB程序實例，讓讀者體會信息論對實際通信的理論指導。
本書共7章，第1章是緒論，闡述瞭什麼是信息、什麼是信息論，信息論的應用及成果，以及信息論的研究範疇。在整體上給齣信息論的概念及其應用價值。
第2章介紹信源與信息熵，包括信息論中信源的數學描述，信息熵的定義及概念推廣，涵蓋聯閤熵、相對熵及互信息，獲得離散單符號信源的熵、離散序列信源的熵及連續信源熵的計算及錶示方法，並給齣信息熵的MATLAB程序實現以及信息熵在圖像分割中的應用。這一章是後續章節的基礎。
第3章介紹信道與信道容量，在信道數學描述的基礎上，給齣信道容量的定義。在此基礎上，給齣瞭離散單符號信道、離散序列信道，以及限時限頻連續信道的容量計算及錶示方法，推演瞭香農容量計算錶達式。此外，該章給齣瞭信道容量的MATLAB計算實例，以及多輸入多輸齣（MIMO）係統的容量計算實例。
第4章介紹無噪信道編碼理論，包括無失真信源編碼理論和限失真信源編碼理論，其中無失真信源編碼理論包括定長編碼定理和變長編碼定理，並在理論基礎上，介紹瞭具體的無失真信源編碼方法，包括香農碼、費諾碼、赫夫曼碼和算術編碼。本章進一步給齣瞭限失真和信息率失真函數的定義以及具體的限失真編碼方法； 同樣，也給齣瞭無失真和限失真編碼方法的MATLAB實現實例。
第5章介紹含噪信道編碼理論，在最佳譯碼準則的基 信息論基礎與應用/高等學校電子信息類專業係列教材 下載 mobi epub pdf txt 電子書 格式

評分☆☆☆☆☆

評分☆☆☆☆☆

評分☆☆☆☆☆

評分☆☆☆☆☆

評分☆☆☆☆☆

評分☆☆☆☆☆

評分☆☆☆☆☆

評分☆☆☆☆☆

評分☆☆☆☆☆

類似圖書 點擊查看全場最低價