基於深度置信網絡的分類方法

基於深度置信網絡的分類方法 pdf epub mobi txt 電子書 下載 2025

周樹森 著
圖書標籤:
  • 深度學習
  • 置信網絡
  • 分類算法
  • 機器學習
  • 模式識彆
  • 神經網絡
  • 人工智能
  • 圖像分類
  • 目標檢測
  • 計算機視覺
想要找書就要到 新城書站
立刻按 ctrl+D收藏本頁
你會得到大驚喜!!
齣版社: 清華大學齣版社
ISBN:9787302413554
版次:1
商品編碼:11829796
品牌:清華大學
包裝:平裝
開本:16開
齣版時間:2015-11-01
用紙:膠版紙

具體描述

編輯推薦

● 這是一本全新編寫的深度置信網絡參考書,涉及深度學習領域,內容新穎,結構閤理。適閤對深度學習有興趣的讀者的學習需要,具有很強的實用性、指導性。

● 全書涵蓋深度置信網絡的新知識,介紹瞭多個基於深度置信網絡的方法,使用多個文本和圖像數據集設計相關實驗,證明本書提齣算法的有效性。

● 把深度學習技術的概念、理論和技術融入手寫中文識彆實踐中,進一步驗證瞭基於深度置信網絡的分類方法解決大規模實際應用中分類問題的能力。


內容簡介

  深度置信網絡作為經典的深度學習方法,可以包含較多的隱藏層,更好地學習各種復雜數據的結構和分布。本書從深度置信網絡的概念、研究內容和應用齣發,提齣瞭一係列基於深度置信網絡的分類方法,使用半監督學習和監督學習方法來提升分類性能。另外,將深度學習方法應用到手寫中文識彆中,提齣瞭基於深層架構的手寫識彆方法,有效地提升瞭手寫識彆正確率。
  《基於深度置信網絡的分類方法》共分為7章。第1章介紹深度置信網絡的概念、發展及其研究現狀;第2章介紹區分深度置信網絡;第3章介紹自適應深度置信網絡;第4章介紹量子深度置信網絡;第5章介紹主動深度置信網絡;第6章介紹主動模糊深度置信網絡;第7章介紹基於深層架構的手寫識彆方法。
  本書適閤作為高等院校計算機專業高年級本科生、研究生的參考書,同時可供對機器學習比較熟悉並且對深度學習有所瞭解的廣大科技工作者和研究人員參考。

目錄

第1章緒論1

1.1引言1

1.2機器學習方法2

1.2.1監督學習方法3

1.2.2半監督學習方法4

1.3深度學習方法6

1.4本書的研究內容9

1.5本書的結構安排12

第2章區分深度置信網絡方法15

2.1引言15

2.2圖像分類16

2.3區分深度置信網絡17

2.3.1半監督學習問題描述17

2.3.2區分深度置信網絡結構18

2.3.3區分深度置信網絡的無監督學習方法19

2.3.4區分深度置信網絡的監督學習方法21

2.3.5區分深度置信網絡算法流程25

2.4區分深度置信網絡實驗26

2.4.1區分深度置信網絡實驗設置26

2.4.2在小規模人工數據集上的實驗27

2.4.3在中規模圖片數據集上的實驗28

2.4.4在大規模手寫數據集上的實驗30

2.4.5在不同規模和深度的深層架構上的實驗31

2.5本章小結35

第3章自適應深度置信網絡方法36

3.1引言36

3.2自適應深度置信網絡37

3.2.1監督學習問題描述37

3.2.2自適應深度置信網絡結構37

3.2.3自適應深度置信網絡的無監督學習方法38

3.2.4自適應深度置信網絡的監督學習方法40

3.2.5自適應深度置信網絡算法流程40

3.3自適應深度置信網絡實驗42

3.3.1自適應深度置信網絡實驗設置42

3.3.2在中規模圖片數據集上的實驗43

3.3.3在中規模手寫字母數據集上的實驗43

3.3.4在大規模手寫數字數據集上的實驗46

3.4本章小結50

第4章量子深度置信網絡方法51

4.1引言51

4.2量子深度置信網絡52

4.2.1量子深度置信網絡結構52

4.2.2量子深度置信網絡的監督學習方法55

4.2.3量子深度置信網絡算法流程56

4.3量子深度置信網絡實驗57

4.3.1量子深度置信網絡實驗設置57

4.3.2在小規模花數據集上的實驗58

4.3.3在小規模診斷數據集上的實驗60

4.3.4在大規模手寫數據集上的實驗61

4.4本章小結65

第5章主動深度置信網絡方法66

5.1引言66

5.2情感分類67

5.3主動深度置信網絡70

5.3.1主動學習問題描述70

5.3.2主動深度置信網絡的主動學習方法71

5.3.3主動深度置信網絡算法流程73

5.4主動深度置信網絡實驗75

5.4.1主動深度置信網絡實驗設置75

5.4.2主動深度置信網絡性能76

5.4.3主動學習效果78

5.4.4損失函數效果79

5.4.5使用不同數量標注數據實驗80

5.5本章小結82

第6章主動模糊深度置信網絡方法83

6.1引言83

6.2模糊深度置信網絡84

6.2.1模糊深度置信網絡結構85

6.2.2模糊參數提取86

6.2.3模糊深度置信網絡算法88

6.2.4使用模糊深度置信網絡分類89

6.3主動模糊深度置信網絡91

6.3.1主動模糊深度置信網絡算法描述91

6.3.2使用主動模糊深度置信網絡分類92

6.4主動模糊深度置信網絡實驗93

6.4.1主動模糊深度置信網絡實驗設置93

6.4.2模糊深度置信網絡性能94

6.4.3主動模糊深度置信網絡性能95

6.4.4使用不同數量的標注數據實驗97

6.4.5本書所提齣的各種方法的訓練時間99

6.5本章小結101

第7章基於深度學習的手寫中文識彆102

7.1引言102

7.2手寫識彆103

7.3使用深層架構的手寫識彆係統104

7.4手寫識彆係統中用到的深層架構105

7.5手寫中文識彆實驗106

7.5.1在HIT�睴R3C數據庫上的實驗107

7.5.2在CASIA�睴LHWDB1數據庫上的實驗111

7.5.3在SCUT�睠OUCH2009數據庫上的實驗111

7.6本章小結115

結論116

參考文獻120ContentsContents

Chapter 1Introduction1

1.1Background and Motivation1

1.2Machine Learning2

1.2.1Supervised Learning3

1.2.2Semi�瞫upervised Learning4

1.3Deep Learning6

1.4Research Contents and Main Contributions of This Book9

1.5Organization of This Book12

Chapter 2Research on Discriminate Deep Belief Networks Methods15

2.1Introduction15

2.2Current Status of Image Classification16

2.3Discriminative Deep Belief Networks17

2.3.1Problem Formulation of Semi�瞫upervised Learning17

2.3.2Architecture of Discriminative Deep Belief

Networks18

2.3.3Unsupervised Learning of Discriminative Deep

Belief Networks19

2.3.4Supervised Learning of Discriminative Deep

Belief Networks21

2.3.5Algorithm Procedure of Discriminative Deep

Belief Networks25

2.4Experiments for Discriminative Deep Belief Networks26

2.4.1Experimental Setting of Discriminative Deep

Belief Networks26

2.4.2Experiments on Small�瞫cale Artificial Dataset27

2.4.3Experiments on Middle�瞫cale Image Dataset28

2.4.4Experiments on Large�瞫cale Handwritten Dataset30

2.4.5Experiments on Different Scales and Depth of

Deep Architecture31

2.5Summary of This Chapter35

Chapter 3Research on Adaptive Deep Belief Networks Methods36

3.1Introduction36

3.2Adaptive Deep Belief Networks37

3.2.1Problem Formulation of Supervised Learning37

3.2.2Architecture of Adaptive Deep Belief Networks37

3.2.3Unsupervised Learning of Adaptive Deep Belief

Networks38

3.2.4Supervised Learning of Adaptive Deep Belief

Networks40

3.2.5Algorithm Procedure of Adaptive Deep

Belief Networks 40

3.3Experiments for Adaptive Deep Belief Networks42

3.3.1Experimental Setting of Adaptive Deep Belief

Networks 42

3.3.2Experiments on Middle�瞫cale Image Dataset43

3.3.3Experiments on Middle�瞫cale Handwritten

Alphabets Dataset43

3.3.4Experiments on Large�瞫cale Handwritten Digit

Dataset46

3.4Summary of This Chapter50

Chapter 4Research on Quantum Deep Belief Networks Methods51

4.1Introduction51

4.2Quantum Deep Belief Networks52

4.2.1Architecture of Quantum Deep Belief Networks52

4.2.2Supervised Learning of Quantum Deep Belief

Networks55

4.2.3Procedure of Quantum Deep Belief Networks56

4.3Experiments for Quantum Deep Belief Networks57

4.3.1Experimental Setting of Quantum Deep Belief

Networks57

4.3.2Experiments on Small�瞫cale Flower Dataset58

4.3.3Experiments on Small�瞫cale Diagnostic Dataset60

4.3.4Experiments on Large�瞫cale Handwritten Dataset61

4.4Summary of This Chapter65

Chapter 5Research on Active Deep Belief Networks Methods66

5.1Introduction66

5.2Current Status of Sentiment Classification67

5.3Active Deep Belief Networks70

5.3.1Problem Formulation of Active Learning70

5.3.2Active Learning of Active Deep Belief Networks71

5.3.3Algorithm Procedure of Active Deep Belief

Networks73

5.4Experiments for Active Deep Belief Networks75

5.4.1Experimental Setting of Active Deep Belief

Networks75

5.4.2Performance of Active Deep Belief Networks76

5.4.3Effect of Active Learning78

5.4.4Effect of Loss Function79

5.4.5Experiment with Variance of Labeled Data80

5.5Summary of This Chapter82

Chapter 6Research on Active Fuzzy Deep Belief Networks Methods83

6.1Introduction83

6.2Fuzzy Deep Belief Networks84

6.2.1Architecture of Fuzzy Deep Belief Networks 85

6.2.2Fuzzy Parameter Extraction86

6.2.3Fuzzy Deep Belief Networks Algorithm88

6.2.4Classification Using Fuzzy Deep Belief Networks 89

6.3Active Fuzzy Deep Belief Networks91

6.3.1Algorithm Description of Active Fuzzy Deep

Belief Networks91

6.3.2Classification Using Active Fuzzy Deep Belief

Networks92

6.4Experiments for Fuzzy Deep Belief Networks 93

6.4.1Experimental Setting of Fuzzy Deep Belief

Networks93

6.4.2Performance of Fuzzy Deep Belief Networks94

6.4.3Performance of Active Fuzzy Deep Belief

Networks95

6.4.4Experiments with Different Number of Labeled

Data97

6.4.5Training Time of Different Methods Proposed in

This Book99

6.5Summary of This Chapter101

Chapter 7Deep Learning Based Chinese Character Handwriting

Recognition102

7.1Introduction102

7.2Current Status of Handwriting Recognition103

7.3Handwriting Recognition with Deep Networks System104

7.4Deep Networks in Handwriting Recognition with Deep

Networks System105

7.5Experiments for Handwritten Chinese Recognition 106

7.5.1Experiments on HIT�睴R3C Database107

7.5.2Experiments on CASIA�睴LHWDB1 Database111

7.5.3Experiments on SCUT�睠OUCH2009 Database111

7.6Summary of This Chapter115

Conclusions116

References120

前言/序言

21世紀初,機器學習領域齣現瞭一係列基於多層神經網絡架構的學習方法,稱為深度學習方法。深度學習的最大特點,就是把一個復雜的認知問題分解為幾層簡單問題,通過對簡單問題的大運算量處理,得齣規律,進入下一“層”,逐層運算處理,直到觸達事物本質。深度置信網絡作為經典的深度學習方法,可以包含較多隱藏層,可以更好地學習各種復雜數據的結構和分布,引起瞭廣泛關注。深度置信網絡本身采用的是無監督學習機製,可以采用先以無監督學習進行抽象,後以有監督學習進行分類的方法提升分類性能。探討如何使用深度學習方法來解決分類問題,特彆是基於半監督學習的分類問題的研究工作具有重要的現實意義。

本書提齣瞭一係列基於深度置信網絡的分類方法,使用半監督學習方法和監督學習方法來提升分類性能。

第一,區分深度置信網絡。深度置信網絡方法在數據壓縮中取得瞭很好的效果,但是在分類方麵的性能還有待提升。本書基於深度置信網絡方法,提齣瞭一種新的半監督學習方法,稱為區分深度置信網絡。該方法使用一個新的深層架構來集成深度置信網絡的抽象能力和指數損失函數的區分能力,可以使用少量的標注數據達到比較好的分類效果。在人工閤成和現實生活中圖片數據集上的實驗錶明,區分深度置信網絡可以通過使用大量的未標注數據來大幅度提升它的分類能力。

第二,自適應深度置信網絡。區分深度置信網絡主要解決半監督學習問題,而沒有解決如何用深度學習方法進行有效的監督學習的問題。本書基於區分深度置信網絡和深度自動編碼方法,提齣瞭一種新的監督學習方法,稱為自適應深度置信網絡。該方法使用無監督學習方法來構建輸齣層,與使用隨機數初始化輸齣層的經典方法相比,分類結果得到瞭提升。在手寫數字、手寫字母和現實生活中圖片數據集上的實驗錶明,自適應深度置信網絡的分類結果優於經典機器學習方法和區分深度置信網絡方法。

第三,量子深度置信網絡。量子神經網絡是一個將模糊集和傳統神經網絡很好地結閤起來的分類方法。為瞭進一步提升監督學習方法的性能,本書在自適應深度置信網絡和量子神經網絡基礎上,提齣瞭量子深度置信網絡方法。該方法使用一個新的深層架構來集成深層架構的抽象能力和量子神經網絡的模糊錶示能力。在多個現實應用數據集上的實驗錶明,量子深度置信網絡的分類能力明顯高於經典神經網絡、模糊神經網絡、區分深度置信網絡和自適應深度置信網絡方法。

第四,主動深度置信網絡。為解決半監督學習中的有效樣本選擇問題,本書將自適應深度置信網絡和主動學習方法相結閤,提齣瞭一種新的半監督學習方法,稱為主動深度置信網絡。該方法使用同一個深層架構來進行半監督學習和主動學習,使深層架構在主動學習過程中進行迭代訓練,逐步提高抽象和分類能力。本書將主動深度置信網絡成功地應用到情感分類任務中,實驗結果錶明,主動深度置信網絡的性能優於經典半監督學習方法、主動學習方法,對本書前麵提齣的深度學習方法也有性能上的改進。

第五,主動模糊深度置信網絡。為瞭進一步提升主動深度置信網絡的性能,本書將主動深度置信網絡與模糊學習方法相結閤,提齣瞭主動模糊深度置信網絡。該方法繼承瞭深層架構優異的數據抽象能力和模糊集優異的分類能力。本書將該方法成功地應用到情感分類任務中,實驗結果錶明,主動模糊深度置信網絡獲得瞭所有對比方法中最好的性能。

最後,本書將深度學習方法應用到手寫中文識彆中,提齣瞭一個有效的手寫中文識彆方法,稱為基於深層架構的手寫識彆方法。該方法將深層架構的抽象能力和指數損失函數的分類能力相結閤,使用深層架構進行粗分類,然後使用改進的二次分類函數進行細分類。在三個手寫中文識彆數據庫上的實驗錶明,基於深層架構的手寫識彆方法可以通過深層架構來提升分類性能,識彆正確率優於經典的手寫中文識彆方法,從而進一步驗證瞭基於深度置信網絡的分類方法解決大規模實際應用中的分類問題的能力。

本書的相關研究和齣版得到瞭國傢自然科學基金(No. 61300155, 61170161)、魯東大學校基金(No. LY2013004)資助。另外,本書的編寫還得到魯東大學信息與電氣工程學院院長鄒海林教授、哈爾濱工業大學深圳研究生院王曉龍教授和陳清財教授的大力支持,在此對這些同誌的鼓勵和幫助錶示衷心的感謝。

限於作者的學識水平,書中難免有不妥和疏漏之處,懇請各位專傢、同仁和讀者不吝賜教和批評指正。


周樹森

2015年6月於煙颱


摘要

最近,機器學習領域齣現瞭一係列基於多層神經網絡架構的學習方法,稱為深度學習方法。深度置信網絡作為經典的深度學習方法,可以包含較多隱藏層,可以更好地學習各種復雜數據的結構和分布,引起瞭廣泛關注。但由於深度置信網絡本身采用的是無監督學習機製,因此,探討如何使用深度學習方法來解決分類問題,特彆是基於半監督學習的分類問題的研究工作還比較少。

本書提齣瞭一係列基於深度置信網絡的分類方法,使用半監督學習和監督學習方法來提升分類性能。研究內容主要包括以下幾方麵:

第一,區分深度置信網絡。深度置信網絡方法在數據壓縮中取得瞭很好的效果,但是在分類方麵的性能還有待提升。本書基於深度置信網絡方法,提齣瞭一種新的半監督學習方法,稱為區分深度置信網絡。該方法使用一個新的深層架構來集成深度置信網絡的抽象能力和指數損失函數的區分能力,可以使用少量的標注數據達到比較好的分類效果。

第二,自適應深度置信網絡。區分深度置信網絡主要解決半監督學習問題,而沒有解決如何用深度學習方法進行有效的監督學習的問題。本書基於區分深度置信網絡和深度自動編碼方法,提齣瞭一種新的監督學習方法,稱為自適應深度置信網絡。該方法使用無監督學習方法來構建輸齣層,與使用隨機數初始化輸齣層的經典方法相比,分類結果得到瞭提升。

第三,量子深度置信網絡。量子神經網絡是一個將模糊集和傳統神經網絡很好地結閤起來的分類方法。為瞭進一步提升監督學習方法的性能,本書在自適應深度置信網絡和量子神經網絡基礎上,提齣瞭量子深度置信網絡方法。該方法使用一個新的深層架構來集成深層架構的抽象能力和量子神經網絡的模糊錶示能力。

第四,主動深度置信網絡。為解決半監督學習中的有效樣本選擇問題,本書將自適應深度置信網絡和主動學習方法相結閤,提齣瞭一種新的半監督學習方法,稱為主動深度置信網絡。該方法使用同一個深層架構來進行半監督學習和主動學習,使深層架構在主動學習過程中進行迭代訓練,逐步提高抽象和分類能力。

第五,主動模糊深度置信網絡。為瞭進一步提升主動深度置信網絡的性能,本書將主動深度置信網絡與模糊學習方法相結閤,提齣瞭主動模糊深度置信網絡。該方法繼承瞭深層架構優異的數據抽象能力和模糊集優異的分類能力。

最後,本書將深度學習方法應用到手寫中文識彆任務中,提齣瞭一個有效的手寫中文識彆方法,稱為基於深層架構的手寫識彆方法。該方法將深層架構的抽象能力和指數損失函數的分類能力相結閤,使用深層架構進行粗分類,然後使用改進的二次分類函數進行細分類。


關鍵詞: 深度學習,監督學習,半監督學習,主動學習,文本分類,圖像分類,手寫識彆AbstractAbstract

Recently, deep learning methods, one kind of learning method which based on multilayer neural networks, were proposed. Deep belief networks (DBN) is a typical deep learning method, which is usually composed of many hidden layers, has better capability of learning complex structures and distributions of real data sets than traditional neural networks. However, because of the unsupervised learning mechanism used in DBN, there is still few research on using deep learning method to solve classification problems, especially semi�瞫upervised classification problems.

To improve the classification performance of semi�瞫upervised and supervised learning, this book proposes several classification methods based on deep belief networks. The main contents of this book are as follows.

First, discriminate deep belief networks are proposed. DBN has reached good performance in data compression, however, the data classification performance is need to be improved. We propose a new semi�瞫upervised learning method, discriminate deep belief networks, which uses a new deep architecture to integrate the abstraction capability of DBN and the discriminative capability of the exponential loss function. It helps the method reaching good classification performance by using fewer labeled data.

Second, adaptive deep belief networks are proposed. Discriminate deep belief networks are used to solve semi�瞫upervised learning problems, and cannot solve supervised learning problems with deep learning method efficiently. We propose a supervised learning method based on deep learning. This supervised learning method is referred to as adaptive deep belief networks, and is based on discriminate deep belief networks and deep autoencoder. This method uses an unsupervised learning method to construct the output layer. Compared with classical random initialization methods, this method can obtain a higher classification accuracy.

Third, quantum deep belief networks are proposed. Quantum neural networks is a classification method that combines the merits of fuzzy sets and traditional neural networks methods. To further improve the performance of supervised learning, we propose the quantum deep belief networks, based on adaptive deep belief networks and quantum neural networks. This method uses a new deep architecture to integrate the abstraction ability of deep architecture and fuzzy representation ability of quantum neural networks.

Fourth, active deep belief networks are proposed. To solve the effective sample selection problem, we propose a new semi�瞫upervised learning method, active deep belief networks, based on adaptive deep belief networks and active learning method. This method uses the same deep architecture for semi�瞫upervised learning and active learning, and iteratively trains it in active learning procedure, improves the abstraction and classification ability step by step.

Fifth, active fuzzy deep belief networks are proposed. To improve the performance of active deep belief networks method continuously, we propose a new semi�瞫upervised learning method, active fuzzy deep belief networks, based on active deep belief networks and fuzzy learning method. This method inherits the powerful abstraction ability of deep architecture and powerful fuzzy classification ability of fuzzy sets.

At last, we apply deep learning methods in handwritten Chinese character recognition mission, and propose an effective handwritten Chinese character recognition method, handwriting recognition based on deep architecture. This method integrates the abstraction ability of deep learning method and discriminative ability of exponential loss function, uses deep architecture for coarse classification and modified quadratic discriminant function for fine classification.


Key words: Deep learning, Supervised learning, Semi�瞫upervised learning, Active learning, Text classification, Image classification, Handwriting recognition


用戶評價

評分

對於瞭解深度學習方法目前的相關應用很有幫助。

評分

學位論文一樣

評分

書很好,很有研究價值。值得一買

評分

物流比較快。內容正在學習中

評分

京東自營就是快

評分

書是非常不錯的,語言有一定的基礎,加油。。

評分

書的內容挺好,講的不錯

評分

很不錯的,送貨也快,很喜歡

評分

感覺不錯,快遞服務態度好!

相關圖書

本站所有內容均為互聯網搜尋引擎提供的公開搜索信息,本站不存儲任何數據與內容,任何內容與數據均與本站無關,如有需要請聯繫相關搜索引擎包括但不限於百度google,bing,sogou

© 2025 book.cndgn.com All Rights Reserved. 新城书站 版權所有