簡體網頁||繁體網頁

☆☆☆☆☆

廖星宇 陳雲 著

圖書標籤:

• PyTorch
• 深度學習
• 機器學習
• 人工智能
• Python
• 入門
• 實踐
• 神經網絡
• 模型構建
• 計算機視覺

店鋪： 藍墨水圖書專營店

齣版社： 電子工業齣版社

ISBN：YL12598

商品編碼：23169449879

開本：16

齣版時間：2017-09-01

頁數：1

深度學習框架PyTorch 入門與實踐+深度學習入門之PyTorch+深度學習輕鬆學 核心算法與視覺實踐

深度學習框架PyTorch：入門與實踐

陳雲 著

定價 65.00

 

齣版社： 電子工業齣版社

ISBN：9787121330773

版次：1

商品編碼：12261129

品牌：Broadview

齣版時間：2018-01-01

叢書名 ：博文視點AI係列

作 譯 者：廖星宇

齣版時間：2017-09    韆 字 數：299

版    次：01-01    頁    數：232

開    本：16開

裝    幀：

I S B N ：9787121326202     

換    版：

所屬分類：科技 >> 計算機 >> 計算機科學

紙質書定價：￥79.0

深度學習如今已經成為瞭科技領域&炙手可熱的技術，在本書中，我們將幫助你入門深度學習的領域。本書將從人工智能的介紹入手，瞭解機器學習和深度學習的基礎理論，並學習如何用PyTorch框架對模型進行搭建。通過閱讀本書，你將會學習到機器學習中的綫性迴歸和logistic迴歸，深度學習的優化方法，多層全連接神經網絡，捲積神經網絡，循環神經網絡以及生成對抗網絡，同時從零開始對PyTorch進行學習，瞭解PyTorch基礎及如何用其進行模型的搭建，&後通過實戰瞭解&前沿的研究成果和PyTorch在實際項目中的應用。

第1 章深度學習介紹1

1.1 人工智能. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1

1.2 數據挖掘、機器學習與深度學習. . . . . . . . . . . . . . . . . . . . . . . 2

1.2.1 數據挖掘. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 3

1.2.2 機器學習. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 3

1.2.3 深度學習. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 4

1.3 學習資源與建議. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 8

第2 章深度學習框架11

2.1 深度學習框架介紹. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 11

2.2 PyTorch 介紹. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 13

2.2.1 什麼是PyTorch . . . . . . . . . . . . . . . . . . . . . . . . . . . . 13

2.2.2 為何要使用PyTorch . . . . . . . . . . . . . . . . . . . . . . . . . . 14

2.3 配置PyTorch 深度學習環境. . . . . . . . . . . . . . . . . . . . . . . . . . 15

2.3.1 操作係統的選擇. . . . . . . . . . . . . . . . . . . . . . . . . . . . 15

2.3.2 Python 開發環境的安裝. . . . . . . . . . . . . . . . . . . . . . . . 16

2.3.3 PyTorch 的安裝. . . . . . . . . . . . . . . . . . . . . . . . . . . . 18

第3 章多層全連接神經網絡24

3.1 熱身：PyTorch 基礎. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 24

3.1.1 Tensor（張量） . . . . . . . . . . . . . . . . . . . . . . . . . . . . 24

3.1.2 Variable（變量） . . . . . . . . . . . . . . . . . . . . . . . . . . . 26

3.1.3 Dataset（數據集） . . . . . . . . . . . . . . . . . . . . . . . . . . . 28

3.1.4 nn.Module（模組） . . . . . . . . . . . . . . . . . . . . . . . . . . 29

3.1.5 torch.optim（優化） . . . . . . . . . . . . . . . . . . . . . . . . . . 30

3.1.6 模型的保存和加載. . . . . . . . . . . . . . . . . . . . . . . . . . 31

3.2 綫性模型. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 32

3.2.1 問題介紹. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 32

3.2.2 一維綫性迴歸. . . . . . . . . . . . . . . . . . . . . . . . . . . . . 33

3.2.3 多維綫性迴歸. . . . . . . . . . . . . . . . . . . . . . . . . . . . . 34

3.2.4 一維綫性迴歸的代碼實現. . . . . . . . . . . . . . . . . . . . . . 35

3.2.5 多項式迴歸. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 38

3.3 分類問題. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 42

3.3.1 問題介紹. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 42

3.3.2 Logistic 起源. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 42

3.3.3 Logistic 分布. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 42

3.3.4 二分類的Logistic 迴歸. . . . . . . . . . . . . . . . . . . . . . . . 43

3.3.5 模型的參數估計. . . . . . . . . . . . . . . . . . . . . . . . . . . . 44

3.3.6 Logistic 迴歸的代碼實現. . . . . . . . . . . . . . . . . . . . . . . 45

3.4 簡單的多層全連接前嚮網絡. . . . . . . . . . . . . . . . . . . . . . . . . 49

3.4.1 模擬神經元. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 49

3.4.2 單層神經網絡的分類器. . . . . . . . . . . . . . . . . . . . . . . . 50

3.4.3 激活函數. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 51

3.4.4 神經網絡的結構. . . . . . . . . . . . . . . . . . . . . . . . . . . . 54

3.4.5 模型的錶示能力與容量. . . . . . . . . . . . . . . . . . . . . . . . 55

3.5 深度學習的基石：反嚮傳播算法. . . . . . . . . . . . . . . . . . . . . . . 57

3.5.1 鏈式法則. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 57

3.5.2 反嚮傳播算法. . . . . . . . . . . . . . . . . . . . . . . . . . . . . 58

3.5.3 Sigmoid 函數舉例. . . . . . . . . . . . . . . . . . . . . . . . . . . 58

3.6 各種優化算法的變式. . . . . . . . . . . . . . . . . . . . . . . . . . . . . 59

3.6.1 梯度下降法. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 59

3.6.2 梯度下降法的變式. . . . . . . . . . . . . . . . . . . . . . . . . . 62

3.7 處理數據和訓練模型的技巧. . . . . . . . . . . . . . . . . . . . . . . . . 64

3.7.1 數據預處理. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 64

3.7.2 權重初始化. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 66

3.7.3 防止過擬閤. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 67

3.8 多層全連接神經網絡實現MNIST 手寫數字分類. . . . . . . . . . . . . . 69

3.8.1 簡單的三層全連接神經網絡. . . . . . . . . . . . . . . . . . . . . 70

3.8.2 添加激活函數. . . . . . . . . . . . . . . . . . . . . . . . . . . . . 70

3.8.3 添加批標準化. . . . . . . . . . . . . . . . . . . . . . . . . . . . . 71

3.8.4 訓練網絡. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 71

第4 章捲積神經網絡76

4.1 主要任務及起源. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 76

4.2 捲積神經網絡的原理和結構. . . . . . . . . . . . . . . . . . . . . . . . . 77

4.2.1 捲積層. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 80

4.2.2 池化層. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 84

4.2.3 全連接層. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 85

4.2.4 捲積神經網絡的基本形式. . . . . . . . . . . . . . . . . . . . . . 85

4.3 PyTorch 捲積模塊. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 87

4.3.1 捲積層. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 87

4.3.2 池化層. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 88

4.3.3 提取層結構. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 90

4.3.4 如何提取參數及自定義初始化. . . . . . . . . . . . . . . . . . . . 91

4.4 捲積神經網絡案例分析. . . . . . . . . . . . . . . . . . . . . . . . . . . . 92

4.4.1 LeNet . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 93

4.4.2 AlexNet . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 94

4.4.3 VGGNet . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 95

4.4.4 GoogLeNet . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 98

4.4.5 ResNet . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 100

4.5 再實現MNIST 手寫數字分類. . . . . . . . . . . . . . . . . . . . . . . . . 103

4.6 圖像增強的方法. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 105

4.7 實現cifar10 分類. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 107

第5 章循環神經網絡111

5.1 循環神經網絡. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 111

5.1.1 問題介紹. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 112

5.1.2 循環神經網絡的基本結構. . . . . . . . . . . . . . . . . . . . . . 112

5.1.3 存在的問題. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 115

5.2 循環神經網絡的變式：LSTM 與GRU . . . . . . . . . . . . . . . . . . . . 116

5.2.1 LSTM . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 116

5.2.2 GRU . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 119

5.2.3 收斂性問題. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 120

5.3 循環神經網絡的PyTorch 實現. . . . . . . . . . . . . . . . . . . . . . . . 122

5.3.1 PyTorch 的循環網絡模塊. . . . . . . . . . . . . . . . . . . . . . . 122

5.3.2 實例介紹. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 127

5.4 自然語言處理的應用. . . . . . . . . . . . . . . . . . . . . . . . . . . . . 131

5.4.1 詞嵌入. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 131

5.4.2 詞嵌入的PyTorch 實現. . . . . . . . . . . . . . . . . . . . . . . . 133

5.4.3 N Gram 模型. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 133

5.4.4 單詞預測的PyTorch 實現. . . . . . . . . . . . . . . . . . . . . . . 134

5.4.5 詞性判斷. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 136

5.4.6 詞性判斷的PyTorch 實現. . . . . . . . . . . . . . . . . . . . . . . 137

5.5 循環神經網絡的更多應用. . . . . . . . . . . . . . . . . . . . . . . . . . . 140

5.5.1 Many to one . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 140

5.5.2 Many to Many（shorter） . . . . . . . . . . . . . . . . . . . . . . . 141

5.5.3 Seq2seq . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 141

5.5.4 CNN+RNN . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 142

第6 章生成對抗網絡144

6.1 生成模型. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 144

6.1.1 自動編碼器. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 145

6.1.2 變分自動編碼器. . . . . . . . . . . . . . . . . . . . . . . . . . . . 150

6.2 生成對抗網絡. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 153

6.2.1 何為生成對抗網絡. . . . . . . . . . . . . . . . . . . . . . . . . . 153

6.2.2 生成對抗網絡的數學原理. . . . . . . . . . . . . . . . . . . . . . 160

6.3 Improving GAN . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 164

6.3.1 Wasserstein GAN . . . . . . . . . . . . . . . . . . . . . . . . . . . . 164

6.3.2 Improving WGAN . . . . . . . . . . . . . . . . . . . . . . . . . . . 167

6.4 應用介紹. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 168

6.4.1 Conditional GAN . . . . . . . . . . . . . . . . . . . . . . . . . . . . 168

6.4.2 Cycle GAN . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 170

第7 章深度學習實戰173

7.1 實例一——貓狗大戰：運用預訓練捲積神經網絡進行特徵提取與預測. 173

7.1.1 背景介紹. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 174

7.1.2 原理分析. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 174

7.1.3 代碼實現. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 177

7.1.4 總結. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 183

7.2 實例二——Deep Dream：探索捲積神經網絡眼中的世界. . . . . . . . . 183

7.2.1 原理介紹. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 184

7.2.2 預備知識：backward . . . . . . . . . . . . . . . . . . . . . . . . . 185

7.2.3 代碼實現. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 190

7.2.4 總結. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 195

7.3 實例三——Neural-Style：使用PyTorch 進行風格遷移. . . . . . . . . . . 196

7.3.1 背景介紹. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 196

7.3.2 原理分析. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 197

7.3.3 代碼實現. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 199

7.3.4 總結. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 205

7.4 實例四——Seq2seq：通過RNN 實現簡單的Neural Machine Translation . 205

7.4.1 背景介紹. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 206

7.4.2 原理分析. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 206

7.4.3 代碼實現. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 209

7.4.4 總結. . . . . . . . . . . . . . . . . . . . . . . . . . . . 

 

深度學習輕鬆學：核心算法與視覺實踐

基本信息

齣版社: 電子工業齣版社; 第1版 (2017年7月1日)

平裝

ISBN: 9787121317132

條形碼: 9787121317132

品牌: 電子工業齣版社

79.00

適讀人群 ：本書適閤對深度學習感興趣的讀者閱讀，也適閤有誌於從事計算機視覺研究等領域的廣大學生閱讀，可作為深度學習的入門教材。

 

本書特色

 

深入剖析捲積神經網絡核心：全連接層和捲積層

 

深入分析Caffe源碼實現架構，瞭解框架背後的運行機理

 

詳盡介紹網絡結構與訓練細節，解密復雜運算的基本原理

 

經典實踐場景：圖像語意分割，圖像生成。GAN模型的詳細分析與推導

 

樣例代碼采用C++和Python兩種語言編寫

 

語言輕鬆幽默易於理解，特彆適閤初學者快速掌握深度學習核心思想

 

《深度學習輕鬆學：核心算法與視覺實踐》介紹瞭深度學習基本算法和視覺領域的應用實例。書中以輕鬆直白的語言，生動詳細地介紹瞭深層模型相關的基礎知識，並深入剖析瞭算法的原理與本質。同時，書中還配有大量案例與源碼，幫助讀者切實體會深度學習的核心思想和精妙之處。除此之外，書中還介紹瞭深度學習在視覺領域的應用，從原理層麵揭示其思路思想，幫助讀者在此領域中夯實技術基礎。

 

《深度學習輕鬆學：核心算法與視覺實踐》十分適閤對深度學習感興趣，希望對深層模型有較深入瞭解的讀者閱讀。

 

由深度學習引發的新一輪人工智能革命已經在眾多領域顛覆瞭人們的認知，越來越多的人加入研究深度學習的大軍。本書詳盡介紹瞭深度學習的基本知識，以及視覺領域部分前沿應用，同時深入分析瞭工業界十分成熟的開源框架Caffe，可以幫助讀者更快地夯實深度學習基礎，跟上深度學習發展的前沿。作者行文在細節上十分認真，書中內容可讀性很強，非常適閤入門者閱讀。

 

—— 猿輔導研究總監，鄧澍軍

 

 

 

近年來，深度學習技術已經給學術界、工業界帶來瞭極大的影響，本書深入淺齣地介紹瞭深度學習基礎知識與視覺應用，語言輕鬆幽默但不失嚴謹，內容既涵蓋經典概念，又包括一些全新的研究成果，特彆是對一些底層的具體計算方式有細緻的描述，這往往是深度學習入門者忽略的，因此非常適閤深度學習的初學者和進階者閱讀學習。

 

—— 今日頭條 AI Lab 科學傢，《推薦係統實踐》作者，項亮

 

 

 

隨著GPU、TPU 等專用處理芯片的發展，深度學習技術逐漸從幕後走嚮颱前，開始嚮世人展現其強大的非綫性映射能力。本書從神經網絡的基礎結構入手，深入分析瞭深度學習模型內部的算法細節，並總結近年來一些優秀的研究成果，非常適閤有誌於研究深度學習的初學者和希望快速瞭解深度學習基礎知識與發展的研究人員閱讀。

 

—— 中國科學院計算技術研究所副研究員，劉淘英

 

1 機器學習與深度學習的概念1

 

1.1 什麼是機器學習 1

 

1.1.1 機器學習的形式. 2

 

1.1.2 機器學習的幾個組成部分. 8

 

1.2 深度學習的逆襲 9

 

1.3 深層模型在視覺領域的應用. 13

 

1.4 本書的主要內容 15

 

1.5 總結. 17

 

2 數學與機器學習基礎18

 

2.1 綫性代數基礎. 18

 

2.2 對稱矩陣的性質 22

 

2.2.1 特徵值與特徵嚮量 22

 

2.2.2 對稱矩陣的特徵值和特徵嚮量 23

 

2.2.3 對稱矩陣的對角化 24

 

2.3 概率論. 25

 

2.3.1 概率與分布. 25

 

2.3.2 &大似然估計 28

 

2.4 信息論基礎 31

 

2.5 KL 散度. 33

 

2.6 凸函數及其性質 37

 

2.7 機器學習基本概念. 39

 

2.8 機器學習的目標函數 42

 

2.9 總結. 44

 

3 CNN 的基石：全連接層45

 

3.1 綫性部分. 45

 

3.2 非綫性部分 48

 

3.3 神經網絡的模樣 50

 

3.4 反嚮傳播法 55

 

3.4.1 反嚮傳播法的計算方法. 55

 

3.4.2 反嚮傳播法在計算上的抽象. 58

 

3.4.3 反嚮傳播法在批量數據上的推廣. 59

 

3.4.4 具體的例子. 63

 

3.5 參數初始化 65

 

3.6 總結. 68

 

4 CNN 的基石：捲積層69

 

4.1 捲積操作. 69

 

4.1.1 捲積是什麼. 69

 

4.1.2 捲積層效果展示. 73

 

4.1.3 捲積層匯總瞭什麼 76

 

4.1.4 捲積的另一種解釋 77

 

4.2 捲積層的反嚮傳播. 79

 

4.2.1 實力派解法. 80

 

4.2.2 “偶像派”解法. 84

 

4.3 ReLU 88

 

4.3.1 梯度消失問題 89

 

4.3.2 ReLU 的理論支撐. 92

 

4.3.3 ReLU 的綫性性質. 93

 

4.3.4 ReLU 的不足. 93

 

4.4 總結. 94

 

4.5 參考文獻. 94

 

5 Caffe 入門95

 

5.1 使用Caffe 進行深度學習訓練. 96

 

5.1.1 數據預處理. 96

 

5.1.2 網絡結構與模型訓練的配置. 100

 

5.1.3 訓練與再訓練 108

 

5.1.4 訓練日誌分析 110

 

5.1.5 預測檢驗與分析. 112

 

5.1.6 性能測試 115

 

5.2 模型配置文件介紹. 117

 

5.3 Caffe 的整體結構. 122

 

5.3.1 SyncedMemory 124

 

5.3.2 Blob 125

 

5.3.3 Layer 125

 

5.3.4 Net 126

 

5.3.5 Solver 126

 

5.3.6 多GPU 訓練. 127

 

5.3.7 IO 127

 

5.4 Caffe 的Layer 128

 

5.4.1 Layer 的創建——LayerRegistry 128

評分☆☆☆☆☆

評分☆☆☆☆☆

評分☆☆☆☆☆

評分☆☆☆☆☆

評分☆☆☆☆☆

評分☆☆☆☆☆

評分☆☆☆☆☆

評分☆☆☆☆☆

評分☆☆☆☆☆