産品特色
內容簡介
深度學習為人工智能帶來瞭巨大突破,也成為機器學習領域一顆閃耀的新星。雖然相關學習資料豐富,但大部分內容較為龐雜且難以理解,並對初學者的相關理論知識與實踐能力有較高的要求,這使得大部分想進入這一領域的初學者望而卻步。《深度學習實戰》去繁化簡地對深度學習的理論知識進行瞭梳理,並對算法實現做齣瞭淺顯易懂的講解,適閤初學者進行學習。結閤《深度學習實戰》的內容,讀者可以快速對深度學習進行實踐。通過啓發式的自學模式,可以使讀者由淺入深地學習並掌握常用的深度學習模型,為進一步使用開源的深度學習平颱與工具提供理論與實踐基礎。
《深度學習實戰》可作為高等院校計算機專業的本科生或研究生教材,也可供對深度學習感興趣的研究人員和工程技術人員閱讀參考。
作者簡介
楊雲教授,1981年生人。多年從事機器學習,數據挖掘,模式識彆,大數據處理與分析等方麵的研究工作,在英國曼徹斯特大學攻讀博士學位期間,入選英國政府資助的海外研究生奬勵計劃(UK Overseas Research Students Awards Scheme –ORSAS)。博士畢業之後,在英國薩裏大學從事研究員工作,期間主持瞭由歐共體第七個框架計劃資助下的國際閤作項目的子項目。
目錄
目 錄
第1章 深度學習的發展介紹 1
1.1 如何閱讀本書 3
1.2 深度學習沉浮史 3
1.2.1 模擬生物大腦的瘋狂遠古時代 4
1.2.2 聯結主義近代 5
1.2.3 百花齊放,層次結構主導,模型巨大的當代 6
1.3 Python簡易教程 7
1.3.1 Anaconda搭建 7
1.3.2 IPython Notebook使用 7
1.3.3 Python基本用法 8
1.3.4 NumPy 15
1.3.5 Matplotlib 23
1.4 參考文獻 25
第2章 機器學習快速入門 27
2.1 學習算法 28
2.1.1 學習任務 29
2.1.2 性能度量 30
2.1.3 學習經驗 32
2.2 代價函數 33
2.2.1 均方誤差函數 33
2.2.2 極大似然估計 34
2.3 梯度下降法 36
2.3.1 批量梯度下降法 38
2.3.2 隨機梯度下降法 39
2.4 過擬閤與欠擬閤 40
2.4.1 沒免費午餐理論 42
2.4.2 正則化 43
2.5 超參數與驗證集 44
2.6 Softmax編碼實戰 46
2.6.1 編碼說明 49
2.6.2 熟練使用CIFAR-10 數據集 50
2.6.3 顯式循環計算損失函數及其梯度 53
2.6.4 嚮量化錶達式計算損失函數及其梯度 56
2.6.5 最小批量梯度下降算法訓練Softmax分類器 57
2.6.6 使用驗證數據選擇超參數 61
2.7 參考代碼 68
2.8 參考文獻 70
第3章 前饋神經網絡 72
3.1 神經元 73
3.1.1 Sigmoid神經元 74
3.1.2 Tanh神經元 75
3.1.3 ReLU神經元 76
3.2 前饋神經網絡 80
3.2.1 輸齣層單元 80
3.2.2 隱藏層單元 80
3.2.3 網絡結構設計 81
3.3 BP算法 82
3.4 深度學習編碼實戰上 86
3.4.1 實現仿射傳播 88
3.4.2 實現ReLU傳播 91
3.4.3 組閤單層神經元 93
3.4.4 實現淺層神經網絡 96
3.4.5 實現深層全連接網絡 101
3.5 參考代碼 109
3.6 參考文獻 113
第4章 深度學習正則化 115
4.1 參數範數懲罰 116
4.1.1 L2參數正則化 118
4.1.2 L1正則化 119
4.2 參數綁定與參數共享 120
4.3 噪聲注入與數據擴充 120
4.4 稀疏錶徵 122
4.5 早停 123
4.6 Dropout 126
4.6.1 個體與集成 126
4.6.2 Dropout 127
4.7 深度學習編碼實戰中 129
4.7.1 Dropout傳播 131
4.7.2 組閤Dropout傳播層 134
4.7.3 Dropout神經網絡 136
4.7.4 解耦訓練器trainer 138
4.7.5 解耦更新器updater 143
4.7.6 正則化實驗 145
4.8 參考代碼 148
4.9 參考文獻 150
第5章 深度學習優化 152
5.1 神經網絡優化睏難 153
5.1.1 局部最優 153
5.1.2 鞍點 154
5.1.3 梯度懸崖 154
5.1.4 梯度消失或梯度爆炸 155
5.1.5 梯度不精確 156
5.1.6 優化理論的局限性 156
5.2 隨機梯度下降 156
5.3 動量學習法 158
5.4 AdaGrad和RMSProp 159
5.5 Adam 160
5.6 參數初始化策略 161
5.7 批量歸一化 163
5.7.1 BN算法詳解 163
5.7.2 BN傳播詳解 165
5.8 深度學習編碼實戰下 166
5.8.1 Momentum 167
5.8.2 RMSProp 171
5.8.3 Adam 172
5.8.4 更新規則比較 174
5.8.5 BN前嚮傳播 176
5.8.6 BN反嚮傳播 180
5.8.7 使用BN的全連接網絡 182
5.8.8 BN算法與權重標準差比較 188
5.9 參考代碼 191
5.10 參考文獻 195
第6章 捲積神經網絡 196
6.1 捲積操作 197
6.2 捲積的意義 198
6.2.1 稀疏連接 199
6.2.2 參數共享 200
6.3 池化操作 201
6.4 設計捲積神經網絡 204
6.4.1 跨步捲積 204
6.4.2 零填充 205
6.4.3 非共享捲積 206
6.4.4 平鋪捲積 207
6.5 捲積網絡編碼練習 208
6.5.1 捲積前嚮傳播 209
6.5.2 捲積反嚮傳播 212
6.5.3 最大池化前嚮傳播 215
6.5.4 最大池化反嚮傳播 218
6.5.5 嚮量化執行 220
6.5.6 組閤完整捲積層 223
6.5.7 淺層捲積網絡 224
6.5.8 空間批量歸一化 229
6.6 參考代碼 233
6.7 參考文獻 237
第7章 循環神經網絡 238
7.1 循環神經網絡 239
7.1.1 循環神經元展開 239
7.1.2 循環網絡訓練 240
7.2 循環神經網絡設計 242
7.2.1 雙嚮循環網絡結構 242
7.2.2 編碼-解碼網絡結構 243
7.2.3 深度循環網絡結構 244
7.3 門控循環神經網絡 245
7.3.1 LSTM 246
7.3.2 門控循環單元 249
7.4 RNN編程練習 250
7.4.1 RNN單步傳播 252
7.4.2 RNN時序傳播 255
7.4.3 詞嵌入 258
7.4.4 RNN輸齣層 261
7.4.5 時序Softmax損失 262
7.4.6 RNN圖片說明任務 264
7.5 LSTM編程練習 269
7.5.1 LSTM單步傳播 269
7.5.2 LSTM時序傳播 273
7.5.3 LSTM實現圖片說明任務 276
7.6 參考代碼 278
7.6.1 RNN參考代碼 278
7.6.2 LSTM參考代碼 282
7.7 參考文獻 285
第8章 TensorFlow快速入門 287
8.1 TensorFlow介紹 288
8.2 TensorFlow 1.0安裝指南 289
8.2.1 雙版本切換Anaconda 289
8.2.2 安裝CUDA 8.0 291
8.2.3 安裝cuDNN 292
8.2.4 安裝TensorFlow 293
8.2.5 驗證安裝 294
8.3 TensorFlow基礎 295
8.3.1 Tensor 295
8.3.2 TensorFlow核心API教程 296
8.3.3 tf.train API 299
8.3.4 tf.contrib.learn 301
8.4 TensorFlow構造CNN 305
8.4.1 構建Softmax模型 305
8.4.2 使用TensorFlow訓練模型 307
8.4.3 使用TensorFlow評估模型 308
8.4.4 使用TensorFlow構建捲積神經網絡 308
8.5 TensorBoard快速入門 311
8.5.1 TensorBoard可視化學習 312
8.5.2 計算圖可視化 316
前言/序言
前 言
隨著榖歌的AlphaGo,IBM的watson以及百度的智能機器人百小度的問世,人工智能成為瞭大眾熱烈討論的焦點,而作為這些智能産品的核心技術,深度學習受到瞭學界與産業界的廣泛關注。深度學習憑藉其優良的性能,被廣泛應用於計算機視覺、圖像分析、語音識彆和自然語言處理等諸多領域中。但深度學習的算法與模型較為復雜,對於初學者來說較難理解與掌握,需要其有一定的理論與實踐應用基礎。本書作者通過把理論知識與大量實踐例子相結閤,運用易懂與詼諧的語言為初學者呈現瞭一部指導深度學習實戰的首選之作。本書的麵嚮對象為計算機及相關專業的本科生、研究生,以及相關領域的初級研究人員。與同類著作不同的是本書更強調讀者的親身實踐,分為模塊設計與代碼實踐兩部分,當讀者學習完模塊設計部分的理論知識後,還可以在實踐代碼的關鍵位置添加自己的代碼,並測試實現的深度學習模型的每一個關鍵環節,以此進一步理解與掌握所學的算法與模型。
本書共分為8章,第1章為深度學習的發展介紹,其他7章對深度學習的理論知識和應用進行瞭深入淺齣的講解,分彆為第2章 機器學習快速入門,第3章 前饋神經網絡,第4章 深度學習正則化,第5章 深度學習優化,第6章 捲積神經網絡,第7章 循環神經網絡,第8章 TensorFlow快速入門。每一個章節在其結尾部分都會提齣深度學習算法與模型的實踐學習,按照作者的設計步驟,讀者可以逐步完成代碼的編寫,並對其進行測試,最終完成整個算法與模型代碼的實踐。本書不同於傳統理論介紹+代碼演示書籍之處在於,理論知識與實踐學習部分可以分開閱讀,其每一章節的實踐學習部分更加強調與讀者的互動性。本書還精心設計瞭許多子模塊,給予大量的編程提示,並引導讀者通過自學的方式完成各個子模塊的實現,進而強化讀者對不同模塊編碼實現的學習與理解,在每章末尾都會給齣相應的參考代碼。
本書的作者特彆感謝相關科研項目與人纔計劃的支持,其中包括:國傢自然科學基金項目(61402397,61663046),雲南省科技廳應用基礎研究計劃麵上項目(2016FB104),雲南省軟件工程重點實驗室開放基金麵上項目(2015SE201),雲南大學數據驅動的軟件工程省科技創新團隊(2017HC012),雲南省中青年學術和技術帶頭人後備人纔計劃(2017HB005),雲南省百名海外高層次人纔引進計劃。
深度學習相關研究領域的發展日新月異,本書作者自認纔疏學淺,隻略知其中一二,書中內容的設計與撰寫是作者對深度學習的個人認識與理解,由於水平有限,如有不妥之處請廣大讀者不吝賜教。
本書免費提供瞭雲盤下載文件,內容包括書中所有綜閤案例的素材文件,下載地址為:https://pan.baidu.com/s/1nvacrYL(注意區分英文字母大小寫),如果下載有問題,請發送電子郵件至booksaga@126.com,郵件主題設置為“深度學習實戰”。
楊雲
2017年8月29日於雲南大學
深度學習實戰 下載 mobi epub pdf txt 電子書 格式