定價:¥79.00作者:
ELK是Elasticsearch、Logstash、Kibana三個開源軟件的組閤,是目前開源界流行的實時數據分析方案,成為實時日誌處理領域開源界的第壹選擇。然而,ELK也並不是實時數據分析界的靈丹妙藥,使用不恰當,反而會事倍功半。本書對ELK的原理進行瞭解剖,不僅分享瞭大量實戰案例和實現效果,而且分析瞭部分源代碼,使讀者不僅知其然還知其所以然。讀者可通過本書的學習,快速掌握實時日誌處理方法,並搭建符閤自己需要的大數據分析係統。本書分為三大部分,第壹部分“Logstash”介紹Logstash的安裝與配置、場景示例、性能與測試、擴展方案、源碼解析、插件開發等,第二部分“Elasticsearch”介紹Elasticsearch的架構原理、數據接口用例、性能優化、測試和擴展方案、映射與模闆的定製、監控方案等,第三部分“Kibana”介紹Kibana3和Kibana5的特點對比,Kibana的配置、案例與源代碼解析。
目 錄Contents
前 言
,部分 Logstash
第1章 入門示例 3
1.1 下載安裝 3
1.2 Hello World 4
1.3 配置語法 8
1.3.1 語法 8
1.3.2 命令行參數 10
1.3.3 設置文件示例 11
1.4 插件安裝 12
1.5 長期運行方式 13
第2章 插件配置 15
2.1 輸入插件 15
2.1.1 標準輸入 16
2.1.2 文件輸入 17
2.1.3 TCP輸入 18
2.1.4 syslog輸入 19
2.1.5 http_poller抓取 21
2.2 編解碼配置 22
2.2.1 JSON編解碼 23
2.2.2 多行事件編碼 24
2.2.3 網絡流編碼 26
2.2.4 collectd輸入 27
2.3 過濾器配置 30
2.3.1 date時間處理 30
2.3.2 grok正則捕獲 33
2.3.3 dissect解析 35
2.3.4 GeoIP地址查詢 36
2.3.5 JSON編解碼 38
2.3.6 key-value切分 38
2.3.7 metrics數值統計 40
2.3.8 mutate數據修改 41
2.3.9 隨心所欲的Ruby處理 45
2.3.10 split拆分事件 47
2.3.11 交叉日誌閤並 48
2.4 輸齣插件 49
2.4.1 輸齣到Elasticsearch 49
2.4.2 發送email 54
2.4.3 調用係統命令執行 54
2.4.4 保存成文件 55
2.4.5 報警發送到Nagios 56
2.4.6 statsd 58
2.4.7 標準輸齣stdout 61
2.4.8 TCP發送數據 62
2.4.9 輸齣到HDFS 62
第3章 場景示例 64
3.1 Nginx訪問日誌 64
3.1.1 grok處理方式 64
3.1.2 split處理方式 65
3.1.3 JSON格式 68
3.1.4 syslog方式發送 69
3.2 Nginx錯誤日誌 69
3.3 Postfix日誌 71
3.4 Ossec日誌 72
3.4.1 配置所有Ossec agent采用syslog輸齣 72
3.4.2 配置Logstash 72
3.4.3 推薦Kibana儀錶盤 73
3.5 Windows係統日誌 73
3.5.1 采集端配置 73
3.5.2 接收解析端配置 75
3.6 Java日誌 77
3.6.1 Log4J配置 77
3.6.2 Logstash配置 78
3.6.3 異常堆棧測試驗證 78
3.6.4 JSON Event layout 79
3.7 MySQL慢查詢日誌 80
3.8 Docker日誌 82
3.8.1 記錄到主機磁盤 82
3.8.2 通過logspout收集 83
第4章 性能與監控 85
4.1 性能測試 85
4.1.1 配置示例 85
4.1.2 使用方式 86
4.1.3 額外的話 87
4.2 監控方案 87
4.2.1 logstash-input-heartbeat心跳檢測方式 88
4.2.2 JMX啓動參數方式 89
4.2.3 API方式 90
第5章 擴展方案 94
5.1 通過Redis隊列擴展 95
5.1.1 讀取Redis數據 95
5.1.2 采用list類型擴展Logstash 96
5.1.3 輸齣到Redis 97
5.2 通過Kafka隊列擴展 98
5.2.1 Kafka基礎概念 99
5.2.2 Input配置 100
5.2.3 Output配置 101
5.2.4 性能 103
5.3 logstash-forwarder 103
5.3.1 Indexer端配置 104
5.3.2 Shipper端配置 104
5.3.3 AIX上的logstash-forwarder-java 106
5.4 Rsyslog 107
5.4.1 常用模塊介紹 107
5.4.2 與Logstash閤作 109
5.4.3 Mmexternal模塊 109
5.5 Nxlog 112
5.6 Heka 114
5.7 Fluentd 115
5.7.1 配置示例 115
5.7.2 Fluentd插件 117
5.8 Message::Passing 117
第6章 Logstash源碼解析 119
6.1 Pipeline 120
6.2 Plugins 122
第7章 插件開發 125
7.1 插件格式 125
7.2 插件的關鍵方法 126
7.3 插件打包 127
7.4 Filter插件開發示例 128
7.4.1 mmdb數據庫的生成方法 129
7.4.2 LogStash::Filters::Mmdb實現 130
7.4.3 logstash-filter-mmdb打包 131
7.5 Input插件開發示例 132
7.5.1 FileWatch模塊原理 132
7.5.2 LogStash::Inputs::Utmp實現 133
7.6 Output插件開發示例 136
第8章 Beats 138
8.1 libbeat的通用配置 138
8.1.1 過濾器配置 138
8.1.2 輸齣配置 139
8.1.3 shipper網絡配置 142
8.1.4 日誌配置 142
8.1.5 運行配置 142
8.2 Filebeat 142
8.2.1 安裝部署 143
8.2.2 配置 144
8.2.3 生成的可用字段 145
8.3 packetbeat抓包分析 145
8.3.1 安裝部署 146
8.3.2 配置示例 146
8.3.3 dashboard效果 147
8.3.4 Kibana 3拓撲圖 148
8.4 metricbeat 150
8.4.1 配置示例 152
8.4.2 各模塊輸齣指標示例 152
8.4.3 采集Docker中的指標 164
8.5 winlogbeat 164
第二部分 Elasticsearch
第9章 架構原理 169
9.1 準實時索引的實現 169
9.1.1 動態更新的Lucene索引 169
9.1.2 利用磁盤緩存實現的準實時檢索 170
9.1.3 translog提供的磁盤同步控製 171
9.2 segment merge的影響 172
9.2.1 歸並綫程配置 173
9.2.2 歸並策略 174
9.2.3 forcemerge接口 174
9.3 routing和replica的讀寫過程 174
9.3.1 路由計算 175
9.3.2 副本一緻性 175
9.4 shard的allocate控製 176
9.4.1 reroute接口 178
9.4.2 分配失敗原因 179
9.4.3 節點下綫 180
9.4.4 冷熱數據的讀寫分離 180
9.5 自動發現的配置 181
第10章 數據接口用例 183
10.1 增刪改查操作 183
10.2 搜索請求 185
10.2.1 全文搜索 185
10.2.2 聚閤請求 187
10.2.3 pipeline聚閤 189
10.2.4 搜索請求參數 191
10.3 腳本 192
10.3.1 動態提交 192
10.3.2 固定文件 193
10.3.3 其他語言 194
10.4 重建索引 194
10.4.1 Perl客戶端 194
10.4.2 用Logstash重建索引 195
10.4.3 新reindex接口的應用 195
10.5 Spark Streaming交互 197
第11章 性能優化 199
11.1 bulk提交 199
11.1.1 bulk大小 200
11.1.2 UDP方式 200
11.2 gateway配置 201
11.3 集群狀態維護 202
11.4 緩存 206
11.4.1 filter緩存 206
11.4.2 shard reguest緩存 207
11.4.3 field_stats 接口 208
11.5 字段數據 209
11.5.1 Circuit Breaker 209
11.5.2 doc values 210
11.6 curator工具 212
11.6.1 參數介紹 213
11.6.2 常用示例 214
11.7 profiler調試接口 214
第12章 測試和擴展方案 217
12.1 測試方案 217
12.2 多集群互聯 220
12.3 puppet-elasticsearch模塊的使用 223
12.3.1 安裝和配置示例 223
12.3.2 配置解釋 224
12.4 計劃內停機升級的操作流程 224
12.5 Shield權限管理 227
12.5.1 Shield架構 227
12.5.2 安裝部署 227
12.6 searchguard權限管理 229
12.6.1 安裝 229
12.6.2 權限角色配置 231
12.6.3 其他組件配置方式 233
12.7 彆名的應用 234
12.7.1 索引更名時的無縫切換 234
12.7.2 限製索引數據部分可讀 236
12.8 快照與恢復 237
12.8.1 HDFS插件安裝配置 237
12.8.2 Hadoop配置 238
12.8.3 備份操作 240
12.9 rollover和shrink管理 240
12.9.1 rollover管理 240
12.9.2 shrink縮容 241
12.10 ingest節點 243
12.10.1 創建管道流 243
12.10.2 測試管道流 243
12.10.3 處理器 244
第13章 映射與模闆的定製 246
13.1 映射的增刪改查 246
13.2 Elasticsearch的核心類型 248
13.3 自定義字段映射 249
13.3.1 精確索引 249
13.3.2 時間格式 249
13.3.3 多重索引 250
13.4 特殊字段 250
13.5 動態模闆映射 251
13.6 索引模闆 252
第14章 監 控 方 案 254
14.1 監控相關接口 254
14.1.1 集群健康狀態 254
14.1.2 節點狀態 257
14.1.3 熱綫程狀態 264
14.1.4 索引狀態 265
14.1.5 任務管理 266
14.1.6 cat接口的命令行使用 268
14.2 日誌記錄 271
14.3 實時bigdesk方案 272
14.4 cerebro 274
14.5 Zabbix trapper方案 275
14.5.1 安裝配置 275
14.5.2 模闆應用 276
第15章 Elasticsearch在運維監控領域的其他應用 278
15.1 Percolator接口 278
15.2 Watcher報警 281
15.3 ElastAlert 284
15.3.1 安裝 284
15.3.2 配置結構 284
15.3.3 擴展 286
15.4 時序數據庫 288
15.5 Etsy的Kale異常檢測 290
15.6 Grafana可視化 291
15.6.1 安裝 291
15.6.2 配置數據源 292
15.6.3 生成,個圖錶 293
15.6.4 模闆功能 295
15.6.5 在綫資源 300
15.7 Juttle可視化 301
15.7.1 安裝部署 302
15.7.2 命令行運行示例 302
15.7.3 可視化界麵 304
15.7.4 可視化相關指令介紹 304
第三部分 Kibana
第16章 Kibana的産品對比 309
16.1 Kibana 3的設計思路和功能 309
16.2 Kibana 5的設計思路和功能 310
16.3 與Hadoop體係的區彆 310
16.4 Splunk場景參考 311
第17章 Kibana 5 312
17.1 安裝、配置和運行 313
17.2 生産環境部署 314
17.2.1 Nginx代理配置 316
17.2.2 開啓SSL 317
17.3 Discover功能 318
17.3.1 設置時間過濾器 318
17.3.2 搜索數據 319
17.3.3 按字段過濾 321
17.3.4 過濾器的協同工作方式 321
17.3.5 查看文檔數據 323
17.4 各種可視化功能 324
17.4.1 area 326
17.4.2 table 329
17.4.3 line 330
17.4.4 Markdown 331
17.4.5 metric 331
17.4.6 pie 332
17.4.7 tile map 332
17.4.8 vertical bar 334
17.4.9 tagcloud 335
商品名稱: | 深入理解ElasticSearch | ||
作者: | (美)酷奇 | 開本: | |
定價: | 69 | 頁數: | |
現價: | 見頂部 | 齣版時間 | 2016-01 |
ISBN號: | 9787111524168 | 印刷時間: | |
齣版社: | 機械工業齣版社 | 版次: | |
商品類型: | 圖書 | 印次: |
評分
評分
評分
評分
評分
評分
評分
評分
本站所有內容均為互聯網搜尋引擎提供的公開搜索信息,本站不存儲任何數據與內容,任何內容與數據均與本站無關,如有需要請聯繫相關搜索引擎包括但不限於百度,google,bing,sogou 等
© 2025 book.cndgn.com All Rights Reserved. 新城书站 版權所有