深入理解Spark：核心思想与源码分析 下载 mobi epub pdf 电子书 2024

编辑推荐

　　阿里巴巴集团专家鼎力推荐，阿里巴巴资深Java开发和大数据专家撰写

　　结合大量图和示例，对Spark的核心模块、部署和协作模块的实现原理与使用技巧进行了深入的剖析与解读

　　本书特色：

　　按照源码分析的习惯设计，条分缕析。

　　多图、多示例，帮读者快速在头脑中“建模”。

　　原理与实现剖析，帮助读者提升架构设计、程序设计等方面的能力。

　　尽可能保留较多的源码，方便离线和移动环境的阅读。

内容简介

　　本书对Spark源代码进行了全面而深入的分析，旨在为Spark的优化、定制和扩展提供原理性的指导。阿里巴巴集团专家鼎力推荐，阿里巴巴资深Java开发和大数据专家撰写。本书对Spark的核心模块、部署和协作模块的实现原理与使用技巧进行了深入的剖析与解读。

　　本书分为三篇：

　　准备篇（第1～2章），介绍了Spark的环境搭建、设计理念与基本架构，帮助读者了解一些背景知识。

　　核心设计篇（第3～7章），着重讲解SparkContext的初始化、存储体系、任务提交与执行、计算引擎及部署模式的原理和源码分析。通过这部分的内容，读者可以通过源码剖析更加深入理解Spark的核心设计与实现，以便在实际使用中能够快速解决线上问题并对性能进行调优。

　　扩展篇（第8～11章），主要讲解基于Spark核心的各种扩展及应用，包括SQL处理引擎、Hive处理、流式计算框架Spark Streaming、图计算框架GraphX、机器学习库MLlib等内容。通过阅读这部分内容，读者可以扩展实际项目中对Spark的应用场景，让Spark焕发活力。

作者简介

　　耿嘉安，10年IT行业相关经验。就职于阿里巴巴商家业务事业部，任资深Java工程师，专注于开源和大数据领域，目前与小伙伴们基于ODPS构建阿里的大数据商业解决方案——御膳房。在大量的工作实践中，对J2EE、JVM、Tomcat、Spring、Hadoop、Spark、MySQL、Redis都有深入研究，尤其喜欢剖析开源项目的源码实现。早期从事J2EE企业级应用开发，对Java相关技术有独到见解。业余时间喜欢研究中国古代历史，古诗词，旅游，足球等。

精彩书评

　　伴随着互联网的不断演进，人类所面临的数据在体量，产生速度和多样性方面阶跃性发展，随之而来的是数据计算和处理方式的多样化，目前越来越多的数据处理链路是通过多种计算组合而成，例如批量与流式计算，图计算，交互式查询等。而以往几个独立计算系统“物理”拼装组合成的复杂系统在处理这些问题时，往往在成本和效率上产生瓶颈。Spark从迭代计算的数据复用切入，底层一个runtime来支撑多种计算模型，越来越受到业界的重视，社区发展非常迅速。而本书从源码分析角度深入剖析系统，希望读者不仅做到知其然，更要知其所以然，对Spark有更加深入的研究。本书作者在相关领域有多年丰富的实践和应用经验，相信通过研读本书必定可以给读者带来事半功倍的效果。

　　——强琦　阿里云计算平台资深技术专家
　　
　　

　　这是一本不错的Spark的入门书籍，完全从工程师的视角出发，从安装到使用再到高阶应用。有些时候甚至有些啰嗦，但这不正是我们读者需要的么？作者用他专一的一线工程师视角与在阿里面临的场景结合，写作的落笔相当接地气。这是一本难得的工程师参考用书。

　　——张茂森　阿里巴巴商家业务事业部资深数据挖掘专家

目录

前言
准　备　篇
第1章　环境准备2
1.1　运行环境准备2
1.1.1　安装JDK3
1.1.2　安装Scala3
1.1.3　安装Spark4
1.2　Spark初体验4
1.2.1　运行spark-shell4
1.2.2　执行word count5
1.2.3　剖析spark-shell7
1.3　阅读环境准备11
1.4　Spark源码编译与调试13
1.5　小结17
第2章　Spark设计理念与基本架构18
2.1　初识Spark18
2.1.1　Hadoop MRv1的局限18
2.1.2　Spark使用场景20
2.1.3　Spark的特点20
2.2　Spark基础知识20
2.3　Spark基本设计思想22
2.3.1　Spark模块设计22
2.3.2　Spark模型设计24
2.4　Spark基本架构25
2.5　小结26
核心设计篇
第3章　SparkContext的初始化28
3.1　SparkContext概述28
3.2　创建执行环境SparkEnv30
3.2.1　安全管理器SecurityManager31
3.2.2　基于Akka的分布式消息系统ActorSystem31
3.2.3　map任务输出跟踪器mapOutputTracker32
3.2.4　实例化ShuffleManager34
3.2.5　shuffle线程内存管理器ShuffleMemoryManager34
3.2.6　块传输服务BlockTransferService35
3.2.7　BlockManagerMaster介绍35
3.2.8　创建块管理器BlockManager36
3.2.9　创建广播管理器Broadcast-Manager36
3.2.10　创建缓存管理器CacheManager37
3.2.11　HTTP文件服务器HttpFile-Server37
3.2.12　创建测量系统MetricsSystem39
3.2.13　创建SparkEnv40
3.3　创建metadataCleaner41
3.4　SparkUI详解42
3.4.1　listenerBus详解43
3.4.2　构造JobProgressListener46
3.4.3　SparkUI的创建与初始化47
3.4.4　Spark UI的页面布局与展示49
3.4.5　SparkUI的启动54
3.5　Hadoop相关配置及Executor环境变量54
3.5.1　Hadoop相关配置信息54
3.5.2　Executor环境变量54
3.6　创建任务调度器TaskScheduler55
3.6.1　创建TaskSchedulerImpl55
3.6.2　TaskSchedulerImpl的初始化57
3.7　创建和启动DAGScheduler57
3.8　TaskScheduler的启动60
3.8.1　创建LocalActor60
3.8.2　ExecutorSource的创建与注册62
3.8.3　ExecutorActor的构建与注册64
3.8.4　Spark自身ClassLoader的创建64
3.8.5　启动Executor的心跳线程66
3.9　启动测量系统MetricsSystem69
3.9.1　注册Sources70
3.9.2　注册Sinks70
3.9.3　给Sinks增加Jetty的Servlet-ContextHandler71
3.10　创建和启动ExecutorAllocation-Manager72
3.11　ContextCleaner的创建与启动73
3.12　Spark环境更新74
3.13　创建DAGSchedulerSource和BlockManagerSource76
3.14　将SparkContext标记为激活77
3.15　小结78
第4章　存储体系79
4.1　存储体系概述79
4.1.1　块管理器BlockManager的实现79
4.1.2　Spark存储体系架构81
4.2　shuffle服务与客户端83
4.2.1　Block的RPC服务84
4.2.2　构造传输上下文Transpor-tContext85
4.2.3　RPC客户端工厂Transport-ClientFactory86
4.2.4　Netty服务器TransportServer87
4.2.5　获取远程shuffle文件88
4.2.6　上传shuffle文件89
4.3　BlockManagerMaster对Block-Manager的管理90
4.3.1　BlockManagerMasterActor90
4.3.2　询问Driver并获取回复方法92
4.3.3　向BlockManagerMaster注册BlockManagerId93
4.4　磁盘块管理器DiskBlockManager94
4.4.1　DiskBlockManager的构造过程94
4.4.2　获取磁盘文件方法getFile96
4.4.3　创建临时Block方法create-TempShuffleBlock96
4.5　磁盘存储DiskStore97
4.5.1　NIO读取方法getBytes97
4.5.2　NIO写入方法putBytes98
4.5.3　数组写入方法putArray98
4.5.4　Iterator写入方法putIterator98
4.6　内存存储MemoryStore99
4.6.1　数据存储方法putBytes101
4.6.2　Iterator写入方法putIterator详解101
4.6.3　安全展开方法unrollSafely102
4.6.4　确认空闲内存方法ensureFreeSpace105
4.6.5　内存写入方法putArray107
4.6.6　尝试写入内存方法tryToPut108
4.6.7　获取内存数据方法getBytes109
4.6.8　获取数据方法getValues110
4.7　Tachyon存储TachyonStore110
4.7.1　Tachyon简介111
4.7.2　TachyonStore的使用112
4.7.3　写入Tachyon内存的方法putIntoTachyonStore113
4.7.4　获取序列化数据方法getBytes113
4.8　块管理器BlockManager114
4.8.1　移出内存方法dropFrom-Memory114
4.8.2　状态报告方法reportBlockStatus116
4.8.3　单对象块写入方法putSingle117
4.8.4　序列化字节块写入方法putBytes118
4.8.5　数据写入方法doPut118
4.8.6　数据块备份方法replicate121
4.8.7　创建DiskBlockObjectWriter的方法getDiskWriter125
4.8.8　获取本地Block数据方法getBlockData125
4.8.9　获取本地shuffle数据方法doGetLocal126
4.8.10　获取远程Block数据方法doGetRemote127
4.8.11　获取Block数据方法get128
4.8.12　数据流序列化方法dataSerializeStream129
4.9　metadataCleaner和broadcastCleaner129
4.10　缓存管理器CacheManager130
4.11　压缩算法133
4.12　磁盘写入实现DiskBlockObjectWriter133
4.13　块索引shuffle管理器IndexShuffleBlockManager135
4.14　shuffle内存管理器ShuffleMemoryManager137
4.15　小结138
第5章　任务提交与执行139
5.1　任务概述139
5.2　广播Hadoop的配置信息142
5.3　RDD转换及DAG构建144
5.3.1　为什么需要RDD144
5.3.2　RDD实现分析146
5.4　任务提交152
5.4.1　任务提交的准备152
5.4.2　finalStage的创建与Stage的划分157
5.4.3　创建Job163
5.4.4　提交Stage164
5.4.5　提交Task165
5.5　执行任务176
5.5.1　状态更新176
5.5.2　任务还原177
5.5.3　任务运行178
5.6　任务执行后续处理179
5.6.1　计量统计与执行结果序列化179
5.6.2　内存回收180
5.6.3　执行结果处理181
5.7　小结187
第6章　计算引擎188
6.1　迭代计算188
6.2　什么是shuffle192
6.3　map端计算结果缓存处理194
6.3.1　map端计算结果缓存聚合195
6.3.2　map端计算结果简单缓存200
6.3.3　容量限制201
6.4　map端计算结果持久化204
6.4.1　溢出分区文件205
6.4.2排序与分区分组207
6.4.3　分区索引文件209
6.5　reduce端读取中间计算结果210
6.5.1　获取map任务状态213
6.5.2　划分本地与远程Block215
6.5.3　获取远程Block217
6.5.4　获取本地Block218
6.6　reduce端计算219
6.6.1　如何同时处理多个map任务的中间结果219
6.6.2　reduce端在缓存中对中间计算结果执行聚合和排序220
6.7　map端与reduce端组合分析221
6.7.1　在map端溢出分区文件，在reduce端合并组合221
6.7.2　在map端简单缓存、排序分组，在reduce端合并组合222
6.7.3　在map端缓存中聚合、排序分组，在reduce端组合222
6.8　小结223
第7章　部署模式224
7.1　local部署模式225
7.2　local-cluster部署模式225
7.2.1　LocalSparkCluster的启动226
7.2.2　CoarseGrainedSchedulerBackend的启动236
7.2.3　启动AppClient237
7.2.4　资源调度242
7.2.5　local-cluster模式的任务执行253
7.3　Standalone部署模式255
7.3.1　启动Standalone模式255
7.3.2　启动Master分析257
7.3.3　启动Worker分析259
7.3.4　启动Driver Application分析261
7.3.5　Standalone模式的任务执行263
7.3.6　资源回收263
7.4　容错机制266
7.4.1　Executor异常退出266
7.4.2　Worker异常退出268
7.4.3　Master异常退出269
7.5　其他部署方案276
7.5.1　YARN277
7.5.2　Mesos280
7.6　小结282
扩　展　篇
第8章　Spark SQL284
8.1　Spark SQL总体设计284
8.1.1　传统关系型数据库SQL运行原理285
8.1.2　Spark SQL运行架构286
8.2　字典表Catalog288
8.3　Tree和TreeNode289
8.4　词法解析器Parser的设计与实现293
8.4.1　SQL语句解析的入口294
8.4.2　建表语句解析器DDLParser295
8.4.3　SQL语句解析器SqlParser296
8.4.4　Spark代理解析器SparkSQLParser299
8.5　Rule和RuleExecutor300
8.6　Analyzer与Optimizer的设计与实现302
8.6.1　语法分析器Analyzer304
8.6.2　优化器Optimizer305
8.7　生成物理执行计划306
8.8　执行物理执行计划308
8.9　Hive311
8.9.1　Hive SQL语法解析器311
8.9.2　Hive SQL元数据分析313
8.9.3　Hive SQL物理执行计划314
8.10　应用举例：JavaSparkSQL314
8.11　小结320
第9章　流式计算321
9.1　Spark Streaming总体设计321
9.2　StreamingContext初始化323
9.3　输入流接收器规范Receiver324
9.4　数据流抽象DStream325
9.4.1　Dstream的离散化326
9.4.2　数据源输入流InputDStream327
9.4.3　Dstream转换及构建DStream Graph329
9.5　流式计算执行过程分析330
9.5.1　流式计算例子CustomReceiver331
9.5.2　Spark Streaming执行环境构建335
9.5.3　任务生成过程347
9.6　窗口操作355
9.7　应用举例357
9.7.1　安装mosquitto358
9.7.2　启动mosquitto358
9.7.3　MQTTWordCount359
9.8　小结361
第10章　图计算362
10.1　Spark GraphX总体设计362
10.1.1　图计算模型363
10.1.2　属性图365
10.1.3　GraphX的类继承体系367
10.2　图操作368
10.2.1　属性操作368
10.2.2　结构操作368
10.2.3　连接操作369
10.2.4　聚合操作370
10.3　Pregel API371
10.3.1　Dijkstra算法373
10.3.2　Dijkstra的实现376
10.4　Graph的构建377
10.4.1　从边的列表加载Graph377
10.4.2　在Graph中创建图的方法377
10.5　顶点集合抽象VertexRDD378
10.6　边集合抽象EdgeRDD379
10.7　图分割380
10.8　常用算法382
10.8.1　网页排名382
10.8.2　Connected Components的应用386
10.8.3　三角关系统计388
10.9　应用举例390
10.10　小结391
第11章　机器学习392
11.1机器学习概论392
11.2　Spark MLlib总体设计394
11.3　数据类型394
11.3.1　局部向量394
11.3.2标记点395
11.3.3局部矩阵396
11.3.4分布式矩阵396
11.4基础统计398
11.4.1摘要统计398
11.4.2相关统计399
11.4.3分层抽样401
11.4.4假设检验401
11.4.5随机数生成402
11.5分类和回归405
11.5.1数学公式405
11.5.2线性回归407
11.5.3分类407
深入理解Spark：核心思想与源码分析 下载 mobi epub pdf txt 电子书 格式

很喜欢的书，不过spark版本更新太快，看书时结合新源码比较好

正版书，但是对于我这个初学者来说，还是有点难理解

看起来不错，能不能研究进去还不好说。。

包装没破损，很好！书很厚实，值

哈哈哈红红火火恍恍惚惚哈哈哈红红火火恍恍惚惚

便宜实惠，以后会多多光顾，这里买杂志真划算！‖<>

这是大家一起在京东买的书，每次团队都一起买，互相屯书...有时间一起看

还没看，放着到时候再说

书看起来还行。。