分布式机器学习：算法、理论与实践刘铁岩 陈薇 王太峰 高飞 ISBN：9787111609186

分布式机器学习：算法、理论与实践

书籍作者：刘铁岩 陈薇 王太峰 高飞

ISBN：9787111609186

书籍语言：简体中文

连载状态：全集

电子书格式：pdf,txt,epub,mobi,azw3

下载次数：9866

运行环境：PC/Windows/Linux/Mac/IOS/iPhone/iPad/Kindle/Android/安卓/平板

内容简介

本书旨在全面介绍分布式机器学习的现状，深入分析其中的核心技术问题，并且讨论该领域未来的发展方向。

全书共12章。第1章是绪论，向大家展示分布式机器学习这个领域的全景。第2章介绍机器学习的基础知识。第3章到第8章是本书的核心部分，向大家细致地讲解分布式机器学习的框架及其各个功能模块。其中第3章给出整个分布式机器学习框架的综述，而第4章到第8章则分别针对其中的数据与模型划分模块、单机优化模块、通信模块、数据与模型聚合模块加以介绍。接下来的三章是对前面内容的总结与升华。其中第9章介绍由分布式机器学习框架中不同选项所组合出来的各式各样的分布式机器学习算法，第10章讨论这些算法的理论性质，第11章则介绍几个主流的分布式机器学习系统（包括Spark MLlib 迭代式MapReduce系统，Multiverso参数服务器系统，TensorFlow数据流系统）。最后的第12章是全书的结语，在对全书内容进行简要总结之后，着重讨论分布式机器学习这个领域未来的发展方向。

本书基于微软亚洲研究院机器学习研究团队多年的研究成果和实践经验写成，既可以作为研究生从事分布式机器学习方向研究的参考文献，也可以作为人工智能从业者进行算法选择和系统设计的工具书。

人工智能大潮中，市场上已有许多机器学习书籍，但是分布式机器学习的专门书籍还很少见。本书是希望学习和了解分布式机器学习的读者的福音。

编辑推荐

适读人群 ：由于对机器学习模型的分布式训练已经成为产业界的首选方式，计算机产业的从业者将会对本书介绍的内容有非常浓厚的兴趣（尤其因为本书有专门的章节讨论分布式机器学习的实战）

全面展示分布式机器学习理论、方法与实践

微软亚洲研究院机器学习核心团队潜心力作

鄂维南院士、周志华教授倾心撰写推荐序

内容前沿全面，讨论系统深刻，全彩印刷

《分布式机器学习：算法、理论与实践》电子书免费下载

pdf下载
txt下载
epub下载
mobi下载
azw3下载
下载暂时关闭，开启另行通知

前言

近年来，人工智能取得了飞速的发展，实现了一个又一个技术突破。这些成功的幕后英雄是海量的训练数据、超大规模的机器学习模型以及分布式的训练系统。一系列有关分布式机器学习的研究工作，从并行模式、跨机通信到聚合机制，从算法设计、理论推导到系统构建，都在如火如荼地展开。人们不仅发表了大量的学术论文，也开发出一批实用性很强的分布式机器学习系统。本书的目的是向读者全面展示分布式机器学习的现状，深入分析其中的核心技术问题，并且讨论该领域未来发展的方向。本书既可以作为研究生从事分布式机器学习方向研究的参考文献，也可以作为人工智能从业者进行算法选择和系统设计的工具书。

全书共12章。第1章是绪论，向大家展示分布式机器学习这个领域的全景。第2章介绍机器学习的基础知识，其中涉及的基本概念、模型和理论，会为读者在后续章节中更好地理解分布式机器学习的各项技术奠定基础。第3章到第8章是本书的核心部分，向大家细致地讲解分布式机器学习的框架及其各个功能模块。其中第3章对整个分布式机器学习框架做综述，而第4章到第8章则针对其中的数据与模型划分模块、单机优化模块、通信模块、数据与模型聚合模块分别加以介绍，展示每个模块的不同选项并讨论其长处与短板。接下来的三章是对前面内容的总结与升华。其中第9章介绍由分布式机器学习框架中不同选项所组合出来的各式各样的分布式机器学习算法，第10章讨论这些算法的理论性质（例如收敛性），第11章则介绍几个主流的分布式机器学习系统（包括Spark MLlib、Multiverso参数服务器系统和TensorFlow数据流系统）。最后的第12章是全书的结语，在对全书内容进行简要总结之后，着重讨论分布式机器学习这个领域未来的发展方向。

有关本书的写作，因为涉及分布式机器学习的不同侧面，不同的章节对读者预备知识的要求有所不同。尤其是涉及优化算法和学习理论的部分，要求读者对于最优化理论和概率统计有一定的知识储备。不过，如果读者的目的只是熟悉主流的分布式机器学习框架和系统，则可以跳过这些相对艰深的章节，因为其余章节自成体系，对于理论部分没有过多的依赖。

我仍然清晰地记得，两年以前华章公司的姚蕾编辑多次找到我，希望我能撰写一本关于分布式机器学习的图书。一方面被姚蕾的诚意打动，另一方面也考虑到这样一本书对于在校研究生和人工智能从业者可能有所帮助，我最终欣然应允。然而，平时工作过于繁忙，真正可以用来写书的时间非常有限，所以一晃就是两年的时光，直至今日本书才与读者见面，内心十分惭愧。

回顾这两年的写作过程，有很多人需要感谢。首先，我要感谢本书的联合作者：陈薇博士负责书中与优化算法和学习理论有关的内容，王太峰和高飞则主要负责通信机制、聚合模式和分布式机器学习系统等方面的内容。没有他们夜以继日的努力，本书无法成文。在写作过程中，本书的各位作者得到了家人的大力支持。写书之路实属不易，如果没有她（他）们的默默奉献，作者们很难集中精力，攻克这个艰巨的任务。其次，我要感谢诸多为本书的写作做出过重要贡献的人：我在中国科学技术大学的博士生郑书新花费了大量的精力和时间帮助我们整理了全书的参考文献；北京大学的孟琪同学则帮助我们对全书做了细致的校验；华章公司的编辑姚蕾和迟振春对我们的书稿提出了很多宝贵的意见；普林斯顿大学教授、中国科学院院士鄂维南博士，以及南京大学教授周志华博士分别为本书题写了推荐序。正是因为这么多幕后英雄的奉献，本书才得以顺利面世。最后，我还要感谢微软亚洲研究院院长洪小文博士，他的大力支持使得我们在分布式机器学习这个领域做出了很多高质量的研究工作，也使得我们有机会把这些成果记录下来，编纂成书，与更多的同行分享。

惭愧的是，即便耗时两载，即便集合了多人的智慧和努力，本书的写作仍然略显仓促。加之分布式机器学习这个领域飞速发展，本书成稿之时，又有很多新的研究成果发表，难以周全覆盖。再则，本书的作者才疏学浅，书中难免有疏漏、错误之处，还望读者海涵，不吝告知，日后加以勘误，不胜感激。

刘铁岩

于北京中关村

2018年6月

目录

序言一

序言二

前　言

作者介绍

第1章　绪论/ 1

1.1　人工智能及其飞速发展/ 2

1.2　大规模、分布式机器学习/ 4

1.3　本书的安排/ 6

参考文献/ 7

第2章　机器学习基础/ 9

2.1　机器学习的基本概念/ 10

2.2　机器学习的基本流程/ 13

2.3　常用的损失函数/ 16

2.3.1　Hinge损失函数/ 16

2.3.2　指数损失函数/ 16

2.3.3　交叉熵损失函数/ 17

2.4　常用的机器学习模型/ 18

2.4.1　线性模型/ 18

2.4.2　核方法与支持向量机/ 18

2.4.3　决策树与Boosting/ 21

2.4.4　神经网络/ 23

2.5　常用的优化方法/ 32

2.6　机器学习理论/ 33

2.6.1　机器学习算法的泛化误差/ 34

2.6.2　泛化误差的分解/ 34

2.6.3　基于容度的估计误差的上界/ 35

2.7　总结/ 36

参考文献/ 36

第3章　分布式机器学习框架/ 41

3.1　大数据与大模型的挑战/ 42

3.2　分布式机器学习的基本流程/ 44

3.3　数据与模型划分模块/ 46

3.4　单机优化模块/ 48

3.5　通信模块/ 48

3.5.1　通信的内容/ 48

3.5.2　通信的拓扑结构/ 49

3.5.3　通信的步调/ 51

3.5.4　通信的频率/ 52

3.6　数据与模型聚合模块/ 53

3.7　分布式机器学习理论/ 54

3.8　分布式机器学习系统/ 55

3.9　总结/ 56

参考文献/ 57

第4章　单机优化之确定性算法/ 61

4.1　基本概述/ 62

4.1.1　机器学习的优化框架/ 62

4.1.2　优化算法的分类和发展历史/ 65

4.2　一阶确定性算法/ 67

4.2.1　梯度下降法/ 67

4.2.2　投影次梯度下降法/ 69

4.2.3　近端梯度下降法/ 70

4.2.4　Frank-Wolfe算法/ 71

4.2.5　Nesterov加速法/ 72

4.2.6　坐标下降法/ 75

4.3　二阶确定性算法/ 75

4.3.1　牛顿法/ 76

4.3.2　拟牛顿法/ 77

4.4　对偶方法/ 78

4.5　总结/ 81

参考文献/ 8

第5章　单机优化之随机算法/ 85

5.1　基本随机优化算法/ 86

5.1.1　随机梯度下降法/ 86

5.1.2　随机坐标下降法/ 88

5.1.3　随机拟牛顿法/ 91

5.1.4　随机对偶坐标上升法/ 93

5.1.5　小结/ 95

5.2　随机优化算法的改进/ 96

5.2.1　方差缩减方法/ 96

5.2.2　算法组合方法/ 100

5.3　非凸随机优化算法/ 101

5.3.1　Ada系列算法/ 102

5.3.2　非凸理论分析/ 104

5.3.3　逃离鞍点问题/ 106

5.3.4　等级优化算法/ 107

5.4　总结/ 109

参考文献/ 109

第6章　数据与模型并行/ 113

6.1　基本概述/ 114

6.2　计算并行模式/ 117

6.3　数据并行模式/ 119

6.3.1　数据样本划分/ 120

6.3.2　数据维度划分/ 123

6.4　模型并行模式/ 123

6.4.1　线性模型/ 123

6.4.2　神经网络/ 127

6.5　总结/ 133

参考文献/ 133

第7章　通信机制/ 135

7.1　基本概述/ 136

7.2　通信的内容/ 137

7.2.1　参数或参数的更新/ 137

7.2.2　计算的中间结果/ 137

7.2.3　讨论/ 138

7.3　通信的拓扑结构/ 139

7.3.1　基于迭代式MapReduce/AllReduce的通信拓扑/ 140

7.3.2　基于参数服务器的通信拓扑/ 142

7.3.3　基于数据流的通信拓扑/ 143

7.3.4　讨论/ 145

7.4　通信的步调/ 145

7.4.1　同步通信/ 146

7.4.2　异步通信/ 147

7.4.3　同步和异步的平衡/ 148

7.4.4　讨论/ 150

7.5　通信的频率/ 150

7.5.1　时域滤波/ 150

7.5.2　空域滤波/ 153

7.5.3　讨论/ 155

7.6　总结/ 156

参考文献/ 156

第8章　数据与模型聚合/ 159

8.1　基本概述/ 160

8.2　基于模型加和的聚合方法/ 160

8.2.1　基于全部模型加和的聚合/ 160

8.2.2　基于部分模型加和的聚合/ 162

8.3　基于模型集成的聚合方法/ 167

8.3.1　基于输出加和的聚合/ 168

8.3.2　基于投票的聚合/ 171

8.4　总结/ 174

参考文献/ 174

第9章　分布式机器学习算法/ 177

9.1　基本概述/ 178

9.2　同步算法/ 179

9.2.1　同步SGD方法/ 179

9.2.2　模型平均方法及其改进/ 182

9.2.3　ADMM算法/ 183

9.2.4　弹性平均SGD算法/ 185

9.2.5　讨论/ 186

9.3　异步算法/ 187

9.3.1　异步SGD/ 187

9.3.2　Hogwild!算法/ 189

9.3.3　Cyclades算法/ 190

9.3.4　带延迟处理的异步算法/ 192

9.3.5　异步方法的进一步加速/ 199

9.3.6　讨论/ 199

9.4　同步和异步的对比与融合/ 199

9.4.1　同步和异步算法的实验对比/ 199

9.4.2　同步和异步的融合/ 201

9.5　模型并行算法/ 203

9.5.1　DistBelief/ 203

9.5.2　AlexNet/ 204

9.6　总结/ 205

参考文献/ 205

第10章　分布式机器学习理论/ 209

10.1　基本概述/ 210

10.2　收敛性分析/ 210

10.2.1　优化目标和算法/ 211

10.2.2　数据和模型并行/ 213

10.2.3　同步和异步/ 215

10.3　加速比分析/ 217

10.3.1　从收敛速率到加速比/ 218

10.3.2　通信量的下界/ 219

10.4　泛化分析/ 221

10.4.1　优化的局限性/ 222

10.4.2　具有更好泛化能力的非凸优化算法/ 224

10.5　总结/ 226

参考文献/ 226

第11章　分布式机器学习系统/ 229

11.1　基本概述/ 230

11.2　基于IMR的分布式机器学习系统/ 231

11.2.1　IMR和Spark/ 231

11.2.2　Spark MLlib/ 234

11.3　基于参数服务器的分布式机器学习系统/ 236

11.3.1　参数服务器/ 236

11.3.2　Multiverso参数服务器/ 237

11.4　基于数据流的分布式机器学习系统/ 241

11.4.1　数据流/ 241

11.4.2　TensorFlow数据流系统/ 243

11.5　实战比较/ 248

11.6　总结/ 252

参考文献/ 252

第12章　结语/ 255

12.1　全书总结/ 256

12.2　未来展望/ 257

索引/ 260

短评

可以放心购买了可能是因为我在乎你的

图书价格实惠，快递给力！

乘活动买了一批，应该都还不错的。

此用户未填写评价内容

产品特色