Keras快速上手 基于Python的深度学习实战pdf

Keras快速上手 基于Python的深度学习实战 作者：谢梁，鲁颖，劳虹岚

Keras快速上手 基于Python的深度学习实战 出版社：电子工业出版社

Keras快速上手 基于Python的深度学习实战 内容简介

《Keras快速上手：基于Python的深度学习实战》系统地讲解了深度学习的基本知识、建模过程和应用，并以深度学习在推荐系统、图像识别、自然语言处理、文字生成和时间序列中的具体应用为案例，详细介绍了从工具准备、数据获取和处理到针对问题进行建模的整个过程和实践经验，是一本非常好的深度学习入门书。

不同于许多讲解深度学习的书籍，《Keras快速上手：基于Python的深度学习实战》以实用为导向，选择了 Keras 作为编程框架，强调简单、快速地设计模型，而不去纠缠底层代码，使得内容相当易于理解，读者可以在 CNTK、 TensorFlow 和 Theano 的后台之间随意切换，非常灵活。并且本书能帮助读者从高度抽象的角度去审视业务问题，达到事半功倍的效果。

Keras快速上手 基于Python的深度学习实战 目录

前言

阅读须知

1 准备深度学习的环境

1.1 硬件环境的搭建和配置选择

1.1.1 通用图形处理单元

1.1.2 你需要什么样的GPU加速卡

1.1.3 你的GPU需要多少内存

1.1.4 是否应该用多个GPU

1.2 安装软件环境

1.2.1 所需软件列表

1.2.2 CUDA的安装

1.2.3 Python计算环境的安装

1.2.4 深度学习建模环境介绍

1.2.5 安装CNTK及对应的Keras

1.2.6 安装Theano计算环境

1.2.7 安装TensorFlow计算环境

1.2.8 安装cuDNN和CNMeM

2 数据收集与处理

2.1 网络爬虫

2.1.1 网络爬虫技术

2.1.2 构造自己的Scrapy爬虫

2.1.3 构造可接受参数的Scrapy爬虫

2.1.4 运行Scrapy爬虫

2.1.5 运行Scrapy爬虫的一些要点

2.2 大规模非结构化数据的存储和分析

2.2.1 ElasticSearch介绍

2.2.2 ElasticSearch应用实例

3 深度学习简介

3.1 概述

3.2 深度学习的统计学入门

3.3 一些基本概念的解释

3.3.1 深度学习中的函数类型

3.3.2 深度学习中的其他常见概念

3.4 梯度递减算法

3.5 后向传播算法

4 Keras入门

4.1 Keras简介

4.2 Keras中的数据处理

4.2.1 文字预处理

4.2.2 序列数据预处理

4.2.3 图片数据输入

4.3 Keras中的模型

4.4 Keras中的重要对象

4.5 Keras中的网络层构造

4.6 使用Keras进行奇异值矩阵分解

5 推荐系统

5.1 推荐系统简介

5.2 矩阵分解模型

5.3 深度神经网络模型

5.4 其他常用算法

5.5 评判模型指标

6 图像识别

6.1 图像识别入门

6.2 卷积神经网络的介绍

6.3 端到端的MNIST训练数字识别

6.4 利用VGG16网络进行字体识别

6.5 总结

7 自然语言情感分析

7.1 自然语言情感分析简介

7.2 文字情感分析建模

7.2.1 词嵌入技术

7.2.2 多层全连接神经网络训练情感分析

7.2.3 卷积神经网络训练情感分析

7.2.4 循环神经网络训练情感分析

7.3 总结

8 文字生成

8.1 文字生成和聊天机器人

8.2 基于检索的对话系统

8.3 基于深度学习的检索式对话系统

8.3.1 对话数据的构造

8.3.2 构造深度学习索引模型

8.4 基于文字生成的对话系统

8.5 总结

9 时间序列

9.1 时间序列简介

9.2 基本概念

9.3 时间序列模型预测准确度的衡量

9.4 时间序列数据示例

9.5 简要回顾ARIMA时间序列模型

9.6 循环神经网络与时间序列模型

9.7 应用案例

9.7.1 长江汉口月度流量时间序列模型

9.7.2 国际航空月度乘客数时间序列模型

9.8 总结

10 智能物联网

10.1 Azure和IoT

10.2 Azure IoT Hub服务

10.3 使用IoT Hub管理设备概述

10.4 使用.NET将模拟设备连接到IoT中心

10.5 机器学习应用实例

Keras快速上手 基于Python的深度学习实战 精彩文摘

1.1硬件环境的搭建和配置选择

从事机器学习，一个好的硬件环境是必不可少的。在硬件环境的选择上，并不是一定选择最贵的就会有最好的效果，很多时候可能付出了2倍的成本，但是性能的提升却只有10%。深度学习的计算环境对不同部件的要求不同，因此这里先简要讨论一下硬件的合理搭配。如果您不差钱，则可以跳过本节。另外，虽然目前有一些云服务供应商提供GPU计算能力，并且一键部署，听起来不错，但是基于云计算的GPU实例受到两个限制。首先，普通的廉价GPU实例内存稍小，比如AWS的G2实例目前只支持单GPU4GB的显存；其次，支持较大显存的实例费用比较高，性价比不高。比如AWS的P2实例使用支持每GPU12GB内存的K80GPU，每小时费用高达0.9美元。但是K80GPU属于Kepler架构，是两代前的技术。另外，在实际使用中需要开启其他服务以使用GPU实例，各种成本加起来每月的开支还是很可观的，很可能6个月的总开支够买一台配置较新GPU的全新电脑了。

在搭配深度学习机器而选择硬件的时候，通常要考虑以下几个因素。

(1)预算。这个非常重要。如果预算足够，当然可以秉承最贵的就是最好的理念来选择。但是当预算有一定限制的时候，如何搭配部件来最大化性能，尽量减少瓶颈就是很重要的考量了。

(2)空间。这里特指机箱的空间。大部分新的GPU都是双风扇的，因此对机箱尺寸要求很高。如果你已经有一个机箱了，那么选择合适尺寸的GPU就成为最优先的考虑；如果新配机箱，那么全尺寸的大机箱是最好的选择。这是因为大机箱通风好，同时可以为以后添加多个GPU进行升级留有余地；另外，大机箱通常有多个PCIe的背板插槽可以放置多个PCIe设备。一般现在的GPU卡都会占据两个PCIe的插槽空间，因此背板插槽越多越好。

(3)能耗。性能越好的GPU对能源的要求越高，而且很可能是整个系统里能耗最高的部件。如果已经有一台机器了，只是要添加一个GPU来做学习用，那么选择性能一般但是能耗低的GPU卡是比较明智的；如果需要高密度计算，搭配多个GPU并行处理，那么对电源的要求非常高，一般来说，搭配4GPU卡的系统至少需要1600W的电源。

(4)主板。对主板的选择非常重要，因为涉及跟GPU的接口选择。一般来说，至少需要一块支持PCIe3.0接口的主板。如果以后要升级系统到多个GPU，那么还需要支持8+16芯PCIe电源接口的主板，这样可以连接最多4个GPU进行SLI并联。对于4个GPU这个限制，是因为目前最好的主板也只支持最多40条PCIe通道（16x,8x,8x,8x的配置）。多个GPU并行加速比并不能达到完美，毕竟还是有些额外开销的。比如系统需要决定在哪个GPU上进行这个数据块对应的计算任务。我们后面会提到，CNTK计算引擎的并行加速性很好，在使用多个GPU时值得考虑。

(5)CPU。CPU在深度学习计算中的作用不是非常显著的，除非使用CPU进行深度学习算法的计算。因此如果你已经有一台电脑的话，就不用太纠结是否要升级CPU了；但是如果要新搭建系统，那么在CPU的选择上还是有些考量的，这样可以使系统利用GPU的能力最大化。首先要选择一个支持40条PCIe通道的CPU。不是所有的CPU都支持这么多的PCIe通道，比如haswell核心的i5系列CPU就支持最多32条通道。其次要选择一个高频率的CPU。虽然系统使用GPU做具体的计算，但是在准备模型阶段CPU还是有重要作用的，因此选择使用在预算内主频高、速度快的CPU还是比较重要的。CPU的核心数量不是一个很重要的指标，一般来说，一个CPU核心可以支持一块GPU卡。按照这个标准，大部分现代的CPU都是合格的。

(6)内存。内存容量还是越大越好，以减少数据提取的时间，加快和GPU的交换。一般原则是按照GPU内存容量的至少两倍来配置主机内存。

(7)存储系统。对于存储系统的能力，除要容量大以外，主要体现在计算时不停地提取数据供应GPU进行计算方面。如果做图像方面的深度学习，数据量通常都非常大，因此可能需要多次提取数据才能完成一轮计算，这个时候存储系统读取数据的能力就成为整个计算的瓶颈。因此，大容量的SSD是最好的选择。现在的SSD读取速度已经超过GPU从PCIe通道装载数据的速度。如果使用传统的机械硬盘，组成RAID5也是一个不错的选择。如果数据量不是很大，那么这个考虑就不那么重要了。

(8)GPU。GPU显然是最重要的选择，对整个深度学习系统的影响最大。相对于使用CPU进行计算，GPU对于提高深度学习的速度是众所周知的事情，通常我们能见到5倍左右的加速比，而在大数据集上这个优势甚至达到了10倍。尽管好处明显，但是如何在控制性价比的条件下选择一个合适的GPU却不是一件简单的事情。因此，我们在下面的章节中将详细讨论如何选择GPU。