图书目录

第1章  大数据概述

1.1  从数据库到大数据库 1

1.1.1  关系型数据库 1

1.1.2  大数据库 2

1.2  大数据库的类型 4

1.3  大数据库的应用 5

习题1 8

参考文献 8

第2章  Hadoop基础

2.1  Hadoop简介 9

2.2  Hadoop部署 14

2.2.1  单节点部署 14

2.2.2  伪分布式部署 18

2.2.3  集群部署 25

2.3   Hadoop常用命令 33

2.3.1  用户命令 33

2.3.2  管理命令 35

2.3.3  启动/关闭命令 36

2.4  HDFS常用命令 38

2.4.1  用户命令 38

2.4.2  管理命令 39

实验1  Hadoop实验 41

习题2 42

参考文献 42

第3章  Hadoop数据库HBase

3.1  HBase简介 43

3.1.1  体系架构 43

3.1.2  数据模型 46

3.1.3  主要特性 51

3.2  HBase部署 51

3.2.1  准备工作 51

3.2.2  单节点部署 53

3.2.3  伪分布式部署 55

3.2.4  集群部署 57

3.2.5  版本升级 61

3.3  HBase配置 63

3.3.1  配置文件 63

3.3.2  主要配置项 65

3.3.3  配置建议 69

3.3.4  客户端配置 72

3.4  HBase Shell 72

3.4.1  交互模式 73

3.4.2  非交互模式 82

3.5  HBase模式设计 84

3.5.1  设计准则 84

3.5.2  列族属性 88

3.5.3  表属性 91

3.5.4  设计实例 94

3.6  HBase安全 97

3.6.1  安全访问配置 97

3.6.2  数据访问权限控制 99

实验2  HBase集群搭建 100

习题3 101

参考文献 102

第4章  数据仓库工具Hive

4.1  Hive简介 103

4.1.1  工作原理 104

4.1.2  体系架构 104

4.1.3  数据模型 106

4.2  Hive部署 108

4.2.1  Hive部署模式 109

4.2.2  Hive内嵌模式部署 110

4.2.3  Hive本地和远程模式部署 113

4.3  Hive配置 115

4.4  Hive接口 117

4.4.1  Hive Shell接口 117

4.4.2  Hive Web接口 119

4.5  Hive SQL 122

4.5.1  数据类型 122

4.5.2  DDL语句 122

4.5.3  DML语句 137

4.6  Hive操作实例 146

实验3  Hive实验 147

习题4 150

参考文献 150

第5章  内存大数据计算框架Spark

5.1  Spark简介 151

5.1.1  Spark概览 151

5.1.2  Spark生态系统BDAS 152

5.1.3  Spark架构与原理 153

5.2  Spark部署 155

5.2.1  准备工作 155

5.2.2  Spark单节点部署 156

5.2.3  Spark集群部署 157

5.3  Spark配置 169

5.3.1  Spark属性 169

5.3.2  环境变量配置 171

5.3.3  日志配置 171

5.3.4  查看配置 172

5.4  Spark RDD 173

5.4.1  RDD特征 174

5.4.2  RDD转换操作 174

5.4.3  RDD依赖 175

5.4.4  RDD行动操作 177

5.5  Spark Shell 177

5.5.1  准备工作 177

5.5.2  启动Spark Shell 178

5.5.3  创建RDD 179

5.5.4  转换RDD 180

5.5.5  执行RDD作业 181

实验4  Spark Standalone集群搭建 184

习题5 185

参考文献 185

第6章  Spark SQL

6.1  Spark SQL简介 186

6.1.1  Spark SQL概览 186

6.1.2  Spark SQL特性 188

6.1.3  Spark SQL架构与原理 188

6.1.4  和Hive的兼容性 190

6.1.5  数据类型 191

6.2  分布式SQL引擎 192

6.2.1  Spark SQL配置 192

6.2.2  Spark SQL CLI 195

6.2.3  Thrift JDBC/ODBC Server的搭建与测试 198

6.3  使用DataFrame API处理结构化数据 201

实验5  Thrift JDBC/ODBC Server的搭建与测试 205

习题6 206

参考文献 206

附录A  大数据和人工智能实验环境

附录B  Hadoop环境要求

附录C  名词解释