HBase SpringBoot实战分布式文件存储
【课程介绍】HBase集群部署、基础原理、高级特性、优化策略、容灾监控、开发实战,以及HBase相关的其他开源项目(如Phoenix,Sqoop等),感兴趣的小伙伴千万不要错过!
【课程目录】
- 第1章 课程简介课程简介及期望学习本门课程可以达到的目标。对本门课程所用到的技术进行概览
- 1-1 导学
- 1-2 学前必读(助你平稳踩坑,畅学无忧)
- 1-3 课程技术分析
- 1-1 导学
- 第2章 HBase简介与环境部署介绍HBase是什么,能做什么,有哪些优缺点,适用于哪些应用场景,与常用关系数据库有什么不同。并配置安装Hadoop伪分布式集群,HBase伪分布式集群。为后面章节实战测试提供环境支持。
- 2-1 HBase简介及其在大数据生态圈的位置
- 2-2 HBase数据存储模型及与关系型数据库的区别
- 2-3 Hadoop伪分布式集群安装
- 2-4 HBase伪分布式集群安装
- 2-5 HBase基础架构
- 2-6 HBase阶段小结
- 2-7 HBase安装之基础环境配置
- 2-8 HBase安装之HBase集群部署
- 2-9 HBase安装之访问阿里云部署的HBase
- 第3章 HBase原理与实战介绍HBase基础原理,以读写流程为引,结合前面集群部署所展现的HBase三大模块,讲解HBase各个模块之间的协作,帮助我们了解HBase的运行机制。并对HBase进行实战操作,讲解基本的shell命令及java api。重点讲解如何通过过滤器筛选数据…
- 3-1 HBase写流程
- 3-2 HBase读流程
- 3-3 HBase模块协作
- 3-4 HBase实战:Shell命令实战
- 3-5 HBase实战:Java Api实现HBase连接类
- 3-6 HBase实战:Java Api实现HBase操作类
- 3-7 HBase实战:用过滤器筛选数据
- 3-8 HBase阶段小结
- 第4章 HBase进阶讲解HBase的高级特性,常用的优化策略,协处理器等,并实战开发协处理器,将开发的协处理器加载到HBase测试环境,验证其功能
- 4-1 HBase优化策略一:服务端优化策略
- 4-2 HBase优化策略二:常用优化策略
- 4-3 HBase优化策略三:读写优化策略
- 4-4 HBase协处理器简介
- 4-5 HBase实战:开发RegionObserver协处理器
- 4-6 HBase实战:HBase协处理器加载
- 第5章 容灾与监控HBase容灾策略的简要介绍,配合命令演示如何对数据进行备份和恢复。简要介绍HBase的监控重要性以及常用的监控方式。实战开发通过jmx获取HBase运行时数据,监控集群状态
- 5-1 HBase备份与恢复
- 5-2 HBase监控简介
- 5-3 Hadoop JMX监控实战
- 5-4 HBase JMX监控实战
- 第6章 Phoenix & Sqoop对HBase业务应用过程中常用到的第三方开源工具Phoenix和Sqoop进行介绍和实战操作。Sqoop帮助我们快速的将关系库的数据导入到HBase,而Phoenix实现通过SQL对HBase进行数据查询功能,降低了我们学习HBase的门槛。
- 6-1 Phoenix简介
- 6-2 Phoenix安装
- 6-3 Phoenix实战:shell命令操作Phoenix
- 6-4 Phoenix实战:java jdbc操作Phoenix
- 6-5 通过mybatis操作Phoenix
- 6-6 通过mybatis操作Phoenix
- 6-7 Sqoop简介
- 6-8 Sqoop数据导入实战
- 6-9 课程小结
- 第7章 需求分析与技术选型模拟提出一个企业中会遇到的实际的需求:如何构建一个对象存储服务。分析实现一个对象存储服务的可行性,以及如何对技术进行选型,HBase可以做哪些工作等
- 7-1 老板提出一个需求
- 7-2 技术选型
- 第8章 功能梳理与方案设计对我们需要实现的对象存储服务功能点进行梳理,并设计制定对象存储服务的实现方案,这里我们会讨论两种不同设计方案的功能差异及优缺点,最终选中其中一种方案并进行正式开发前期准备工作。
- 8-1 功能梳理和数据库设计
- 8-2 文件存储设计方案一
- 8-3 文件存储设计方案二
- 第9章 子模块-数据库操作模块hos服务基础数据库选用mysql,本章实现基于SpringBoot+Mybatis的mysql数据库的操作模块,采用c3p0连接池,完成数据库链接的相关配置工作。
- 9-1 Zookeeper安装与HBase配置优化
- 9-2 Hos开发逻辑梳理
- 9-3 Hos模块划分及mybatis配置
- 第10章 子模块-用户管理模块Hos服务用户管理模块开发,基于第九章的数据库操作模块,开发相关的实体类对用户的增删改查操作并对相关功能进行测试
- 10-1 Hos用户管理模块开发1
- 10-2 Hos用户管理模块开发2
- 第11章 子模块-权限管理模块本章节我们将一起实现基于Token的服务权限管理模块,梳理Token的认证机制,实现对Token的增删该查以及授权操作
- 11-1 Hos权限管理模块开发1
- 11-2 Hos权限管理模块开发2
- 第12章 子模块-文件管理模块Hos服务核心模块文件管理模块开发,包含Bucket的增删改查以及文件的增删改查操作,本节会通过zookeeper实现分布式锁,保证文件及文件夹的一致性。
- 12-1 Bucket管理模块开发
- 12-2 HDFS和HBASE操作类1试看
- 12-3 HDFS和HBASE操作类2
- 12-4 Hos文件管理模块实体类开发
- 12-5 Hos创建删除Bucket方法开发
- 12-6 Hos上传文件方法开发
- 12-7 Hos获取文件方法开发
- 12-8 Hos删除文件及列出文件方法开发
- 第13章 子模块-接口模块Hos服务接口模块的开发,统一完成Hos服务的登录认证,权限验证以及各个功能的restful API,并利用Insomnia/Postman对各个接口的功能进行测试。
- 13-1 Hos服务登陆验证
- 13-2 Hos服务web权限配置类开发
- 13-3 Hos服务用户及权限管理接口开发
- 13-4 Hos服务文件管理接口开发
- 13-5 Hos服务API接口测试
- 第14章 子模块-SDK模块开发并测试Hos服务的SDK模块,SDK模块为基于HTTP接口的Hos服务访问模块,支持其他模块引用并对Hos进行操作。
- 14-1 SDK模块HosClient类开发
- 14-2 SDK模块HosClient功能开发
- 14-3 SDK模块测试
- 第15章 课程总结对整个课程的所用到的理论,技术做一个简单的回顾总结,提出优化的空间
- 15-1 课程总结
- 第16章 (彩蛋番外篇)OpenTSDB实战OpenTSDB作为目前应用广泛的时序数据库被各大厂商的监控系统所使用,是我们工作中需要掌握的一项技能。它优秀的查询性能得益于良好的RowKey设计,而Rowkey设计是我们HBase表结构的重中之重,通过OpenTSDB的设计理念对于我们后续工作中对于RowKey的设计很有帮助。…
- 16-1 时序数据库简介
- 16-2 OpenTSDB安装部署
- 16-3 Opentsdb架构
- 16-4 Opentsdb存储模型
- 16-5 TCollector简介
- 16-6 TCollector安装
- 16-7 TCollector自定义脚本开发
- 16-8 Grafana配置Opentsdb
- 16-9 课程小结