邵奈一的技术博客导航

时间 2020-05-12 标签技术博客导航

教程目录

0x02 大数据学习之路指南

0x03 全栈工程师

0x04 开发工具

0x05 程序员相关

模块一：程序人生思路

0x06 报错与警告处理

0xFF 总结

0x00 说明

本文会不断更新
笔记的起源（嗯…没错，是一篇关于Markdown的文章）
一张图学会Markdown（书写语言）
软件版本说明请看文章末尾的总结

0x01 大数据系列专栏

专栏一：复制粘贴玩大数据（Docker实现环境搭建）

DE01 复制粘贴玩大数据系列教程说明css

专栏说明：html

D001.3\1.4\1.5为辅助过程，能够安装教程顺序，一步一步操做下去
完成D001章节，将能够实现一个Hadoop、Spark的大数据环境搭建
注意此专栏为利用Docker搭建，对电脑资源没有太大要求
学习大数据，建议最好买台好的电脑，而后学习专栏二，此专栏仅供参考

D001 复制粘贴玩大数据之集群环境的获取及教程指导
——D001.1 Window7系统上Centos7的安装
——D001.2 Centos7虚拟机NAT网络的配置（windows）
——D001.3 下载XShell教程与简单使用
——D001.4 Centos7建立有root权限的用户、修改主机名与添加ip映射
——D001.5 Docker入门（超级详细基础篇）
——D001.6 Docker搭建Hadoop集群（资源篇）
——D001.7 Docker搭建Hadoop集群（实践篇）
——D001.8 Docker搭建Spark集群（实践篇）
D002 复制粘贴玩大数据之便捷配置
 D003 复制粘贴玩大数据之安装与配置Zookeeper集群
 D004 复制粘贴玩大数据之Dockerfile安装Zookeeper集群
——D004.1 Dockerfile例子详解及经常使用指令
 D005 复制粘贴玩大数据之安装与配置HBase集群
 D006 复制粘贴玩大数据之Dockerfile安装HBase集群
 D007 复制粘贴玩大数据之安装与配置Hive
D008 复制粘贴玩大数据之Dockerfile安装Hive集群
 D009 复制粘贴玩大数据之安装与配置Flume集群
 D010 复制粘贴玩大数据之Dockerfile安装Flume集群
 D011 复制粘贴玩大数据之安装与配置Kafka集群
 D012 复制粘贴玩大数据之Dockerfile安装Kafka集群前端

PS:
完成D012，大数据经常使用组件将装好，教程采用一步一步升级的模式，若是有基础，能够直接操做D012篇！
非Docker安装的文章，同样适用于常规的安装，且与Docker方式作对比。java

专栏二：浅显易懂入门大数据（理论+大数据学习之路指南实战）

一、浅显易懂入门大数据系列：1、HDFS（超详细）
二、浅显易懂入门大数据系列：2、MapReduce、YARN（超详细）
三、浅显易懂入门大数据系列：3、Zookeeper（超详细）
四、浅显易懂入门大数据系列：4、HBase（超详细）node

0x02 大数据学习之路指南

模块一：大数据基础准备

一、学习大数据经常使用Linux命令
二、Linux命令的英文含义（便捷记忆）
三、Java模拟定时生成日志到文件
四、大数据经常使用管理集群脚本集合程序员

PS：学习完本模块，应该具备Linux基础知识、Java SE基础以及会编写简单的Shell脚本。web

模块二：Hadoop

一、分布式集群环境之域名映射与免密码登陆
二、分布式集群环境之JDK8的安装与配置（Centos7）
三、Hadoop核心组件之HDFS的安装与配置
四、Java API实现HDFS的相关操做
五、YARN与MapReduce的配置与使用
六、MapReduce入门例子之WordCount单词计数
七、MapReduce编程例子之Combiner与Partitioner
八、查看YARN上应用的日志之JobHistory
九、IntelliJ IDEA实现Hadoop读写HDFS文件（非Maven、离线版）
十、MapReduce做业在YARN的内存分配设置
十一、HDFS的高可用性HA配置实战
十二、HDFS恢复非HA状态
1三、YARN的高可用性HA配置实战
1四、Java的序列化与反序列化实操
1五、Hadoop的序列化与反序列化实操
1六、Hadoop压缩机制及实操
1七、Hadoop支持的文件格式之Text
1八、Hadoop支持的文件格式之Avro
1九、Hadoop支持的文件格式之Parquet
20、Hadoop支持的文件格式之SequenceFile
2一、Windows本地安装Hadoop
2二、经过CombineTextInputFormat实现小文件优化(调优技能)
2三、经过SequenceFile实现合并小文件(调优技能)正则表达式

项目案例：
大数据日志分析系统背景及架构
 大数据日志分析Hadoop项目实战sql

模块三：Zookeeper

一、D003 复制粘贴玩大数据之安装与配置Zookeeper集群
二、Zookeeper之zkCli.sh客户端的使用apache

模块四：HBase

一、D005 复制粘贴玩大数据之安装与配置HBase集群
二、在HDFS的HA模式下配置HBase

模块五：Hive

一、D007 复制粘贴玩大数据之安装与配置Hive

模块六：Spark

一、分布式集群环境之Scala的安装与配置（Centos7）
二、IntelliJ IDEA开发Spark案例之WordCount
三、分布式集群环境之Spark的安装与配置（Centos7）
四、IntelliJ IDEA开发Spark案例之WordCount（非Maven、离线版）

项目案例：
项目实战：飞机延误预测项目

模块七：Flume

一、D009 复制粘贴玩大数据之安装与配置Flume集群
二、Flume入门案例之NetCat-Souces
三、Flume+Kafka+Storm实战：2、Flume整合Kafka

模块八：Kafka

一、D011 复制粘贴玩大数据之安装与配置Kafka集群
二、分布式消息队列Kafka理论（浅显易懂）
三、分布式消息队列Kafka之发布订阅消息系统
四、Kafka的安装及发布订阅消息系统（windows）

模块九：Storm

一、Storm第一个入门例子之Wordcount（windows本地）
二、实时流处理框架之Storm的安装与部署
三、Flume+Kafka+Storm实战：1、Kakfa与Storm整合

模块十：综合案例总结

一、Flume、Kafka、Storm实时流综合案例实战
Flume+Kafka+Storm实战：1、Kakfa与Storm整合
 Flume+Kafka+Storm实战：2、Flume与Kafka整合

二、会话切割小案例
网站用户行为分析项目之会话切割（一）
网站用户行为分析项目之会话切割（二）
网站用户行为分析项目之会话切割（三）
网站用户行为分析项目之会话切割（四）=> 代码重构
 网站用户行为分析项目之会话切割（五）=> 切割会话代码重构

附加模块：大数据相关技术

一、安装与配置
Elasticsearch的安装（windows）
多功能集装箱Zeppelin框架的安装与配置
 数据迁移的工具Sqoop的安装与配置
 jdk8的安装（windows）
Maven的安装与设置
 IDEA2018安装与配置
 Mysql的安装与配置（Centos7）
安装并启动Tomcat 8（Mac版本）
Python3的安装（Windows）
基于XShell实现Win与Linux文件传输（替换XFtp等）
脚本实现一键安装JDK
Sqoop1的安装配置及入门案例
 VirtualBox安装教程及使用（Windows）
IntelliJ IDEA编写Scala代码（安装Scala插件）
Octotree谷歌浏览器插件

二、实战操做
Elasticsearch实现中文分词
 使用Sqoop导出Mysql数据到Hive（实战案例）
Python模拟日志生成
 Python第一个爬虫项目

三、经典理论
Hadoop 十年解读与发展预测（插图+排版）

0x03 全栈工程师

模块一：前端

Vue2.x最简单的两个入门例子
 Vue2.x案例之商品增删改查的实现
 Vue2.x案例之计划清单的实现
 Bootstrap全局css样式的使用
 Node版本管理工具nvm的安装与使用（windows）
JavaScript正则表达式轻松入门
 前端开发神器Sublime3的安装及配置（Mac系统）
前端开发神器HBuilder的安装与使用（mac版本）

模块二：后端

Java实现本地读写文件
 Python第一个爬虫项目
 Java的序列化与反序列化实操
 Scala常规操做之数组、List、Tuple、Set、Map

模块三：全栈

SpringBoot+Thymeleaf+ECharts实现大数据可视化（基础篇）
SpringBoot+JSON+AJAX+ECharts+Fiddler实现先后端分离开发可视化（进阶篇）
IDEA实现热部署前端界面（Tomcat、IDEA）

模块四：运维

阿里云域名购买与DNS解析教程
 Nginx的安装与配置（Centos七、云服务器版）
阿里云服务器域名备案
 使用Nginx发布前端源码
 华为云计算FusionCompute虚拟化平台的安装与设置
 华为云服务器入门初体验

0x04 开发工具

模块一：管理工具

Git安装与配置（mac版本）
使用Git将代码提交到码云

模块二：编辑工具

IDEA的使用及经常使用配置（JDK、Maven等）
IDEA实现Java与Scala代码混合开发
 Typera+Node.js+Git搭建托管于远端的写做平台（GitBook）

0x05 程序员相关

模块一：程序人生思路

大数据培训课程思路
 邵奈一的技术博客导航
 Mac系统使用小指南（从Win工做台转向Mac工做台）
邵奈一是谁
 【邵奈一】大数据集群环境使用指南

0x06 报错与警告处理

1. 报错信息

2. 警告信息

警告：SLF4J: Class path contains multiple SLF4J bindings.

3. 小小解决方案

Mac系统中那些大数据的小小解决方法

未完待续…

0xFF 总结

软件版本说明：

一、Apache版本的软件（咱们的教程所使用）：
Java：1.8
Hadoop：2.7.5(https://archive.apache.org/dist/hadoop/common/)
Zookeeper：3.4.10(https://archive.apache.org/dist/zookeeper/)
Scala: 2.11.8 / 2.10.4
Spark：2.2.0(https://archive.apache.org/dist/spark/)
Flume：1.6.0(https://archive.apache.org/dist/flume/)
Kafka：1.0.0(https://archive.apache.org/dist/kafka/)
HBase：1.2.6(http://archive.apache.org/dist/hbase/)
Solr：7.1.0(https://archive.apache.org/dist/lucene/solr/)
Hive：2.3.3(https://archive.apache.org/dist/hive/)
Sqoop：1.4.7(https://archive.apache.org/dist/sqoop/)

二、实际生产上用的是CDH版本：
CDH版本：https://www.cloudera.com/documentation/enterprise/release-notes/topics/cdh_vd_cdh_download.html
2015年：CDH5.3.0
2016年：CDH5.6.0
2017年：CDH5.7.6

对应版本CDH中各个组件的版本：
https://www.cloudera.com/documentation/enterprise/release-notes/topics/cdh_vd_cdh_package_tarball.html

三、具体对于什么是CDH，请自行搜索了解：CDH & Cloudera Manager

做者简介：邵奈一
全栈工程师、市场洞察者、专栏编辑
| 公众号 | 微信 | 微博 | CSDN | 简书 |

福利：
邵奈一的技术博客导航
 邵奈一原创不易，如转载请标明出处。

wechat：shaonaiyi888