前言html
通过前三篇文章的介绍,已经经过VMware安装了Hadoop的集群环境,固然,我相信安装的过程确定遇到或多或少的问题,这些都须要本身解决,解决的过程就是学习的过程,本篇的来介绍几个Hadoop环境中须要用到的软件,确切的说是两款:VSFTP和SecureCRT。linux
闲言少叙,进入本篇的正题。vim
背景服务器
这里简要说明下这两款软件的做用。session
一、VSFTP这个从字面就能理解就是搭建FTP服务器用的,为何要搭建FTP服务呢?app
我相信,若是循序渐进的按照我以前的文章全装Hadoop的童鞋会发现一个很繁琐的过程,那就是各类配置文件的更改和拷贝,而且,由于咱们是在Linux系统中操做,因此须要各类命令的熟练操做,是否是很恶心!运维
因此为了方便上述流程的操做,就须要搭建VSFTP环境,而且配合Notepad++这款软件的使用,会让你插上梦想的翅膀....飞啊飞...异步
固然,还有一点就是,通常咱们都是远程操做的,FTP上传下载文件就更方便了。 async
二、SecureCRT这个软件是干吗用的?分布式
先来段官网的介绍,SecureCRT是一款支持SSH(SSH1和SSH2)的终端仿真程序,同时支持Telnet和rlogin协议。SecureCRT是一款用于链接运行包括Windows、UNIX和VMS的远程系统的理想工具。经过使用内含的VCP命令行程序能够进行加密文件的传输。
说的简单点,就是经过这个软件远程操做CentOS操做系统。我相信用弄过Linux操做系统,这个应该很熟悉。
技术准备
VMware虚拟机、CentOS 6.8 64 bit、SecureCRT、VSFTP、Notepad++
安装流程
以上软件须要自行从网上下载,文章最后也能给出部分软件的下载附件。
下面,我们进去分布式系统的详细操做过程。
一、首先来配置VSFTP环境(root)。
这里的操做须要提权用超级管理员进行安装,并且通常只须要配置Master主机就能够了,由于大部分操做经过Master就能够进行控制。
chkconfig | grep vsftpd
若是跟上面的过程没有返回任何结果,那么说明当前机器没有安装VSFTP。
这里,若是通过上一步骤检查,发现安装,则利用yum命令进行下载安装,须要提示的是:这里机器须要联网。
yum -y install vsftpd
通过,上述步骤就能够成功的安装VSFTP软件了。
下一步,就是进行一些FTP的配置了。
这里须要手动的建立一个文件,目的是来记录Log日志。咱们知道在Linux系统中通常全部的临时文件都放在系统自带的var目录下。
touch /var/log/vsftpd.log
这里,须要将咱们下载的VSFTP服务设置成自启动,方便与咱们的的使用。
chkconfig vsftpd on
通过上面的验证,咱们已经确保vsftpd服务已经开机自启动。
固然,对于这个服务的启动和关闭,能够经过以下方式进行手动的设置。可是这种设置只要一重启服务器就会失效。
启动ftp服务:service vsftpd start 查看ftp服务状态:service vsftpd status 重启ftp服务:service vsftpd restart 关闭ftp服务:service vsftpd stop |
ls /etc/vsftpd
进入vsftpd的安装目录,须要配置vsftpd.conf文件。
vim /etc/vsftpd/vsftpd.conf
anonymous_enable=YES --> anonymous_enable=NO //不容许匿名用户访问,默认是容许 xferlog_file=/var/log/vsftpd.log #设定vsftpd的服务日志保存路径。注意,该文件默认不存在。必需要手动touch出来 #idle_session_timeout=600 --> idle_session_timeout=600 //会话超时,客户端链接到ftp但未操做,默认被注释掉,可根据我的状况修改 #async_abor_enable=YES --> async_abor_enable=YES //支持异步传输功能,默认是注释掉的,去掉注释 #ascii_upload_enable=YES --> ascii_upload_enable=YES //支持ASCII模式的下载功能,默认是注释掉的,去掉注释 #ascii_download_enable=YES --> ascii_download_enable=YES //支持ASCII模式的上传功能,默认是注释掉的,去掉注释 #ftpd_banner=Welcome to blah FTP service //FTP的登陆欢迎语,自己是被注释掉的,去不去都行 #chroot_local_user=YES --> chroot_local_user=YES //禁止本地用户登出本身的FTP主目录,自己被注释掉,去掉注释 |
按照上面的步骤进行配置就能够了。
最后,给出一些其它配置的信息,能够根据本身须要进行配置。
local_enable=YES //容许本地用户访问,默认就是YES,不用改 write_enable=YES //容许写入,默认是YES,不用改 local_umask=022 //上传后文件的权限掩码,不用改 dirmessage_enable=YES //开启目录标语,默认是YES,开不开无所谓,我是默认就行 xferlog_enable=YES //开启日志,默认是YES,不用改 connect_from_port_20=YES //设定链接端口20 xferlog_std_format=YES //设定vsftpd的服务日志保存路径,不用改
pam_service_name=vsftpd //设定pam服务下vsftpdd的验证配置文件名,不用改 userlist_enable=YES //拒绝登陆用户名单,不用改 TCP_wrappers=YES //限制主机对VSFTP服务器的访问,不用改(经过/etc/hosts.deny和/etc/hosts.allow这两个文件来配置) |
到此,咱们的VSFTP软件已经安装完成,下面咱们就来验证一下。
其实这里验证的方式就比较多了,好比咱们经常使用的FTP软件均可以,或者你直接在命令行里面敲FTP命令验证也是能够的;
这里咱们直接使用Notepad++软件进行编辑,由于咱们的大部分操做都是对文件进行编辑,因此这里就推荐这个了。
关于,Notepad++软件的配置使用,这里就不介绍了,很简单,绿色软件下载下来就能使用,连安装都不须要。
点击按钮,进行FTP配置,过程很简单,这里我就不赘述了。
其它选项,通常默认就能够了,固然能够根据须要自行配置。
这里,我再连接的时候提示链接失败,因此这里须要几个点须要配置一下:
<1>关闭防火墙。<2>关闭SELinux服务,编辑 "/etc/selinux/config"文件,设置"SELINUX=disabled"。
而后最重要的一点就是:记得在配置完成配置文件以后,必定要重启VSFTP服务!!!实在不行,就重启服务器。
脚本以下:
service vsftpd restart
而后,再尝试进行从新链接。
好,至此,咱们已经可以经过FTP直接链接到咱们的Hadoop Master主机的目录了,可是从上面的界面能够看到这里默认的目录只是hadoop用户进入的目录。
显然,这样是不行,由于咱们配置的信息基本都是分布于系统的/etc目录下,因此咱们须要将VSFTP的默认设置路径进行更改。
在配置文件中增长如下内容:
# add root path local_root=/ chroot_local_user=YES anon_root=/
而后,重启VSFTP的服务,从新链接服务器就能够了。
看上去是否是清爽多了。在这里,咱们更改配置文件就简单多了,会用记事本程序就能够操做,并且避免了一些复杂的linux命令,神马Vim等,让他们去死。
看上去是否是清爽多了,并且上传和下载个文件都是那么容易的。
因此,总之一句话:这款软件你值得拥有!
二、使用SecureCRT软件远程管理Linux操做系统
这里关于 SecureCRT软件的使用就很简单了,基本没有啥复杂的配置,就是一个远程操做软件,属于用户密码就能够直接操做。
更主要的这款软件和上面的Notepad++同样,纯绿色版的,直接双击就可使用。
下面,咱们来演示下。
在完成配置的时候,记得将以下两个选项勾选上。
在第一次链接的时候,须要生成密钥,这里记得选择接受并保存按钮。这样下次就不须要输入任何密码了。
链接成功以后就是上面的德行了,是否是很酷?
哈哈...这里还须要几个小细节的设置,来提示下,首先显示的字体和颜色,须要从这里设置:
这里选择的仿真终端要选择Linux,告诉软件,我链接的是Linux系统。让他自动识别某些命令。
而后,就是字符编码和显示字体,颜色等了,能够根据本身喜爱进行选择,可是编码方式必定要选择UTF-8这种方式,由于只有这种方式显示的中文文件才不至于乱码!
而后,就能够在窗口中进行命令的操做了。简单大气,很是实用的一款软件。
而后,就是各类玩了。
结语
此篇先到此吧,关于Hadoop大数据集群的搭建后续依次介绍,好比利用Zookeeper搭建Hadoop高可用平台、Map-Reducer层序的开发、Hive产品的数据分析、Spark的应用程序的开发、Hue的集群坏境的集成和运维、Sqoop2的数据抽取等,有兴趣的童鞋能够提早关注。
本篇主要介绍了在咱们平常进行远程Linux系统管理所须要的两款实用软件...固然,这些只是一些工具,所带来的好处就是方便操做。这里须要强调的是:基础积累很重要!
最后给出软件的安装介质,算了,博客园限制大小,上传失败,能够私信联系我,你们能够自行官网下载,我是不推荐盗版的,你懂得。
有问题能够留言或者私信,随时恭候有兴趣的童鞋加大数据平台深刻研究。共同窗习,一块儿进步。
文章的最后给出以前几篇的基础篇:
若是您看了本篇博客,以为对您有所收获,请不要吝啬您的“推荐”。
更有激动者,为您开辟了右侧打赏的功能。