windows下安装spark

一、安装jdk

image.png

二、安装scala

image.png

三、下载spark

spark下载地址 image.pngshell

3.1安装spark

  • 将下载的文件解压到一个目录,注意目录不能有空格,好比说不能解压到C:\Program Files
  • 做者解压到了这里, image.png
  • 将spark的bin路径添加到path中 image.png
  • cmd输入spark-shell,成功安装啦,有个报错是由于还没安装Hadoop, image.png

四、安装hadoop

  • 因为spark版本为spark-2.3.3-bin-hadoop2.7,咱们选择下2.8.5版本的Hadoop hadoop下载地址 image.pngoop

  • 解压 image.pngspa

  • 添加环境变量,新建一个HADOOP_HOME image.pngscala

  • 在path添加 image.png3d

  • 到此运行spark-shell还会有没安装的时候那个报错,接下来须要替代Hadoop里的bin文件来解决这个错。blog

五、下载winutils

  • 下载地址
  • 笔者用的是hadoop2.8.5版本的,下载的winutils上hadoop2.8.3版本的bin,实测也是可行的。 image.png
  • 接下来将bin替换原来Hadoop中的bin

六、运行spark-shell成功啦

image.png

相关文章
相关标签/搜索