zeppelin 配置 spark

修改zeppelin 配置文件

在zeppelin-env.sh中添加spark路径和hadoop配置文件路径java

export SPARK_HOME=/usr/lib/spark
export HADOOP_CONF_DIR=/usr/lib/hadoop

修改spark interpreter参数

master 能够为:docker

local[*] in local mode
spark://master:7077 in standalone cluster
yarn-client in Yarn client mode
yarn-cluster in Yarn cluster mode
mesos://host:5050 in Mesos cluster

我这里是 spark on yarn 因此我配置的 master 为yarn,提交模式为 cluster,我设置为 client 的时候运行任务一直卡着不动apache

排错

我这里是在docker里搭建的,中间还报了其它的错网络

java.lang.RuntimeException: org.apache.zeppelin.interpreter.InterpreterException: org.apache.thrift.transport.TTransportException: java.net.ConnectException: Connection refused

后来发现是AM没法实例化的缘由oop

host -i

发现docker 里是一个虚拟ipspa

解决方法:.net

启动docker时指定网络链接方式code

host模式 :

docker run 使用 --net=host指定

docker使用的网络实际上和宿主机同样

遗留问题

一、没法使用client模式blog

二、没法访问hive表ip

若是有知道的大佬,请指导

相关文章
相关标签/搜索