成都网站建设设计

将想法与焦点和您一起共享

Spark集群需要的软件怎么安装

这篇文章主要讲解了“Spark集群需要的软件怎么安装”,文中的讲解内容简单清晰,易于学习与理解,下面请大家跟着小编的思路慢慢深入,一起来研究和学习“Spark集群需要的软件怎么安装”吧!

成都创新互联公司成立与2013年,先为扬中等服务建站,扬中等地企业,进行企业商务咨询服务。为扬中企业网站制作PC+手机+微官网三网同步一站式服务解决您的所有建站问题。

Spark集群需要的软件

 在1、2讲的从零起步构建好的Hadoop集群的基础上构建Spark集群,我们这里采用2014年5月30日发布的Spark 1.0.0版本,也就是Spark的最新版本,要想基于Spark 1.0.0构建Spark集群,需要的软件如下:

1.Spark 1.0.0,笔者这里使用的是spark-1.0.0-bin-hadoop1.tgz

如下图所示:

Spark集群需要的软件怎么安装

笔者是保存在了Master节点如下图所示的位置:

Spark集群需要的软件怎么安装

2.下载和Spark 1.0.0对应的Scala版本,官方要求的是Scala必须为Scala 2.10.x:

 笔者下载的是“Scala 2.10.4”,具体官方下载地址为http://www.scala-lang.org/download/2.10.4.html 下载后在Master节点上保存为:

Spark集群需要的软件怎么安装

安装每个软件

 安装Scala

  1. 打开终端,建立新目录“/usr/lib/scala”,如下图所示:

Spark集群需要的软件怎么安装

 2.解压Scala文件,如下图所示:

Spark集群需要的软件怎么安装

把解压好的Scala移到刚刚创建的“/usr/lib/scala”中,如下图所示

Spark集群需要的软件怎么安装

3.修改环境变量:

Spark集群需要的软件怎么安装

进入如下图所示的配置文件中:

Spark集群需要的软件怎么安装

按下“i”进入INSERT模式,把Scala的环境编写信息加入其中,如下图所示:

Spark集群需要的软件怎么安装

从配置文件中可以看出,我们设置了“SCALA_HOME”并把Scala的bin目录设置到了PATH中。

按下“esc“键回到正常模式,保存并退出配置文件:

执行以下命令是配置文件的修改生效:

Spark集群需要的软件怎么安装

4.在终端中显示刚刚安装的Scala版本,如下图所示

Spark集群需要的软件怎么安装

发现版本是”2.10.4”,这正是我们期望的。

当我们输入“scala”这个命令的的时候,可以直接进入Scala的命令行交互界面:

Spark集群需要的软件怎么安装

此时我们输入“9*9”这个表达式:

Spark集群需要的软件怎么安装

此时我们发现Scala正确的帮我们计算出了结果 。

此时我们完成了Master上Scala的安装;

由于我们的 Spark要运行在Master、Slave1、Slave2三台机器上,此时我们需要在Slave1和Slave2上安装同样的Scala,使用scp命令把Scala安装目录和“~/.bashrc”都复制到Slave1和Slave2相同的目录之之下,当然,你也可以按照Master节点的方式手动在Slave1和Slave2上安装。

在Slave1上Scala安装好后的测试效果如下:

Spark集群需要的软件怎么安装

在Slave2上Scala安装好后的测试效果如下:

Spark集群需要的软件怎么安装

至此,我们在Master、Slave1、Slave2这三台机器上成功部署Scala。

感谢各位的阅读,以上就是“Spark集群需要的软件怎么安装”的内容了,经过本文的学习后,相信大家对Spark集群需要的软件怎么安装这一问题有了更深刻的体会,具体使用情况还需要大家实践验证。这里是创新互联,小编将为大家推送更多相关知识点的文章,欢迎关注!


网页题目:Spark集群需要的软件怎么安装
当前链接:http://chengdu.cdxwcx.cn/article/iihpci.html