IntellijIDEA搭建Spark开发环境收集.pdfVIP

  1. 1、原创力文档(book118)网站文档一经付费(服务费),不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。。
  2. 2、本站所有内容均由合作方或网友上传,本站不对文档的完整性、权威性及其观点立场正确性做任何保证或承诺!文档内容仅供研究参考,付费前请自行鉴别。如您付费,意味着您自己接受本站规则且自行承担风险,本站不退款、不进行额外附加服务;查看《如何避免下载的几个坑》。如果您已付费下载过本站文档,您可以点击 这里二次下载
  3. 3、如文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“版权申诉”(推荐),也可以打举报电话:400-050-0827(电话支持时间:9:00-18:30)。
  4. 4、该文档为VIP文档,如果想要下载,成为VIP会员后,下载免费。
  5. 5、成为VIP后,下载本文档将扣除1次下载权益。下载后,不支持退款、换文档。如有疑问请联系我们
  6. 6、成为VIP后,您将拥有八大权益,权益包括:VIP文档下载权益、阅读免打扰、文档格式转换、高级专利检索、专属身份标志、高级客服、多端互通、版权登记。
  7. 7、VIP文档为合作方或网友上传,每下载1次, 网站将根据用户上传文档的质量评分、类型等,对文档贡献者给予高额补贴、流量扶持。如果你也想贡献VIP文档。上传文档
查看更多
1,环境 window7 jdk1.8.0_91 scala-2.11.8.msi spark-assembly-1.6.1-hadoop2.6.0.jar Interllij IDEA 2016.1.3 (可以在scala 官网上链接下载 /download/ ) 2 ,安装 jdk 及 scala ,并配置环境变量。 下载 JDK:到 Java官网( /technetwork/java/javase/downloads/index.html ) 建议安装 JDK6以上版本。 l 配置 JAVA_HOME环境变量为 JDK的安装目录,如下图所示: l 配置 CLASSPATH环境变量为“ .;%JAVA_HOME%/lib;%JAVA_HOME%/lib/tools.jar ”,如下图所示: l 在 Path环境变量最后追加配置“ %JAVA_HOME%/bin”,如下图所示: 验证 JDK是否安装成功:打开控制台,输入“ java -version ”命令,如果出现 Java版本及版权相关信息, 说明 JDK安装成功。如下图所示: scala 安装,验证 scala 安装是否成功 在控制台输入 “scala -version,如果出现 scala 版本及版权信 息,说明 scala 安装成功。 3 ,Intellij IDEA 2016.1.3 安装及配置 点击 Scala 的 Install 安装 点击 “Create New Project进入主页面,在菜单栏” File-New-Project... ,选择 Scala next SDK jdk及scala 工程建好,选择菜单 File/Project Structure/Libraries/ 导入相应的 Spark 及Scala 的jar 包。 至此, Interllij IDEA的Spark 开发环境就搭建起来了。 4 ,在Interllij IDEA下开发 Spark 应用程序。 在创建的工程 src 选项的文件夹下再创建两个文件夹,文件夹名为 main和scala 。在src/main/scala 下创建一个名 Test 的 Scala Class 并选择为 Object 。再把 Spark 源码的 examples 包中的 SparkPi.scala 实例复制,修改代码中的 SparkConf 实例化时, Master及AppName 的值: val conf = new SparkConf().setMaster( local ).setAppName( Spark Pi );

文档评论(0)

肖四妹学教育 + 关注
实名认证
文档贡献者

该用户很懒,什么也没介绍

1亿VIP精品文档

相关文档