100字范文,内容丰富有趣,生活中的好帮手!
100字范文 > window操作系统搭建Spark开发调试环境

window操作系统搭建Spark开发调试环境

时间:2019-11-01 02:46:21

相关推荐

window操作系统搭建Spark开发调试环境

1 搭建环境前写个demo代码;

2 安装配置jdk1.8;

3 安装配置scala2.11.18;

4 导入pom.xml中依赖jar;

5 下载Hadoop的bin包,设定环境变量HADOOP_HOME,值为解压后的目录(/releases.html下载);

6 下载winutils.exe将其放到$HADOOP_HOME/bin/目录下(/srccodes/hadoop-common-2.2.0-bin下载,不用担心版本问题,Hadoop2.6.4、Hadoop2.8、Hadoop2.7.3 都用这个);

7 配置程序启动参数local ,再IDEA VMOPTION中 填写-Dspark.master=local[3],该模式所有的线程都在一个JVM里面,可以验证代码的逻辑错误,所有的日志也都在控制台打印;

8 启动。

注意:设置环境变量有两种方式

1.在系统中设置环境变量HADOOP_HOME和PATH,跟java设置类似(只需要设置一次,记得设置后要重启电脑才能生效,jdk这样设置环境变量就不用重启)

HADOOP_HOME=D:\mobvista\hadoop_bin\hadoop-2.8.1

Path=C:\ProgramData\Oracle\Java\javapath;C:\Program Files (x86)\Intel\iCLS Client\;C:\Program Files\Intel\iCLS Client\;C:\WINDOWS\system32;C:\WINDOWS;C:\WINDOWS\System32\Wbem;C:\WINDOWS\System32\WindowsPowerShell\v1.0\;C:\Program Files (x86)\Intel\Intel(R) Management Engine Components\DAL;C:\Program Files\Intel\Intel(R) Management Engine Components\DAL;C:\Program Files (x86)\Intel\Intel(R) Management Engine Components\IPT;C:\Program Files\Intel\Intel(R) Management Engine Components\IPT;C:\Program Files (x86)\scala\bin;C:\Program Files\Java\jdk1.8.0_131\bin;C:\Program Files\Java\jdk1.8.0_131\jre\bin;C:\Program Files (x86)\scala\bin;C:\Program Files\Git\cmd;%HADOOP_HOME%\bin;C:\Program Files\MySQL\MySQL Utilities 1.6\;C:\Program Files\MySQL\MySQL Server 5.7\bin;D:\mobvista\software\apache-maven-3.3.9\bin;C:\WINDOWS\System32\OpenSSH\;C:\Python27;C:\Python27\Scripts;C:\Program Files\Intel\WiFi\bin\;C:\Program Files\Common Files\Intel\WirelessCommon\;C:\Users\think s2\AppData\Local\Microsoft\WindowsApps;D:\mobvista\hadoop_bin\hadoop-2.8.1\bin;

2.直接在程序里设置(这个好处是你不用重启电脑,但是你每写个小例子就得设置一下)

Configuration conf=new Configuration();

conf.set("hadoop_home", "H:\\publicQuoteJar\\hadoop-2.7.3");

项目添加配置信息

resources目录下面添加:core-site.xml

<configuration><property><name>hadoop.tmp.dir</name><value>D:\mv_test\hadoop</value> <!--默认的路径有可能有空格导致路径找不到 --></property></configuration>

log4j.properties

log4j.rootLogger=INFO, stdout

.springframework=INFO

.apache.activemq=INFO

#.apache.activemq.spring=WARN

#.apache.activemq.store.journal=INFO

#.activeio.journal=INFO

log4j.appender.stdout=org.apache.log4j.ConsoleAppender

log4j.appender.stdout.layout=org.apache.log4j.PatternLayout

log4j.appender.stdout.layout.ConversionPattern=%d{ABSOLUTE} | %-5.5p | %-16.16t | %-32.32c{1} | %-32.32C %4L | %m%n

MR作业提交添加 -DHADOOP_USER_NAME=hadoop 以免用户名有空格导致找不到路径

Spark作业提交添加-Dspark.master=local[3] 本地执行

IDEA服务器激活 /idea/key.php

参见/rickyit/article/details/51790069 本地激活方法,或者注册成为服务。

出现的问题以及解决方案:

当streaming设置chechpoint路径时,会 报java.lang.UnsatisfiedLinkError: org.apache.hadoop.util.NativeCrc32.nativeComputeChunkedSumsByteArray

是因为 hadoop.dll 的版本问题,最后下载更新,下载路径/rucyang/hadoop.dll-and-winutils.exe-for-hadoop2.7.3-on-windows_X64,可以更新这个文件夹中的 文件,因为 hadoop的版本为2.8.1,更新之后 没有问题

注意:在win10操作系统上,winutils.exe采用/srccodes/hadoop-common-2.2.0-bin 下载的文件,大小40K;

hadoop.dll采用/rucyang/hadoop.dll-and-winutils.exe-for-hadoop2.7.3-on-windows_X64下载的文件,大小84K。

IDEA免注册码 /qq_24504453/article/details/77407329

========================idea激活=================================

idea激活,JetBrain旗下软件激活

前言

激活流程

1. 下载JetbrainsCrack.jar

2. 修改配置文件

3. 修改Activation Code

4. 后记

5. 参考资料

前言

idea激活有多种方式,网上较多的是使用注册码或者填License server网址,目前(8月19日)使用注册码的方式,亲测可用的只有lanyun提供的注册码,但是会在11月份的时候过期;然后填License server网址的方式,必须在你每次启动前电脑都要联网;所以感觉这两种方式都不太好,而使用破解补丁的方式可以一劳永逸,何乐而不为呢。

PS: JetBrain其他软件激活方法类似,大家参考时,灵活变通。

激活流程

1. 下载JetbrainsCrack.jar

地址:/s/1pLEZKiJ

或者:/

在这个网站的:破解补丁无需使用注册码,这一项里;

PS: 因为感觉这里提供的jar包会更新,所以也贴上了

2. 修改配置文件

进入自己安装idea路径的bin目录下,(不知道自己安装在哪儿的同学,请右击桌面的idea图标,选择属性,在目标这个地方就可以找到了),将刚刚下载好的JetbrainsCrack.jar复制到此目录下;

还是在bin目录下,找到idea.exe.vmoptions和idea64.exe.vmoptions,用记事本打开它们,在两个文件最后分别加上(注意:按照自己的目录和下载的JetbrainsCrack稍作修改,不要盲目复制):

-javaagent:D:\Develop\IntelliJ IDEA 15.0.6\bin\JetbrainsCrack-2.6.2.jar

3. 修改Activation Code

重启idea,进入Register(在Help中有,或者进入项目之前选择工程的界面也有)

选择Activation Code,粘贴如下代码,记得修改下面的用户名部分和邮箱部分:

ThisCrackLicenseId-{

"licenseId":"ThisCrackLicenseId",

"licenseeName":"andy",

"assigneeName":"",

"assigneeEmail":"402097323@",

"licenseRestriction":"For This Crack, Only Test! Please support genuine!!!",

"checkConcurrentUse":false,

"products":[

{"code":"II","paidUpTo":"2099-12-31"},

{"code":"DM","paidUpTo":"2099-12-31"},

{"code":"AC","paidUpTo":"2099-12-31"},

{"code":"RS0","paidUpTo":"2099-12-31"},

{"code":"WS","paidUpTo":"2099-12-31"},

{"code":"DPN","paidUpTo":"2099-12-31"},

{"code":"RC","paidUpTo":"2099-12-31"},

{"code":"PS","paidUpTo":"2099-12-31"},

{"code":"DC","paidUpTo":"2099-12-31"},

{"code":"RM","paidUpTo":"2099-12-31"},

{"code":"CL","paidUpTo":"2099-12-31"},

{"code":"PC","paidUpTo":"2099-12-31"}

],

"hash":"2911276/0",

"gracePeriodDays":7,

"autoProlongated":false}

4. 后记

按照如上步骤执行完后就激活成功了,亲测可用

我使用的是jar包是: JetbrainsCrack-2.6.2.jar,idea版本是: 15.0.6; 貌似不修改activation Code也是到2099年过期,但是我还是改了,哈哈。

据说这个方法除了可以激活idea以外,还可以激活JetBrains旗下的很多产品,例如:WebStorms啊什么的,有需要的大家可以试试。

现在查出来的资料太多太多都是让填注册码或者License server网址;博主感觉使用破解补丁的方法比较好,于是记录下来,推荐给大家。

5. 参考资料

/superman158/blog/602375

/p/4927686353

==========================================================

IDEA .1.2激活方式/niceyoo/p/12132052.html

IDEA常用快捷键梳理

查询快捷键

CTRL+N 查找类

CTRL+SHIFT+N 查找文件

CTRL+SHIFT+ALT+N 查 找类中的方法或变量

CIRL+B 找变量的来源

CTRL+ALT+B 找所有的子类

CTRL+SHIFT+B 找变量的 类

CTRL+G 定位行

CTRL+F 在当前窗口查找文本

CTRL+SHIFT+F 在指定窗口查找文本

CTRL+R 在 当前窗口替换文本

CTRL+SHIFT+R 在指定窗口替换文本

ALT+SHIFT+C 查找修改的文件

CTRL+E 最 近打开的文件

F3 向下查找关键字出现位置

SHIFT+F3 向上一个关键字出现位置

F4 查找变量来源

CTRL+ALT+F7 选 中的字符 查找工程出现的地方

CTRL+SHIFT+O 弹出显示查找内容

SVN 管理

把SVN库添加到IDEA中 SETTING -> VERSION CONTROL -> VCS = SVBVERSION

自动代码

ALT+回车 导入包,自动修正

CTRL+ALT+L 格式化代码

CTRL+ALT+I 自 动缩进

CTRL+ALT+O 优化导入的类和包

ALT+INSERT 生成代码(如GET,SET方法,构造函数等)

CTRL+E 或者ALT+SHIFT+C 最近更改的代码

CTRL+SHIFT+SPACE 自动补全代码

CTRL+空格 代码提示

CTRL+ALT+SPACE 类 名或接口名提示

CTRL+P 方法参数提示

CTRL+J 自动代码

CTRL+ALT+T 把选中的代码放在 TRY{} IF{} ELSE{} 里

复制快捷方式

F5 拷贝文件快捷方式

CTRL+D 复制行

CTRL+X 剪 切,删除行

CTRL+SHIFT+V 可以复制多个文本

高亮

CTRL+F 选中的文字,高亮显示 上下跳到下一个或者上一个

F2 或SHIFT+F2 高亮错误或警告快速定位

CTRL+SHIFT+F7 高亮显示多个关键字.

其他快捷方式

CIRL+U 大小写切换

CTRL+Z 倒退

CTRL+SHIFT+Z 向 前

CTRL+ALT+F12 资源管理器打开文件夹

ALT+F1 查找文件所在目录位置

SHIFT+ALT+INSERT 竖 编辑模式

CTRL+/ 注释//

CTRL+SHIFT+/ 注释/*...*/

CTRL+W 选中代码,连续按会 有其他效果

CTRL+B 快速打开光标处的类或方法

ALT+ ←/→ 切换代码视图

CTRL+ALT ←/→ 返回上次编辑的位置

ALT+ ↑/↓ 在方法间快速移动定位

SHIFT+F6 重构-重命名

CTRL+H 显 示类结构图

CTRL+Q 显示注释文档

ALT+1 快速打开或隐藏工程面板

CTRL+SHIFT+UP/DOWN 代码 向上/下移动。

CTRL+UP/DOWN 光标跳转到第一行或最后一行下

ESC 光标返回编辑框

SHIFT+ESC 光 标返回编辑框,关闭无用的窗口

F1 帮助 千万别按,很卡!

CTRL+F4 非常重要 下班都用

一.找文件找代码找引用相关

1.双击shift

在项目的所有目录查找,就是你想看到你不想看到的和你没想过你能看到的都给你找出来

2.ctrl+f

当前文件查找特定内容

3.ctrl+shift+f

当前项目查找包含特定内容的文件

4.ctrl+n

查找类

5.ctrl+shift+n

查找文件

6.ctrl+e

最近的文件

7.alt+F7

非常非常频繁使用的一个快捷键,可以帮你找到你的函数或者变量或者类的所有引用到的地方

二.编辑相关

1.shift+enter

另起一行

2.ctrl+r

当前文件替换特定内容

3.ctrl+shift+r

当前项目替换特定内容

4.shift+F6

非常非常省心省力的一个快捷键,可以重命名你的类、方法、变量等等,而且这个重命名甚至可以选择替换掉注释中的内容

5.ctrl+d

复制当前行到下一行

6.ctrl+x

剪切当前行

7.ctrl+c \ ctrl+v

大家都懂的

8.ctrl+z

撤销

9.ctrl+shift+z

取消撤销

10.ctrl+k

提交代码到SVN

11.ctrl+t

更新代码

12.alt+insert

非常非常以及相当方便的一个组合键,不信您往下看

在类中使用:可以自动生成构造器、getter/setter等等常用方法

在项目目录上使用:可用于新建各种文件

PS:黄色警告编译可以通过,不影响程序的正常运行,一般都是一些对于代码优化的建议,我遇到过的有:

(1).can be simplify

代码可以简化

(2).Variable is never use

声明的变量从未被使用

(3)unnecessary boxing

不必要的声明包装

写个类实现某个接口,加上 implements Runnable 后你就会发现这条红色的波浪线

14.ctrl+alt+L

自动格式化代码,我已经养成了写完代码就来一发的习惯。

本内容不代表本网观点和政治立场,如有侵犯你的权益请联系我们处理。
网友评论
网友评论仅供其表达个人看法,并不表明网站立场。