admin管理员组文章数量:1564201
实现win10系统下pycharm与ubuntu的对接
- 1.前提说明
- 2.然后标一下我分别在哪一步遇到问题的:
- 3.以下开始详细说明每个步骤的流程
-
- 1.在win10中下载专业版的pycharm
- 2.打开ubuntu,将默认版本设置为python3.5
- 3.安装pyspark
- 4.win10中配置pycharm中的文件,使pycharm目录连接到ubuntu目录
- 5.在pycharm中运行代码,并成功输出结果
- 4.总结
- 5. 后期更新:
1.前提说明
在学习spark过程中,使用到win系统上的pycharm与ubuntu进行对接,这里记录自己所做的实现对接的流程,其实流程很简单,但是我在这个过程中出错很多,搞得心态都要崩了,觉得有必要记录一下,给出同样错的做个参考。
环境:
pycharm专业版
win10
ubuntu16.0
pip3 版本10.0.0
pyspark3.0.2
python默认3.5
需要下载的包放在后面的流程中
先说一下大概流程和问题,最后放详细的过程
-
在win10中下载专业版的pycharm
-
打开ubuntu,将默认版本设置为python3.5
-
安装pyspark
-
win10中配置pycharm中的文件,使pycharm目录连接到ubuntu目录,连接时请提前将ubuntu中的hadoop节点开启:sbin/start-dfs.sh
(是否连接成功的实验:将pycharm中的随便一个py文件在pycharm的terminal中上传到ubuntu的目录下) -
在pycharm中运行代码,并成功输出结果
2.然后标一下我分别在哪一步遇到问题的:
第3步骤,遇到的问题:pyspark下载出错,pip问题
建议: 这是一个需要注意的点,在下载之前得先看一下有没有pip和pip的版本,因为python默认版本是3.x的,所以不要用pip下载,而是使用pip3。其次pip3(pip)版本最好是10.0.0,不要太高太低,否则后面运行代码早晚的报错。
当需要升级pip的时候,就直接指定10.0.0的去升级,如果直接升级到21.0版本的话会报错,导致pip直接用不了,那个报错我现在也没解决,所以后面又费劲儿吧啦的删除pip3,下载了pip10.0.0的包进行手动安装。一般来说只要pip3 ok了,下载pyspark也就没什么问题了。
当pip3也正常之后发现pyspark依然报错,那你看一下报错的最后一行有没有提示‘–user’这个单词,如果有的话,就在下载命令之后加上–user,比如:pip3 install pyspark --user
这个适用于任何报错后出现–user的,都可以命令后加上这个单词再次运行
第4步骤,遇到的问题:连接成功但上传文件报错
建议: 整个连接过程在做之前最好先理好头绪之后一步到位,不要自己都搞不清楚对接目录,弄得一团乱麻,个人觉得后期改起来也费劲儿,这里就是明确两点:
一:你想用pycharm的哪个目录对接ubuntu的哪个目录,俩目录搞清楚。
二:在setting设置时,有一个过程一定记得写为python3.5(这里说就是提醒需要注意,后面会有详细说明)
第5步骤,遇到的问题:代码运行报错
建议: 在这里好不容易都弄完了,但是代码又出错了,这里我找到了一个解决办法放在后面的步骤中,如果没有出错可以直接运行的就可以忽略不看,如果有相同报错的可以看一下希望能有些帮助。
这里还有一个Ubuntu突然断网导致连接中断运行出错的,后面也会详细说一下。
3.以下开始详细说明每个步骤的流程
1.在win10中下载专业版的pycharm
在做实验时,听老师说对接用专业版的可以,社区版本的不太行,但是专业版的又是要付费的,所以我向同学借了专业版的安装包,网盘放在下面,需要自取:
专业版pycharm:https://pan.baidu/s/1p7wX8OshaK9ndU2_FtrXxw
提取码:0nbv
2.打开ubuntu,将默认版本设置为python3.5
1.打开终端先看一下存在的Python版本
2.再查看现在默认的版本(我原本默认的是2.7,会出来Python 2.7.11+)
3.修改默认版本为3.5,打开bashrc文件,添加下面一行代码到文件后面,仔细看一下位置。
alias python
版权声明:本文标题:实现win10系统下pycharm与ubuntu的对接 内容由热心网友自发贡献,该文观点仅代表作者本人, 转载请联系作者并注明出处:https://www.elefans.com/xitong/1727484857a1117100.html, 本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌抄袭侵权/违法违规的内容,一经查实,本站将立刻删除。
发表评论