admin管理员组

文章数量:1564201

实现win10系统下pycharm与ubuntu的对接

  • 1.前提说明
  • 2.然后标一下我分别在哪一步遇到问题的:
  • 3.以下开始详细说明每个步骤的流程
    • 1.在win10中下载专业版的pycharm
    • 2.打开ubuntu,将默认版本设置为python3.5
    • 3.安装pyspark
    • 4.win10中配置pycharm中的文件,使pycharm目录连接到ubuntu目录
    • 5.在pycharm中运行代码,并成功输出结果
  • 4.总结
  • 5. 后期更新:

1.前提说明

在学习spark过程中,使用到win系统上的pycharm与ubuntu进行对接,这里记录自己所做的实现对接的流程,其实流程很简单,但是我在这个过程中出错很多,搞得心态都要崩了,觉得有必要记录一下,给出同样错的做个参考。

环境:
pycharm专业版
win10
ubuntu16.0
pip3 版本10.0.0
pyspark3.0.2
python默认3.5

需要下载的包放在后面的流程中
先说一下大概流程和问题,最后放详细的过程

  1. 在win10中下载专业版的pycharm

  2. 打开ubuntu,将默认版本设置为python3.5

  3. 安装pyspark

  4. win10中配置pycharm中的文件,使pycharm目录连接到ubuntu目录,连接时请提前将ubuntu中的hadoop节点开启:sbin/start-dfs.sh
    (是否连接成功的实验:将pycharm中的随便一个py文件在pycharm的terminal中上传到ubuntu的目录下)

  5. 在pycharm中运行代码,并成功输出结果

2.然后标一下我分别在哪一步遇到问题的:

第3步骤,遇到的问题:pyspark下载出错,pip问题

建议: 这是一个需要注意的点,在下载之前得先看一下有没有pip和pip的版本,因为python默认版本是3.x的,所以不要用pip下载,而是使用pip3。其次pip3(pip)版本最好是10.0.0,不要太高太低,否则后面运行代码早晚的报错。

当需要升级pip的时候,就直接指定10.0.0的去升级,如果直接升级到21.0版本的话会报错,导致pip直接用不了,那个报错我现在也没解决,所以后面又费劲儿吧啦的删除pip3,下载了pip10.0.0的包进行手动安装。一般来说只要pip3 ok了,下载pyspark也就没什么问题了。

当pip3也正常之后发现pyspark依然报错,那你看一下报错的最后一行有没有提示‘–user’这个单词,如果有的话,就在下载命令之后加上–user,比如:pip3 install pyspark --user

这个适用于任何报错后出现–user的,都可以命令后加上这个单词再次运行

第4步骤,遇到的问题:连接成功但上传文件报错

建议: 整个连接过程在做之前最好先理好头绪之后一步到位,不要自己都搞不清楚对接目录,弄得一团乱麻,个人觉得后期改起来也费劲儿,这里就是明确两点:

一:你想用pycharm的哪个目录对接ubuntu的哪个目录,俩目录搞清楚。
二:在setting设置时,有一个过程一定记得写为python3.5(这里说就是提醒需要注意,后面会有详细说明)

第5步骤,遇到的问题:代码运行报错

建议: 在这里好不容易都弄完了,但是代码又出错了,这里我找到了一个解决办法放在后面的步骤中,如果没有出错可以直接运行的就可以忽略不看,如果有相同报错的可以看一下希望能有些帮助。

这里还有一个Ubuntu突然断网导致连接中断运行出错的,后面也会详细说一下。

3.以下开始详细说明每个步骤的流程

1.在win10中下载专业版的pycharm

在做实验时,听老师说对接用专业版的可以,社区版本的不太行,但是专业版的又是要付费的,所以我向同学借了专业版的安装包,网盘放在下面,需要自取:
专业版pycharm:https://pan.baidu/s/1p7wX8OshaK9ndU2_FtrXxw
提取码:0nbv

2.打开ubuntu,将默认版本设置为python3.5

1.打开终端先看一下存在的Python版本
2.再查看现在默认的版本(我原本默认的是2.7,会出来Python 2.7.11+)
3.修改默认版本为3.5,打开bashrc文件,添加下面一行代码到文件后面,仔细看一下位置。

alias python

本文标签: 系统Ubuntupycharm