E-MapReduce在Pyspark中如何指定python 3的版本
E-MapReduce中的PySpark默认为Python 2版本,以EMR-3.35版本为例,介绍如何指定PySpark使用Python 3版本。
可以通过以下两种方式修改Python的版本:
● 临时生效方式
a. 通过SSH方式登录集群,详情请参见登录集群。
b. 执行以下命令,修改Python的版本。export PYSPARK_PYTHON=/usr/bin/python3
c. 执行以下命令,查看Python的版本。pyspark当返回信息中包含如下信息时,表示已修改Python版本为Python 3。Using Python version 3.6.8 (default, Apr 20 2020 14:49:33)
详情请参考:如何指定PySpark使用Python 3版本?
版权声明:本文内容由阿里云实名注册用户自发贡献,版权归原作者所有,阿里云开发者社区不拥有其著作权,亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容,填写侵权投诉表单进行举报,一经查实,本社区将立刻删除涉嫌侵权内容。