python引包module出现No module named XXX,以及爬虫中文乱码问题

简介: python引包module出现No module named XXX,以及爬虫中文乱码问题
搞过其他开发语言的童鞋使用python引包,引用类文件或者方法都会觉得有些别扭吧。反正我是这么觉得的。
比如你有目录文件,结构如下:
d91e347833e8bf9e9c09b8400613d62756ba159c
首先项目下任何目录文件调用文件夹下面的文件,比如调用untils文件夹下面的os_utils.py,必须创建一个文件名为__init__.py的文件,即使是空文件。作用是声明该文件夹可以作为项目的目录使用。
现在 根目录下的文件引用文件夹download下的html_downloader.py文件。正常的情况下使用:
from download import html_downloader
但是 top_data下的spider_start.py 调用文件夹下面的html_downloader.py文件,如果使用:
from download import html_downloader 是不会报错的,但是执行if __name__ == "__main__" 主函数的话会报错: No module named XXX
网上解决该问题的方案很多,但是多少有效果。暂时我使用的方式是:
import os	#引入os
import sys	#引入sys
o_path = os.getcwd()	#获取项目的路径,这个路径是绝对路径,比如你的项目放在D盘根目录下,打印o_path的结果是D:\项目目录
sys.path.append(o_path)  #将该目录添加到该文件夹下,把当前目录当成根目录使用
from download import html_downloader #然后可以跟根目录下的文件一样使用这样的方式引用
但是此时 根目录下的文件比如strat.py文件引用download目录下的html_downloader.py 文件,就要改成下面这种方式:
import download.html_downloader as downloader #不知道是为什么?没弄明白
这样的方式是目前唯一发现的可行的方案。也许有更好的方式,希望大神们在下面指教。
另外 使用 from .. import download.html_downloader的方式也会报错:E0402:Attempted relative import beyond top-level package,平常理解的..和.在python里都是不一样的。引包方式还是Java比较强大和人性化,不过毕竟python是解释型语言,需要更多的说明而不是写更多的代码。
最近在写一些东西用来方便自己,需要用到爬虫。也许你也用的到,也许也会碰到中文乱码问题。网络上的html大多使用utf-8编码,但是国内也有一些使用ISO-8859-1,gb2312,gbk等,遇到这种编码使用bytes(str, encoding=“gbk”) 由于GB18030>GBK>GB2312,转化GBK编码的页面使用gb18030比较可靠一些,在转str(btyes, encoding="utf-8),麻烦而且效果不好,只有小部分页面能够转化成功。
A没有使用转码的效果,B使用bytes和str转码后的效果,C是我这次使用的方法:
77899c4cbbf1ad06d6df42718917d087e77b80ab
上代码:
684328db685927649f230b0654caa0e63746a39e
框框内就是使用的我认为可以通杀任何网站的乱码问题,除非是utf-8和GBK不能编码的网站,有的话加个elif分支即可。
response是响应数据,使用较多就response.content返回二进制格式的数据,写文件用的多,response.text返回html字符串格式,response.encoding = '编码格式',是指定响应数据使用什么编码格式。如果是ISO-8859-1,gb2312,gbk等格式,使用utf-8编码就会出现乱码。如果是utf-8编码格式的html使用gbk来编码也会成乱码,不过补全是乱码,有些能编正确,比如:
5a3f973f8c695b0ffec2ed95cf4013295f9d40f6

目录
相关文章
|
10天前
|
存储 人工智能 运维
【01】做一个精美的打飞机小游戏,浅尝阿里云通义灵码python小游戏开发AI编程-之飞机大战小游戏上手实践-优雅草央千澈-用ai开发小游戏尝试-分享源代码和游戏包
【01】做一个精美的打飞机小游戏,浅尝阿里云通义灵码python小游戏开发AI编程-之飞机大战小游戏上手实践-优雅草央千澈-用ai开发小游戏尝试-分享源代码和游戏包
103 47
【01】做一个精美的打飞机小游戏,浅尝阿里云通义灵码python小游戏开发AI编程-之飞机大战小游戏上手实践-优雅草央千澈-用ai开发小游戏尝试-分享源代码和游戏包
|
7天前
|
人工智能 Python
【02】做一个精美的打飞机小游戏,python开发小游戏-鹰击长空—优雅草央千澈-持续更新-分享源代码和游戏包供游玩-记录完整开发过程-用做好的素材来完善鹰击长空1.0.1版本
【02】做一个精美的打飞机小游戏,python开发小游戏-鹰击长空—优雅草央千澈-持续更新-分享源代码和游戏包供游玩-记录完整开发过程-用做好的素材来完善鹰击长空1.0.1版本
|
2月前
|
开发者 Python
如何在Python中管理模块和包的依赖关系?
在实际开发中,通常会结合多种方法来管理模块和包的依赖关系,以确保项目的顺利进行和可维护性。同时,要及时更新和解决依赖冲突等问题,以保证代码的稳定性和可靠性
72 4
|
2月前
|
测试技术 Python
手动解决Python模块和包依赖冲突的具体步骤是什么?
需要注意的是,手动解决依赖冲突可能需要一定的时间和经验,并且需要谨慎操作,避免引入新的问题。在实际操作中,还可以结合使用其他方法,如虚拟环境等,来更好地管理和解决依赖冲突😉。
|
2月前
|
持续交付 Python
如何在Python中自动解决模块和包的依赖冲突?
完全自动解决所有依赖冲突可能并不总是可行,特别是在复杂的项目中。有时候仍然需要人工干预和判断。自动解决的方法主要是提供辅助和便捷,但不能完全替代人工的分析和决策😉。
|
11天前
|
程序员 Linux Python
python中模板和包的使用
本文介绍了 Python 模块和包的基本概念及使用方法。模块是 Python 程序结构的核心,每个以 `.py` 结尾的源文件都是一个模块,包含可重用的代码。文章详细讲解了模块的导入方式(如 `import` 和 `from...import`),模块的搜索顺序,以及如何创建和发布自己的模块。此外,还介绍了包的概念,包是包含多个模块的特殊目录,并通过 `__init__.py` 文件定义对外提供的模块列表。最后,文章简述了如何使用 `pip` 工具管理第三方模块的安装与卸载。作者:大石头的笔记;来源:稀土掘金。
|
1月前
|
Python 容器
[oeasy]python048_用变量赋值_连等赋值_解包赋值_unpack_assignment _
本文介绍了Python中变量赋值的不同方式,包括使用字面量和另一个变量进行赋值。通过`id()`函数展示了变量在内存中的唯一地址,并探讨了变量、模块、函数及类类型的地址特性。文章还讲解了连等赋值和解包赋值的概念,以及如何查看已声明的变量。最后总结了所有对象(如变量、模块、函数、类)都有其类型且在内存中有唯一的引用地址,构成了Python系统的基石。
32 5
|
2月前
|
Python
Python的模块和包
总之,模块和包是 Python 编程中非常重要的概念,掌握它们可以帮助我们更好地组织和管理代码,提高开发效率和代码质量
55 5
|
2月前
|
数据可视化 Python
如何在Python中解决模块和包的依赖冲突?
解决模块和包的依赖冲突需要综合运用多种方法,并且需要团队成员的共同努力和协作。通过合理的管理和解决冲突,可以提高项目的稳定性和可扩展性
|
3月前
|
Python
python Module使用
【10月更文挑战第14天】 python Module使用
97 35

热门文章

最新文章