「python」ghost 编码问题

简介: 编码问题总结

ghost

参考

Alex-金角大王在知乎上关于python编码的回答,链接:https://www.zhihu.com/question/31833164/answer/381137073

这一篇总结的标题之所以是「ghost」鬼魂,是因为这个问题就像「ghost」一样,随时会出现在我的代码,我的程序中,时不时会冒出来,然后需要解决。

UnicodeDecodeError: 'utf-8' codec can't decode byte 0xff in position 0: invalid start byte
UnicodeDecodeError: 'gbk' codec can't decode byte 0x80 in position 205: illegal multibyte sequence"

首先编码有很多种例如:

  • ASCII 占1个字节,只支持英文
  • GB2312 占2个字节,支持6700+汉字
  • GBK GB2312的升级版,支持21000+汉字
  • Shift-JIS 日本字符
  • ks_c_5601-1987 韩国编码
  • TIS-620 泰国编码

虽然每个国家都有自己的编码,但是这种编码会有局限性!!!!就是无法对应其他国家的字符。

Unicode编码出现,Unicode 2-4字节 已经收录136690个字符,并还在一直不断扩张中...

Unicode 起到了2个作用:

  • 直接支持全球所有语言,每个国家都可以不用再使用自己之前的旧编码了,用unicode就可以了。(就跟英语是全球统一语言一样)
  • unicode包含了跟全球所有国家编码的映射关系(这个很关键,就如unicode 知道gbk 编码是0100101010对应unicode 里面的啥编码)

虽然Unicode解决了字符和二进制的对应关系,但是使用unicode表示一个字符,太浪费空间!!!!例如:利用unicode表示“Python”需要12个字节才能表示,比原来ASCII表示增加了1倍。

为了解决存储和网络传输的问题,出现了Unicode Transformation Format,学术名UTF,即:对unicode中的进行转换,以便于在存储和网络传输时可以节省空间!

UTF-8: 使用1、2、3、4个字节表示所有字符;优先使用1个字符、无法满足则使增加一个字节,最多4个字节。英文占1个字节、欧洲语系占2个、东亚占3个,其它及特殊字符占4个
UTF-16: 使用2、4个字节表示所有字符;优先使用2个字节,否则使用4个字节表示。
UTF-32: 使用4个字节表示所有字符;

总结:UTF 是为unicode编码 设计 的一种 在存储 和传输时节省空间的编码方案。

字符在硬盘上的存储

无论以什么编码在内存里显示字符,存到硬盘上都是2进制。

ascii编码(美国):
    l   0b1101100
    o   0b1101111
    v   0b1110110
    e   0b1100101
GBK编码(中国):
    老   0b11000000 0b11001111
    男   0b11000100 0b11010000
    孩   0b10111010 0b10100010

Shift_JIS编码(日本):
    私   0b10001110 0b10000100
    は   0b10000010 0b11001101

ks_c_5601-1987编码(韩国):
    나   0b10110011 0b10101010
    는   0b10110100 0b11000010

TIS-620编码(泰国):
    ฉัน  0b10101001 0b11010001 0b10111001
要注意的是,存到硬盘上时是以何种编码存的,再从硬盘上读出来时,就必须以何种编码读

编码的转换

请问:中国的电脑上有一个文件用的GBK 编码,而不是UTF-8,要放在歪果仁的电脑上(没有GBK编码)怎么办?
两个对策:

  • 让歪果仁的电脑上都装上gbk编码
  • 把你的文件编码转成以utf-8编码
    反正这两种办法都很费劲

unicode其中一个功能是其包含了跟全球所有国家编码的映射关系,意思就是,你写的是gbk的“路飞学城”,但是unicode能自动知道它在unicode中的“路飞学城”的编码是什么

Python3的执行过程

python3 执行代码的过程

  • 解释器找到代码文件,把代码字符串按文件头定义的编码加载到内存,转成unicode
  • 把代码字符串按照语法规则进行解释,
  • 所有的变量字符都会以unicode编码声明

UTF-8 --> decode 解码 --> Unicode
Unicode --> encode 编码 --> GBK / UTF-8

  • decode示例
#在python2中
#_*_coding:utf-8_*_
s = '路飞学城'
print s
s2 = s.decode('utf-8')
print s2
print type(s2)

输出:

乱码 
路飞学城
unicode
  • encode 示例
# 在python2中
#_*_coding:utf-8_*_
s = '路飞学城'
print s
s2 = s.decode('utf-8')
s3 = s2.encode('GBK')
print s3
print type(s3)

输出:

乱码 
路飞学城
str

所以

  • utf-8可以 decode 解码成unicode
  • unicode 也可以 encode 编码成 gbk
目录
相关文章
|
7月前
|
存储 Python
Python文件编码概念详解
Python文件编码概念详解
61 1
|
3月前
|
Python
python第三方库-字符串编码工具 chardet 的使用(python3经典编程案例)
这篇文章介绍了如何使用Python的第三方库chardet来检测字符串的编码类型,包括ASCII、GBK、UTF-8和日文编码的检测示例。
148 6
|
3月前
|
Python
Python 中如何指定 open 编码为ANSI
Python 中如何指定 open 编码为ANSI
61 1
|
4月前
|
数据采集 开发工具 Python
海康威视工业相机SDK+Python+PyQt开发数据采集系统(支持软件触发、编码器触发)
该系统基于海康威视工业相机SDK,使用Python与PyQt开发,支持Gige与USB相机设备的搜索及双相机同时显示。系统提供软件触发与编码器触发模式,并可在数据采集过程中实时保存图像。此外,用户可以调节曝光时间和增益,并进行信息输入,这些信息将被保存至配置文件以便下次自动加载。参数调节与实时预览等功能进一步增强了系统的实用性。
257 1
|
4月前
|
开发者 Python
Python编码风格
Python编码风格
29 1
|
4月前
|
JSON 数据库 开发者
FastAPI入门指南:Python开发者必看——从零基础到精通,掌握FastAPI的全栈式Web开发流程,解锁高效编码的秘密!
【8月更文挑战第31天】在当今的Web开发领域,FastAPI迅速成为开发者的热门选择。本指南带领Python开发者快速入门FastAPI,涵盖环境搭建、基础代码、路径参数、请求体处理、数据库操作及异常处理等内容,帮助你轻松掌握这一高效Web框架。通过实践操作,你将学会构建高性能的Web应用,并为后续复杂项目打下坚实基础。
135 0
|
5月前
|
Python
11个提升Python列表编码效率的高级技巧
Python中关于列表的一些很酷的技巧
56 1
|
5月前
|
存储 缓存 Python
python中小数据池和编码
python中小数据池和编码
59 3
|
5月前
|
缓存 Java Unix
python中内存管理等10个编码习惯
【7月更文挑战第3天】本文涵盖了Python编程中的变量管理、模块导入、命令行参数、内存管理和面向对象设计的10个关键概念。
50 0
python中内存管理等10个编码习惯
|
6月前
|
自然语言处理 Python
Python编码问题
Python编码问题是指在处理文本时,由于编码不一致导致程序不能正确处理文本的问题。在Python中,编码问题主要有两种情况:文件编码问题和字符串编码问题。
67 7