Python之encode与decode浅析
在 python 源代码文件中,如果你有用到非ASCII字符,则需要在文件头部进行字符编码的声明,声明如下:
-
# code: UTF-8
因为python 只检查 #、coding 和编码字符串,为了美观等原因可以如下写法:
-
#-*-coding:utf-8-*-
常见编码介绍:
GB2312编码:适用于汉字处理、汉字通信等系统之间的信息交换。
GBK编码:是汉字编码标准之一,是在 GB2312-80 标准基础上的内码扩展规范,使用了双字节编码。
ASCII编码:是对英语字符和二进制之间的关系做的统一规定。
Unicode编码:这是一种世界上所有字符的编码。当然了它没有规定的存储方式。
UTF-8编码:是 Unicode Transformation Format - 8 bit 的缩写, UTF-8 是 Unicode 的一种实现方式。它是可变长的编码方式,可以使用 1~4 个字节表示一个字符,可根据不同的符号而变化字节长度。
本文在这里主要讨论一个报错问题:报错“UnicodeEncodeError:'ascii' codec can't encode characters in position 0-1: ordinal notin range(128)”?
(1)什么是Unicode编码
字符串在python内部的表示是unicode编码,因此,在做编码转换时,通常需要以unicode作为中间编码,即先将其他编码的字符串解码(decode)成unicode,再从unicode编码(encode)成另一种编码。
(2)decode与encode的作用
decode的作用是将其他编码的字符串转换成unicode编码,如str1.decode('gb2312'),表示将gb2312编码的字符串str1转换成unicode编码。
encode的作用是将unicode编码转换成其他编码的字符串,如str2.encode('gb2312'),表示将unicode编码的字符串str2转换成gb2312编码。
因此,转码的时候一定要先搞明白,字符串str是什么编码,然后decode成unicode,然后再encode成其他编码!
注:代码中字符串的默认编码与代码文件本身的编码一致。
(3)举例说明
第一种情况:s='中文'
如果是在utf8的文件中,该字符串就是utf8编码,如果是在gb2312的文件中,则其编码为gb2312。这种情况下,要进行编码转换,都需要先用decode方法将其转换成unicode编码,再使用encode方法将其转换成其他编码。通常,在没有指定特定的编码方式时,都是使用的系统默认编码创建的代码文件。
第二种情况:s=u'中文'
则该字符串的编码就被指定为unicode了,即python的内部编码,而与代码文件本身的编码无关。因此,对于这种情况做编码转换,只需要直接使用encode方法将其转换成指定编码即可。
注:【1】如果一个字符串已经是unicode了,再进行解码则将出错!
【2】用非unicode编码形式的str来encode会报错。
(4)扩展
#-*-coding:utf-8-*-
s='中文'
print type(s) #查看s的字符类型
print s
s.decode('utf-8') #解码utf8,默认的编码方式是unicode
s.decode('gbk',"ignore") #解码utf8,忽略其中有异常的编码,仅显示有效的编码
s.decode('gbk',"replace") #替换其中异常的编码
print type(s)
print s
s.encode('gb2312') #编码为gb2312
print type(s)
print s
注:
另外对于一些包含特殊字符的编码,直接解码可能会报错,可以使用对于的参数来设置。如:
s.decode(“utf-8”, “ignore”) 忽略其中有异常的编码,仅显示有效的编码
s.decode(“utf-8”, “replace”) 替换其中异常的编码,这个相对来可能一眼就知道那些字符编码出问题了。