1 python3.x编码解码unicode字符串
python的ASCII码范围为[0,127]，非ASCII码范围大于127.
通过str.encode(encoding)和bytes(str,encoding)根据编码名将字符串编码为原始字节。
通过bytes.decode(encoding)和str(bytes,encoding)根据编码名将原始字节解码为字符串。
gbk编码中，1个汉字表示2个字节，utf-8编码中，1个汉字表示3个字节。
1个字节用2位16进制表示。编码和解码必须送编码名encoding。
'\xNN'为两个十六进制，表示1个字节，
'\uNNNN'为unicode转义，表示四个十六进制位，编码1个2字节(16位)字符码，
'\UNNNNNNNN'为unicode转义，表示八个十六进制位，编码1个4字节(32位)字符码，
2个16进制对应1个字节。
注意，2字节用小u(\u)，4字节用大U(\U)。
1.1 编码ASCII文本
ASCII文本编码是一种Unicode，存储为表示字符的字节值的一个序列。
ASCII码范围0-127.通过编码后，在字符前加b或B，打印值和字符相同。
python
>>> ord('a')
97
>>> chr(97)
'a'
>>> s='abc'
>>> s
'abc'
>>> len(s)
3
>>> [ord(c) for c in s]
[97, 98, 99]
>>> s.encode('ascii')
b'abc'
>>> s.encode('gbk')
b'abc'
>>> s.encode('utf-8')
b'abc'
>>> b_asc=s.encode('ascii')
>>> b_gbk=s.encode('gbk')
>>> b_utf8=s.encode('utf-8')
>>> list(map(list,(b_asc,b_gbk,b_utf8)))
[[97, 98, 99], [97, 98, 99], [97, 98, 99]]1.2 编码非ASCII文本
编码非ASCII字符(编码值大于127)，需用十六进制或Unicode转义。
十六进制转义用于单字节，Unicode用于两个或四个字节。
示例
python
>>> a,b=0xa5,0xa9
>>> a,b
(165, 169)
>>> hex(a),hex(b)
('0xa5', '0xa9')
>>> chr(a),chr(b)
('¥', '©')
# \xNN 十六进制单字节格式
>>> s1='\xa5\xa9'
# \uNNNN Unicode 双字节格式
>>> s2='\u00a5\u00a9'
>>> s1,s2
('¥©', '¥©')
>>> len(s1),len(s2)
(2, 2)
# \UNNNNNNNN Unicode 四字节格式
>>> s3='\U000000a5'
>>> s3
'¥'1.3 编码和解码非ASCII文本
描述
| # | 项目 | 描述 |
|---|---|---|
| 1 | \xNN | 2位16进制，表示单字节，用\x转义，表示ASCII文本的unicode |
| 2 | \uNNNN | 4位16进制，表示双字节，用\u转义，表示非ASCII文本的unicode |
| 3 | \UNNNNNNNN | 8位16进制，表示四字节，用\U转义，表示非ASCII文本的unicode |
| 4 | 单字节 | 1个字节2位16进制 |
| 5 | ASCII编码 | 范围[0-127] |
| 6 | 非ASCII编码 | 范围大于127 |
| 7 | gbk编码 | 1个汉字2个字节，1个字节2位16进制 |
| 8 | utf-8编码 | 1个汉字3个字节，1个字节2位16进制 |
| 9 | unicode文本 | python3.x的字符串str为unicode文本 |
| 10 | ord© | 获取字符c的unicode编码，为整数 |
| 11 | hex(i) | 获取整数i的16进制 |
| 12 | hex(ord©) | 获取字符c的unicode编码的16进制，用\u转义 |
| 13 | str.encode(encoding) | 根据编码名encoding将字符串str编码为原始字节，返回bytes类型数据，b或B开头 |
| 14 | bytes.decode(encoding) | 根据编码名encoding将原始字节解码为字符串，返回str类型数据 |
| 15 | bytes(str,encoding) | 根据编码名encoding将字符串str编码为原始字节，返回bytes类型数据，b或B开头 |
| 16 | str(bytes,encoding) | 根据编码名encoding将原始字节解码为字符串，返回str类型数据 |
示例
python
>>> c1,c2='梯','阅'
# \xNN 16进制单字节, \uNNNN 16进制双字节 , \UNNNNNNNN 16进制四字节
>>> c1_hexstr,c2_hexstr=hex(ord(c1)),hex(ord(c2))
# ord(c)获取c的unicode值，通过hex(i)获取unicode值的16进制
>>> c1_hexstr,c2_hexstr
('0x68af', '0x9605')
# \uNNNN 四位16进制表示的2个字节，1个汉字为2个字节的unicode
# 每个字节的unicode 用\u 转义 原始字节
>>> c1c2='\u68af\u9605'
>>> c1c2
'梯阅'
>>> len(c1c2)
2
# ASCII 范围为[0,127]
>>> c1c2.encode('ascii')
Traceback (most recent call last):
File "<pyshell#82>", line 1, in <module>
c1c2.encode('ascii')
UnicodeEncodeError: 'ascii' codec can't encode characters in position 0-1: ordinal not in range(128)
# 通过 编码名 gbk 的码表编码， 1个 汉字为2个字节 ，1个字节为2位16进制
# str.encode(encoding) 根据编码名 将字符串编码为原始字节
>>> c1c2.encode('gbk')
b'\xcc\xdd\xd4\xc4'
>>> '梯阅'.encode('gbk')
b'\xcc\xdd\xd4\xc4'
# 通过 编码名 utf-8 的码表编码，1个 汉字为 3个字节，1个字节为2位16进制
>>> c1c2.encode('utf-8')
b'\xe6\xa2\xaf\xe9\x98\x85'
>>> type(c1c2.encode('utf-8'))
<class 'bytes'>
>>> bytes(c1c2,encoding='utf-8')
b'\xe6\xa2\xaf\xe9\x98\x85'
>>> gbk_c1c2_raw=b'\xcc\xdd\xd4\xc4'
>>> utf8_c1c2_raw=b'\xe6\xa2\xaf\xe9\x98\x85'
>>> len(gbk_c1c2_raw),len(utf8_c1c2_raw)
(4, 6)
# bytes.decode(encoding) 根据编码名 将原始字节解码为字符串
>>> gbk_c1c2_dcd=gbk_c1c2_raw.decode('gbk')
>>> utf8_c1c2_dcd=utf8_c1c2_raw.decode('utf-8')
>>> gbk_c1c2_dcd,utf8_c1c2_dcd
('梯阅', '梯阅')
>>> str(gbk_c1c2_raw,encoding='gbk')
'梯阅'
>>> len(gbk_c1c2_dcd),len(utf8_c1c2_dcd)
(2, 2)