python-module-str-bytes

Python3 bytes和str的不同

Python3 最重要的新特性之一是对字符串和二进制数据流做了明确区分。文本总是Unicode,由str类型表示,二进制数据则由bytes类型表示。Python3 不会以任意隐式的方式混用str和bytes,你不能拼接字符串和字节流,也无法在字节流里搜索字符串(反之亦然),也不能将字符串传入参数为字节流的函数(反之亦然)。

bytes.decode(encoding="utf-8", errors="strict")
Return a string decoded from the given bytes. Default encoding is 'utf-8'. errors may be given to set a different error handling scheme. The default for errors is 'strict', meaning that encoding errors raise a UnicodeError. Other possible values are 'ignore', 'replace' and any other name registered via codecs.register_error(), see section Error Handlers. For a list of possible encodings, see section Standard Encodings.

返回从给定字节解码的字符串。 默认编码为’utf-8’。 可以给出错误以设置不同的错误处理方案。 错误的默认值是’strict’,这意味着编码错误会引发UnicodeError。 其他可能的值是’ignore’,’replace’以及通过codecs.register_error()注册的任何其他名称,请参阅错误处理程序部分。 有关可能的编码列表,请参阅标准编码部分。

str.encode(encoding="utf-8", errors="strict")
Return an encoded version of the string as a bytes object. Default encoding is 'utf-8'. errors may be given to set a different error handling scheme. The default for errors is 'strict', meaning that encoding errors raise a UnicodeError. Other possible values are 'ignore', 'replace', 'xmlcharrefreplace', 'backslashreplace' and any other name registered via codecs.register_error(), see section Error Handlers. For a list of possible encodings, see section Standard Encodings.
522/5000

将字符串的编码版本作为字节对象返回。 默认编码为’utf-8’。 可以给出错误以设置不同的错误处理方案。 错误的默认值是’strict’,这意味着编码错误会引发UnicodeError。 其他可能的值是’ignore’,’replace’,’xmlcharrefreplace’,’backslashreplace’以及通过codecs.register_error()注册的任何其他名称,请参阅错误处理程序部分。 有关可能的编码列表,请参阅标准编码部分。

下面谈谈编码发展的历史:
在谈bytes和str之前,需要先说说关于编码是如何发展的。
在计算机历史的早期,美国为代表的英语系国家主导了整个计算机行业,26个英文字母组成了多样的英文单词、语句、文章。因此,最早的字符编码规范ASCII码,一种8位即1个字节的编码规范,它可以涵盖整个英语系的编码需要。

编码是什么? 编码就是把一个字符用一个二进制表示。我们都知道,所有的东西,不管是英文、中文还是符号等等,最终存储在磁盘上都是01010101这类,在计算机内部,读取和存储数据归根结底,处理的都是0 1 组成的比特流,问题来了,低智商的人类是看不懂这些比特流的,如何让这些0101011对人类变的可读呢?于是出现了字符编码,它就是个翻译官,在计算机内部某个地方,透明的帮我把这些比特流翻译成人类可以直接理解的文字,对于一般用户,不需要知道这个过程是什么原理,是怎么执行的,但是对于程序员却是必须搞清楚搞明白的大问题。

以ASCII编码为例,它规定1个字节8个比特位代表1个字符的编码,也就是“00000000”这个宽度,一个一个字节的解读。例如01000001表示大写字母A,有时我们会“偷懒”用十进制的65来表示A在ASCII中的编码。8个比特位,可以没有重复的最多表示2的8次方(255)个字符。

后来,计算机得到了普及,中文、法文、韩文、日文等国家的文字需要在计算机上显示,ASCII的255位已经远远不够了,于是标准组织定出了叫做UNICODE的万国码,它规定任何一个字符(不管哪个国的)至少用2个字节来表示,两个字节就是16位的比特位了,那用来表示上面的A就要00000000 01000001这时高8位都是0,相当于多占用地方了,有没有无所谓,但是有的话,就要多分配内存或磁盘空间了,UNICODE中,英文字母就是用了2个字节,而汉字是3个字节,这个编码虽然可以表示更多国家的文字了,满足了所有人的需求,但是它不兼容ASCII,同时就会占用较多的磁盘空间和内存空间。英文国家中明明可以一个字节8个比特位表示所有的文字的,干嘛非要用2个字节呢?

于是UTF-8编码应运而生,它规定英文母语系的用1个字节表示,汉字用3个字节表示等等其它国家的,因此,它兼容ASCII,可以解码早期的文档,UTF-8很快就得到了广泛的应用。

在编码的发展历程中,我国创造了自己的编码方式,例如GBK,GB2312,BIG5。他们只局限于在国内使用。在GBK编码中,中文汉字占用2个字节。

bytes和str之间的异同

回到bytesstr的身上。bytes是一种比特流,它的存在形式是01010001110这种。我们无论是在写代码,还是阅读文章的过程中,肯定不会有人直接阅读这种比特流,它必须有一个编码方式,使得它变成有意义的比特流,而不是一堆晦涩难懂的01组合。因为编码方式的不同,对这个比特流的解读也会不同,对实际使用造成了很大的困扰。下面让我们看看Python是如何处理这一系列编码问题的:

root@localhost:~# python3.5
Python 3.5.2 (default, Nov 23 2017, 16:37:01) 
[GCC 5.4.0 20160609] on linux
Type "help", "copyright", "credits" or "license" for more information.
>>> s = "中国"
>>> s
'中国'
>>> type(s)
<class 'str'>
>>> b = bytes(s, encoding='utf-8')
>>> b
b'\xe4\xb8\xad\xe5\x9b\xbd'
>>> type(b)
<class 'bytes'>
>>> b
b'\xe4\xb8\xad\xe5\x9b\xbd'
>>> type(b)
<class 'bytes'>
>>> s1 = str(b)
>>> s1
"b'\\xe4\\xb8\\xad\\xe5\\x9b\\xbd'"
>>> type(s1)
<class 'str'>
>>> s2 = str(b, encoding="utf-8")
>>> s2
'中国'
>>> type(s2)
<class 'str'>

从例子可以看出,s是个字符串类型。Python有个内置函数bytes()可以将字符串str类型转换成bytes类型,b实际上是一串01的组合,但为了在ide环境中让我们相对直观的观察,它被表现成了b'\xe4\xb8\xad\xe6\x96\x87'这种形式,开头的b表示这是一个bytes类型。\xe4是十六进制的表示方式,它占用1个字节的长度,因此”中文“被编码成utf-8后,我们可以数得出一共用了6个字节,每个汉字占用3个,这印证了上面的论述。*在使用内置函数bytes()的时候,必须明确encoding的参数*,不可省略。

我们都知道,*字符串类str里有一个encode()方法,它是从字符串向比特流的编码过程。而bytes类型恰好有个decode()方法,它是从比特流向字符串解码的过程。****除***此之外,我们查看Python源码会发现bytesstr拥有几乎一模一样的方法列表,最大的区别就是encodedecode

从实质上来说,字符串在磁盘上的保存形式也是01的组合,也需要编码解码。

如果,上面的阐述还不能让你搞清楚两者的区别,那么记住下面两几句话:

  1. 在将字符串存入磁盘和从磁盘读取字符串的过程中,Python自动地帮你完成了编码和解码的工作,你不需要关心它的过程。
  2. 使用bytes类型,实质上是告诉Python,不需要它帮你自动地完成编码和解码的工作,而是用户自己手动进行,并指定编码格式。
  3. Python已经严格区分了bytesstr两种数据类型,你不能在需要bytes类型参数的时候使用str参数,反之亦然。这点在读写磁盘文件时容易碰到。

在bytes和str的互相转换过程中,实际就是编码解码的过程,必须显式地指定编码格式。

root@localhost:~# python3.5
Python 3.5.2 (default, Nov 23 2017, 16:37:01) 
[GCC 5.4.0 20160609] on linux
Type "help", "copyright", "credits" or "license" for more information.
>>> s = "中国"
>>> s
'中国'
>>> type(s)
<class 'str'>
>>> b = bytes(s, encoding='utf-8')
>>> b
b'\xe4\xb8\xad\xe5\x9b\xbd'
>>> type(b)
<class 'bytes'>
>>> b
b'\xe4\xb8\xad\xe5\x9b\xbd'
>>> type(b)
<class 'bytes'>
>>> s1 = str(b)
>>> s1
"b'\\xe4\\xb8\\xad\\xe5\\x9b\\xbd'"
>>> type(s1)
<class 'str'>
>>> s1 = str(b, encoding='utf-8')
>>> s1
'中国'

这里在把字符串s1,转换为gbk编码的bytes类型:

>>> s1 = str(b, encoding='utf-8')
>>> s1
'中国'
>>> s1
'中国'
>>> type(s1)
<class 'str'>
>>> b = bytes(s1, encoding='gbk')
>>> b
b'\xd6\xd0\xb9\xfa'

编码可以将抽象字符串以二进制数据的形式表示,有很多编码方法,如utf-8、gbk等,可以使用encode()函数对字符串进行编码,转换成二进制字节数据,也可用decode()函数将字节解码成字符串;用decode()函数解码,可不要用指定编码格式;

# a:按照utf-8的方式编码,转成bytes;以及解码成字符串
>aa = "I LOVE YOU"
>type(aa)
<class 'str'>
>bb = aa.encode(encoding='utf-8')
>type(bb)
<class 'bytes'>
>bb
b'I LOVE YOU'
>
>
>b
b'\xd6\xd0\xb9\xfa'
>bb
b'I LOVE YOU'
>cc = bb.decode(encoding='utf-8')
>type(cc)
<class 'str'>
>cc
'I LOVE YOU'


# b: 安装gbk的方式编码,转成bytes;以及编码成字符串
> aa
'I LOVE YOU'
> xx = aa.encode(encoding="gbk")
> type(xx)
<class 'bytes'>
> xx
b'I LOVE YOU'
> yy = xx.decode()
> type(yy)
<class 'str'>
> yy
'I LOVE YOU'

文章作者: 阿培
版权声明: 本博客所有文章除特別声明外,均采用 CC BY 4.0 许可协议。转载请注明来源 阿培 !
 上一篇
mysql入门 mysql入门
SQL概述SQL,一般发音为sequel,SQL的全称Structured Query Language),SQL用来和数据库打交道,完成和数据库的通信,SQL是一套标准。但是每一个数据库都有自己的特性别的数据库没有,当使用这个数据库特性相
2019-06-21
下一篇 
python-TCP-UDP python-TCP-UDP
Socket通讯及其TCP/IP原语Socket通讯Socket提供了一个通信端口,应用程序在网络上传输/接收的信息都通过Socket接口来实现的。在应用开发中可以像使用文件句柄一样来对Socket句柄进行读写操作。Windows Sock
2019-05-18
  目录