python 生成器和迭代器有这篇就够了

时间  2019-11-12
标签 python 成器 迭代 有这 够了 栏目 Python 繁體版
原文   原文链接

　　本节主要记录一下列表生成式，生成器和迭代器的知识点html

　　列表生成器

　　首先举个例子python

如今有个需求，看列表 [0，1，2，3，4，5，6，7，8，9]，要求你把列表里面的每一个值加1，你怎么实现呢？算法

方法一（简单）：数组

info = [0, 1, 2, 3, 4, 5, 6, 7, 8, 9]
b = []
# for index,i in enumerate(info):
#     print(i+1)
#     b.append(i+1)
# print(b)
for index,i in enumerate(info):
    info[index] +=1
print(info)

方法二（通常）：数据结构

info = [0, 1, 2, 3, 4, 5, 6, 7, 8, 9]
a = map(lambda x:x+1,info)
print(a)
for i in a:
    print(i)

方法三（高级）：并发

info = [0, 1, 2, 3, 4, 5, 6, 7, 8, 9]
a = [i+1 for i in range(10)]
print(a)

　　生成器

什么是生成器？

　　经过列表生成式，咱们能够直接建立一个列表，可是，受到内存限制，列表容量确定是有限的，并且建立一个包含100万个元素的列表，不只占用很大的存储空间，若是咱们仅仅须要访问前面几个元素，那后面绝大多数元素占用的空间都白白浪费了。app

　　因此，若是列表元素能够按照某种算法推算出来，那咱们是否能够在循环的过程当中不断推算出后续的元素呢？这样就没必要建立完整的list，从而节省大量的空间，在Python中，这种一边循环一边计算的机制，称为生成器：generatorless

　　生成器是一个特殊的程序，能够被用做控制循环的迭代行为，python中生成器是迭代器的一种，使用yield返回值函数，每次调用yield会暂停，而可使用next()函数和send()函数恢复生成器。函数

　　生成器相似于返回值为数组的一个函数，这个函数能够接受参数，能够被调用，可是，不一样于通常的函数会一次性返回包括了全部数值的数组，生成器一次只能产生一个值，这样消耗的内存数量将大大减少，并且容许调用函数能够很快的处理前几个返回值，所以生成器看起来像是一个函数，可是表现得却像是迭代器学习

python中的生成器

　　要建立一个generator，有不少种方法，第一种方法很简单，只有把一个列表生成式的[]中括号改成（）小括号，就建立一个generator

　　举例以下：

#列表生成式
lis = [x*x for x in range(10)]
print(lis)
#生成器
generator_ex = (x*x for x in range(10))
print(generator_ex)

结果：
[0, 1, 4, 9, 16, 25, 36, 49, 64, 81]
<generator object <genexpr> at 0x000002A4CBF9EBA0>

　　那么建立list和generator_ex，的区别是什么呢？从表面看就是[  ]和（）,可是结果却不同，一个打印出来是列表（由于是列表生成式），而第二个打印出来倒是<generator object <genexpr> at 0x000002A4CBF9EBA0>，那么如何打印出来generator_ex的每个元素呢？

　　若是要一个个打印出来，能够经过next（）函数得到generator的下一个返回值：

#生成器
generator_ex = (x*x for x in range(10))
print(next(generator_ex))
print(next(generator_ex))
print(next(generator_ex))
print(next(generator_ex))
print(next(generator_ex))
print(next(generator_ex))
print(next(generator_ex))
print(next(generator_ex))
print(next(generator_ex))
print(next(generator_ex))
print(next(generator_ex))
结果：
0
1
4
9
16
25
36
49
64
81
Traceback (most recent call last):

  File "列表生成式.py", line 42, in <module>

    print(next(generator_ex))

StopIteration

　　你们能够看到，generator保存的是算法，每次调用next(generaotr_ex)就计算出他的下一个元素的值，直到计算出最后一个元素，没有更多的元素时，抛出StopIteration的错误，并且上面这样不断调用是一个很差的习惯，正确的方法是使用for循环，由于generator也是可迭代对象：

#生成器
generator_ex = (x*x for x in range(10))
for i in generator_ex:
    print(i)
    
结果：
0
1
4
9
16
25
36
49
64
81

　　因此咱们建立一个generator后，基本上永远不会调用next()，而是经过for循环来迭代，而且不须要关心StopIteration的错误，generator很是强大，若是推算的算法比较复杂，用相似列表生成式的for循环没法实现的时候，还能够用函数来实现。

好比著名的斐波那契数列，除第一个和第二个数外，任何一个数均可以由前两个相加获得：

1，1，2，3，5，8，12，21，34.....

斐波那契数列用列表生成式写不出来，可是，用函数把它打印出来却很容易：

#fibonacci数列
def fib(max):
    n,a,b =0,0,1
    while n < max:
        a,b =b,a+b
        n = n+1
        print(a)
    return 'done'

a = fib(10)
print(fib(10))

 

　　a,b = b ,a+b  其实至关于 t =a+b ,a =b ,b =t  ，因此没必要写显示写出临时变量t，就能够输出斐波那契数列的前N个数字。上面输出的结果以下：

1
1
2
3
5
8
13
21
34
55
1
1
2
3
5
8
13
21
34
55
done

　　仔细观察，能够看出，fib函数其实是定义了斐波拉契数列的推算规则，能够从第一个元素开始，推算出后续任意的元素，这种逻辑其实很是相似generator。

　　也就是说上面的函数也能够用generator来实现，上面咱们发现，print(b)每次函数运行都要打印，占内存，因此为了避免占内存，咱们也可使用生成器，这里叫yield。以下：

def fib(max):
    n,a,b =0,0,1
    while n < max:
        yield b
        a,b =b,a+b
        n = n+1
    return 'done'

a = fib(10)
print(fib(10))

　　可是返回的再也不是一个值，而是一个生成器，和上面的例子同样，你们能够看一下结果：

<generator object fib at 0x000001C03AC34FC0>

　　那么这样就不占内存了，这里说一下generator和函数的执行流程，函数是顺序执行的，遇到return语句或者最后一行函数语句就返回。而变成generator的函数，在每次调用next()的时候执行，遇到yield语句返回，再次被next（）调用时候从上次的返回yield语句处急需执行，也就是用多少，取多少，不占内存。

def fib(max):
    n,a,b =0,0,1
    while n < max:
        yield b
        a,b =b,a+b
        n = n+1
    return 'done'

a = fib(10)
print(fib(10))
print(a.__next__())
print(a.__next__())
print(a.__next__())
print("能够顺便干其余事情")
print(a.__next__())
print(a.__next__())

结果：
<generator object fib at 0x0000023A21A34FC0>
1
1
2
能够顺便干其余事情
3
5

　　在上面fib的例子，咱们在循环过程当中不断调用yield，就会不断中断。固然要给循环设置一个条件来退出循环，否则就会产生一个无限数列出来。一样的，把函数改为generator后，咱们基本上历来不会用next()来获取下一个返回值，而是直接使用for循环来迭代：

def fib(max):
    n,a,b =0,0,1
    while n < max:
        yield b
        a,b =b,a+b
        n = n+1
    return 'done'
for i in fib(6):
    print(i)
    
结果：
1
1
2
3
5
8

　　可是用for循环调用generator时，发现拿不到generator的return语句的返回值。若是拿不到返回值，那么就会报错，因此为了避免让报错，就要进行异常处理，拿到返回值，若是想要拿到返回值，必须捕获StopIteration错误，返回值包含在StopIteration的value中：

def fib(max):
    n,a,b =0,0,1
    while n < max:
        yield b
        a,b =b,a+b
        n = n+1
    return 'done'
g = fib(6)
while True:
    try:
        x = next(g)
        print('generator: ',x)
    except StopIteration as e:
        print("生成器返回值：",e.value)
        break


结果：
generator:  1
generator:  1
generator:  2
generator:  3
generator:  5
generator:  8
生成器返回值： done

还能够经过yield实如今单线程的状况下实现并发运算的效果

import time
def consumer(name):
    print("%s 准备学习啦!" %name)
    while True:
       lesson = yield

       print("开始[%s]了,[%s]老师来说课了!" %(lesson,name))


def producer(name):
    c = consumer('A')
    c2 = consumer('B')
    c.__next__()
    c2.__next__()
    print("同窗们开始上课 了!")
    for i in range(10):
        time.sleep(1)
        print("到了两个同窗!")
        c.send(i)
        c2.send(i)

结果：
A 准备学习啦!
B 准备学习啦!
同窗们开始上课 了!
到了两个同窗!
开始[0]了,[A]老师来说课了!
开始[0]了,[B]老师来说课了!
到了两个同窗!
开始[1]了,[A]老师来说课了!
开始[1]了,[B]老师来说课了!
到了两个同窗!
开始[2]了,[A]老师来说课了!
开始[2]了,[B]老师来说课了!
到了两个同窗!
开始[3]了,[A]老师来说课了!
开始[3]了,[B]老师来说课了!
到了两个同窗!
开始[4]了,[A]老师来说课了!
开始[4]了,[B]老师来说课了!
到了两个同窗!
开始[5]了,[A]老师来说课了!
开始[5]了,[B]老师来说课了!
到了两个同窗!
开始[6]了,[A]老师来说课了!
开始[6]了,[B]老师来说课了!
到了两个同窗!

　　由上面的例子我么能够发现，python提供了两种基本的方式

   生成器函数：也是用def定义的，利用关键字yield一次性返回一个结果，阻塞，从新开始

   生成器表达式：返回一个对象，这个对象只有在须要的时候才产生结果

——生成器函数

为何叫生成器函数？由于它随着时间的推移生成了一个数值队列。通常的函数在执行完毕以后会返回一个值而后退出，可是生成器函数会自动挂起，而后从新拾起急需执行，他会利用yield关键字关起函数，给调用者返回一个值，同时保留了当前的足够多的状态，可使函数继续执行，生成器和迭代协议是密切相关的，迭代器都有一个__next__()__成员方法，这个方法要么返回迭代的下一项，要买引发异常结束迭代。

# 函数有了yield以后，函数名+（）就变成了生成器
# return在生成器中表明生成器的停止，直接报错
# next的做用是唤醒并继续执行
# send的做用是唤醒并继续执行，发送一个信息到生成器内部
'''生成器'''

def create_counter(n):
    print("create_counter")
    while True:
        yield n
        print("increment n")
        n +=1

gen = create_counter(2)
print(gen)
print(next(gen))
print(next(gen))

结果：
<generator object create_counter at 0x0000023A1694A938>
create_counter
2
increment n
3
Process finished with exit code 0

　　

——生成器表达式

生成器表达式来源于迭代和列表解析的组合，生成器和列表解析相似，可是它使用尖括号而不是方括号

>>> # 列表解析生成列表
>>> [ x ** 3 for x in range(5)]
[0, 1, 8, 27, 64]
>>> 
>>> # 生成器表达式
>>> (x ** 3 for x in range(5))
<generator object <genexpr> at 0x000000000315F678>
>>> # 二者之间转换
>>> list(x ** 3 for x in range(5))
[0, 1, 8, 27, 64]

　　一个迭代既能够被写成生成器函数，也能够被协程生成器表达式，均支持自动和手动迭代。并且这些生成器只支持一个active迭代，也就是说生成器的迭代器就是生成器自己。

迭代器（迭代就是循环）

　　迭代器包含有next方法的实现，在正确的范围内返回期待的数据以及超出范围后可以抛出StopIteration的错误中止迭代。

　　咱们已经知道，能够直接做用于for循环的数据类型有如下几种：

一类是集合数据类型，如list,tuple,dict,set,str等

一类是generator，包括生成器和带yield的generator function

这些能够直接做用于for 循环的对象统称为可迭代对象：Iterable

可使用isinstance()判断一个对象是否为可Iterable对象

>>> from collections import Iterable
>>> isinstance([], Iterable)
True
>>> isinstance({}, Iterable)
True
>>> isinstance('abc', Iterable)
True
>>> isinstance((x for x in range(10)), Iterable)
True
>>> isinstance(100, Iterable)
False

　　而生成器不但能够做用于for循环，还能够被next()函数不断调用并返回下一个值，直到最后抛出StopIteration错误表示没法继续返回下一个值了。

因此这里讲一下迭代器

一个实现了iter方法的对象是可迭代的，一个实现next方法而且是可迭代的对象是迭代器。

能够被next()函数调用并不断返回下一个值的对象称为迭代器：Iterator。

因此一个实现了iter方法和next方法的对象就是迭代器。

可使用isinstance()判断一个对象是不是Iterator对象：

>>> from collections import Iterator
>>> isinstance((x for x in range(10)), Iterator)
True
>>> isinstance([], Iterator)
False
>>> isinstance({}, Iterator)
False
>>> isinstance('abc', Iterator)
False

　　

生成器都是Iterator对象，但list、dict、str虽然是Iterable（可迭代对象），却不是Iterator（迭代器）。

把list、dict、str等Iterable变成Iterator可使用iter()函数：

>>> isinstance(iter([]), Iterator)
True
>>> isinstance(iter('abc'), Iterator)
True

　　

你可能会问，为何list、dict、str等数据类型不是Iterator？

这是由于Python的Iterator对象表示的是一个数据流，Iterator对象能够被next()函数调用并不断返回下一个数据，直到没有数据时抛出StopIteration错误。能够把这个数据流看作是一个有序序列，但咱们却不能提早知道序列的长度，只能不断经过next()函数实现按需计算下一个数据，因此Iterator的计算是惰性的，只有在须要返回下一个数据时它才会计算。

Iterator甚至能够表示一个无限大的数据流，例如全体天然数。而使用list是永远不可能存储全体天然数的。

　　判断下列数据类型是可迭代对象or迭代器

s='hello'
l=[1,2,3,4]
t=(1,2,3)
d={'a':1}
set={1,2,3}
f=open('a.txt')

　　

s='hello'     #字符串是可迭代对象，但不是迭代器
l=[1,2,3,4]     #列表是可迭代对象，但不是迭代器
t=(1,2,3)       #元组是可迭代对象，但不是迭代器
d={'a':1}        #字典是可迭代对象，但不是迭代器
set={1,2,3}     #集合是可迭代对象，但不是迭代器
# *************************************
f=open('test.txt') #文件是可迭代对象，是迭代器

#如何判断是可迭代对象，只有__iter__方法，执行该方法获得的迭代器对象。
# 及可迭代对象经过__iter__转成迭代器对象
from collections import Iterator  #迭代器
from collections import Iterable  #可迭代对象

print(isinstance(s,Iterator))     #判断是否是迭代器
print(isinstance(s,Iterable))       #判断是否是可迭代对象

#把可迭代对象转换为迭代器
print(isinstance(iter(s),Iterator))

　

　注意：文件的判断

f = open('housing.csv')
from collections import Iterator
from collections import Iterable

print(isinstance(f,Iterator))
print(isinstance(f,Iterable))

True
True

　　结论：文件是可迭代对象，也是迭代器

 

小结：

  • 凡是可做用于for循环的对象都是Iterable类型；
  • 凡是可做用于next()函数的对象都是Iterator类型，它们表示一个惰性计算的序列；
  • 集合数据类型如list、dict、str等是Iterable但不是Iterator，不过能够经过iter()函数得到一个Iterator对象。

Python3的for循环本质上就是经过不断调用next()函数实现的，例如：

for x in [1, 2, 3, 4, 5]:
    pass

　实际上彻底等价于

# 首先得到Iterator对象:
it = iter([1, 2, 3, 4, 5])
# 循环:
while True:
    try:
        # 得到下一个值:
        x = next(it)
    except StopIteration:
        # 遇到StopIteration就退出循环
        break

　　

对yield的总结

　　（1）一般的for..in...循环中，in后面是一个数组，这个数组就是一个可迭代对象，相似的还有链表，字符串，文件。他能够是a = [1,2,3]，也能够是a = [x*x for x in range(3)]。

它的缺点也很明显，就是全部数据都在内存里面，若是有海量的数据，将会很是耗内存。

　　（2）生成器是能够迭代的，可是只能够读取它一次。由于用的时候才生成，好比a = (x*x for x in range(3))。!!!!注意这里是小括号而不是方括号。

　　（3）生成器（generator）可以迭代的关键是他有next()方法，工做原理就是经过重复调用next()方法，直到捕获一个异常。

　　（4）带有yield的函数再也不是一个普通的函数，而是一个生成器generator，可用于迭代

　　（5）yield是一个相似return 的关键字，迭代一次遇到yield的时候就返回yield后面或者右面的值。并且下一次迭代的时候，从上一次迭代遇到的yield后面的代码开始执行

　　（6）yield就是return返回的一个值，而且记住这个返回的位置。下一次迭代就从这个位置开始。

　　（7）带有yield的函数不只仅是只用于for循环，并且可用于某个函数的参数，只要这个函数的参数也容许迭代参数。

　　（8）send()和next()的区别就在于send可传递参数给yield表达式，这时候传递的参数就会做为yield表达式的值，而yield的参数是返回给调用者的值，也就是说send能够强行修改上一个yield表达式值。

　　（9）send()和next()都有返回值，他们的返回值是当前迭代遇到的yield的时候，yield后面表达式的值，其实就是当前迭代yield后面的参数。

　　（10）第一次调用时候必须先next（）或send（）,不然会报错，send后之因此为None是由于这时候没有上一个yield，因此也能够认为next（）等同于send(None)

 

补充：itertools库学习

　　库的官网地址：https://docs.python.org/2/library/itertools.html#itertools.permutations

　　（此部分笔记参考博客：https://www.jb51.net/article/123094.htm）

　　迭代器（生成器）在Python中是一种很经常使用也很好用的数据结构，比起列表(list)来讲，迭代器最大的优点就是延迟计算，按需使用，从而提升开发体验和运行效率，以致于在Python 3中map,filter等操做返回的再也不是列表而是迭代器。

　　话虽这么说但你们平时用到的迭代器大概只有range了，而经过iter函数把列表对象转化为迭代器对象又有点画蛇添足，这时候咱们今天的主角itertools就该上场了。

　　itertools中的额函数大多数是返回各类迭代器对象，其中不少函数的做用咱们平时要写不少代码才能达到，而在运行效率上反而更低，毕竟人家是系统库。

1，itertools.accumulate

　　简单来讲就是累加。

from itertools import accumulate

x = accumulate(range(10))
print(list(x))
[0, 1, 3, 6, 10, 15, 21, 28, 36, 45]

　　

2，itertools.permutations

　　产生指定数目元素的全部排列（顺序有关）

from itertools import permutations

x = permutations((1,2,3))
print(list(x))
[(1, 2, 3), (1, 3, 2), (2, 1, 3), (2, 3, 1), (3, 1, 2), (3, 2, 1)]
相关文章
相关标签/搜索
每日一句
    每一个你不满意的现在，都有一个你没有努力的曾经。
本站公众号
   欢迎关注本站公众号,获取更多信息
联系我们 最近搜索 最新文章 沪ICP备13005482号-10 MyBatis教程 SQL 教程 MySQL教程 Java 教程 Thymeleaf 教程 Hibernate教程 Spring教程 Redis教程