Python进阶：全面解读高级特性之切片！

时间 2019-11-22

原文原文链接

导读：切片系列文章连续写了三篇，本文是对它们作的汇总。为何要把序列文章合并呢？在此说明一下，本文毫不是简单地将它们作了合并，主要是修正了一些严重的错误（如自定义序列切片的部分），还对行文结构与章节衔接作了大量改动，如此一来，本文结构的完整性与内容的质量都获得了很好的保证。python

众所周知，咱们能够经过索引值（或称下标）来查找序列类型（如字符串、列表、元组...）中的单个元素，那么，若是要获取一个索引区间的元素该怎么办呢？编程

切片（slice）就是一种截取索引片断的技术，借助切片技术，咱们能够十分灵活地处理序列类型的对象。一般来讲，切片的做用就是截取序列对象，然而，对于非序列对象，咱们是否有办法作到切片操做呢？在使用切片的过程当中，有什么要点值得重视，又有什么底层原理值得关注呢？本文将主要跟你们一块儿来探讨这些内容，但愿我能与你共同窗习进步。数据结构

一、切片的基础用法

列表是 Python 中极为基础且重要的一种数据结构，也是最能发挥切片的用处的一种数据结构，因此在前两节，我将以列表为例介绍切片的一些常见用法。app

首先是切片的书写形式：[i : i+n : m] ；其中，i 是切片的起始索引值，为列表首位时可省略；i+n 是切片的结束位置，为列表末位时可省略；m 能够不提供，默认值是1，不容许为0 ，当m为负数时，列表翻转。注意：这些值均可以大于列表长度，不会报越界。异步

切片的基本含义是：从序列的第i位索引发，向右取到后n位元素为止，按m间隔过滤 。ide

li = [1, 4, 5, 6, 7, 9, 11, 14, 16]

# 如下写法均可以表示整个列表，其中 X >= len(li)
li[0:X] == li[0:] == li[:X] == li[:] 
== li[::] == li[-X:X] == li[-X:]

li[1:5] == [4,5,6,7] # 从1起，取5-1位元素
li[1:5:2] == [4,6] # 从1起，取5-1位元素，按2间隔过滤
li[-1:] == [16] # 取倒数第一个元素
li[-4:-2] == [9, 11] # 从倒数第四起，取-2-(-4)=2位元素
li[:-2] == li[-len(li):-2] 
== [1,4,5,6,7,9,11] # 从头开始，取-2-(-len(li))=7位元素

# 步长为负数时，列表先翻转，再截取
li[::-1] == [16,14,11,9,7,6,5,4,1] # 翻转整个列表
li[::-2] == [16,11,7,5,1] # 翻转整个列表，再按2间隔过滤
li[:-5:-1] == [16,14,11,9] # 翻转整个列表，取-5-(-len(li))=4位元素
li[:-5:-3] == [16,9] # 翻转整个列表，取-5-(-len(li))=4位元素，再按3间隔过滤

# 切片的步长不能够为0
li[::0]  # 报错（ValueError: slice step cannot be zero）

上述的某些例子对于初学者（甚至不少老手）来讲，可能还很差理解，可是它们都离不开切片的基本语法，因此为方便起见，我将它们也纳入基础用法中。函数

对于这些样例，我我的总结出两条经验：源码分析

（1）紧紧记住公式[i : i+n : m] ，当出现缺省值时，经过想象把公式补全；性能

（2）索引为负且步长为正时，按倒数计算索引位置；索引为负且步长为负时，先翻转列表，再按倒数计算索引位置。学习

二、切片的高级用法

通常而言，切片操做的返回结果是一个新的独立的序列（PS：也有例外，参见《Python是否支持复制字符串呢？》）。以列表为例，列表切片后获得的仍是一个列表，占用新的内存地址。

当取出切片的结果时，它是一个独立对象，所以，能够将其用于赋值操做，也能够用于其它传递值的场景。可是，切片只是浅拷贝 ，它拷贝的是原列表中元素的引用，因此，当存在变长对象的元素时，新列表将受制于原列表。

li = [1, 2, 3, 4]
ls = li[::]

li == ls # True
id(li) == id(ls) # False
li.append(li[2:4]) # [1, 2, 3, 4, [3, 4]]
ls.extend(ls[2:4]) # [1, 2, 3, 4, 3, 4]

# 下例等价于判断li长度是否大于8
if(li[8:]):
    print("not empty")
else:
    print("empty")

# 切片列表受制于原列表
lo = [1,[1,1],2,3]
lp = lo[:2] # [1, [1, 1]]
lo[1].append(1) # [1, [1, 1, 1], 2, 3]
lp # [1, [1, 1, 1]]

因为可见，将切片结果取出，它能够做为独立对象使用，可是也要注意，是否取出了变长对象的元素。

切片既能够做为独立对象被“取出”原序列，也能够留在原序列，做为一种占位符使用。

不久前，我介绍了几种拼接字符串的方法（连接见文末），其中三种格式化类的拼接方法（即 %、format()、template）就是使用了占位符的思想。对于列表来讲，使用切片做为占位符，一样可以实现拼接列表的效果。特别须要注意的是，给切片赋值的必须是可迭代对象。

li = [1, 2, 3, 4]

# 在头部拼接
li[:0] = [0] # [0, 1, 2, 3, 4]
# 在末尾拼接
li[len(li):] = [5,7] # [0, 1, 2, 3, 4, 5, 7]
# 在中部拼接
li[6:6] = [6] # [0, 1, 2, 3, 4, 5, 6, 7]

# 给切片赋值的必须是可迭代对象
li[-1:-1] = 6 # （报错，TypeError: can only assign an iterable）
li[:0] = (9,) #  [9, 0, 1, 2, 3, 4, 5, 6, 7]
li[:0] = range(3) #  [0, 1, 2, 9, 0, 1, 2, 3, 4, 5, 6, 7]

上述例子中，若将切片做为独立对象取出，那你会发现它们都是空列表，即 li[:0]==li[len(li):]==li[6:6]==[] ，我将这种占位符称为“纯占位符”，对纯占位符赋值，并不会破坏原有的元素，只会在特定的索引位置中拼接进新的元素。删除纯占位符时，也不会影响列表中的元素。

与“纯占位符”相对应，“非纯占位符”的切片是非空列表，对它进行操做（赋值与删除），将会影响原始列表。若是说纯占位符能够实现列表的拼接，那么，非纯占位符能够实现列表的替换。

li = [1, 2, 3, 4]

# 不一样位置的替换
li[:3] = [7,8,9] # [7, 8, 9, 4]
li[3:] = [5,6,7] # [7, 8, 9, 5, 6, 7]
li[2:4] = ['a','b'] # [7, 8, 'a', 'b', 6, 7]

# 非等长替换
li[2:4] = [1,2,3,4] # [7, 8, 1, 2, 3, 4, 6, 7]
li[2:6] = ['a']  # [7, 8, 'a', 6, 7]

# 删除元素
del li[2:3] # [7, 8, 6, 7]

切片占位符能够带步长，从而实现连续跨越性的替换或删除效果。须要注意的是，这种用法只支持等长替换。

li = [1, 2, 3, 4, 5, 6]

li[::2] = ['a','b','c'] # ['a', 2, 'b', 4, 'c', 6]
li[::2] = [0]*3 # [0, 2, 0, 4, 0, 6]
li[::2] = ['w'] # 报错，attempt to assign sequence of size 1 to extended slice of size 3

del li[::2] # [2, 4, 6]

三、自定义对象实现切片功能

切片是 Python 中最迷人最强大最 Amazing 的语言特性（几乎没有之一），以上两小节虽然介绍了切片的基础用法与高级用法，但这些还不足以充分地展露切片的魅力，因此，在接下来的两章节中，咱们将聚焦于它的更高级用法。

前两节内容都是基于原生的序列类型（如字符串、列表、元组......），那么，咱们是否能够定义本身的序列类型并让它支持切片语法呢？更进一步，咱们是否能够自定义其它对象（如字典）并让它支持切片呢？

3.一、魔术方法：`getitem()`

想要使自定义对象支持切片语法并不难，只须要在定义类的时候给它实现魔术方法 __getitem__() 便可。因此，这里就先介绍一下这个方法。

语法： object.__getitem__(self, key)

官方文档释义：Called to implement evaluation of self[key]. For sequence types, the accepted keys should be integers and slice objects. Note that the special interpretation of negative indexes (if the class wishes to emulate a sequence type) is up to the __getitem__() method. If key is of an inappropriate type, TypeError may be raised; if of a value outside the set of indexes for the sequence (after any special interpretation of negative values), IndexError should be raised. For mapping types, if key is missing (not in the container), KeyError should be raised.

归纳翻译一下：__getitem__() 方法用于返回参数 key 所对应的值，这个 key 能够是整型数值和切片对象，而且支持负数索引；若是 key 不是以上两种类型，就会抛 TypeError；若是索引越界，会抛 IndexError ；若是定义的是映射类型，当 key 参数不是其对象的键值时，则会抛 KeyError 。

3.二、自定义序列实现切片功能

接下来，咱们定义一个简单的 MyList ，并给它加上切片功能。（PS：仅做演示，不保证其它功能的完备性）。

import numbers

class MyList():
    def __init__(self, anylist):
        self.data = anylist
    def __len__(self):
        return len(self.data)
    def __getitem__(self, index):
        print("key is : " + str(index))
        cls = type(self)
        if isinstance(index, slice):
            print("data is : " + str(self.data[index]))
            return cls(self.data[index])
        elif isinstance(index, numbers.Integral):
            return self.data[index]
        else:
            msg = "{cls.__name__} indices must be integers"
            raise TypeError(msg.format(cls=cls))

l = MyList(["My", "name", "is", "Python猫"])

### 输出结果：
key is : 3
Python猫
key is : slice(None, 2, None)
data is : ['My', 'name']
<__main__.MyList object at 0x0000019CD83A7A90>
key is : hi
Traceback (most recent call last):
...
TypeError: MyList indices must be integers or slices

从输出结果来看，自定义的 MyList 既支持按索引查找，也支持切片操做，这正是咱们的目的。

3.三、自定义字典实现切片功能

切片是序列类型的特性，因此在上例中，咱们不须要写切片的具体实现逻辑。可是，对于其它非序列类型的自定义对象，就得本身实现切片逻辑。以自定义字典为例（PS：仅做演示，不保证其它功能的完备性）：

class MyDict():
    def __init__(self):
        self.data = {}
    def __len__(self):
        return len(self.data)
    def append(self, item):
        self.data[len(self)] = item
    def __getitem__(self, key):
        if isinstance(key, int):
            return self.data[key]
        if isinstance(key, slice):
            slicedkeys = list(self.data.keys())[key]
            return {k: self.data[k] for k in slicedkeys}
        else:
            raise TypeError

d = MyDict()
d.append("My")
d.append("name")
d.append("is")
d.append("Python猫")
print(d[2])
print(d[:2])
print(d[-4:-2])
print(d['hi'])

### 输出结果：
is
{0: 'My', 1: 'name'}
{0: 'My', 1: 'name'}
Traceback (most recent call last):
...
TypeError

上例的关键点在于将字典的键值取出，并对键值的列表作切片处理，其妙处在于，不用担忧索引越界和负数索引，将字典切片转换成了字典键值的切片，最终实现目的。

四、迭代器实现切片功能

好了，介绍完通常的自定义对象如何实现切片功能，这里将迎来另外一类非同通常的对象。

迭代器是 Python 中独特的一种高级对象，它自己不具有切片功能，然而若能将它用于切片，这便仿佛是锦上添花，能达到如虎添翼的效果。因此，本节将隆重地介绍迭代器如何实现切片功能。

4.一、迭代与迭代器

首先，有几个基本概念要澄清：迭代、可迭代对象、迭代器。

迭代 是一种遍历容器类型对象（例如字符串、列表、字典等等）的方式，例如，咱们说迭代一个字符串“abc”，指的就是从左往右依次地、逐个地取出它的所有字符的过程。（PS：汉语中迭代一词有循环反复、层层递进的意思，但 Python 中此词要理解成单向水平线性 的，若是你不熟悉它，我建议直接将其理解为遍历。）

那么，怎么写出迭代操做的指令呢？最通用的书写语法就是 for 循环。

# for循环实现迭代过程
for char in "abc":
    print(char, end=" ")
# 输出结果：a b c

for 循环能够实现迭代的过程，可是，并不是全部对象均可以用于 for 循环，例如，上例中若将字符串“abc”换成任意整型数字，则会报错： 'int' object is not iterable .

这句报错中的单词“iterable”指的是“可迭代的”，即 int 类型不是可迭代的。而字符串（string）类型是可迭代的，一样地，列表、元组、字典等类型，都是可迭代的。

那怎么判断一个对象是否可迭代呢？为何它们是可迭代的呢？怎么让一个对象可迭代呢？

要使一个对象可迭代，就要实现可迭代协议，即须要实现__iter__() 魔术方法，换言之，只要实现了这个魔术方法的对象都是可迭代对象。

那怎么判断一个对象是否实现了这个方法呢？除了上述的 for 循环外，我还知道四种方法：

# 方法1：dir()查看__iter__
dir(2)     # 没有，略
dir("abc") # 有，略

# 方法2：isinstance()判断
import collections
isinstance(2, collections.Iterable)     # False
isinstance("abc", collections.Iterable) # True

# 方法3：hasattr()判断
hasattr(2,"__iter__")     # False
hasattr("abc","__iter__") # True

# 方法4：用iter()查看是否报错
iter(2)     # 报错：'int' object is not iterable
iter("abc") # <str_iterator at 0x1e2396d8f28>

### PS：判断是否可迭代，还能够查看是否实现__getitem__，为方便描述，本文从略。

这几种方法中最值得一提的是 iter() 方法，它是 Python 的内置方法，其做用是将可迭代对象变成迭代器 。这句话能够解析出两层意思：（1）可迭代对象跟迭代器是两种东西；（2）可迭代对象能变成迭代器。

实际上，迭代器必然是可迭代对象，但可迭代对象不必定是迭代器。二者有多大的区别呢？

如上图蓝圈所示，普通可迭代对象与迭代器的最关键区别可归纳为：一同两不一样 ，所谓“一同”，即二者都是可迭代的（__iter__），所谓“两不一样”，便可迭代对象在转化为迭代器后，它会丢失一些属性（__getitem__），同时也增长一些属性（__next__）。

首先看看增长的属性 __next__ ，它是迭代器之因此是迭代器的关键，事实上，咱们正是把同时实现了 __iter__ 方法和 __next__ 方法的对象定义为迭代器的。

有了多出来的这个属性，可迭代对象不须要借助外部的 for 循环语法，就能实现自个人迭代/遍历过程。我发明了两个概念来描述这两种遍历过程（PS：为了易理解，这里称遍历，实际也可称为迭代）：它遍历 指的是经过外部语法而实现的遍历，自遍历 指的是经过自身方法实现的遍历。

借助这两个概念，咱们说，可迭代对象就是能被“它遍历”的对象，而迭代器是在此基础上，还能作到“自遍历”的对象。

ob1 = "abc"
ob2 = iter("abc")
ob3 = iter("abc")

# ob1它遍历
for i in ob1:
    print(i, end = " ")   # a b c
for i in ob1:
    print(i, end = " ")   # a b c
# ob1自遍历
ob1.__next__()  # 报错： 'str' object has no attribute '__next__'

# ob2它遍历
for i in ob2:
    print(i, end = " ")   # a b c    
for i in ob2:
    print(i, end = " ")   # 无输出
# ob2自遍历
ob2.__next__()  # 报错：StopIteration

# ob3自遍历
ob3.__next__()  # a
ob3.__next__()  # b
ob3.__next__()  # c
ob3.__next__()  # 报错：StopIteration

经过上述例子可看出，迭代器的优点在于支持自遍历，同时，它的特色是单向非循环的，一旦完成遍历，再次调用就会报错。

对此，我想到一个比方：普通可迭代对象就像是子弹匣，它遍历就是取出子弹，在完成操做后又装回去，因此能够反复遍历（即屡次调用for循环，返回相同结果）；而迭代器就像是装载了子弹匣且不可拆卸的枪，进行它遍历或者自遍历都是发射子弹，这是消耗性的遍历，是没法复用的（即遍历会有尽头）。

写了这么多，稍微小结一下：迭代是一种遍历元素的方式，按照实现方式划分，有外部迭代与内部迭代两种，支持外部迭代（它遍历）的对象就是可迭代对象，而同时还支持内部迭代（自遍历）的对象就是迭代器；按照消费方式划分，可分为复用型迭代与一次性迭代，普通可迭代对象是复用型的，而迭代器是一次性的。

4.二、迭代器切片

前面提到了“一同两不一样”，最后的不一样是，普通可迭代对象在转化成迭代器的过程当中会丢失一些属性，其中关键的属性是 __getitem__ 。在前一节中，我已经介绍了这个魔术方法，并用它实现了自定义对象的切片特性。

那么问题来了：为何迭代器不继承这个属性呢？

首先，迭代器使用的是消耗型的遍历，这意味着它充满不肯定性，即其长度与索引键值对是动态衰减的，因此很难 get 到它的 item ，也就再也不须要 __getitem__ 属性了。其次，若强行给迭代器加上这个属性，这并不合理，正所谓强扭的瓜不甜......

由此，新的问题来了：既然会丢失这么重要的属性（还包括其它未标识的属性），为何还要使用迭代器呢？

这个问题的答案在于，迭代器拥有不可替代的强大的有用的功能，使得 Python 要如此设计它。限于篇幅，此处再也不展开，后续我会专门填坑此话题。

还没完，死缠烂打的问题来了：可否令迭代器拥有这个属性呢，即令迭代器继续支持切片呢？

hi = "欢迎关注公众号：Python猫"
it = iter(hi)

# 普通切片
hi[-7:] # Python猫

# 反例：迭代器切片
it[-7:] # 报错：'str_iterator' object is not subscriptable

迭代器由于缺乏__getitem__ ，所以不能使用普通的切片语法。想要实现切片，无非两种思路：一是本身造轮子，写实现的逻辑；二是找到封装好的轮子。

Python 的 itertools 模块就是咱们要找的轮子，用它提供的方法可轻松实现迭代器切片。

import itertools

# 例1：简易迭代器
s = iter("123456789")
for x in itertools.islice(s, 2, 6):
    print(x, end = " ")   # 输出：3 4 5 6
for x in itertools.islice(s, 2, 6):
    print(x, end = " ")   # 输出：9

# 例2：斐波那契数列迭代器
class Fib():
    def __init__(self):
        self.a, self.b = 1, 1

    def __iter__(self):
        while True:
            yield self.a
            self.a, self.b = self.b, self.a + self.b
f = iter(Fib())
for x in itertools.islice(f, 2, 6):
    print(x, end = " ")  # 输出：2 3 5 8
for x in itertools.islice(f, 2, 6):
    print(x, end = " ")  # 输出：34 55 89 144

itertools 模块的 islice() 方法将迭代器与切片完美结合，终于回答了前面的问题。然而，迭代器切片跟普通切片相比，前者有不少局限性。首先，这个方法不是“纯函数”（纯函数需遵照“相同输入获得相同输出”的原则）；其次，它只支持正向切片，且不支持负数索引，这都是由迭代器的损耗性所决定的。

那么，我不由要问：itertools 模块的切片方法用了什么实现逻辑呢？下方是官网提供的源码：

def islice(iterable, *args):
    # islice('ABCDEFG', 2) --> A B
    # islice('ABCDEFG', 2, 4) --> C D
    # islice('ABCDEFG', 2, None) --> C D E F G
    # islice('ABCDEFG', 0, None, 2) --> A C E G
    s = slice(*args)
    # 索引区间是[0,sys.maxsize]，默认步长是1
    start, stop, step = s.start or 0, s.stop or sys.maxsize, s.step or 1
    it = iter(range(start, stop, step))
    try:
        nexti = next(it)
    except StopIteration:
        # Consume *iterable* up to the *start* position.
        for i, element in zip(range(start), iterable):
            pass
        return
    try:
        for i, element in enumerate(iterable):
            if i == nexti:
                yield element
                nexti = next(it)
    except StopIteration:
        # Consume to *stop*.
        for i, element in zip(range(i + 1, stop), iterable):
            pass

islice() 方法的索引方向是受限的，但它也提供了一种可能性：即容许你对一个无穷的（在系统支持范围内）迭代器进行切片的能力。这是迭代器切片最具想象力的用途场景。

除此以外，迭代器切片还有一个很实在的应用场景：读取文件对象中给定行数范围的数据。

咱们知道，从文件中读取内容主要有两种方法（参见以前关于文件读写的文章）：read() 适合读取内容较少的状况，或者是须要一次性处理所有内容的状况；而 readlines() 适用性更广，由于它是迭代地读取内容，既减小内存压力，又方便逐行对数据处理。

虽然 readlines() 有迭代读取的优点，但它是从头至尾逐行读取，若文件有几千行，而咱们只想要读取少数特定行（例如第1000-1009行），那它仍是效率过低了。考虑到文件对象自然就是迭代器 ，咱们可使用迭代器切片先行截取，而后再处理，如此效率将大大地提高。

# test.txt 文件内容
'''
猫
Python猫
python is a cat.
this is the end.
'''

from itertools import islice
with open('test.txt','r',encoding='utf-8') as f:
    print(hasattr(f, "__next__"))  # 判断是否迭代器
    content = islice(f, 2, 4)
    for line in content:
        print(line.strip())
### 输出结果：
True
python is a cat.
this is the end.

本节内容较多，简单回顾一下：迭代器是一种特殊的可迭代对象，可用于它遍历与自遍历，但遍历过程是损耗型的，不具有循环复用性，所以，迭代器自己不支持切片操做；经过借助 itertools 模块，咱们能实现迭代器切片，将二者的优点相结合，其主要用途在于截取大型迭代器（如无限数列、超大文件等等）的片断，实现精准的处理，从而大大地提高性能与效率。

五、小结

最后总结一下，切片是 Python 的一种高级特性，经常使用于截取序列类型的元素，但并不局限于此，本文主要介绍了它的基础用法、高级用法（如占位符用法）、自定义对象切片、以及迭代器切片等使用内容。除此以外，切片还有更广阔多样的使用场景，例如 Numpy 的多维切片、内存视图切片、异步迭代器切片等等，都值得咱们去探索一番，今限于篇幅而没法细说，欢迎关注公众号“Python猫 ”，之后咱们慢慢学习之。

切片系列（原单篇）：

Python进阶：切片的误区与高级用法

Python进阶：自定义对象实现切片功能

Python进阶：迭代器与迭代器切片

相关连接：

官方文档getitem用法：http://t.cn/EbzoZyp

切片赋值的源码分析：http://t.cn/EbzSaoZ

官网itertools模块介绍：http://t.cn/EbNc0ot

Python是否支持复制字符串呢？

来自Kenneth Reitz大神的建议：避免没必要要的面向对象编程

给Python学习者的文件读写指南（含基础与进阶，建议收藏）

详解Python拼接字符串的七种方式