两句话掌握 Python 最难知识点——元类

时间 2019-11-26

标签两句掌握 python 最难知识栏目 Python 繁體版

原文原文链接

千万不要被所谓“元类是99%的python程序员不会用到的特性”这类的说辞吓住。由于每一个中国人，都是天生的元类使用者html

学懂元类，你只须要知道两句话：python

道生一，一辈子二，二生三，三生万物
我是谁？我从哪来里？我要到哪里去？

在python世界，拥有一个永恒的道，那就是“type”，请记在脑海中，type就是道。如此广袤无垠的python生态圈，都是由type产生出来的。git

道生一，一辈子二，二生三，三生万物。程序员

道便是 type
一便是 metaclass(元类，或者叫类生成器)
二便是 class(类，或者叫实例生成器)
三便是 instance(实例)
万物便是实例的各类属性与方法，咱们日常使用python时，调用的就是它们。

道和一，是咱们今天讨论的命题，而2、3、和万物，则是咱们经常使用的类、实例、属性和方法，用hello world来举例：

# 建立一个Hello类，拥有属性say_hello ----二的起源
class Hello():
    def say_hello(self, name='world'):
        print('Hello, %s.' % name)


# 从Hello类建立一个实例hello ----二生三
hello = Hello()

# 使用hello调用方法say_hello ----三生万物
hello.say_hello()

# 建立一个Hello类，拥有属性say_hello ----二的起源

class Hello():

def say_hello(self, name='world'):

print('Hello, %s.' % name)

# 从Hello类建立一个实例hello ----二生三

hello = Hello()

# 使用hello调用方法say_hello ----三生万物

hello.say_hello()

输出效果：github

Hello, world.

1	Hello, world.

这就是一个标准的“二生三，三生万物”过程。 从类到咱们能够调用的方法，用了这两步。web

那咱们不禁自主要问，类从何而来呢？回到代码的第一行。
class Hello实际上是一个函数的“语义化简称”，只为了让代码更浅显易懂，它的另外一个写法是：sql

def fn(self, name='world'): # 假如咱们有一个函数叫fn
    print('Hello, %s.' % name)
    
Hello = type('Hello', (object,), dict(say_hello=fn)) # 经过type建立Hello class ---- 神秘的“道”，能够点化一切，此次咱们直接从“道”生出了“二”

def fn(self, name='world'): # 假如咱们有一个函数叫fn

print('Hello, %s.' % name)

Hello = type('Hello', (object,), dict(say_hello=fn)) # 经过type建立Hello class ---- 神秘的“道”，能够点化一切，此次咱们直接从“道”生出了“二”

这样的写法，就和以前的Class Hello写法做用彻底相同，你能够试试建立实例并调用数据库

# 从Hello类建立一个实例hello ----二生三，彻底同样
hello = Hello()

# 使用hello调用方法say_hello ----三生万物，彻底同样
hello.say_hello()

# 从Hello类建立一个实例hello ----二生三，彻底同样

hello = Hello()

# 使用hello调用方法say_hello ----三生万物，彻底同样

hello.say_hello()

输出效果：编程

Hello, world. ----调用结果彻底同样。

1	Hello, world. ----调用结果彻底同样。

咱们回头看一眼最精彩的地方，道直接生出了二：数组

Hello = type(‘Hello’, (object,), dict(say_hello=fn))

这就是“道”，python世界的起源，你能够为此而惊叹。
注意它的三个参数！暗合人类的三大永恒命题：我是谁，我从哪里来，我要到哪里去。

第一个参数：我是谁。在这里，我须要一个区分于其它一切的命名，以上的实例将我命名为“Hello”
第二个参数：我从哪里来
在这里，我须要知道从哪里来，也就是个人“父类”，以上实例中个人父类是“object”——python中一种很是初级的类。
第三个参数：我要到哪里去
在这里，咱们将须要调用的方法和属性包含到一个字典里，再做为参数传入。以上实例中，咱们有一个say_hello方法包装进了字典中。

值得注意的是，三大永恒命题，是一切类，一切实例，甚至一切实例属性与方法都具备的。理所应当，它们的“创造者”，道和一，即type和元类，也具备这三个参数。但日常，类的三大永恒命题并不做为参数传入，而是以以下方式传入

class Hello(object){
# class 后声明“我是谁”
# 小括号内声明“我来自哪里”
# 中括号内声明“我要到哪里去”
    def say_hello(){
        
    }
}

class Hello(object){

# class 后声明“我是谁”

# 小括号内声明“我来自哪里”

# 中括号内声明“我要到哪里去”

def say_hello(){

}

造物主，能够直接创造单个的人，但这是一件苦役。造物主会先创造“人”这一物种，再批量创造具体的我的。并将三大永恒命题，一直传递下去。
“道”能够直接生出“二”，但它会先生出“一”，再批量地制造“二”。
type能够直接生成类（class），但也能够先生成元类（metaclass），再使用元类批量定制类（class）。

元类——道生一，一辈子二

通常来讲，元类均被命名后缀为Metalass。想象一下，咱们须要一个能够自动打招呼的元类，它里面的类方法呢，有时须要say_Hello，有时须要say_Hi，有时又须要say_Sayolala，有时须要say_Nihao。

若是每一个内置的say_xxx都须要在类里面声明一次，那将是多么可怕的苦役！不如使用元类来解决问题。

如下是建立一个专门“打招呼”用的元类代码：

class SayMetaClass(type):

    def __new__(cls, name, bases, attrs):
        attrs['say_'+name] = lambda self,value,saying=name: print(saying+','+value+'!')
        return type.__new__(cls, name, bases, attrs)

class SayMetaClass(type):

def __new__(cls, name, bases, attrs):

attrs['say_'+name] = lambda self,value,saying=name: print(saying+','+value+'!')

return type.__new__(cls, name, bases, attrs)

记住两点：
一、元类是由“type”衍生而出，因此父类须要传入type。【道生一，因此一必须包含道】

二、元类的操做都在 __new__中完成，它的第一个参数是将建立的类，以后的参数便是三大永恒命题：我是谁，我从哪里来，我将到哪里去。它返回的对象也是三大永恒命题，接下来，这三个参数将一直陪伴咱们。

在__new__中，我只进行了一个操做，就是

attrs['say_'+name] = lambda self,value,saying=name: print(saying+','+value+'!')

1	attrs['say_'+name] = lambda self,value,saying=name: print(saying+','+value+'!')

它跟据类的名字，建立了一个类方法。好比咱们由元类建立的类叫“Hello”，那建立时就自动有了一个叫“say_Hello”的类方法，而后又将类的名字“Hello”做为默认参数saying，传到了方法里面。而后把hello方法调用时的传参做为value传进去，最终打印出来。

那么，一个元类是怎么从建立到调用的呢？
来！一块儿根据道生1、一辈子2、二生3、三生万物的准则，走进元类的生命周期吧！

# 道生一：传入type
class SayMetaClass(type):

    # 传入三大永恒命题：类名称、父类、属性
    def __new__(cls, name, bases, attrs):
        # 创造“天赋”
        attrs['say_'+name] = lambda self,value,saying=name: print(saying+','+value+'!')
        # 传承三大永恒命题：类名称、父类、属性
        return type.__new__(cls, name, bases, attrs)

# 一辈子二：建立类
class Hello(object, metaclass=SayMetaClass):
    pass

# 二生三：建立实列
hello = Hello()

# 三生万物：调用实例方法
hello.say_Hello('world!')

# 道生一：传入type

class SayMetaClass(type):

# 传入三大永恒命题：类名称、父类、属性

def __new__(cls, name, bases, attrs):

# 创造“天赋”

attrs['say_'+name] = lambda self,value,saying=name: print(saying+','+value+'!')

# 传承三大永恒命题：类名称、父类、属性

return type.__new__(cls, name, bases, attrs)

# 一辈子二：建立类

class Hello(object, metaclass=SayMetaClass):

pass

# 二生三：建立实列

hello = Hello()

# 三生万物：调用实例方法

hello.say_Hello('world!')

输出为

Hello, world!

1	Hello, world!

注意：经过元类建立的类，第一个参数是父类，第二个参数是metaclass

普通人出生都不会说话，但有的人出生就会打招呼说“Hello”，“你好”,“sayolala”，这就是天赋的力量。它会给咱们面向对象的编程省下无数的麻烦。

如今，保持元类不变，咱们还能够继续建立Sayolala， Nihao类，以下：

# 一辈子二：建立类
class Sayolala(object, metaclass=SayMetaClass):
    pass

# 二生三：建立实列
s = Sayolala()

# 三生万物：调用实例方法
s.say_Sayolala('japan!')

# 一辈子二：建立类

class Sayolala(object, metaclass=SayMetaClass):

pass

# 二生三：建立实列

s = Sayolala()

# 三生万物：调用实例方法

s.say_Sayolala('japan!')

输出

Sayolala, japan!

1	Sayolala, japan!

也能够说中文

# 一辈子二：建立类
class Nihao(object, metaclass=SayMetaClass):
    pass

# 二生三：建立实列
n = Nihao()

# 三生万物：调用实例方法
n.say_Nihao('中华!')

# 一辈子二：建立类

class Nihao(object, metaclass=SayMetaClass):

pass

# 二生三：建立实列

n = Nihao()

# 三生万物：调用实例方法

n.say_Nihao('中华!')

输出

Nihao, 中华!

1	Nihao, 中华!

再来一个小例子：

# 道生一
class ListMetaclass(type):
    def __new__(cls, name, bases, attrs):
        # 天赋：经过add方法将值绑定
        attrs['add'] = lambda self, value: self.append(value)
        return type.__new__(cls, name, bases, attrs)
        
# 一辈子二
class MyList(list, metaclass=ListMetaclass):
    pass
    
# 二生三
L = MyList()

# 三生万物
L.add(1)

# 道生一

class ListMetaclass(type):

def __new__(cls, name, bases, attrs):

# 天赋：经过add方法将值绑定

attrs['add'] = lambda self, value: self.append(value)

return type.__new__(cls, name, bases, attrs)

# 一辈子二

class MyList(list, metaclass=ListMetaclass):

pass

# 二生三

L = MyList()

# 三生万物

L.add(1)

如今咱们打印一下L

print(L)

>>> [1]

print(L)

>>> [1]

而普通的list没有add()方法

L2 = list()
L2.add(1)

>>>AttributeError: 'list' object has no attribute 'add'

L2 = list()

L2.add(1)

>>>AttributeError: 'list' object has no attribute 'add'

太棒了！学到这里，你是否是已经体验到了造物主的乐趣？

python世界的一切，尽在掌握。

年轻的造物主，请随我一块儿开创新世界。

咱们选择两个领域，一个是Django的核心思想，“Object Relational Mapping”，即对象-关系映射，简称ORM。

这是Django的一大难点，但学完了元类，一切变得清晰。你对Django的理解将更上一层楼！

另外一个领域是爬虫领域（黑客领域），一个自动搜索网络上的可用代理，而后换着IP去突破别的人反爬虫限制。

这两项技能很是有用，也很是好玩！

挑战一：经过元类建立ORM

准备工做，建立一个Field类

class Field(object):

    def __init__(self, name, column_type):
        self.name = name
        self.column_type = column_type

    def __str__(self):
        return '<%s:%s>' % (self.__class__.__name__, self.name)

class Field(object):

def __init__(self, name, column_type):

self.name = name

self.column_type = column_type

def __str__(self):

return '<%s:%s>' % (self.__class__.__name__, self.name)

它的做用是
在Field类实例化时将获得两个参数，name和column_type，它们将被绑定为Field的私有属性，若是要将Field转化为字符串时，将返回“Field:XXX” ， XXX是传入的name名称。

准备工做：建立StringField和IntergerField

class StringField(Field):

    def __init__(self, name):
        super(StringField, self).__init__(name, 'varchar(100)')

class IntegerField(Field):

    def __init__(self, name):
        super(IntegerField, self).__init__(name, 'bigint')

class StringField(Field):

def __init__(self, name):

super(StringField, self).__init__(name, 'varchar(100)')

class IntegerField(Field):

def __init__(self, name):

super(IntegerField, self).__init__(name, 'bigint')

它的做用是
在StringField,IntegerField实例初始化时，时自动调用父类的初始化方式。

道生一

class ModelMetaclass(type):

    def __new__(cls, name, bases, attrs):
        if name=='Model':
            return type.__new__(cls, name, bases, attrs)
        print('Found model: %s' % name)
        mappings = dict()
        for k, v in attrs.items():
            if isinstance(v, Field):
                print('Found mapping: %s ==> %s' % (k, v))
                mappings[k] = v
        for k in mappings.keys():
            attrs.pop(k)
        attrs['__mappings__'] = mappings # 保存属性和列的映射关系
        attrs['__table__'] = name # 假设表名和类名一致
        return type.__new__(cls, name, bases, attrs)

class ModelMetaclass(type):

def __new__(cls, name, bases, attrs):

if name=='Model':

return type.__new__(cls, name, bases, attrs)

print('Found model: %s' % name)

mappings = dict()

for k, v in attrs.items():

if isinstance(v, Field):

print('Found mapping: %s ==> %s' % (k, v))

mappings[k] = v

for k in mappings.keys():

attrs.pop(k)

attrs['__mappings__'] = mappings # 保存属性和列的映射关系

attrs['__table__'] = name # 假设表名和类名一致

return type.__new__(cls, name, bases, attrs)

它作了如下几件事

建立一个新的字典mapping
将每个类的属性，经过.items()遍历其键值对。若是值是Field类，则打印键值，并将这一对键值绑定到mapping字典上。
将刚刚传入值为Field类的属性删除。
建立一个专门的__mappings__属性，保存字典mapping。
建立一个专门的__table__属性，保存传入的类的名称。

一辈子二

class Model(dict, metaclass=ModelMetaclass):

    def __init__(self, **kwarg):
        super(Model, self).__init__(**kwarg)

    def __getattr__(self, key):
        try:
            return self[key]
        except KeyError:
            raise AttributeError("'Model' object has no attribute '%s'" % key)

    def __setattr__(self, key, value):
        self[key] = value

    # 模拟建表操做
    def save(self):
        fields = []
        args = []
        for k, v in self.__mappings__.items():
            fields.append(v.name)
            args.append(getattr(self, k, None))
        sql = 'insert into %s (%s) values (%s)' % (self.__table__, ','.join(fields), ','.join([str(i) for i in args]))
        print('SQL: %s' % sql)
        print('ARGS: %s' % str(args))

class Model(dict, metaclass=ModelMetaclass):

def __init__(self, **kwarg):

super(Model, self).__init__(**kwarg)

def __getattr__(self, key):

try:

return self[key]

except KeyError:

raise AttributeError("'Model' object has no attribute '%s'" % key)

def __setattr__(self, key, value):

self[key] = value

# 模拟建表操做

def save(self):

fields = []

args = []

for k, v in self.__mappings__.items():

fields.append(v.name)

args.append(getattr(self, k, None))

sql = 'insert into %s (%s) values (%s)' % (self.__table__, ','.join(fields), ','.join([str(i) for i in args]))

print('SQL: %s' % sql)

print('ARGS: %s' % str(args))

若是从Model建立一个子类User：

class User(Model):
    # 定义类的属性到列的映射：
    id = IntegerField('id')
    name = StringField('username')
    email = StringField('email')
    password = StringField('password')

class User(Model):

# 定义类的属性到列的映射：

id = IntegerField('id')

name = StringField('username')

email = StringField('email')

password = StringField('password')

这时
id= IntegerField(‘id’)就会自动解析为：

Model.__setattr__(self, ‘id’, IntegerField(‘id’))

由于IntergerField(‘id’)是Field的子类的实例，自动触发元类的__new__，因此将IntergerField(‘id’)存入__mappings__并删除这个键值对。

二生3、三生万物

当你初始化一个实例的时候并调用save()方法时候

u = User(id=12345, name='Batman', email='batman@nasa.org', password='iamback')
u.save()

1 2	u = User(id=12345, name='Batman', email='batman@nasa.org', password='iamback') u.save()

这时先完成了二生三的过程：

先调用Model.__setattr__，将键值载入私有对象
而后调用元类的“天赋”，ModelMetaclass.__new__，将Model中的私有对象，只要是Field的实例，都自动存入u.__mappings__。

接下来完成了三生万物的过程：

经过u.save()模拟数据库存入操做。这里咱们仅仅作了一下遍历__mappings__操做，虚拟了sql并打印，在现实状况下是经过输入sql语句与数据库来运行。

输出结果为

Found model: User
Found mapping: name ==> <StringField:username>
Found mapping: password ==> <StringField:password>
Found mapping: id ==> <IntegerField:id>
Found mapping: email ==> <StringField:email>
SQL: insert into User (username,password,id,email) values (Batman,iamback,12345,batman@nasa.org)
ARGS: ['Batman', 'iamback', 12345, 'batman@nasa.org']

Found model: User

Found mapping: name ==> <StringField:username>

Found mapping: password ==> <StringField:password>

Found mapping: id ==> <IntegerField:id>

Found mapping: email ==> <StringField:email>

SQL: insert into User (username,password,id,email) values (Batman,iamback,12345,batman@nasa.org)

ARGS: ['Batman', 'iamback', 12345, 'batman@nasa.org']

年轻的造物主，你已经和我一块儿体验了由“道”演化“万物”的伟大历程，这也是Django中的Model版块核心原理。

接下来，请和我一块儿进行更好玩的爬虫实战（嗯，你如今已是初级黑客了）：网络代理的爬取吧！

挑战二：网络代理的爬取

准备工做，先爬个页面玩玩

请确保已安装requests和pyquery这两个包。

# 文件：get_page.py
import requests

base_headers = {
    'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/54.0.2840.71 Safari/537.36',
    'Accept-Encoding': 'gzip, deflate, sdch',
    'Accept-Language': 'zh-CN,zh;q=0.8'
}


def get_page(url):
    headers = dict(base_headers)
    print('Getting', url)
    try:
        r = requests.get(url, headers=headers)
        print('Getting result', url, r.status_code)
        if r.status_code == 200:
            return r.text
    except ConnectionError:
        print('Crawling Failed', url)
        return None

# 文件：get_page.py

import requests

base_headers = {

'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/54.0.2840.71 Safari/537.36',

'Accept-Encoding': 'gzip, deflate, sdch',

'Accept-Language': 'zh-CN,zh;q=0.8'

}

def get_page(url):

headers = dict(base_headers)

print('Getting', url)

try:

r = requests.get(url, headers=headers)

print('Getting result', url, r.status_code)

if r.status_code == 200:

return r.text

except ConnectionError:

print('Crawling Failed', url)

return None

这里，咱们利用request包，把百度的源码爬了出来。

试一试抓百度

把这一段粘在get_page.py后面，试完删除

if(__name__ == '__main__'):
    rs = get_page('https://www.baidu.com')
    print('result:\r\n', rs)

if(__name__ == '__main__'):

rs = get_page('https://www.baidu.com')

print('result:\r\n', rs)

试一试抓代理

把这一段粘在get_page.py后面，试完删除

if(__name__ == '__main__'):
    from pyquery import PyQuery as pq
    start_url = 'http://www.proxy360.cn/Region/China'
    print('Crawling', start_url)
    html = get_page(start_url)
    if html:
        doc = pq(html)
        lines = doc('div[name="list_proxy_ip"]').items()
        for line in lines:
            ip = line.find('.tbBottomLine:nth-child(1)').text()
            port = line.find('.tbBottomLine:nth-child(2)').text()
            print(ip+':'+port)

if(__name__ == '__main__'):

from pyquery import PyQuery as pq

start_url = 'http://www.proxy360.cn/Region/China'

print('Crawling', start_url)

html = get_page(start_url)

if html:

doc = pq(html)

lines = doc('div[name="list_proxy_ip"]').items()

for line in lines:

ip = line.find('.tbBottomLine:nth-child(1)').text()

port = line.find('.tbBottomLine:nth-child(2)').text()

print(ip+':'+port)

接下来进入正题：使用元类批量抓取代理

批量处理抓取代理

from getpage import get_page
from pyquery import PyQuery as pq


# 道生一：建立抽取代理的metaclass
class ProxyMetaclass(type):
    """
        元类，在FreeProxyGetter类中加入
        __CrawlFunc__和__CrawlFuncCount__
        两个参数，分别表示爬虫函数，和爬虫函数的数量。
    """
    def __new__(cls, name, bases, attrs):
        count = 0
        attrs['__CrawlFunc__'] = []
        attrs['__CrawlName__'] = []
        for k, v in attrs.items():
            if 'crawl_' in k:
                attrs['__CrawlName__'].append(k)
                attrs['__CrawlFunc__'].append(v)
                count += 1
        for k in attrs['__CrawlName__']:
            attrs.pop(k)
        attrs['__CrawlFuncCount__'] = count
        return type.__new__(cls, name, bases, attrs)


# 一辈子二：建立代理获取类

class ProxyGetter(object, metaclass=ProxyMetaclass):
    def get_raw_proxies(self, site):
        proxies = []
        print('Site', site)
        for func in self.__CrawlFunc__:
            if func.__name__==site:
                this_page_proxies = func(self)
                for proxy in this_page_proxies:
                    print('Getting', proxy, 'from', site)
                    proxies.append(proxy)
        return proxies


    def crawl_daili66(self, page_count=4):
        start_url = 'http://www.66ip.cn/{}.html'
        urls = [start_url.format(page) for page in range(1, page_count + 1)]
        for url in urls:
            print('Crawling', url)
            html = get_page(url)
            if html:
                doc = pq(html)
                trs = doc('.containerbox table tr:gt(0)').items()
                for tr in trs:
                    ip = tr.find('td:nth-child(1)').text()
                    port = tr.find('td:nth-child(2)').text()
                    yield ':'.join([ip, port])

    def crawl_proxy360(self):
        start_url = 'http://www.proxy360.cn/Region/China'
        print('Crawling', start_url)
        html = get_page(start_url)
        if html:
            doc = pq(html)
            lines = doc('div[name="list_proxy_ip"]').items()
            for line in lines:
                ip = line.find('.tbBottomLine:nth-child(1)').text()
                port = line.find('.tbBottomLine:nth-child(2)').text()
                yield ':'.join([ip, port])

    def crawl_goubanjia(self):
        start_url = 'http://www.goubanjia.com/free/gngn/index.shtml'
        html = get_page(start_url)
        if html:
            doc = pq(html)
            tds = doc('td.ip').items()
            for td in tds:
                td.find('p').remove()
                yield td.text().replace(' ', '')


if __name__ == '__main__':
    # 二生三：实例化ProxyGetter
    crawler = ProxyGetter()
    print(crawler.__CrawlName__)
    # 三生万物
    for site_label in range(crawler.__CrawlFuncCount__):
        site = crawler.__CrawlName__[site_label]
        myProxies = crawler.get_raw_proxies(site)

from getpage import get_page

from pyquery import PyQuery as pq

# 道生一：建立抽取代理的metaclass

class ProxyMetaclass(type):

"""

元类，在FreeProxyGetter类中加入

__CrawlFunc__和__CrawlFuncCount__

两个参数，分别表示爬虫函数，和爬虫函数的数量。

"""

def __new__(cls, name, bases, attrs):

count = 0

attrs['__CrawlFunc__'] = []

attrs['__CrawlName__'] = []

for k, v in attrs.items():

if 'crawl_' in k:

attrs['__CrawlName__'].append(k)

attrs['__CrawlFunc__'].append(v)

count += 1

for k in attrs['__CrawlName__']:

attrs.pop(k)

attrs['__CrawlFuncCount__'] = count

return type.__new__(cls, name, bases, attrs)

# 一辈子二：建立代理获取类

class ProxyGetter(object, metaclass=ProxyMetaclass):

def get_raw_proxies(self, site):

proxies = []

print('Site', site)

for func in self.__CrawlFunc__:

if func.__name__==site:

this_page_proxies = func(self)

for proxy in this_page_proxies:

print('Getting', proxy, 'from', site)

proxies.append(proxy)

return proxies

def crawl_daili66(self, page_count=4):

start_url = 'http://www.66ip.cn/{}.html'

urls = [start_url.format(page) for page in range(1, page_count + 1)]

for url in urls:

print('Crawling', url)

html = get_page(url)

if html:

doc = pq(html)

trs = doc('.containerbox table tr:gt(0)').items()

for tr in trs:

ip = tr.find('td:nth-child(1)').text()

port = tr.find('td:nth-child(2)').text()

yield ':'.join([ip, port])

def crawl_proxy360(self):

start_url = 'http://www.proxy360.cn/Region/China'

print('Crawling', start_url)

html = get_page(start_url)

if html:

doc = pq(html)

lines = doc('div[name="list_proxy_ip"]').items()

for line in lines:

ip = line.find('.tbBottomLine:nth-child(1)').text()

port = line.find('.tbBottomLine:nth-child(2)').text()

yield ':'.join([ip, port])

def crawl_goubanjia(self):

start_url = 'http://www.goubanjia.com/free/gngn/index.shtml'

html = get_page(start_url)

if html:

doc = pq(html)

tds = doc('td.ip').items()

for td in tds:

td.find('p').remove()

yield td.text().replace(' ', '')

if __name__ == '__main__':

# 二生三：实例化ProxyGetter

crawler = ProxyGetter()

print(crawler.__CrawlName__)

# 三生万物

for site_label in range(crawler.__CrawlFuncCount__):

site = crawler.__CrawlName__[site_label]

myProxies = crawler.get_raw_proxies(site)

道生一：元类的new中，作了四件事：

将“crawl_”开头的类方法的名称推入ProxyGetter.__CrawlName__
将“crawl_”开头的类方法的自己推入ProxyGetter.__CrawlFunc__
计算符合“crawl_”开头的类方法个数
删除全部符合“crawl_”开头的类方法

怎么样？是否是和以前建立ORM的__mappings__过程极为类似？

一辈子二：类里面定义了使用pyquery抓取页面元素的方法

分别从三个免费代理网站抓取了页面上显示的所有代理。

若是对yield用法不熟悉，能够查看：
廖雪峰的python教程：生成器

二生三：建立实例对象crawler

略

三生万物：遍历每个CrawlFunc

在ProxyGetter.__CrawlName__上面，获取能够抓取的的网址名。
触发类方法ProxyGetter.get_raw_proxies(site)
遍历ProxyGetter.__CrawlFunc__,若是方法名和网址名称相同的，则执行这一个方法
把每一个网址获取到的代理整合成数组输出。

那么。。。怎么利用批量代理，冲击别人的网站，套取别人的密码，狂发广告水贴，定时骚扰客户？呃！想啥呢！这些本身悟！若是悟不到，请听下回分解！

年轻的造物主，创造世界的工具已经在你手上，请你将它的威力发挥到极致！

请记住挥动工具的口诀：

道生一，一辈子二，二生三，三生万物
我是谁，我来自哪里，我要到哪里去

两句话掌握 Python 最难知识点——元类

道和一，是咱们今天讨论的命题，而2、3、和万物，则是咱们经常使用的类、实例、属性和方法，用hello world来举例：

元类——道生一，一辈子二

挑战一：经过元类建立ORM

准备工做，建立一个Field类

准备工做：建立StringField和IntergerField

道生一

一辈子二

若是从Model建立一个子类User：

二生3、三生万物

挑战二：网络代理的爬取

准备工做，先爬个页面玩玩

试一试抓百度

试一试抓代理

批量处理抓取代理

道生一：元类的__new__中，作了四件事：

一辈子二：类里面定义了使用pyquery抓取页面元素的方法

二生三：建立实例对象crawler

三生万物：遍历每个__CrawlFunc__

年轻的造物主，创造世界的工具已经在你手上，请你将它的威力发挥到极致！

道生一：元类的new中，作了四件事：

三生万物：遍历每个CrawlFunc