Python模块和包

一.什么是模块？

常见的场景：一个模块就是一个包含了python定义和声明的文件，文件名就是模块名字加上.py的后缀。

   但其实import加载的模块分为四个通用类别：　

　　1 使用python编写的代码（.py文件）

　　2 已被编译为共享库或DLL的C或C++扩展

　　3 包好一组模块的包

　　4 使用C编写并连接到python解释器的内置模块

二.为什么要使用模块？

　　若是你退出python解释器而后从新进入，那么你以前定义的函数或者变量都将丢失，所以咱们一般将程序写到文件中以便永久保存下来，须要时就经过python test.py方式去执行，此时test.py被称为脚本script。

    随着程序的发展，功能愈来愈多，为了方便管理，咱们一般将程序分红一个个的文件，这样作程序的结构更清晰，方便管理。这时咱们不只仅能够把这些文件当作脚本去执行，还能够把他们当作模块来导入到其余的模块中，实现了功能的重复利用

三.如何使用模块？

　　1. import

　　　　示例文件：自定义模块my_module.py，文件名my_module.py,模块名my_module

# my_module.py
print('from the my_module.py')

money=1000

def read1():
    print('my_module->read1->money',money)

def read2():
    print('my_module->read2 calling read1')
    read1()

def change():
    global money
    money=0

 　　1.1 模块能够包含可执行的语句和函数的定义，这些语句的目的是初始化模块，它们只在模块名第一次遇到导入import语句时才执行（import语句是能够在程序中的任意位置使用的,且针对同一个模块很import屡次,为了防止你重复导入，python的优化手段是：第一次导入后就将模块名加载到内存了，后续的import语句仅是对已经加载大内存中的模块对象增长了一次引用，不会从新执行模块内的语句），以下 

import my_module #只在第一次导入时才执行my_module.py内代码,此处的显式效果是只打印一次'from the my_module.py',固然其余的顶级代码也都被执行了,只不过没有显示效果.
import my_module
import my_module
import my_module

'''
执行结果：
from the my_module.py
'''

　　咱们能够从sys.modules中找到当前已经加载的模块，sys.modules是一个字典，内部包含模块名与模块对象的映射，该字典决定了导入模块时是否须要从新导入。

　　1.2 每一个模块都是一个独立的名称空间，定义在这个模块中的函数，把这个模块的名称空间当作全局名称空间，这样咱们在编写本身的模块时，就不用担忧咱们定义在本身模块中全局变量会在被导入时，与使用者的全局变量冲突

# 测试一:money与my_module.money不冲突
import my_module
money=10
print(my_module.money)

'''
执行结果：
from the my_module.py
1000
'''

# 测试二：read1与my_module.read1不冲突
import my_module
def read1():
    print('========')
my_module.read1()

'''
执行结果:
from the my_module.py
my_module->read1->money 1000
'''

# 测试三：执行my_module.change()操做的全局变量money仍然是my_module中的
#demo.py
import my_module
money=1
my_module.change()
print(money)

'''
执行结果：
from the my_module.py
1
'''

　　1.3 总结：首次导入模块my_module时会作三件事：

　　　　1.为源文件(my_module模块)建立新的名称空间，在my_module中定义的函数和方法如果使用到了global时访问的就是这个名称空间。

　　　　2.在新建立的命名空间中执行模块中包含的代码，见初始导入import my_module

1 提示:导入模块时到底执行了什么？
2 In fact function definitions are also ‘statements’ that are ‘executed’; the execution of a module-level function definition enters the function name in the module’s global symbol table.
3 事实上函数定义也是“被执行”的语句，模块级别函数定义的执行将函数名放入模块全局名称空间表，用globals()能够查看

　　　　3.建立名字my_module来引用该命名空间

这个名字和变量名没什么区别，都是‘第一类的’，且使用my_module.名字的方式能够访问my_module.py文件中定义的名字，my_module.名字与test.py中的名字来自两个彻底不一样的地方。

 　　1.4 为模块名起别名，至关于m1=1;m2=m1 

import my_module as sm
print(sm.money)

　　1.5 在一行导入多个模块

import sys,os,re

　　2.from ... import...

　2.1

　　对比import my_module，会将源文件的名称空间'my_module'带到当前名称空间中，使用时必须是my_module.名字的方式

而from 语句至关于import，也会建立新的名称空间，可是将my_module中的名字直接导入到当前的名称空间中，在当前名称空间中，直接使用名字就能够了

from my_module import read1,read2

这样在当前位置直接使用read1和read2就行了，执行时，仍然以my_module.py文件全局名称空间

#测试一：导入的函数read1，执行时仍然回到my_module.py中寻找全局变量money
#demo.py
from my_module import read1
money=1000
read1()
'''
执行结果:
from the my_module.py
spam->read1->money 1000
'''

#测试二:导入的函数read2，执行时须要调用read1(),仍然回到my_module.py中找read1()
#demo.py
from my_module import read2
def read1():
    print('==========')
read2()

'''
执行结果:
from the my_module.py
my_module->read2 calling read1
my_module->read1->money 1000
'''

若是当前有重名read1或者read2，那么会有覆盖效果。

#测试三:导入的函数read1，被当前位置定义的read1覆盖掉了
#demo.py
from my_module import read1
def read1():
    print('==========')
read1()
'''
执行结果:
from the my_module.py
==========
'''

须要特别强调的一点是：python中的变量赋值不是一种存储操做，而只是一种绑定关系，以下：

from my_module import money,read1
money=100 #将当前位置的名字money绑定到了100
print(money) #打印当前的名字
read1() #读取my_module.py中的名字money,仍然为1000

'''
from the my_module.py
100
my_module->read1->money 1000
'''

2.2

# 也支持as
from my_module import read1 as read

2.3

# 也支持多行
from my_module import (read1,read2,money)

2.4

　　from my_module import * 把my_module中全部的不是如下划线(_)开头的名字都导入到当前位置，大部分状况下咱们的python程序不该该使用这种导入方式，由于*你不知道你导入什么名字，颇有可能会覆盖掉你以前已经定义的名字。并且可读性极其的差，在交互式环境中导入时没有问题。

from my_module import * #将模块my_module中全部的名字都导入到当前名称空间
print(money)
print(read1)
print(read2)
print(change)

'''
执行结果:
from the my_module.py
1000
<function read1 at 0x1012e8158>
<function read2 at 0x1012e81e0>
<function change at 0x1012e8268>

　　在my_module.py中新增一行

__all__=['money','read1'] #这样在另一个文件中用from my_module import *就这能导入列表中规定的两个名字

　　*若是my_module.py中的名字前加_,即_money，则from my_module import *,则_money不能被导入

2.5 模块的循环引用问题

　　思考：假若有两个模块a，b。我可不能够在a模块中import b ，再在b模块中import a？

2.6 模块的加载与修改

考虑到性能的缘由，每一个模块只被导入一次,放入字典sys.modules中，若是你改变了模块的内容，你必须重启程序，python不支持从新加载或卸载以前导入的模块，

有的同窗可能会想到直接从sys.modules中删除一个模块不就能够卸载了吗，注意了，你删了sys.modules中的模块对象仍然可能被其余程序的组件所引用，于是不会被清除。

特别的对于咱们引用了这个模块中的一个类，用这个类产生了不少对象，于是这些对象都有关于这个模块的引用。

若是只是你想交互测试的一个模块，使用 importlib.reload(), e.g. import importlib; importlib.reload(modulename)，这只能用于测试环境。

# aa.py
def func1():
    print('func1')

import time,importlib
import aa
 
time.sleep(20)
# importlib.reload(aa)
aa.func1()

在20秒的等待时间里，修改aa.py中func1的内容，等待test.py的结果。

打开importlib注释，从新测试

3. 把模块当作脚本执行 

咱们能够经过模块的全局变量__name__来查看模块名：
当作脚本运行：
__name__ 等于'__main__'

当作模块导入：
__name__= 模块名

做用：用来控制.py文件在不一样的应用场景下执行不一样的逻辑
if __name__ == '__main__':

def fib(n):   
    a, b = 0, 1
    while b < n:
        print(b, end=' ')
        a, b = b, a+b
    print()

if __name__ == "__main__":
    print(__name__)
    num = input('num :')
    fib(int(num))

4. 模块搜索路径

python解释器在启动时会自动加载一些模块，可使用sys.modules查看

在第一次导入某个模块时（好比my_module），会先检查该模块是否已经被加载到内存中（当前执行文件的名称空间对应的内存），若是有则直接引用

若是没有，解释器则会查找同名的内建模块，若是尚未找到就从sys.path给出的目录列表中依次寻找my_module.py文件。

因此总结模块的查找顺序是：内存中已经加载的模块->内置模块->sys.path路径中包含的模块

sys.path的初始化的值来自于：

The directory containing the input script (or the current directory when no file is specified).
PYTHONPATH (a list of directory names, with the same syntax as the shell variable PATH).
The installation-dependent default.

须要特别注意的是：咱们自定义的模块名不该该与系统内置模块重名。虽然每次都说，可是仍然会有人不停的犯错。 

在初始化后，python程序能够修改sys.path,路径放到前面的优先于标准库被加载。

>>> import sys
>>> sys.path.append('/a/b/c/d')
>>> sys.path.insert(0,'/x/y/z') #排在前的目录，优先被搜索

注意：搜索时按照sys.path中从左到右的顺序查找，位于前的优先被查找，sys.path中还可能包含.zip归档文件和.egg文件，python会把.zip归档文件当成一个目录去处理。

#首先制做归档文件：zip module.zip foo.py bar.py

import sys
sys.path.append('module.zip')
import foo,bar

#也可使用zip中目录结构的具体位置
sys.path.append('module.zip/lib/python')

#windows下的路径不加r开头，会语法错误
sys.path.insert(0,r'C:\Users\Administrator\PycharmProjects\a')

至于.egg文件是由setuptools建立的包，这是按照第三方python库和扩展时使用的一种常见格式，.egg文件实际上只是添加了额外元数据(如版本号，依赖项等)的.zip文件。

须要强调的一点是：只能从.zip文件中导入.py，.pyc等文件。使用C编写的共享库和扩展块没法直接从.zip文件中加载（此时setuptools等打包系统有时能提供一种规避方法），且从.zip中加载文件不会建立.pyc或者.pyo文件，所以必定要事先建立他们，来避免加载模块是性能降低。

#官网连接：https://docs.python.org/3/tutorial/modules.html#the-module-search-path
搜索路径：
当一个命名为my_module的模块被导入时
    解释器首先会从内建模块中寻找该名字
    找不到，则去sys.path中找该名字

sys.path从如下位置初始化
执行文件所在的当前目录
PTYHONPATH（包含一系列目录名，与shell变量PATH语法同样）
依赖安装时默认指定的

注意：在支持软链接的文件系统中，执行脚本所在的目录是在软链接以后被计算的，换句话说，包含软链接的目录不会被添加到模块的搜索路径中

在初始化后，咱们也能够在python程序中修改sys.path,执行文件所在的路径默认是sys.path的第一个目录，在全部标准库路径的前面。这意味着，当前目录是优先于标准库目录的，须要强调的是：咱们自定义的模块名不要跟python标准库的模块名重复，除非你是故意的，傻叉。

5. 编译python文件

为了提升加载模块的速度，强调强调强调：提升的是加载速度而绝非运行速度。python解释器会在__pycache__目录中下缓存每一个模块编译后的版本，格式为：module.version.pyc。一般会包含python的版本号。例如，在CPython3.3版本下，my_module.py模块会被缓存成__pycache__/my_module.cpython-33.pyc。这种命名规范保证了编译后的结果多版本共存。

Python检查源文件的修改时间与编译的版本进行对比，若是过时就须要从新编译。这是彻底自动的过程。而且编译的模块是平台独立的，因此相同的库能够在不一样的架构的系统之间共享，即pyc使一种跨平台的字节码，相似于JAVA火.NET,是由python虚拟机来执行的，可是pyc的内容跟python的版本相关，不一样的版本编译后的pyc文件不一样，2.5编译的pyc文件不能到3.5上执行，而且pyc文件是能够反编译的，于是它的出现仅仅是用来提高模块的加载速度的。

python解释器在如下两种状况下不检测缓存
　　1 若是是在命令行中被直接导入模块，则按照这种方式，每次导入都会从新编译，而且不会存储编译后的结果（python3.3之前的版本应该是这样）

python -m my_module.py

　　2 若是源文件不存在，那么缓存的结果也不会被使用，若是想在没有源文件的状况下来使用编译后的结果，则编译后的结果必须在源目录下 

　　　　提示：

　　　　　　1.模块名区分大小写，foo.py与FOO.py表明的是两个模块

　　　　　　2.你可使用-O或者-OO转换python命令来减小编译模块的大小

-O转换会帮你去掉assert语句
-OO转换会帮你去掉assert语句和__doc__文档字符串
因为一些程序可能依赖于assert语句或文档字符串，你应该在在确认须要的状况下使用这些选项。

　　　　　　3.在速度上从.pyc文件中读指令来执行不会比从.py文件中读指令执行更快，只有在模块被加载时，.pyc文件才是更快的

　　　　　　4.只有使用import语句是才将文件自动编译为.pyc文件，在命令行或标准输入中指定运行脚本则不会生成这类文件，于是咱们可使用compieall模块为一个目录中的全部模块建立.pyc文件

模块能够做为一个脚本（使用python -m compileall）编译Python源
 
python -m compileall /module_directory 递归着编译
若是使用python -O -m compileall /module_directory -l则只一层
 
命令行里使用compile()函数时，自动使用python -O -m compileall
 
详见：https://docs.python.org/3/library/compileall.html#module-compileall

补充:dir()函数

　　内建函数dir是用来查找模块中定义的名字，返回一个有序字符串列表

import my_module
dir(my_module)

　　若是没有参数,dir()列举出当前定义的名字

　　dir()不会列举出内建函数或者变量的名字，它们都被定义到了标准模块builtin中，能够列举出它们

import builtins
dir(builtins)

四.包

　　包是一种经过使用‘.模块名’来组织python模块名称空间的方式。

　　　　１. 不管是import形式仍是from...import形式，凡是在导入语句中（而不是在使用时）遇到带点的，都要第一时间提升警觉：这是关于包才有的导入语法

　　　　2. 包是目录级的（文件夹级），文件夹是用来组成py文件（包的本质就是一个包含__init__.py文件的目录）

　　　　3. import导入文件时，产生名称空间中的名字来源于文件，import 包，产生的名称空间的名字一样来源于文件，即包下的__init__.py，导入包本质就是在导入该文件

　　强调：

　　　　1. 在python3中，即便包下没有__init__.py文件，import 包仍然不会报错，而在python2中，包下必定要有该文件，不然import 包报错

　　　　2. 建立包的目的不是为了运行，而是被导入使用，记住，包只是模块的一种形式而已，包即模块

　　包A和包B下有同名模块也不会冲突，如A.a与B.a来自俩个命名空间

import os
os.makedirs('glance/api')
os.makedirs('glance/cmd')
os.makedirs('glance/db')
l = []
l.append(open('glance/__init__.py','w'))
l.append(open('glance/api/__init__.py','w'))
l.append(open('glance/api/policy.py','w'))
l.append(open('glance/api/versions.py','w'))
l.append(open('glance/cmd/__init__.py','w'))
l.append(open('glance/cmd/manage.py','w'))
l.append(open('glance/db/models.py','w'))
map(lambda f:f.close() ,l)

glance/                   #Top-level package

├── __init__.py      #Initialize the glance package

├── api                  #Subpackage for api

│   ├── __init__.py

│   ├── policy.py

│   └── versions.py

├── cmd                #Subpackage for cmd

│   ├── __init__.py

│   └── manage.py

└── db                  #Subpackage for db

    ├── __init__.py

    └── models.py

#文件内容

#policy.py
def get():
    print('from policy.py')

#versions.py
def create_resource(conf):
    print('from version.py: ',conf)

#manage.py
def main():
    print('from manage.py')

#models.py
def register_models(engine):
    print('from models.py: ',engine)

1. 注意事项

　　1.关于包相关的导入语句也分为import和from ... import ...两种，可是不管哪一种，不管在什么位置，在导入时都必须遵循一个原则：凡是在导入时带点的，点的左边都必须是一个包，不然非法。能够带有一连串的点，如item.subitem.subsubitem,但都必须遵循这个原则。

　　2.对于导入后，在使用时就没有这种限制了，点的左边能够是包,模块，函数，类(它们均可以用点的方式调用本身的属性)。

　　3.对比import item 和from item import name的应用场景：
若是咱们想直接使用name那必须使用后者。

2. import

　　咱们在与包glance同级别的文件中测试

import glance.db.models
glance.db.models.register_models('mysql') 

3. from ... import ...

 　　须要注意的是from后import导入的模块，必须是明确的一个不能带点，不然会有语法错误，如：from a import b.c是错误语法

咱们在与包glance同级别的文件中测试 

from glance.db import models
models.register_models('mysql')
from glance.db.models import register_models
register_models('mysql')

4. __init__.py文件

　　无论是哪一种方式，只要是第一次导入包或者是包的任何其余部分，都会依次执行包下的__init__.py文件(咱们能够在每一个包的文件内都打印一行内容来验证一下)，这个文件能够为空，可是也能够存放一些初始化包的代码。

5.  from glance.api import *

　　在讲模块时，咱们已经讨论过了从一个模块内导入全部*，此处咱们研究从一个包导入全部*。

此处是想从包api中导入全部，实际上该语句只会导入包api下__init__.py文件中定义的名字，咱们能够在这个文件中定义__all___:

# 在__init__.py中定义
x=10

def func():
    print('from api.__init.py')

__all__=['x','func','policy']

此时咱们在于glance同级的文件中执行from glance.api import *就导入__all__中的内容（versions仍然不能导入）。

6. 绝对导入和相对导入

咱们的最顶级包glance是写给别人用的，而后在glance包内部也会有彼此之间互相导入的需求，这时候就有绝对导入和相对导入两种方式：

绝对导入：以glance做为起始

相对导入：用.或者..的方式最为起始（只能在一个包中使用，不能用于不一样目录内）

例如：咱们在glance/api/version.py中想要导入glance/cmd/manage.py

在glance/api/version.py

#绝对导入
from glance.cmd import manage
manage.main()

#相对导入
from ..cmd import manage
manage.main()

测试结果：注意必定要在于glance同级的文件中测试

from glance.api import versions 

　　注意：在使用pycharm时，有的状况会为你多作一些事情，这是软件相关的东西，会影响你对模块导入的理解，于是在测试时，必定要回到命令行去执行，模拟咱们生产环境，你总不能拿着pycharm去上线代码吧！！！

　　特别须要注意的是：能够用import导入内置或者第三方模块（已经在sys.path中），可是要绝对避免使用import来导入自定义包的子模块(没有在sys.path中)，应该使用from... import ...的绝对或者相对导入,且包的相对导入只能用from的形式。

　　好比咱们想在glance/api/versions.py中导入glance/api/policy.py，有的同窗一抽这俩模块是在同一个目录下，十分开心的就去作了，它直接这么作

#在version.py中
import policy
policy.get()

　　没错，咱们单独运行version.py是一点问题没有的，运行version.py的路径搜索就是从当前路径开始的，因而在导入policy时能在当前目录下找到

可是你想啊，你子包中的模块version.py极有多是被一个glance包同一级别的其余文件导入，好比咱们在于glance同级下的一个test.py文件中导入version.py，以下:

from glance.api import versions

'''
执行结果:
ImportError: No module named 'policy'
'''

'''
分析:
此时咱们导入versions在versions.py中执行
import policy须要找从sys.path也就是从当前目录找policy.py,
这必然是找不到的

# 绝对导入
glance/                   

├── __init__.py      from glance import api
                             from glance import cmd
                             from glance import db

├── api                  

│   ├── __init__.py  from glance.api import policy
                              from glance.api import versions

│   ├── policy.py

│   └── versions.py

├── cmd                 from glance.cmd import manage

│   ├── __init__.py

│   └── manage.py

└── db                   from glance.db import models

    ├── __init__.py

    └── models.py

# 相对压力
glance/                   

├── __init__.py      from . import api  #.表示当前目录
                     from . import cmd
                     from . import db

├── api                  

│   ├── __init__.py  from . import policy
                     from . import versions

│   ├── policy.py

│   └── versions.py

├── cmd              from . import manage

│   ├── __init__.py

│   └── manage.py    from ..api import policy   
                     #..表示上一级目录，想再manage中使用policy中的方法就须要回到上一级glance目录往下找api包，从api导入policy

└── db               from . import models

    ├── __init__.py

    └── models.py

7. 单独导入包

　　单独导入包名称时不会导入包中全部包含的全部子模块，如

# 在与glance同级的test.py中
import glance
glance.cmd.manage.main()

'''
执行结果：
AttributeError: module 'glance' has no attribute 'cmd'

'''

解决方法：

#glance/__init__.py
from . import cmd
#glance/cmd/__init__.py
from . import manage

执行：

#在于glance同级的test.py中
import glance
glance.cmd.manage.main()

千万别问：__all__不能解决吗，__all__是用于控制from...import * 

import glance以后直接调用模块中的方法

glance/                   

├── __init__.py     from .api import *
                    from .cmd import *
                    from .db import *    
├── api                  

│   ├── __init__.py   __all__ = ['policy','versions'] 

│   ├── policy.py

│   └── versions.py

├── cmd               __all__ = ['manage']    

│   ├── __init__.py

│   └── manage.py    

└── db                __all__ = ['models']              

    ├── __init__.py

    └── models.py