concat函数是在pandas底下的方法,能够将数据根据不一样的轴做简单的融合
pd.concat(objs, axis=0, join='outer', join_axes=None, ignore_index=False,
keys=None, levels=None, names=None, verify_integrity=False)
参数说明
objs: series,dataframe或者是panel构成的序列lsit
axis: 须要合并连接的轴,0是行,1是列
join:链接的方式 inner,或者outerhtml
其余一些参数不经常使用,用的时候再补上说明。python
# 现将表构成list,而后在做为concat的输入
In [4]: frames = [df1, df2, df3]
In [5]: result = pd.concat(frames)
要在相接的时候在加上一个层次的key来识别数据源自于哪张表,能够增长key参数sql
In [6]: result = pd.concat(frames, keys=['x', 'y', 'z'])
效果以下app
当axis = 1的时候,concat就是行对齐,而后将不一样列名称的两张表合并函数
In [9]: result = pd.concat([df1, df4], axis=1)
加上join参数的属性,若是为’inner’获得的是两表的交集,若是是outer,获得的是两表的并集。性能
In [10]: result = pd.concat([df1, df4], axis=1, join='inner')
若是有join_axes的参数传入,能够指定根据那个轴来对齐数据
例如根据df1表对齐数据,就会保留指定的df1表的轴,而后将df4的表与之拼接ui
In [11]: result = pd.concat([df1, df4], axis=1, join_axes=[df1.index])
append是series和dataframe的方法,使用它就是默认沿着列进行凭借(axis = 0,列对齐)
In [12]: result = df1.append(df2)
若是两个表的index都没有实际含义,使用ignore_index参数,置true,合并的两个表就睡根据列字段对齐,而后合并。最后再从新整理一个新的index。
spa
前面提到的keys参数能够用来给合并后的表增长key来区分不一样的表数据来源3d
In [27]: result = pd.concat(frames, keys=['x', 'y', 'z'])
In [28]: pieces = {'x': df1, 'y': df2, 'z': df3}
In [29]: result = pd.concat(pieces)
append方法能够将 series 和 字典就够的数据做为dataframe的新一行插入。
code
In [34]: s2 = pd.Series(['X0', 'X1', 'X2', 'X3'], index=['A', 'B', 'C', 'D'])
In [35]: result = df1.append(s2, ignore_index=True)
若是遇到两张表的列字段原本就不同,但又想将两个表合并,其中无效的值用nan来表示。那么可使用ignore_index来实现。
In [36]: dicts = [{'A': 1, 'B': 2, 'C': 3, 'X': 4},
....: {'A': 5, 'B': 6, 'C': 7, 'Y': 8}]
....:
In [37]: result = df1.append(dicts, ignore_index=True)
pandas的merge方法提供了一种相似于SQL的内存连接操做,官网文档提到它的性能会比其余开源语言的数据操做(例如R)要高效。
和SQL语句的对比能够看这里
merge的参数
on:列名,join用来对齐的那一列的名字,用到这个参数的时候必定要保证左表和右表用来对齐的那一列都有相同的列名。
left_on:左表对齐的列,能够是列名,也能够是和dataframe一样长度的arrays。
right_on:右表对齐的列,能够是列名,也能够是和dataframe一样长度的arrays。
left_index/ right_index: 若是是True的haunted以index做为对齐的key
how:数据融合的方法。
sort:根据dataframe合并的keys按字典顺序排序,默认是,若是置false能够提升表现。
merge的默认合并方法: merge用于表内部基于 index-on-index 和 index-on-column(s) 的合并,但默认是基于index来合并。
使用merge的时候能够选择多个key做为复合能够来对齐合并。
In [41]: left = pd.DataFrame({'key1': ['K0', 'K0', 'K1', 'K2'],
....: 'key2': ['K0', 'K1', 'K0', 'K1'],
....: 'A': ['A0', 'A1', 'A2', 'A3'],
....: 'B': ['B0', 'B1', 'B2', 'B3']})
....:
In [42]: right = pd.DataFrame({'key1': ['K0', 'K1', 'K1', 'K2'],
....: 'key2': ['K0', 'K0', 'K0', 'K0'],
....: 'C': ['C0', 'C1', 'C2', 'C3'],
....: 'D': ['D0', 'D1', 'D2', 'D3']})
....:
In [43]: result = pd.merge(left, right, on=['key1', 'key2'])
没有指定how的话默认使用inner方法。
how的方法有:
只保留左表的全部数据
In [44]: result = pd.merge(left, right, how='left', on=['key1', 'key2'])
只保留右表的全部数据
In [45]: result = pd.merge(left, right, how='right', on=['key1', 'key2'])
保留两个表的全部信息
In [46]: result = pd.merge(left, right, how='outer', on=['key1', 'key2'])
只保留两个表中公共部分的信息
In [47]: result = pd.merge(left, right, how='inner', on=['key1', 'key2'])
v0.17.0 版本的pandas开始还支持一个indicator的参数,若是置True的时候,输出结果会增长一列 ’ _merge’。_merge列能够取三个值
dataframe内置的join方法是一种快速合并的方法。它默认以index做为对齐的列。
join中的how参数和merge中的how参数同样,用来指定表合并保留数据的规则。
具体可见前面的 how 说明。
在实际应用中若是右表的索引值正是左表的某一列的值,这时能够经过将 右表的索引 和 左表的列 对齐合并这样灵活的方式进行合并。
ex 1
In [59]: left = pd.DataFrame({'A': ['A0', 'A1', 'A2', 'A3'],
....: 'B': ['B0', 'B1', 'B2', 'B3'],
....: 'key': ['K0', 'K1', 'K0', 'K1']})
....:
In [60]: right = pd.DataFrame({'C': ['C0', 'C1'],
....: 'D': ['D0', 'D1']},
....: index=['K0', 'K1'])
....:
In [61]: result = left.join(right, on='key')
若是和表合并的过程当中遇到有一列两个表都同名,可是值不一样,合并的时候又都想保留下来,就能够用suffixes给每一个表的重复列名增长后缀。
In [79]: result = pd.merge(left, right, on='k', suffixes=['_l', '_r'])
* 另外还有lsuffix 和 rsuffix分别指定左表的后缀和右表的后缀。
一次组合多个dataframe的时候能够传入元素为dataframe的列表或者tuple。一次join多个,一次解决屡次烦恼~
In [83]: right2 = pd.DataFrame({'v': [7, 8, 9]}, index=['K1', 'K1', 'K2'])
In [84]: result = left.join([right, right2])
若是一个表的nan值,在另外一个表相同位置(相同索引和相同列)能够找到,则能够经过combine_first来更新数据
若是要用一张表中的数据来更新另外一张表的数据则能够用update来实现
使用combine_first会只更新左表的nan值。而update则会更新左表的全部能在右表中找到的值(两表位置相对应)。
下一章,咱们将继续介绍pandas中其余进行数据合并和重塑的方法模块——join & merging