Linux 下删除大量文件效率对比，看谁删的快！

点击上方“杰哥的IT之旅”，选择“星标”公众号

重磅干货，第一时间送达

 送 800 张当当网优惠码，数量有限，先抢先得！ 

来 源：马哥Linux运维

今天咱们来测试一下Linux下面删除大量文件的效率。

首先创建50万个文件

$ test   for i in $(seq 1 500000);do echo text >>$i.txt;done

rm删除

$ time rm -f *
zsh: sure you want to delete all the files in /home/hungerr/test [yn]? y
zsh: argument list too long: rm
rm -f *  3.63s user 0.29s system 98% cpu 3.985 total
因为文件数量过多，rm不起做用。

find删除

$ time find ./ -type f -exec rm {} \;
find ./ -type f -exec rm {} \;  49.86s user 1032.13s system 41% cpu 43:19.17 total
大概43分钟,个人电脑。。。。。。边看视频边删的。

find with delete

$ time find ./ -type f -delete
find ./ -type f -delete  0.43s user 11.21s system 2% cpu 9:13.38 total
用时9分钟。

rsync删除

# 首先创建空文件夹blanktest
$ time rsync -a --delete blanktest/ test/
rsync -a --delete blanktest/ test/  0.59s user 7.86s system 51% cpu 16.418 total
16s，很好很强大。

Python删除

import os
import timeit
def main():
    for pathname,dirnames,filenames in os.walk('/home/username/test'):
        for filename in filenames:
            file=os.path.join(pathname,filename)
            os.remove(file)

if __name__=='__main__':
t=timeit.Timer('main()','from __main__ import main')
print t.timeit(1)　　
1
2
$ python test.py
529.309022903
大概用时9分钟。

Perl删除

$ time perl -e 'for(<*>){((stat)[9]<(unlink))}'
perl -e 'for(<*>){((stat)[9]<(unlink))}'  1.28s user 7.23s system 50% cpu 16.784 total
16s，这个应该最快了。

结果：

rm：文件数量太多，不可用
find with -exec 50万文件耗时43分钟
find with -delete 9分钟
Perl  16s
Python 9分钟
rsync with -delete  16s

结论：删除大量小文件rsync最快，最方便。

---

本公众号所有博文已整理成一个目录，请在公众号后台回复「 m 」获取！

           
 
 
            推荐阅读： 

           
          
            

           
           
            
            
                     
            

           
 
 
            
 
             
 
              
 
               编写 Shell 脚本的最佳实践 
               
 
               Linux 进程总结 
               
 
               Redis 使用的 10 个小技巧！ 
               
 
               支付宝的架构到底有多牛逼？ 
               
 
               太赞啦！GitHub重磅宣布：私有免费仓库将对外免费开放，不限人数，付费功能打5折！ 
               
 
               开源软件原来都这样命名的！Python最独特，Debian最浪漫，PHP简单粗暴…… 
              
 
             
 
            
 
 
            

              关注微信公众号『 
             杰哥的IT之旅』，后台回复“ 
             1024”查看更多内容，回复“ 
             微信”添加我微信。 
            
 
 
            
 
              
            
 
 
            
 
             
 
            
 
 
            
 
              
            
 
 
            
 
             
 
            
 
 
            
 
             
 
              
 
               
 
                
 
                 
 
                  
 
                   
 
                    
 
                     
 
                      好文和朋友一块儿看~ 
                     
 
                    
 
                   
 
                  
 
                 
 
                
 
               
 
              
 
             
 
            
 

           

本文分享自微信公众号 - 杰哥的IT之旅（Jake_Internet）。
若有侵权，请联系 support@oschina.cn 删除。
本文参与“OSC源创计划”，欢迎正在阅读的你也加入，一块儿分享。