用python实现复制大量文件

  本来是去项目公司拷数据，结果去了发现有500G，靠系统的复制功能怕是得好几个小时，于是回来学一手操作，话不多说上代码：

说明：CopyFiles1是可以将sourceDir连子目录一起原样复制到targetDir，而CopyFiles2是在sourceDir中筛选特定格式文件，然后将其直接放在targetDir中，会很乱。。。但是很快

1. import os
2. import time
3. import shutil
4. sourceDir = r'D:\copytest\datatest'
5. targetDir = r'D:\copytest\result'
6. copyFileCounts = 0
8. def CopyFiles1(sourceDir, targetDir):
9. #完全连子目录也会复制好，美观
10. global copyFileCounts
11. print(sourceDir )
12. print('%s 当前处理文件夹%s已处理%s 个文件' %(time.strftime('%Y-%m-%d %H:%M:%S',time.localtime(time.time())), sourceDir,copyFileCounts) )
13. for f in os.listdir(sourceDir):
14. sourceF = os.path.join(sourceDir, f)
15. targetF = os.path.join(targetDir, f)
17. if os.path.isfile(sourceF):
19. if not os.path.exists(targetDir):
20. os.makedirs(targetDir)
21. copyFileCounts += 1
24. if not os.path.exists(targetF) or (os.path.exists(targetF) and (os.path.getsize(targetF) != os.path.getsize(sourceF))):
26. open(targetF, 'wb').write(open(sourceF, 'rb').read())
27. print ('%s %s 复制完毕' %(time.strftime('%Y-%m-%d %H:%M:%S',time.localtime(time.time())), targetF))
28. else:
29. print ('%s %s 已存在，不重复复制' %(time.strftime('%Y-%m-%d %H:%M:%S',time.localtime(time.time())), targetF))
31. if os.path.isdir(sourceF):
32. copyFiles(sourceF, targetF)
34. def CopyFiles2(dir):
35. #会将目录下所有文件都复制在一起，速度快，可以筛选文件
36. i=0
37. for root,dir1,filename in os.walk(dir):
38. #print(filename)
39. for index in range(len(filename)):
40. #print(os.path.splitext(filename[index])[1])
41. #if os.path.splitext(filename[index])[1]=='.':#这里注意filename是个元组，splitext方法的时候只能是字符串
42. if 1==1:
43. #i+=1
44. print('here')
45. root1='D:\\copytest\\result3'
46. old_path = os.path.join(root, filename[index])
47. print(old_path)
48. new_path = os.path.join(root1,filename[index])
49. shutil.copyfile(old_path,new_path)
51. #print('总共有',i,'图层文件被复制！')
53. if __name__ == '__main__':
54. time_start = time.time()
55. try:
56. import psyco
57. psyco.profile()
58. except ImportError:
59. pass
60. #CopyFiles1(sourceDir,targetDir)
61. CopyFiles2('D:/copytest/datatest')
62. time_end = time.time()
63. print('totally cost', time_end - time_start)