Python 下载的 9 种方法,Python 开发技巧
四、大文件分块下载
有些文件非常的大,如果我们直接下载,可能会因为事件原因或者网络原因造成下载失败,这时候我可以使用分块下载的形式进行下载。
requests 支持分块下载,只需要将 stream 设为 True 即可
import requests
url = 'https://readthedocs.org/projects/python-guide/downloads/pdf/latest'
stream 参数 True 表示分块下载
r = requests.get(url, stream=True)
with open('r.txt', 'wb') as f:
for ch in r:
f.write(r)
f.close()
五、并行下载
多线程、多进程并发下载,大大提高下载速度
'''
遇到问题没人解答?小编创建了一个 Python 学习交流 QQ 群:778463939
寻找有志同道合的小伙伴,互帮互助,群里还有不错的视频学习教程和 PDF 电子书!
'''
import requests
from multiprocessing.poll import Pool
定义下载函数
def url_response(url):
path, url = url
r = requests.get(url, stream=True)
with open(path, 'wb') as f:
for ch in r:
f.write(ch)
f.close()
urls = ['aaa', 'bbb', 'ccc'] # 假设有好多个下载链接
排队下载的方式
for x in urls:
url_response(x)
并行下载的方式
ThreadPool(3).imap_unordered(url_response, urls)
六、下载中加入进度条
使用进度条更直观的查看下载进度,这里使用 clint 模块实现进度条功能
pip install clint
下载
import requests
from clint.textui import progess
url = 'xxxxxxxxxxx'
r = requests.get(url, stream=True)
with open('x.txt', 'wb') as f
total_length = int(r.headers.get('content-length'))
for ch in progress.bar(r.iter_content(chunk_size=2391975, expected)size=(total_length/1024)+1)):
if ch:
f.write(ch)
f.close()
七、使用 urllib 模块下载
urllib 库是 Python 的标准库,因此不需要安装它。
下载代码
urllib.request.urlretrieve(URL, PATH)
八、通过代理下载
因为一些众所周知的原因我们下载国外的资源会非常的慢,这时候可以使用代理的方式进行下载
requests 模块使用代理
'''
遇到问题没人解答?小编创建了一个 Python 学习交流 QQ 群:778463939
寻找有志同道合的小伙伴,互帮互助,群里还有不错的视频学习教程和 PDF 电子书!
'''
import requests
定义代理,假设本机上有个梯子的服务,代理端口是 2258
proxy = {'http': 'http://127.0.0.1:2258'}
url = 'xxxxxx'
r = requests.get(url, proxies=proxy )
.......
urllib 模块使用代理
import urllib.request
url = 'xxxxxxxxxx'
proxy = urllib.request.ProxyHandler({'http': '127.0.0.1'})
如果你也是看准了 Python,想自学 Python,在这里为大家准备了丰厚的免费学习大礼包,带大家一起学习,给大家剖析 Python 兼职、就业行情前景的这些事儿。
一、Python 所有方向的学习路线
Python 所有方向路线就是把 Python 常用的技术点做整理,形成各个领域的知识点汇总,它的用处就在于,你可以按照上面的知识点去找对应的学习资源,保证自己学得较为全面。
二、学习软件
工欲善其必先利其器。学习 Python 常用的开发软件都在这里了,给大家节省了很多时间。
三、全套 PDF 电子书
书籍的好处就在于权威和体系健全,刚开始学习的时候你可以只看视频或者听某个人讲课,但等你学完之后,你觉得你掌握了,这时候建议还是得去看一下书籍,看权威技术书籍也是每个程序员必经之路。
四、入门学习视频
我们在看视频学习的时候,不能光动眼动脑不动手,比较科学的学习方法是在理解之后运用它们,这时候练手项目就很适合了。
四、实战案例
光学理论是没用的,要学会跟着一起敲,要动手实操,才能将自己的所学运用到实际当中去,这时候可以搞点实战案例来学习。
五、面试资料
我们学习 Python 必然是为了找到高薪的工作,下面这些面试题是来自阿里、腾讯、字节等一线互联网大厂最新的面试资料,并且有阿里大佬给出了权威的解答,刷完这一套面试资料相信大家都能找到满意的工作。
成为一个 Python 程序员专家或许需要花费数年时间,但是打下坚实的基础只要几周就可以,如果你按照我提供的学习路线以及资料有意识地去实践,你就有很大可能成功!最后祝你好运!!!
评论