写点什么

Python 下载的 9 种方法,Python 开发技巧

作者:程序媛可鸥
  • 2022 年 3 月 16 日
  • 本文字数:1626 字

    阅读完需:约 5 分钟

四、大文件分块下载


有些文件非常的大,如果我们直接下载,可能会因为事件原因或者网络原因造成下载失败,这时候我可以使用分块下载的形式进行下载。


requests 支持分块下载,只需要将 stream 设为 True 即可


import requests


url = 'https://readthedocs.org/projects/python-guide/downloads/pdf/latest'

stream 参数 True 表示分块下载

r = requests.get(url, stream=True)


with open('r.txt', 'wb') as f:


for ch in r:


f.write(r)


f.close()


五、并行下载


多线程、多进程并发下载,大大提高下载速度


'''


遇到问题没人解答?小编创建了一个 Python 学习交流 QQ 群:778463939


寻找有志同道合的小伙伴,互帮互助,群里还有不错的视频学习教程和 PDF 电子书!


'''


import requests


from multiprocessing.poll import Pool

定义下载函数

def url_response(url):


path, url = url


r = requests.get(url, stream=True)


with open(path, 'wb') as f:


for ch in r:


f.write(ch)


f.close()


urls = ['aaa', 'bbb', 'ccc'] # 假设有好多个下载链接

排队下载的方式

for x in urls:


url_response(x)

并行下载的方式

ThreadPool(3).imap_unordered(url_response, urls)


六、下载中加入进度条


使用进度条更直观的查看下载进度,这里使用 clint 模块实现进度条功能


pip install clint


下载


import requests


from clint.textui import progess


url = 'xxxxxxxxxxx'


r = requests.get(url, stream=True)


with open('x.txt', 'wb') as f


total_length = int(r.headers.get('content-length'))


for ch in progress.bar(r.iter_content(chunk_size=2391975, expected)size=(total_length/1024)+1)):


if ch:


f.write(ch)


f.close()


七、使用 urllib 模块下载


urllib 库是 Python 的标准库,因此不需要安装它。


下载代码


urllib.request.urlretrieve(URL, PATH)


八、通过代理下载


因为一些众所周知的原因我们下载国外的资源会非常的慢,这时候可以使用代理的方式进行下载


requests 模块使用代理


'''


遇到问题没人解答?小编创建了一个 Python 学习交流 QQ 群:778463939


寻找有志同道合的小伙伴,互帮互助,群里还有不错的视频学习教程和 PDF 电子书!


'''


import requests

定义代理,假设本机上有个梯子的服务,代理端口是 2258

proxy = {'http': 'http://127.0.0.1:2258'}


url = 'xxxxxx'


r = requests.get(url, proxies=proxy )


.......


urllib 模块使用代理


import urllib.request


url = 'xxxxxxxxxx'


proxy = urllib.request.ProxyHandler({'http': '127.0.0.1'})


如果你也是看准了 Python,想自学 Python,在这里为大家准备了丰厚的免费学习大礼包,带大家一起学习,给大家剖析 Python 兼职、就业行情前景的这些事儿。

一、Python 所有方向的学习路线

Python 所有方向路线就是把 Python 常用的技术点做整理,形成各个领域的知识点汇总,它的用处就在于,你可以按照上面的知识点去找对应的学习资源,保证自己学得较为全面。


二、学习软件

工欲善其必先利其器。学习 Python 常用的开发软件都在这里了,给大家节省了很多时间。


三、全套 PDF 电子书

书籍的好处就在于权威和体系健全,刚开始学习的时候你可以只看视频或者听某个人讲课,但等你学完之后,你觉得你掌握了,这时候建议还是得去看一下书籍,看权威技术书籍也是每个程序员必经之路。


四、入门学习视频

我们在看视频学习的时候,不能光动眼动脑不动手,比较科学的学习方法是在理解之后运用它们,这时候练手项目就很适合了。



四、实战案例

光学理论是没用的,要学会跟着一起敲,要动手实操,才能将自己的所学运用到实际当中去,这时候可以搞点实战案例来学习。


五、面试资料

我们学习 Python 必然是为了找到高薪的工作,下面这些面试题是来自阿里、腾讯、字节等一线互联网大厂最新的面试资料,并且有阿里大佬给出了权威的解答,刷完这一套面试资料相信大家都能找到满意的工作。



戳这里即可下载完整版


成为一个 Python 程序员专家或许需要花费数年时间,但是打下坚实的基础只要几周就可以,如果你按照我提供的学习路线以及资料有意识地去实践,你就有很大可能成功!最后祝你好运!!!

用户头像

Python编程资料加Q群免费领取:419829237 2022.03.14 加入

还未添加个人简介

评论

发布
暂无评论
Python 下载的9种方法,Python开发技巧_Python_程序媛可鸥_InfoQ写作平台