100字范文,内容丰富有趣,生活中的好帮手!
100字范文 > Python多线程爬虫简单示例

Python多线程爬虫简单示例

时间:2020-03-19 15:45:01

相关推荐

Python多线程爬虫简单示例

后端开发|Python教程

Python,多线程,爬虫

后端开发-Python教程

python是支持多线程的,主要是通过thread和threading这两个模块来实现的。thread模块是比较底层的模块,threading模块是对thread做了一些包装的,可以更加方便的使用。

展示 源码,vscode使用太卡了,ubuntu编辑换行,tomcat 自动清理配置,表层爬虫和深层爬虫的区别,php 会员权限,武汉商品seo推广哪个好,一键加微信网站源码,destoon模板开发lzw

虽然python的多线程受GIL限制,并不是真正的多线程,但是对于I/O密集型计算还是能明显提高效率,比如说爬虫。

在线点餐系统源码 php,vscode无法输出信息,ubuntu打包固件,将项目与tomcat,upton 爬虫,php实时监控,湖南seo网络公司,分享源代码的网站,官网经典企业模板下载地址lzw

下面用一个实例来验证多线程的效率。代码只涉及页面获取,并没有解析出来。

防伪源码mysql,ubuntu 的解压命令,爬虫用户访客信息,php oragist,seo检测分析lzw

# -*-coding:utf-8 -*-import urllib2, timeimport threading class MyThread(threading.Thread): def __init__(self, func, args): threading.Thread.__init__(self) self.args = args self.func = func def run(self): apply(self.func, self.args) def open_url(url): request = urllib2.Request(url) html = urllib2.urlopen(request).read() print len(html) return html if __name__ == \__main__: # 构造url列表 urlList = [] for p in range(1, 10): urlList.append(/Paper.aspx?q=%E5%8C%BB%E5%AD%A6&p= + str(p))# 一般方式 n_start = time.time() for each in urlList: open_url(each) n_end = time.time() print he normal way take %s s % (n_end-n_start)# 多线程 t_start = time.time() threadList = [MyThread(open_url, (url,)) for url in urlList] for t in threadList: t.setDaemon(True) t.start() for i in threadList: i.join() t_end = time.time() print he thread way take %s s % (t_end-t_start)

分别用两种方式获取10个访问速度比较慢的网页,一般方式耗时50s,多线程耗时10s。

多线程代码解读:

# 创建线程类,继承Thread类class MyThread(threading.Thread): def __init__(self, func, args): threading.Thread.__init__(self) # 调用父类的构造函数 self.args = args self.func = func def run(self): # 线程活动方法 apply(self.func, self.args)

threadList = [MyThread(open_url, (url,)) for url in urlList] # 调用线程类创建新线程,返回线程列表 for t in threadList: t.setDaemon(True) # 设置守护线程,父线程会等待子线程执行完后再退出 t.start() # 线程开启 for i in threadList: i.join() # 等待线程终止,等子线程执行完后再执行父线程

本内容不代表本网观点和政治立场,如有侵犯你的权益请联系我们处理。
网友评论
网友评论仅供其表达个人看法,并不表明网站立场。