python爬虫之协程

python爬虫之协程

单线程+异步协程(推荐):

event_loop:事件循环,相当于一个无限循环,我们可以把一些函数注册到这个事件循环上,当满足某些条件时,函数就会被循环执行。

coroutine:协程对象,我们可以将协程对象注册到事件循环中,它会被事件循环调用。我们可以使用 async 关键字来定义一个方法,这个方法在调用时不会立即被执行,而是返回一个协程对象。

task:任务,它是对协程对象的进一步封装,包含了任务的各个状态。

future:代表将来执行或还没有执行的任务,实际上和 task 没有本质区别。

async 定义一个协程。

await 用来挂起阻塞方法的执行。

各个方法执行代码如下:

复制代码
import asyncio

async def request(url):
    print('正在请求的url是:',url)
    print('请求成功,', url)
    return url
#async修饰的函数,调用之后返回的一个协程对象
c = request('www.baidu.com')

# #创建一个事件循环对象
# loop = asyncio.get_event_loop()
#
# #将协程对象注册到loop中,然后启动loop
# loop.run_until_complete(c)

# #task的使用
# loop = asyncio.get_event_loop()
# #基于loop创建了一个task对象
# task = loop.create_task(c)
# print(task)
#
# loop.run_until_complete(task)
# print(task)

# #future的使用
# loop = asyncio.get_event_loop()
#
# task = asyncio.ensure_future(c)
# print(task)
# loop.run_until_complete(task)
# print(task)

def callback_func(task):
    #result返回的就是任务对象中封装的协程对象对应函数的返回值
    print(task.result())

#绑定回调
loop = asyncio.get_event_loop()
task = asyncio.ensure_future(c)
#将回调函数绑定到任务对象中
task.add_done_callback(callback_func)
loop.run_until_complete(task)
相关推荐
E_ICEBLUE1 分钟前
PPT 智能提取与分析实战:把演示文档变成结构化数据
数据库·python·powerpoint
JSU_曾是此间年少2 分钟前
pytorch自动微分机制探寻
人工智能·pytorch·python
源远流长jerry4 分钟前
网络爬虫的工作原理
爬虫
悟能不能悟7 分钟前
java HttpServletRequest 设置header
java·开发语言
云栖梦泽12 分钟前
易语言运维自动化:中小微企业的「数字化运维瑞士军刀」
开发语言
刘975314 分钟前
【第23天】23c#今日小结
开发语言·c#
敢敢のwings17 分钟前
VGGT-Long:极简主义驱动的公里级单目三维重建系统深度解析(Pytorch安装手册版)
人工智能·pytorch·python
aiguangyuan20 分钟前
CART算法简介
人工智能·python·机器学习
郝学胜-神的一滴25 分钟前
线程同步:并行世界的秩序守护者
java·linux·开发语言·c++·程序人生
龘龍龙25 分钟前
Python基础学习(十)
服务器·python·学习