火车采集器同时运行超多任务运行优化方案

当同一个采集器同时运行非常多的任务时会对于界面UI以及电脑性能都有很高要求,为了缓解这一情况,当同时运行多个任务(大概超过100),在您这边确定任务运行正常的时候,可以按下图设置这三个选项:

勾选之后,运行管理界面以及运行日志界面不会再刷新任何任务状态,可以减少界面UI方的压力以及对CPU的占用

但是需要注意的是,这种情况下,没有任何日志提醒以及任务运行状态,需要定期人工观察下任务运行情况,及时确定任务状态。

注意:此方案只是减少占用,但是当任务运行过多时,还是需要增加电脑配置或者是分布式多台电脑运行

相关推荐
wuyk5557 小时前
Spider-第16讲-线程池与竞态问题
大数据·爬虫·python·elasticsearch·搜索引擎
wuyk5551 天前
Spider-第14讲-表单提交与CSRF
前端·爬虫·python·elasticsearch·csrf
wuyk5554 天前
Spider-第11讲-工程化改造与可维护性
大数据·爬虫·elasticsearch·搜索引擎
wuyk5554 天前
Spider-第12讲-asyncio异步并发爬取
大数据·爬虫·elasticsearch·搜索引擎
小宋10214 天前
AI 爬虫把大学图书馆站点拖垮:按行为指纹给爬虫分类、按类发配额、用边缘缓存分层,以带宽成本结构和真实用户 P95 延迟定档
人工智能·爬虫·分类
wuyk5554 天前
Spider-第10讲-SQLite持久化与去重
数据库·爬虫·sqlite
wuyk5555 天前
Spider-第09讲-三格式落盘CSV-Excel-JSON
爬虫·python·json·excel
wuyk5556 天前
Spider-第07讲-JSON接口与正则提取
爬虫·python·json
feasibility.6 天前
一物降一物?AI逆向没有终局:REA拆App,BLA设套,LASIK清场
人工智能·爬虫·github·逆向·skill·rea
wuyk5558 天前
Spider-第03讲-HTTP速通与读懂响应
网络·爬虫·网络协议·http