Crawlab 分布式部署指南:从 Scrapy 项目到单文件的全流程详解

crawlab分布式部署

  1. 远程服务器环境搭建

    同之前gerapy分布式部署一样

  2. 添加服务器防火墙端口

    • redis:6379
    • mysql:3306
    • mogodb:27017
    • scrapyd:6800
    • crawlab:8080
  3. 访问crawlab服务:47.93.10.129

  4. 连接远程数据库

  5. 利用crawlab网站部署爬虫运行即可

    • 单文件
    • scrapy项目

    **备注:**支持定时任务

难题

访问crawlab服务:47.93.10.129

尚未能访问


相关推荐
此时不提桶,更待何时1 小时前
06-23-A-RabbitMQ生态集成详解
分布式·rabbitmq
m0_646429977 小时前
RabbitMQ 核心知识总结(生产实战版)
分布式·rabbitmq
DBA_G9 小时前
GBase 8c分布式数据库客户端工具 gsql
数据库·分布式
chunyublog9 小时前
Spark 词频统计练习
大数据·分布式·spark
acrel710 小时前
高速公路分布式光伏并网电能质量与安全保护方案应用
分布式·安全
IT小小猪12 小时前
# Hadoop 3.3.6 完全分布式集群部署知识库
hadoop·分布式·eclipse
此时不提桶,更待何时12 小时前
06-24-B-RabbitMQ面试与生产事故实战
分布式·面试·rabbitmq
来福猿13 小时前
分布式锁 Redis 实现源码分析:SETNX、过期时间与可重入设计
数据库·redis·分布式
Pniubi1 天前
分布式锁分类讲解
分布式
nvd111 天前
深入剖析:GCP Pub/Sub 与 Apache Kafka 对消息处理延迟与消费者卡死的处理机制异同
分布式·kafka·apache