爬虫实战三、PyCharm搭建Scrapy开发调试环境

#一、环境准备

#二、PyCharm配置Scrapy

###2-1、创建Python项目

注意,由于无法使用PyCharm直接创建Scrapy项目,因此需要先创建普通的Python项目。

创建普通Python项目mySpider。

选择项目位置。

###2-2、配置Project Interpreter

点击File-> Settings->Project: mySpider->Project Interpreter。

注意此截图已经配置好完毕,如果没有Project Interpreter,点击下图红框处添加。

添加Project Interpreter。

注意:如果有多个Python版本,为防止冲突可以选择第一个虚拟环境,此处我只有一个环境,选择配置系统解释器。

根据自身实际情况进行选择。

###2-3、添加Scrapy的相关包

解释器安装完毕,点击右下方的+号,查询包

安装包,依次安装:

复制代码
lxml -> zope.interface -> pyopenssl -> twisted -> scrapy

一般情况下Anaconda已经安装了很多类库,我们只需安装scrapy即可。显示蓝色代表已经安装成功。

相关推荐
华科云商xiao徐8 小时前
告别低效:构建健壮R爬虫的工程思维
爬虫
豆浩宇8 小时前
Conda环境隔离和PyCharm配置,完美同时运行PaddlePaddle和PyTorch
人工智能·pytorch·算法·计算机视觉·pycharm·conda·paddlepaddle
Python×CATIA工业智造20 小时前
Python带状态生成器完全指南:从基础到高并发系统设计
python·pycharm
熊猫钓鱼>_>1 天前
2025反爬虫之战札记:从robots.txt到多层防御的攻防进化史
开发语言·c++·爬虫
Blurpath1 天前
如何利用静态代理IP优化爬虫策略?从基础到实战的完整指南
爬虫·网络协议·ip代理·住宅代理
wjayg2251 天前
网络爬虫是自动从互联网上采集数据的程序
爬虫
Python×CATIA工业智造1 天前
Python迭代协议完全指南:从基础到高并发系统实现
python·pycharm
IT毕设实战小研2 天前
2026届大数据毕业设计选题推荐-基于大数据旅游数据分析与推荐系统 爬虫数据可视化分析
大数据·人工智能·爬虫·机器学习·架构·数据分析·课程设计
Villiam_AY2 天前
使用 chromedp 高效爬取 Bing 搜索结果
后端·爬虫·golang
爬虫程序猿2 天前
利用 Java 爬虫获取淘宝商品 SKU 详细信息实战指南
java·开发语言·爬虫