爬虫实战三、PyCharm搭建Scrapy开发调试环境

#一、环境准备

#二、PyCharm配置Scrapy

###2-1、创建Python项目

注意,由于无法使用PyCharm直接创建Scrapy项目,因此需要先创建普通的Python项目。

创建普通Python项目mySpider。

选择项目位置。

###2-2、配置Project Interpreter

点击File-> Settings->Project: mySpider->Project Interpreter。

注意此截图已经配置好完毕,如果没有Project Interpreter,点击下图红框处添加。

添加Project Interpreter。

注意:如果有多个Python版本,为防止冲突可以选择第一个虚拟环境,此处我只有一个环境,选择配置系统解释器。

根据自身实际情况进行选择。

###2-3、添加Scrapy的相关包

解释器安装完毕,点击右下方的+号,查询包

安装包,依次安装:

复制代码
lxml -> zope.interface -> pyopenssl -> twisted -> scrapy

一般情况下Anaconda已经安装了很多类库,我们只需安装scrapy即可。显示蓝色代表已经安装成功。

相关推荐
今天没有盐12 小时前
Pandas缺失值处理完全指南:从基础操作到高级技巧
python·pycharm·编程语言
xinxinhenmeihao14 小时前
爬虫导致IP被封号了如何解封?
爬虫·网络协议·tcp/ip
lskisme1 天前
springboot maven导入本地jar包
开发语言·python·pycharm
加油20191 天前
音视频处理(三):hls协议和m3u8详解和视频下载爬虫实战
爬虫·音视频·hls·m3u8·mpeg-2·mpeg2-ts·电视迷
闲人编程1 天前
从零开发一个简单的Web爬虫(使用Requests和BeautifulSoup)
前端·爬虫·beautifulsoup·bs4·web·request·codecapsule
今天没有盐1 天前
Pandas完全指南:从Series到DataFrame,掌握数据分析核心技能
python·pycharm·编程语言
B站计算机毕业设计之家1 天前
大数据python招聘数据分析预测系统 招聘数据平台 +爬虫+可视化 +django框架+vue框架 大数据技术✅
大数据·爬虫·python·机器学习·数据挖掘·数据分析
疏狂难除2 天前
spiderdemo第22题与webassembly的跨域
开发语言·javascript·爬虫·rust·wasm·mitmproxy
.格子衫.2 天前
Maven前奏
java·pycharm·maven
小白学大数据2 天前
增量爬取策略:如何持续监控贝壳网最新成交数据
爬虫·python·性能优化