爬虫实战三、PyCharm搭建Scrapy开发调试环境

#一、环境准备

#二、PyCharm配置Scrapy

###2-1、创建Python项目

注意,由于无法使用PyCharm直接创建Scrapy项目,因此需要先创建普通的Python项目。

创建普通Python项目mySpider。

选择项目位置。

###2-2、配置Project Interpreter

点击File-> Settings->Project: mySpider->Project Interpreter。

注意此截图已经配置好完毕,如果没有Project Interpreter,点击下图红框处添加。

添加Project Interpreter。

注意:如果有多个Python版本,为防止冲突可以选择第一个虚拟环境,此处我只有一个环境,选择配置系统解释器。

根据自身实际情况进行选择。

###2-3、添加Scrapy的相关包

解释器安装完毕,点击右下方的+号,查询包

安装包,依次安装:

复制代码
lxml -> zope.interface -> pyopenssl -> twisted -> scrapy

一般情况下Anaconda已经安装了很多类库,我们只需安装scrapy即可。显示蓝色代表已经安装成功。

相关推荐
深蓝电商API1 小时前
异步爬虫结合 MongoDB 异步驱动 pymongo:高效数据爬取与存储实践
爬虫·python·mongodb
深蓝电商API1 小时前
aiohttp中间件实现异步请求日志与重试
爬虫·python
岱宗夫up2 小时前
Scrapy框架实战教程(上):从入门到实战,搭建你的第一个专业爬虫
爬虫·python·scrapy
叫我辉哥e12 小时前
Libvio.link爬虫技术解析大纲
爬虫
d***956210 小时前
Libvio.link爬虫技术全解析
爬虫
穿过锁扣的风18 小时前
零基础入门 Python 爬虫:从基础到实战,爬取虎扑 / 豆瓣 / 图片全掌握
开发语言·爬虫·python
流㶡1 天前
Python爬虫:POST与Selenium
爬虫·python·selenium
深蓝电商API1 天前
aiohttp爬取带登录态的异步请求
爬虫·python
我材不敲代码1 天前
Python爬虫介绍——简单了解一下爬虫
开发语言·爬虫·python
Pyeako1 天前
opencv计算机视觉--DNN模块实现风格迁移
python·opencv·计算机视觉·pycharm·dnn·预处理·风格迁移