爬虫实战三、PyCharm搭建Scrapy开发调试环境

#一、环境准备

#二、PyCharm配置Scrapy

###2-1、创建Python项目

注意,由于无法使用PyCharm直接创建Scrapy项目,因此需要先创建普通的Python项目。

创建普通Python项目mySpider。

选择项目位置。

###2-2、配置Project Interpreter

点击File-> Settings->Project: mySpider->Project Interpreter。

注意此截图已经配置好完毕,如果没有Project Interpreter,点击下图红框处添加。

添加Project Interpreter。

注意:如果有多个Python版本,为防止冲突可以选择第一个虚拟环境,此处我只有一个环境,选择配置系统解释器。

根据自身实际情况进行选择。

###2-3、添加Scrapy的相关包

解释器安装完毕,点击右下方的+号,查询包

安装包,依次安装:

复制代码
lxml -> zope.interface -> pyopenssl -> twisted -> scrapy

一般情况下Anaconda已经安装了很多类库,我们只需安装scrapy即可。显示蓝色代表已经安装成功。

相关推荐
汤米粥21 小时前
cmd手动创建的Django项目怎么用社区版Pycharm运行起来
python·pycharm·django
傻啦嘿哟1 天前
高德地图POI爬虫:爬取商户与景点数据,做LBS应用
爬虫
weixin199701080161 天前
官方授权通道和灰色爬虫,做数据服务该选哪条路(附 python 源码)
c++·爬虫·python
正飞信息技术2 天前
llms.txt部署指南:给AI爬虫一张清晰的网站地图
人工智能·爬虫
NeoGressAI外贸数字化4 天前
外贸独立站robots.txt怎么写:6个AI爬虫放行规则
人工智能·爬虫
OnlineProxy4 天前
移动应用数据爬取:通过模拟器与流量嗅探对 API 进行逆向工程
爬虫·python·httpx
傻啦嘿哟4 天前
分布式爬虫架构:Redis+Scrapy打造企业级爬虫系统
分布式·爬虫·架构
fanruitian4 天前
pycharm 使用anaconda
ide·python·pycharm
梯度下降者4 天前
零基础入门Python 爬虫
爬虫·python·数据分析·入门指南·webcrawler
2601_967979125 天前
0 到 1 学爬虫:用 Python 爬取网页数据指南一(附实战案例)
爬虫·python·实战案例·html解析·网页数据