爬虫实战三、PyCharm搭建Scrapy开发调试环境

#一、环境准备

#二、PyCharm配置Scrapy

###2-1、创建Python项目

注意,由于无法使用PyCharm直接创建Scrapy项目,因此需要先创建普通的Python项目。

创建普通Python项目mySpider。

选择项目位置。

###2-2、配置Project Interpreter

点击File-> Settings->Project: mySpider->Project Interpreter。

注意此截图已经配置好完毕,如果没有Project Interpreter,点击下图红框处添加。

添加Project Interpreter。

注意:如果有多个Python版本,为防止冲突可以选择第一个虚拟环境,此处我只有一个环境,选择配置系统解释器。

根据自身实际情况进行选择。

###2-3、添加Scrapy的相关包

解释器安装完毕,点击右下方的+号,查询包

安装包,依次安装:

复制代码
lxml -> zope.interface -> pyopenssl -> twisted -> scrapy

一般情况下Anaconda已经安装了很多类库,我们只需安装scrapy即可。显示蓝色代表已经安装成功。

相关推荐
weixin_468466854 小时前
Crawl4Ai 智能数据采集与场景化应用指南
大数据·人工智能·爬虫·python·数据分析
m沐沐4 小时前
【机器学习】聚类算法-K-means聚类
人工智能·python·算法·机器学习·pycharm·kmeans·聚类
小熊Coding15 小时前
Python爬取当当网二手图书项目实战!
开发语言·爬虫·python·beautifulsoup·requests·二手图书
IP搭子来一个17 小时前
爬虫采集大量返回 403、429,到底卡在哪一环?
网络·爬虫·python
小白学大数据21 小时前
Playwright 爬虫:Python 爬取 JS 渲染的 JSP 网站
开发语言·javascript·爬虫·python·数据分析
请为小H留灯1 天前
IDEA / PyCharm 如何实现“一个项目一个窗口”?多项目并行开发设置
java·pycharm·intellij-idea·实战项目
遇事不決洛必達1 天前
【爬虫随笔】常见加密算法特征总结
javascript·爬虫·逆向·加密算法
小白学大数据1 天前
电商关键词挖掘:Java 爬虫抓取 1688 推荐搜索词
java·开发语言·爬虫·python
小白学大数据1 天前
浅析爬虫技术更迭:静态请求与浏览器渲染采集能力对比
爬虫·python·spring·数据分析
2601_957888561 天前
流量终局与信源争夺:GEO(生成式引擎优化)时代的爬虫分析与数据管道构建
人工智能·爬虫