scrapy爬虫之网站图片爬取

Scrapy是一个强大的Python爬虫框架,可以用于爬取网站上的各种数据,包括图片。以下是一个简单的示例,演示如何使用Scrapy来爬取网站上的图片:

安装Scrapy:

如果尚未安装Scrapy,可以使用以下命令安装它:

pip install scrapy

创建一个新的Scrapy项目:

使用以下命令创建一个新的Scrapy项目:

scrapy startproject your_project_name

创建一个Spider:

在Scrapy项目中,创建一个Spider,以定义从哪个网站爬取图片。在项目目录下,运行以下命令:

scrapy genspider your_spider_name example.com

将"your_spider_name"替换为您喜欢的名称,"example.com"替换为您要爬取图片的网站域名。

编辑Spider:

打开您创建的Spider文件,通常位于your_project_name/spiders/目录下。在Spider中定义如何爬取图片。

以下是一个示例Spider代码,它将爬取网页中的图片链接并下载图片:

import scrapy

class YourSpiderName(scrapy.Spider):

name = 'your_spider_name'

start_urls = ['http://www.example.com']

def parse(self, response):

for img in response.css('img'):

img_url = img.xpath('@src').extract_first()

yield {

'image_url': img_url

}

请确保替换"your_spider_name"和起始URL为您的实际需求。

配置项目设置:

在Scrapy项目的settings.py文件中,确保启用文件下载和设置下载目录。找到以下行并进行相应的更改:

启用文件下载

ITEM_PIPELINES = {

'your_project_name.pipelines.YourImagesPipeline': 1, # 自定义的Item Pipeline

}

设置下载目录

IMAGES_STORE = 'path_to_download_directory'

替换your_project_name为您的项目名称,YourImagesPipeline为自定义的Item Pipeline(用于保存图片),path_to_download_directory为您要保存图片的本地目录。

创建Item Pipeline:

创建一个自定义的Item Pipeline,以处理和保存下载的图片。您可以在Scrapy项目中创建一个新的Python文件并编写Item Pipeline的代码。

以下是一个示例Item Pipeline代码:

from scrapy.pipelines.images import ImagesPipeline

class YourImagesPipeline(ImagesPipeline):

def file_path(self, request, response=None, info=None):

自定义文件名和路径,可根据需求修改

image_url = request.url

image_name = image_url.split('/')[-1]

return f'your_folder_name/{image_name}'

请确保替换your_folder_name为您希望保存图片的文件夹名称。

运行爬虫:

运行您的Scrapy爬虫以开始爬取图片。使用以下命令:

scrapy crawl your_spider_name

请确保替换your_folder_name为您希望保存图片的文件夹名称。

运行爬虫:

运行您的Scrapy爬虫以开始爬取图片。使用以下命令:

相关推荐
冬天vs不冷3 分钟前
Java基础(九):Object核心类深度剖析
java·开发语言·python
TS的美梦4 分钟前
【1:1复刻R版】python版火山图函数一键出图
开发语言·python·r语言·scanpy·火山图
CF14年老兵15 分钟前
Python万物皆对象:从懵懂到顿悟的奇妙之旅
后端·python·trae
这里有鱼汤18 分钟前
发现个用《道德经》+价值投资大咖的智慧,做A股的AI诊股神器,居然还开源了
python
陈天伟教授1 小时前
(二)Python + 地球信息科学与技术 (GeoICT)=?
开发语言·python
之歆1 小时前
大模型微调分布式训练-大模型压缩训练(知识蒸馏)-大模型推理部署(分布式推理与量化部署)-大模型评估测试(OpenCompass)
人工智能·笔记·python
人工干智能1 小时前
pygame的帧处理中,涉及键盘的有`pg.event.get()`与`pg.key.get_pressed()` ,二者有什么区别与联系?
python·游戏·计算机外设·pygame
R-G-B2 小时前
【P18 3-10】OpenCV Python—— 鼠标控制,鼠标回调函数(鼠标移动、按下、。。。),鼠标绘制基本图形(直线、圆、矩形)
python·opencv·计算机外设·鼠标回调函数·鼠标控制·鼠标移动·鼠标绘制图形
IT古董4 小时前
第四章:大模型(LLM)】06.langchain原理-(3)LangChain Prompt 用法
java·人工智能·python
fantasy_arch9 小时前
pytorch例子计算两张图相似度
人工智能·pytorch·python