7篇Python爬虫实例,直接代码可运行,全网最全,注释超详细(适合收藏)——2、爬取图片信息。

7篇Python爬虫实例,可直接运行,适合收藏

python爬虫7篇实例,分七个文章进行发布;第二篇:爬取图片信息。

  • 爬取图片信息,并将每张图片都下载下来。

爬虫主要三部分:

1、获取数据

2、数据解析

3、调用函数

  • 先上完整代码: 代码后面进行一步步解析。
python 复制代码
import requests
from bs4 import BeautifulSoup
import os

index = range(2,5)
urls = []
for i in index:
    urls.append(f'https://pic.netbian.com/4kdongman/index_{i}.html')

# https://pic.netbian.com/tupian/34851.html

# 传入单个网页,获取网页上所有得图片链接
def craw_single_url(url):
    re = requests.get(url)
    re.encoding = 'gbk'
    soup = BeautifulSoup(re.text,'html.parser')
    pics_links = soup.find_all('img')
    links = []
    for link in pics_links:
        if 'uploads' not in link['src']:
            continue
        links.append(f'https://pic.netbian.com{link['src']}')
    return links

# 传入图片链接,将图片下载到文件夹中
def imgs_download(links):
    for link in links:
        re = requests.get(link)
        pic_name = os.path.basename(link)
        with open(f'图片/{pic_name}','wb') as f:   # w : 写入 b : 二进制写入
            f.write(re.content)

# 循环爬取的网页链接,将所有网页的 links 放入元组中
links = []
for url in urls:
    for link in craw_single_url(url):
        links.append(link)

# 将所有的 link 图片下载下来
imgs_download(links)

1、获取数据

  • 该函数是获取该 url 链接下所有图片的链接
  • 函数返回值是:所有图片的链接
python 复制代码
def craw_single_url(url):
    re = requests.get(url)          # 请求 url
    re.encoding = 'gbk'             # gbk格式
    soup = BeautifulSoup(re.text,'html.parser')     # 创建一个 BeautifulSoup 对象,之后对其解析
    pics_links = soup.find_all('img')                       # 在soup 中找到 img 的链接
    links = []
    for link in pics_links:                                 # 循环每个链接
        if 'uploads' not in link['src']:                    # 判断是否正确的链接
            continue
        links.append(f'https://pic.netbian.com{link['src']}')   # 构建真正的图片链接
    return links

2、数据解析

  • 对获取到的图片 urls 进行解析
  • 循环 urls 下载图片到指定文件中
python 复制代码
def imgs_download(links):                       # 下载图片函数
    for link in links:                          # 对传入图片链接进行循环
        re = requests.get(link)                 # 请求单个链接
        pic_name = os.path.basename(link)       # 获得图片的名字
        with open(f'图片/{pic_name}','wb') as f: # 打开 图片 文件夹进行写入 w : 写入 b : 二进制写入
            f.write(re.content)                 # 将图片保存到 图片 文件夹

3、进行调用

python 复制代码
# 循环爬取的网页链接,将所有网页的 links 放入元组中
links = []              
for url in urls:                        # 循环每个页面
    for link in craw_single_url(url):   # 将每个页面得到的图片urls,放入 links列表   
        links.append(link)              # 放入 links列表   

# 将所有的 link 图片下载下来
imgs_download(links)                    # 再调用 imgs_download 函数,对每张图片进行下载
相关推荐
Wang's Blog20 分钟前
Java框架 SpringCloud 快速入门: 服务拆分之服务远程调用
java·开发语言·spring cloud
努力努力再努力wz21 分钟前
【CUDA入门系列】CUDA编程实战:设备选择、显存管理、Kernel、Stream 与 Event 全流程梳理
开发语言·c++
杨丰玮41831 分钟前
C语言核心语法
java·c语言·开发语言·学习方法
ttwuai34 分钟前
Go开源后台管理系统推荐:README、源码和License应该怎么验
开发语言·golang·开源
Java后端的Ai之路37 分钟前
Python 进阶探索30 - Python中的装饰器
开发语言·人工智能·python·文件处理·装饰器模式
沫璃染墨37 分钟前
《从零入门Linux系统篇(五十八):线程篇·十一——线程安全与死锁详解:从可重入到多锁管理》
linux·服务器·开发语言·c++·驱动开发·安全·架构
黑妹天下第一乖1 小时前
第 05 讲:阿加犀 AidCV 图像处理加速与 OpenCV 一致开发实战
开发语言·图像处理·人工智能·嵌入式硬件·数码相机·opencv·计算机视觉
言乐61 小时前
Python基于关键词分拣快递(适用于电商与货运代理等)
开发语言·python·django·virtualenv·pygame
代码方舟1 小时前
Python数据工程:利用天远名下车辆车牌查询A优化个人债务重组与清偿能力评估合规体验
人工智能·python
卷无止境1 小时前
当AI写代码遇见Rust为什么会卡壳
后端·python