Python爬虫案例分享

1. 导入所需库:

复制代码
import requests
from bs4 import BeautifulSoup
  • requests库:这是一个Python HTTP客户端库,用于发送HTTP请求。在这个案例中,我们使用它来向目标网站发送GET请求,获取网页内容。
  • BeautifulSoup库:它是Python的一个解析库,主要用于解析HTML和XML文档。在爬虫项目中,我们经常用它来解析从网页获取的HTML文本,提取我们需要的数据。

2. 发送GET请求:

复制代码
url = 'https://news.example.com/latest'
response = requests.get(url)

这段代码定义了要爬取的URL,并通过requests.get()函数发送一个GET请求到该URL。返回的response对象包含了服务器对请求的响应,包括状态码、响应头和网页内容等信息。

3. 检查请求是否成功:

复制代码
if response.status_code == 200:

HTTP状态码200表示请求成功。如果请求失败或者服务器无法正常响应,状态码会是其他值。这里我们只处理成功的情况。

4. 解析HTML并提取数据:

复制代码
soup = BeautifulSoup(response.text, 'html.parser')
news_titles = soup.find_all('h2')

for title in news_titles:
    print(title.text.strip())

首先,我们调用BeautifulSoup的构造函数,传入response的text属性(即网页内容)进行解析。然后,我们使用find_all()方法查找所有的'h2'标签,通常新闻标题会在这样的大标题标签内。最后,遍历找到的所有'h2'标签,提取并打印出它们的文本内容(title.text),strip()函数用于去除字符串首尾的空白字符。

这就是这个简单Python爬虫的基本原理和流程。实际编写爬虫时,根据不同的网页结构和需要抓取的数据,可能需要使用更复杂的BeautifulSoup选择器或方法来定位和提取信息。

相关推荐
烛阴7 小时前
简单入门Python装饰器
前端·python
好开心啊没烦恼8 小时前
Python 数据分析:numpy,说人话,说说数组维度。听故事学知识点怎么这么容易?
开发语言·人工智能·python·数据挖掘·数据分析·numpy
面朝大海,春不暖,花不开8 小时前
使用 Python 实现 ETL 流程:从文本文件提取到数据处理的全面指南
python·etl·原型模式
2301_805054569 小时前
Python训练营打卡Day59(2025.7.3)
开发语言·python
万千思绪10 小时前
【PyCharm 2025.1.2配置debug】
ide·python·pycharm
微风粼粼11 小时前
程序员在线接单
java·jvm·后端·python·eclipse·tomcat·dubbo
云天徽上11 小时前
【PaddleOCR】OCR表格识别数据集介绍,包含PubTabNet、好未来表格识别、WTW中文场景表格等数据,持续更新中......
python·ocr·文字识别·表格识别·paddleocr·pp-ocrv5
你怎么知道我是队长12 小时前
python-input内置函数
开发语言·python
叹一曲当时只道是寻常12 小时前
Python实现优雅的目录结构打印工具
python
hbwhmama13 小时前
python高级变量XIII
python