3.2 Beautiful Soup使用

课程目标

  • 理解HTML文档结构和解析方法
  • 学习使用Beautiful Soup库解析HTML和XML文档

课程内容

Beautiful Soup
1. HTML文档结构

HTML(超文本标记语言)是构建网页的标准标记语言。了解HTML的基本结构对于使用Beautiful Soup解析网页至关重要。

  • 标签 :HTML由一系列的标签组成,例如<p>表示段落。
  • 属性 :标签可以包含属性,例如<img src="image.jpg">中的src属性。
2. 安装Beautiful Soup和Pandas

使用pip命令安装所需的库。

bash 复制代码
pip install beautifulsoup4 
3. 使用Beautiful Soup解析HTML

Beautiful Soup是一个用于解析HTML和XML文档的Python库。

python 复制代码
from bs4 import BeautifulSoup
import requests

# 获取网页内容
response = requests.get('https://www.example.com')
html_content = response.text

# 解析HTML
soup = BeautifulSoup(html_content, 'html.parser')

# 找到所有的段落标签
paragraphs = soup.find_all('p')
for p in paragraphs:
    print(p.text)
4. Beautiful Soup的定位

Beautiful Soup提供了丰富的方法来导航和搜索解析树。

  • find(): 查找一个标签。
  • find_all(): 查找所有匹配的标签。
  • select(): 使用CSS选择器查找标签。
python 复制代码
# 查找ID为"main-content"的div
main_content = soup.find('div', id='main-content')

# 查找所有的图片标签
images = soup.find_all('img')

# 使用CSS选择器
links = soup.select('a[href]')
5. 值的获取
python 复制代码
# 获取属性值
img_src = soup.find('img').get('src')
# 获取文本内容
text = soup.text
相关推荐
黑客笔记5 小时前
python小工具win7翻车事故现场
python
岁月宁静7 小时前
从零拆解 AI 语音模拟面试系统
人工智能·python·agent
benchmark_cc7 小时前
个人开发者接入五档盘口:用 QuantDash 读取单只股票的验收清单与易错点
python·数据分析·pandas·量化交易·股票数据·quantdash
ZhengEnCi9 小时前
项目越写越乱?先别改架构:用一次目录重排 + 一份可复算的体检脚本把乱治住
python·架构·ai编程
Dmz丶9 小时前
前端转 AI 100 天 Day 45:阶段复盘——从“会调 API”到“做出 AI 产品”
python
Sakura_j_h_10 小时前
MCP SDK 2.0 实战:用 MCPServer 搭本地笔记检索服务
开发语言·笔记·python·qt·ai工具·mcp·mcpserver
QuZhengRong10 小时前
【AI】Agent 全栈进阶|AgentScope 沙箱源码解析
python·学习·ai·agent·沙箱
Eider199811 小时前
Python基础语法之并发相关3
开发语言·python
M--Y12 小时前
LangGraph 架构基石:持久化与运行控制
python·langchain·大模型·llm·持久化·langgraph
用户0190275816113 小时前
新浪财经 / 东方财富股票接口不稳、被限?稳定替代方案
python